La vérification de l'ID en temps réel d'Uber ne convient pas aux conducteurs transgenres

Une femme transgenre travaillant comme chauffeur d'Uber au cours de sa transition s'est récemment retrouvée en lock-out. Ce n'était pas à cause des objections de certains bigot, et elle n'avait rien fait pour violer les politiques de l'entreprise. C'était parce que l'IA suce la reconnaissance faciale – à moins bien sûr que vous soyez blanc et cis-genre.

Dans cette dernière reconnaissance faciale SNAFU, rapportée à l'origine par CNBC le logiciel Uber Services) a signalé le pilote Janey Webb lors d’un contrôle de routine. La compagnie demande au hasard aux conducteurs de prendre des selfies périodiquement afin de prouver qu'ils sont ce qu'ils prétendent être lorsqu'ils se connectent.

Caractéristiques faciales de Webb ont changé de manière significative au cours des derniers mois dans le cadre de sa transition, et l'algorithme ne peut pas concilier son apparence actuelle avec son précédent. Ceci, bien sûr, ne devrait pas être une nouvelle pour Uber parce que est bien documenté qu'AI ne peut pas gérer les visages transgenres .

connaissant la technologie de reconnaissance faciale est actuellement incapable d'identifier les personnes de couleur et les individus trans avec la même précision que les personnes de sexe cis blanc, tout en la déployant et en exigeant que tous les employés l'utilisent

Parce que ce n'est pas juste Uber. La technologie de reconnaissance faciale prolifère aux États-Unis. La police en Floride et en Oregon a récemment testé un système appelé Rekognition from Amazon incitant Brian Brackeen, PDG de la société de reconnaissance faciale Kairos à dire à TNW où Amazon Rekognition pourrait envoyer plus d'innocents Américains d'origine africaine en prison. "

Ce même logiciel ne peut pas dire la différence entre un politicien et un criminel. Normalement, nous disions que c'était en fait assez humain, mais dans ce cas, le problème n'était pas les politiciens. C'était leur peau. Une étude menée par l'ACLU a révélé qu'un nombre disproportionné de femmes et de personnes noires était mal identifié par rapport aux hommes blancs lors de l'utilisation de Reconnaissance.

Brackeen pense que les logiciels de reconnaissance faciale ne sont pas prêts pour les tâches que ses pairs déploient. Il a dit:

Imaginez un monde où nous avons déjà des problèmes dans la société, et maintenant nous exacerbons ces préjugés avec une technologie sous-performante. Même une infime augmentation des taux de correspondance erronés des algorithmes de reconnaissance faciale, lorsqu'elle est appliquée à grande échelle, pourrait faire la différence entre des centaines de milliers et des millions d'individus mal identifiés.

à la majorité des employés, car il est évidemment plus facile de ne pas se soucier de la communauté trans. Le pourcentage de conducteurs Uber actuellement en transition est probablement très faible et l’autant de l’automatisation du processus d’identification est séduisant. Mais n'est-ce pas le problème? Si le logiciel d'Uber ne fonctionne pas pour tous ses employés, pourquoi utilise-t-il ce logiciel? Il ne serait pas acceptable de vendre un téléphone intelligent qui ne fonctionne pas pour les femmes blanches ou d’ouvrir une salle de pause que les hommes homosexuels ne sont pas autorisés à utiliser. Pourquoi est-il acceptable pour une entreprise de déployer un logiciel d’identification qui ne fonctionne pas pour ses employés transgenres?

Source link