L’Outil Surpuissant pour Exploser ton Chiffre d'Affaires en 2024 !
La reconnaissance faciale d'Amazon AI confond les politiciens avec les criminels
Il y a près d'une décennie, une femme noire de 47 ans, Denise Green, a été tirée de son véhicule et détenue sous la menace d'une arme par six policiers de San Francisco. L'un d'eux a pointé un fusil sur son visage, un autre l'a menottée et lui a ordonné de s'agenouiller. Malgré des antécédents de problèmes au genou, Green a respecté tous les ordres donnés. Vingt minutes plus tard, elle a été libérée, libre de toute sa vie.
La police soupçonnait initialement Green de conduire un véhicule volé lorsqu'un algorithme d'apprentissage automatique conçu pour balayer les plaques d'immatriculation a mal identifié le sien et a incorrectement signalé son vol. Blockchain et les nouvelles cryptomonnaie moins les conneries
Visitez Hard Fork
Inutile de dire que l'IA n'est pas parfaite.
Aujourd'hui, l'ACLU a publié des recherches indiquant que le logiciel de reconnaissance faciale d'Amazon – Reconnu Rekognition – mal identifié 28 des 435 membres du Congrès comme des criminels. Pour aggraver les choses, un nombre disproportionné de personnes de couleur ont été signalés (39 pour cent) contre les blancs (5 pour cent).
Amazon a déjà répondu au rapport. Selon The New York Times, un porte-parole a déclaré que l'ACLU n'avait pas correctement utilisé le logiciel. Et c'est vrai, l'ACLU n'a pas utilisé les paramètres recommandés. Amazon recommande de définir la tolérance d'erreur pour son logiciel Rekognition à 95% pour l'application de la loi, et l'ACLU l'a réduit à 80%. En outre, Amazon veut que tout le monde confirme les résultats de l'IA avec des yeux humains, après tout, c'est à l'utilisateur final de déployer n'importe quel logiciel de manière sûre et responsable.
Mais, avant d'appeler l'ACLU, Il n'y a pas de loi contre une union des libertés civiles fixant le taux de tolérance du logiciel Rekognition d'Amazon à 80%. Tout comme il n'y en a pas un qui empêche la police de faire exactement la même chose ou de la réduire. Au Royaume-Uni, ils ont déployé un logiciel de reconnaissance faciale avec un taux d'erreur de 98% (pas celui d'Amazon, refroidissent les avocats).
En fait, il n'existe pratiquement aucune législation concernant l'utilisation de logiciels de reconnaissance faciale aux Etats-Unis. Et c'est pourquoi tant de personnes y compris ses propres employés et le PDG d'une société de logiciels de reconnaissance faciale, exhortent les entreprises technologiques à ne pas le développer pour le gouvernement. Cela comprend une lettre écrite il y a des mois par des membres du Congressional Black Caucus, dont certains ont été identifiés comme des criminels pendant les tests de l'ACLU.
Il semblerait que le gouvernement américain, les forces de l'ordre , et les entreprises de technologie qui fabriquent des logiciels de reconnaissance faciale doivent se demander si elles accepteraient d'être menottées, forcées à genoux et détenues sous la menace d'une arme pendant 20 minutes parce que l'algorithme ne leur convient pas. très bien avec la couleur de leur peau.
Au moins, le lecteur de plaque d'immatriculation ne faisait qu'interpréter les chiffres, l'IA d'Amazon interprète mal les gens. Et cela, aussi, aura des conséquences réelles.
La reconnaissance faciale d'Amazon faussement appariée 28 membres du Congrès avec Mugshots
sur ACLU
Lire ensuite:
Le nouvel écran de Samsung est officiellement 'incassable'. Je ne peux pas attendre pour le casser.