Ce que la reconnaissance faciale et la pseudoscience raciste de la phrénologie ont en commun

La «phrénologie» a une allure démodée. On dirait qu'il appartient à un livre d'histoire, classé quelque part entre la saignée et les vélocipèdes. Nous aimerions penser que juger de la valeur des gens en fonction de la taille et de la forme de leur crâne est une pratique qui est bien derrière nous. Cependant, la phrénologie est à nouveau en train d’élever la tête.

Ces dernières années, les algorithmes d’apprentissage automatique ont promis aux gouvernements et aux entreprises privées le pouvoir de glaner toutes sortes d’informations sur l’apparence des gens. Plusieurs startups affirment désormais pouvoir utiliser l'intelligence artificielle (IA) pour aider les employeurs à détecter les traits de personnalité des candidats à l'emploi en fonction de leurs expressions faciales. En Chine, le gouvernement a été le pionnier de l'utilisation de caméras de surveillance qui identifient et suivent les minorités ethniques. Pendant ce temps, des rapports ont émergé d'écoles installant des systèmes de caméra qui sanctionnent automatiquement les enfants pour ne pas prêter attention, sur la base de mouvements du visage et de microexpressions telles que des contractions des sourcils.

Peut-être plus notoirement, il y a quelques années, les chercheurs en IA Xiaolin Wu et Xi Zhang a affirmé avoir formé un algorithme pour identifier les criminels en fonction de la forme de leurs visages, avec une précision de 89,5%. Ils ne sont pas allés jusqu'à approuver certaines des idées sur la physionomie et le caractère qui ont circulé au XIXe siècle, notamment à partir des travaux du criminologue italien Cesare Lombroso: que les criminels sont des bêtes sous-humaines sous-résolues, reconnaissables à leurs fronts inclinés et nez en forme de faucon. Cependant, la tentative apparemment high-tech de l'étude récente pour identifier les traits du visage associés à la criminalité emprunte directement à la «  méthode composite photographique '' développée par le touche-à-tout victorien Francis Galton – qui impliquait de superposer les visages de plusieurs personnes dans une certaine catégorie pour trouver les caractéristiques indicatives de qualités telles que la santé, la maladie, la beauté et la criminalité.

Reconnaissance faciale et phrénologie

Les commentateurs technologiques ont qualifié ces technologies de reconnaissance faciale de «phrénologie littérale»; ils l’ont également lié à l’eugénisme, la pseudoscience de l’amélioration de la race humaine en encourageant les personnes jugées les plus aptes à se reproduire. (Galton lui-même a inventé le terme «  eugénisme '', le décrivant en 1883 comme «  toutes les influences qui tendent à un degré aussi éloigné que ce soit à donner aux races ou aux souches de sang les plus appropriées une meilleure chance de l'emporter rapidement sur les moins appropriées qu'elles ne le feraient autrement.

Dans certains cas, le but explicite de ces technologies est de refuser des opportunités à ceux qui sont jugés inaptes; dans d'autres, ce n'est peut-être pas l'objectif, mais c'est un résultat prévisible. Pourtant, lorsque nous rejetons les algorithmes en les qualifiant de phrénologie, quel est exactement le problème que nous essayons de souligner? Sommes-nous en train de dire que ces méthodes sont scientifiquement défectueuses et qu'elles ne fonctionnent pas vraiment – ou est-ce que nous disons qu'il est moralement mal de les utiliser quand même?

T voici un long et enchevêtré histoire à la manière dont la «phrénologie» a été utilisée comme une insulte décevante. Les critiques philosophiques et scientifiques de l'entreprise ont toujours été étroitement liées, bien que leur enchevêtrement ait changé au fil du temps. Au 19ème siècle, les détracteurs de la phrénologie se sont opposés au fait que la phrénologie a tenté de localiser les différentes fonctions mentales dans différentes parties du cerveau – un mouvement qui était considéré comme hérétique, car il remettait en question les idées chrétiennes sur l'unité de l'âme. . Fait intéressant, cependant, essayer de découvrir le caractère et l'intellect d'une personne en fonction de la taille et de la forme de sa tête n'était pas perçu comme un problème moral sérieux. Aujourd'hui, en revanche, l'idée de localiser les fonctions mentales est assez peu controversée. Les scientifiques pourraient ne plus penser que la destructivité est située au-dessus de l'oreille droite, mais la notion que les fonctions cognitives peuvent être localisées dans des circuits cérébraux particuliers est une hypothèse standard dans les neurosciences traditionnelles.

[Lire: Comment construire un animal de compagnie -un gadget convivial? Nous avons demandé à des experts et à des propriétaires d'animaux ]

La phrénologie avait aussi sa part de critique empirique au 19e siècle. Les débats ont fait rage sur les fonctions qui résidaient et où et si les mesures du crâne étaient un moyen fiable de déterminer ce qui se passe dans le cerveau. La critique empirique la plus influente de l’ancienne phrénologie, cependant, provenait des études du médecin français Jean Pierre Flourens basées sur l’endommagement du cerveau des lapins et des pigeons – dont il a conclu que les fonctions mentales sont distribuées plutôt que localisées. (Ces résultats ont ensuite été discrédités.) Le fait que la phrénologie ait été rejetée pour des raisons que la plupart des observateurs contemporains n'accepteraient plus rend plus difficile de comprendre ce que nous visons lorsque nous utilisons la «phrénologie» comme insulte aujourd'hui. [19659004] Les biais statistiques

Les phrénologies «ancienne» et «nouvelle» ont été critiquées pour leurs méthodes bâclées. Dans la récente étude de l'IA sur la criminalité, les données ont été tirées de deux sources très différentes: des photos de condamnés, par opposition à des photos de sites Web de travail pour les non-condamnés. Ce seul fait pourrait expliquer la capacité de l’algorithme à détecter une différence entre les groupes. Dans une nouvelle préface de l'article, les chercheurs ont également admis que considérer les condamnations judiciaires comme synonymes de criminalité était un «  grave oubli ''. Pourtant, assimiler les condamnations à la criminalité semble s'inscrire auprès des auteurs principalement comme un défaut empirique: l'utilisation de clichés de criminels condamnés, mais pas de ceux qui se sont échappés, introduit un biais statistique. Ils ont dit qu'ils étaient «profondément déconcertés» face à l'indignation du public en réaction à un article qui était destiné «à de pures discussions universitaires».

Notamment, les chercheurs ne commentent pas la le fait que la condamnation elle-même dépend des impressions que la police, les juges et les jurys se font du suspect – faisant de l'apparence «criminelle» d'une personne une variable de confusion. Ils omettent également de mentionner comment l'intense maintien de l'ordre dans des communautés particulières et l'inégalité d'accès à une représentation juridique faussent l'ensemble de données. Dans leur réponse aux critiques, les auteurs ne reculent pas sur l’hypothèse selon laquelle «être un criminel exige une foule de traits personnels anormaux (aberrants)». En effet, leur encadrement suggère que la criminalité est une caractéristique innée, plutôt qu'une réponse à des conditions sociales telles que la pauvreté ou la maltraitance. Une partie de ce qui rend leur ensemble de données discutable pour des raisons empiriques est que celui qui est qualifié de «criminel» n’a guère de valeur neutre.

L’une des objections morales les plus fortes à l’utilisation de la reconnaissance faciale pour détecter la criminalité est qu’elle stigmatise les personnes déjà surchargées de police. Les auteurs disent que leur outil ne devrait pas être utilisé dans le cadre de l'application de la loi, mais citent uniquement des arguments statistiques expliquant pourquoi il ne devrait pas être déployé. Ils notent que le taux de faux positifs (50%) serait très élevé, mais ne tiennent pas compte de ce que cela signifie en termes humains. Ces faux positifs seraient des individus dont les visages ressemblent à des personnes qui ont été condamnées dans le passé. Étant donné les préjugés raciaux et autres qui existent dans le système de justice pénale, de tels algorithmes finiraient par surestimer la criminalité au sein des communautés marginalisées. . On pourrait objecter sur des bases empiriques: les eugénistes du passé tels que Galton et Lombroso ont finalement échoué à trouver les traits du visage qui prédisposaient une personne à la criminalité. C'est parce qu'il n'y a pas de telles connexions à trouver. De même, les psychologues qui étudient l'héritabilité de l'intelligence, comme Cyril Burt et Philippe Rushton, ont dû jouer vite et librement avec leurs données pour fabriquer des corrélations entre la taille du crâne, la race et le QI. S'il y avait quelque chose à découvrir, on peut supposer que les nombreuses personnes qui ont essayé au fil des ans ne se seraient pas taries.

Le problème avec la réinvention de la physionomie n'est pas simplement qu'elle a été essayée sans succès auparavant. Les chercheurs qui persistent à rechercher la fusion froide après le passage du consensus scientifique font également face à des critiques pour avoir chassé les licornes – mais la désapprobation de la fusion froide est loin d'être l'opprobre. Au pire, ils sont perçus comme perdant leur temps. La différence est que les dommages potentiels de la recherche sur la fusion froide sont beaucoup plus limités. En revanche, certains commentateurs soutiennent que la reconnaissance faciale devrait être réglementée aussi étroitement que le plutonium, car il a si peu d'utilisations non nocives. Lorsque le projet sans issue que vous souhaitez ressusciter a été inventé dans le but de soutenir les structures coloniales et de classe – et quand la seule chose qu'il est capable de mesurer est le racisme inhérent à ces structures – il est difficile de justifier de l'essayer une fois de plus,

Cependant, appeler la recherche sur la reconnaissance faciale «phrénologie» sans expliquer ce qui est en jeu n'est probablement pas la stratégie la plus efficace pour communiquer la force de la plainte. Pour que les scientifiques prennent leurs responsabilités morales au sérieux, ils doivent être conscients des préjudices qui pourraient résulter de leurs recherches. Il est à espérer que le fait de préciser plus clairement ce qui ne va pas avec le travail intitulé «phrénologie» aura plus d'impact que de simplement jeter le nom comme une insulte.

Cet article a été initialement publié à Aeon par Catherine Stinson et a été republié sous Creative Commons.

Publié le 13 mars 2021 – 14:00 UTC