Facebook a déclaré qu'il interdirait les négationnistes de l'holocauste. Au lieu de cela, son algorithme leur a fourni un réseau

Le mois dernier, Facebook a annoncé une répression: la plate-forme n'autoriserait plus les contenus qui «nient ou déforment l'Holocauste» dans le cadre de sa politique plus large interdisant les discours de haine.

Tout en notant qu'une application réussie pourrait prendre du temps, Monika Bickert , Le vice-président de la politique de contenu de Facebook, a expliqué l'interdiction dans un article de blog . «Notre décision est soutenue par la montée bien documentée de l'antisémitisme dans le monde et le niveau alarmant d'ignorance au sujet de l'Holocauste, en particulier parmi les jeunes», écrit-elle.

Mais à la mi-novembre, The Markup a constaté, de nombreuses pages Facebook pour des groupes de négation de l'Holocauste bien connus restent actives – et pour les utilisateurs qui trouvent les pages, les algorithmes de Facebook continuent de recommander du contenu connexe, créant efficacement un réseau pour promouvoir le contenu antisémite.

Facebook a longtemps eu du mal à se tasser. sur la désinformation rapide et les groupes de conspiration qui changent de forme, mais bon nombre des pages discriminatoires trouvées par The Markup appartenaient à des groupes ayant une longue histoire de proéminence au sein du mouvement de négation de l'Holocauste ou à des mèmes nationalistes antisémites ou blancs bien connus, les faisant apparaître comme des cibles évidentes pour la répression de Facebook.

On ne sait pas si Facebook considère les publications et les groupes que The Markup a jugés inacceptables. La société n'a pas annoncé comment elle définirait le déni de l'Holocauste, et la société n'a pas répondu à de multiples demandes de commentaires; toutes les pages et tous les articles référencés dans cet article étaient toujours actifs au 23 novembre à 17 h. ET.

[Lire: Pourquoi cet ingénieur en sécurité aime travailler dans infosec ]

Aucune des organisations liées aux pages Facebook mentionnées dans cette histoire n'a répondu à la demande de The Markup

The Markup s'est appuyé sur les jugements d'organisations extérieures qui surveillent les groupes de haine pour identifier les groupes de négation de l'Holocauste. Et tandis que certaines pages étaient explicites – comme les «contes de l'Holohoax» – d'autres étaient plus subtiles et évitaient de mentionner explicitement l'Holocauste.

Par exemple, l'Institute for Historical Review (IHR) a une page Facebook avec plus de 1300 abonnés , bien qu'elle soit identifiée par le Southern Poverty Law Center (SPLC) comme «une organisation pseudo-universitaire qui prétend rechercher« la vérité et l'exactitude dans l'histoire », mais dont le véritable objectif est de promouvoir la négation de l'Holocauste et de défendre le nazisme . »

Le groupe possède également un compte Twitter, malgré l'interdiction similaire de cette société de négationnisme.

Le porte-parole de Twitter, Ian Plunkett, a déclaré à The Markup que le compte« n'est pas actuellement en violation de nos politiques. . »

Les messages récents sur la page Facebook du groupe incluent un lien vers un épisode du podcast de l'Institute for Historical Review attaquant les procès de Nuremberg après la Seconde Guerre mondiale pour avoir été inéquitables envers les responsables allemands qui ont été reconnus coupables d'infraction. g crimes de guerre. L'hôte de ce podcast, Mark Weber, est décrit par le SPLC comme ayant «probablement fait plus que tout autre Américain pour vulgariser la négation de l'Holocauste des Juifs européens pendant la Seconde Guerre mondiale.»

à un article répertoriant les donateurs juifs qui ont donné le plus gros montant lors du cycle électoral américain de 2020. Et un autre consistait en un lien vers un article du Guardian sur la façon dont la plupart des jeunes du Royaume-Uni n'étaient pas au courant de nombreux détails de l'Holocauste, ajoutant une série d'emoji au visage étonné. Les commentaires sur le message ont attaqué des Juifs pour avoir prétendument tenté d'affirmer la «victimisation» en raison des ambitions génocidaires du régime nazi.

«La négation de l'Holocauste, que ce soit sur Facebook ou ailleurs, est plus efficace lorsque les négateurs mélangent suffisamment de arguments pour confondre les lecteurs (y compris les modérateurs de contenu) ou obscurcir leurs croyances fondamentales », a déclaré Jonathan Greenblatt, PDG de l'Anti-Defamation League (ADL). «D'autres sont devenus habiles à communiquer avec des mots de passe pour éviter d'être détectés par les modérateurs de contenu. Cela souligne l'importance d'une formation de haute qualité pour les modérateurs humains et les algorithmes de détection. »

Dans un encadré sur le côté de la page du RSI, Facebook propose d'autres« pages connexes »que les utilisateurs pourraient trouver intéressantes. Facebook recommande régulièrement des groupes – mais dans ce cas, les suggestions dérivées de l'algorithme servent potentiellement de vecteur direct de radicalisation.

Facebook, par exemple, dirige les visiteurs de la page IHR vers un autre groupe Facebook, appelé CODOH Revisionist Forum, abréviation de Committee for Débat ouvert sur l'Holocast. Dans un rapport de 2010 l'Anti-Defamation League a déclaré que la mission du groupe était de «diffuser le déni de l'Holocauste aux étudiants sur les campus universitaires.»

Les visiteurs de la page CODOH trouveraient un lien vers une entrée de blog intitulée «Holohoax Tales» sur le site Web de l'organisation. Et les utilisateurs de Facebook peuvent également rencontrer des recommandations supplémentaires pour les pages à visiter sur la plate-forme, y compris Castle Hill Publishers, que le SPLC répertorie comme un autre groupe actif de négation de l'Holocauste et qui a des liens profonds avec CODOH. De là, Facebook a recommandé une page de fans pour Ernst Zündel, un néo-nazi qui est décédé en 2017 qui était remarquable à la fois pour sa négation de l'Holocauste et sa paternité d'un livre intitulé «The Hitler We Loved and Why». Sur la page Zündel, Facebook a recommandé un groupe nommé d'après la théorie du complot nationaliste blanc du «génocide blanc», qui accuse qu'une cabale ténébreuse de Juifs travaille activement à détruire la race blanche en encourageant le mélange racial. [19659003] Et la chaîne de pages recommandées se poursuit, entraînant de plus en plus les utilisateurs dans un réseau de contenu discriminatoire. Alors que bon nombre de ces pages de ce réseau créé par algorithme se concentrent sur l'antisémitisme, certaines des pages recommandées encouragent la haine contre d'autres groupes, comme les Afro-Américains.

Les recommandations de page sur Facebook varient d'un utilisateur à l'autre, mais ces pages connexes des recommandations apparaissaient à la fois lorsque The Markup les visitait directement lors de la connexion au compte personnel d'un journaliste et lorsque la page était capturée via une visite directe et non connectée par l'outil d'archivage Web tiers Archive.Today .

«Malheureusement, la négation de l'Holocauste a été un problème sérieux qu'ADL signale pour Facebook depuis plus d'une décennie», a déclaré Greenblatt, tout en notant également que Facebook a supprimé certaines pages antisémites après avoir annoncé l'interdiction. «La bonne nouvelle, c'est qu'ils prennent enfin des mesures, mais il est clair qu'il reste encore beaucoup à faire pour identifier et supprimer efficacement cette forme d'antisémitisme flagrant sur leur plate-forme.»

Facebook a d'abord résisté à l'interdiction du contenu niant l'Holocauste

Lors d'une interview en 2018, le fondateur de Facebook, Mark Zuckerberg a déclaré à Recode que, s'il n'était pas d'accord avec ceux qui affirmaient que l'Holocauste n'avait jamais eu lieu, il ne pensait pas que c'était le travail de son entreprise d'enlever ce contenu de sa plate-forme.

«Je trouve cela profondément choquant. Mais en fin de compte, je ne pense pas que notre plate-forme devrait supprimer cela parce que je pense qu'il y a des choses que différentes personnes se trompent », a déclaré Zuckerberg.

La raison invoquée par Facebook pour le changement de politique découlait de préoccupations concernant comment l'ignorance du public au sujet de l'Holocauste est liée à la prévalence de l'antisémitisme.

«Les institutions axées sur la recherche et la mémoire sur l'Holocauste, comme Yad Vashem, ont noté que l'éducation sur l'Holocauste est également un élément clé de la lutte contre l'antisémitisme», Bickert

Le message notait également qu'à partir de la fin de cette année, Facebook commencera à diriger les utilisateurs vers des informations factuelles sur l'Holocauste lorsqu'ils rechercheront des termes liés à l'événement ou des termes associés à la négation de l'Holocauste. Ces boîtes d'information n'ont encore paru sur aucune des pages de négation de l'Holocauste identifiées dans cette histoire. Licence Creative Commons Attribution-Pas d'Utilisation Commerciale-Sans Dérivée .