Facebook a accidentellement signalé la Déclaration d'Indépendance

Facebook a pris un post contenant des passages de la Déclaration d'Indépendance, disant qu'il s'agissait de discours de haine. Il s'est depuis excusé – bien que l'algorithme ait pu être justifié en signalant le matériel.

Un journal du Texas appelé Liberty County Vindicator a décidé de célébrer le 4 juillet en postant des extraits de la Déclaration d'Indépendance. Le dixième article de cette série, avec les paragraphes 27-31, a été retiré de la file d'attente de rendez-vous Facebook du journal, avec le papier ayant reçu l'avis qu'il avait violé les normes de discours haineux.

Facebook a finalement restauré le poste, Vindicator Le rédacteur en chef Casey Stinnet a reconnu dans un article sur le site Web du journal .

Facebook a posté un article de blog Hard sur ses normes communautaires, dans lequel il abordait les subtilités du discours de haine. Dans ce document, Richard Allan, vice-président de la politique publique, a déclaré que l'entreprise essayait de tenir compte du contexte et de l'intention du discours, mais a reconnu que cela n'avait pas toujours été couronné de succès. Il a également déclaré: " nous sommes loin de pouvoir compter sur l'apprentissage automatique et l'IA pour gérer la complexité de l'évaluation du discours de haine."

Plus récemment, Facebook a donné sur le nombre de messages problématiques que son algorithme a capturé avant d'être signalés par les utilisateurs – et le discours de haine était le plus bas, avec un taux de réussite de seulement 38%. Facebook VP de la gestion des produits, Guy Rosen, à l'époque, a attribué la difficulté à la détermination du contexte.

Dans le cas de ce document historique, l'éditeur Stinnet a souligné à juste titre qu'il contenait l'expression «les indiens impitoyables». Si c'est la phrase qui a déclenché les alarmes de Facebook, on comprend pourquoi il considérerait ce discours de haine.

Mais cela indique un trou dans l'apprentissage de l'IA. A savoir, l'algorithme de discours de haine de Facebook a peu de compréhension du contexte historique et de la dissonance culturelle derrière ces mots – et, à tout le moins, devrait être alimenté par le texte d'un document important comme celui-ci afin de savoir quoi éviter à l'avenir

Facebook dit qu'il est désolé d'avoir enlevé une partie de la déclaration d'indépendance qui comprend une insulte raciale
sur Gizmodo