YouTube a supprimé une phrase critiquant le gouvernement chinois en raison d'une erreur d'IA

Au cours des dernières semaines, les utilisateurs ont remarqué que certaines expressions chinoises avaient été automatiquement supprimées des commentaires YouTube. Après des spéculations effrénées sur les raisons pour lesquelles Google voudrait que ces phrases – qui critiquent toutes deux le gouvernement chinois – soient interdites, il affirme maintenant que c'était une erreur de son logiciel d'apprentissage automatique.

YouTube a supprimé tous les commentaires que j'ai jamais faits à propos de le Wumao (五毛), une division de propagande Internet du Parti communiste chinois. Qui chez Google a décidé de censurer les commentaires américains sur les vidéos américaines hébergées en Amérique par une plateforme américaine déjà interdite en Chine?

– Palmer Luckey (@PalmerLuckey) 26 mai 2020

Les utilisateurs ont remarqué que tout YouTube le commentaire contenant la phrase «共匪» ou «五毛» serait purgé quelques secondes après avoir été soumis. Un de mes collègues l'a testé et a constaté que c'était vrai. Le premier est une insulte dirigée contre le gouvernement communiste chinois (il se traduit par «bandit communiste», selon l'activiste Jennifer Zeng ). Ce dernier est un terme d'argot pour les habitants en ligne qui ont été payés pour détourner les critiques du parti communiste.

Comme vous vous en doutez, les utilisateurs soupçonnaient immédiatement qu'il pourrait y avoir un motif caché pour Google interdisant cette phrase. YouTube est interdit en Chine, alors pourquoi sa société mère se soucierait-elle que quelqu'un critique le PCC? Cette phrase particulière a déclenché cette réaction pendant des mois, ce qui est extrêmement long pour qu'une erreur persiste.

#YouTube "automatiquement" supprime un commentaire en chinois, "Gongfei", qui signifie "bandit communiste", en 15 secondes.
Cette personne a testé 3 fois, même résultat. # 油管 15 秒 內 自動 刪除 「共匪」 留言 ， 網友 連 試 三次 皆 如此。
他們 找 了 個 比 李飛飛 更 厲害 的 AI 專家？ pic.twitter.com/MLCeko0SIY

– Jennifer Zeng 曾 錚 (@jenniferatntd) 13 mai 2020

Peut-être que Google a été invité à vérifier la question lorsque la mystérieuse interdiction de la phrase a été signalée par le fondateur d'Oculus Palmer Luckey. De toute façon, on en a finalement parlé. Et il prétend qu'il n'interdit pas la phrase par sympathie cachée pour le gouvernement chinois, mais plutôt par erreur.

Selon une déclaration à TechCrunch YouTube dit que la phrase interdite était ajouté à ses filtres de discours de haine, qui suppriment automatiquement les commentaires contenant du contenu offensant. Cela expliquerait pourquoi l'utilisation de l'expression, même de manière positive, a immédiatement fait tomber le marteau.

La question est maintenant de pourquoi cette expression a été ajoutée aux filtres. Tout ce que Google dirait, c'est que la société s'appuie davantage sur la modération basée sur l'IA car ses employés sont absents du bureau grâce à la pandémie de coronavirus. Un article de blog YouTube de mars préfigure le problème:

L'apprentissage automatique permet de détecter le contenu potentiellement dangereux, puis l'envoie aux évaluateurs humains pour évaluation. À la suite des nouvelles mesures que nous prenons, nous allons temporairement commencer à nous fier davantage à la technologie pour aider avec une partie du travail normalement effectué par les examinateurs. Cela signifie que les systèmes automatisés commenceront à supprimer du contenu sans examen humain, afin que nous puissions continuer à agir rapidement pour supprimer le contenu violent et protéger notre écosystème, tandis que nous avons des protections en milieu de travail en place.

Ce ne serait pas la première fois qu'une La société de technologie a rencontré des problèmes avec la modération de l'apprentissage automatique grâce au coronavirus. Facebook a eu un problème similaire lorsque son IA a bloqué les publications sur la fabrication de masques faciaux.

YouTube prétend qu'il enquête toujours sur l'erreur. Il invite quiconque à « signaler les problèmes suspects pour résoudre les erreurs et nous aider à apporter des améliorations au produit.»

via The Verge