Les discours de haine et la désinformation sur les réseaux sociaux deviennent incontrôlables : voici ce que nous devrions faire pour y remédier

« Il arrive un moment où la liberté d’expression peut causer des dommages réels et c’est à ce moment-là que les plateformes de médias sociaux doivent réagir », a déclaré Helle Thorning-Schmidt, ancienne Premier ministre danoise et actuelle présidente du conseil de surveillance de Meta, lors d’une session à la conférence TNW 2024.

Il n’y a pas de meilleur exemple que ce qui se passe actuellement au Royaume-Uni.

Alors que le pays est aux prises avec une éruption de violence de la part de groupes d’extrême droite dans les refuges pour demandeurs d’asile à travers le pays, le Premier ministre Keir Starmer a tenu à s’adresser non seulement à ceux qui incitent à la violence, mais également aux plateformes qui leur permettent de diffuser de la désinformation et de s’organiser.

« Permettez-moi également de dire aux grandes sociétés de médias sociaux et à ceux qui les dirigent que les troubles violents attisés en ligne : c’est aussi un crime. Cela se passe dans vos locaux et la loi doit être respectée partout », a-t-il déclaré lors d’une conférence de presse la semaine dernière.

Les violences ont éclaté après une attaque au couteau perpétrée par un jeune de 17 ans de Cardiff, qui a entraîné le meurtre de trois jeunes filles le 29 juillet. Selon une analyse de Reutersavant que les informations sur le suspect ne soient divulguées par les autorités, les affirmations selon lesquelles il était un demandeur d’asile ou un immigrant avaient déjà été vues au moins 15,7 millions de fois sur X, Facebook, Instagram et d’autres plateformes.

Des groupes militants d’extrême droite se sont alors organisés pour partager une liste de 36 cibles, parmi lesquelles des centres d’immigration, des cabinets d’avocats spécialisés dans l’aide aux demandeurs d’asile et des refuges pour demandeurs d’asile.

S’ajoutant à l’appel de Starmer, hier, le maire du Nord-Est, Kim McGuinness, dont la région a été ravagée par la violence, a exhorté les ministres à sévir contre « les sociétés de médias sociaux distantes et irresponsables » qui ont permis aux discours de haine et aux troubles de se propager en ligne.

Ironiquement, Elon Musk lui-même, propriétaire de X, s’est lancé dans la mêlée en début de semaine en publiant « la guerre civile est inévitable » en réponse à un article attribuant les manifestations violentes aux effets de « la migration massive et de l’ouverture des frontières ». La publication a jusqu’à présent reçu 9,6 millions de vues.

Pendant ce temps, le leader réformiste britannique, Nigel Farage, revient désormais en arrière sur une vidéo qu’il a publiée le lendemain de l’attaque au couteau, citant « certains rapports » suggérant que le suspect était un migrant connu des services de sécurité. Une semaine plus tard il a maintenant rétracté sa déclarationadmettant que sa « source » était l’influenceur extrémiste Andrew Tate.

L’équilibre entre liberté d’expression et discours de haine

Ceci n’est qu’un exemple parmi tant d’autres à travers le monde de la tempête de merde qui peut devenir incontrôlable à l’ère du réseaux sociaux. Le monde se retrouve désormais à la merci de ces plateformes et de leurs décisions sur la meilleure façon de trouver l’équilibre entre la liberté d’expression et le discours de haine.

En tant qu’ancienne première ministre et membre actuelle du conseil de surveillance de Meta, Helle Thorning-Schmidt était dans une position unique pour partager ses idées dans une conférence intitulée Démocratie en péril : 2 millions de voix en 2024.

« Je pense que nous ne reverrons plus jamais d’élections sans médias manipulés », a déclaré Thorning-Schmidt alors que les électeurs du monde entier se dirigent vers les urnes. Cette année sera le banc d’essai ultime pour les plateformes de médias sociaux sur la façon de gérer la désinformation (y compris la montée des deepfakes) diffusée à la fois par les utilisateurs ordinaires et les personnalités publiques. Faut-il les traiter différemment ?

Et avec un si grand nombre d’utilisateurs dans le monde, comment ces plateformes peuvent-elles rester au top de la modération du contenu ? Alors que les données montrent X a le plus petit nombre de réviseurs de contenu par utilisateur en Europe, des plateformes comme Meta, avec 15 000 réviseurs de contenu travaillant à la fois sur IG et Facebook (qui comptent tous deux 260 millions d’utilisateurs dans l’UE) – n’ont pas vraiment la tâche facile. Comment pouvons-nous tirer parti de l’IA sans laisser complètement cette tâche extrêmement importante entre les mains des robots ?

Découvrez ce que Thorning-Schmidt et Murad Ahmed, rédacteur en chef des actualités technologiques du Financial Times, ont à dire sur ces sujets et bien plus encore. TNW Accès illimité.