Les deepfakes prennent le contrôle de TikTok – voici comment vous pouvez les repérer

L’une des plateformes de médias sociaux les plus populaires au monde, TikTok, héberge désormais un flux constant de vidéos deepfake.

Les deepfakes sont des vidéos dans lesquelles le visage ou le corps d’un sujet a été modifié numériquement pour le faire ressembler à quelqu’un d’autre – généralement une personne célèbre.

Un notable exemple est le compte TikTok @deeptomcriuse, qui a publié des dizaines de vidéos deepfake se faisant passer pour Tom Cruise et a attiré quelque 3,6 millions de followers.

Dans un autre exemple, Meta CEO Marc Zuckerberg semble avouer un partage de données complotiste. Plus récemment, il y a eu un certain nombre de vidéos idiotes mettant en vedette des acteurs tels que Robert Pattinson et Keanu Reeves.

Bien que les deepfakes soient souvent utilisés de manière créative ou pour le plaisir, ils sont de plus en plus déployés dans des campagnes de désinformation, pour l’usurpation d’identité et pour discréditer des personnalités publiques et des célébrités.

Et bien que la technologie nécessaire à leur fabrication soit sophistiquée, elle devient de plus en plus accessible, laissant les logiciels de détection et la réglementation à la traîne.

Une chose est sûre : les deepfakes sont là pour rester. Alors, que pouvons-nous faire à leur sujet?

Rôles variés

La manipulation de textes, d’images et de séquences est depuis longtemps un fondement de l’interactivité. Et les deepfakes ne font pas exception ; ils sont le résultat d’un désir profond de participer à la culture, à la narration, à l’art et remixer.

La technologie est largement utilisée dans les arts numériques et la satire. Il fournit des techniques plus raffinées (et moins chères) pour les insertions visuelles, par rapport aux écrans verts et aux images générées par ordinateur.

La technologie Deepfake peut également permettre une apparence authentique résurrections d’acteurs décédés et reconstitutions historiques. Ils peuvent même jouer un rôle en aidant les gens à pleurer leur proches décédés.

Mais ils sont également disponibles pour une utilisation abusive

Dans le même temps, on pense que la technologie deepfake présente plusieurs problèmes sociaux tels que :

• Les deepfakes sont utilisés comme « preuve » pour d’autres fausses nouvelles et désinformations.
• Les deepfakes sont utilisés pour discréditer des célébrités et d’autres personnes dont les moyens de subsistance dépendent du partage de contenu tout en maintenant une réputation.
• Difficultés à fournir des images vérifiables pour la communication politique, les messages sur la santé et les campagnes électorales.
• Les visages des gens sont utilisés dans la pornographie deepfake.

Le dernier point est particulièrement préoccupant. En 2019, la société de logiciels de détection de deepfakes Deeptrace a constaté que 96% des 14 000 deepfakes étaient pornographique dans la nature. Des applications gratuites telles que DeepNude 2.0, aujourd’hui disparue, ont été utilisées pour faire apparaître des femmes vêtues nues dans les images, souvent à des fins de vengeance pornographique et de chantage.

En Australie, les applications deepfake ont même permis aux auteurs de contourner le « revenge porn » lois – un problème qui devrait bientôt s’aggraver.

Au-delà de cela, les deepfakes sont également utilisés dans usurpation d’identité et escroqueries, notamment sous la forme de messages vidéo d’un « collègue » ou d’un « parent » de confiance demandant un transfert d’argent. Une étude a révélé que l’usurpation d’identité par manipulation numérique a coûté cher aux institutions financières américaines 20 milliards de dollars américains en 2020].

Une préoccupation grandissante

Les créateurs de deepfakes soulignent le temps et les efforts nécessaires pour rendre ces vidéos réalistes. Prenez Chris Ume, l’artiste des effets visuels et de l’IA derrière le compte TikTok @deeptomcruise. Lorsque ce compte fabriqué titres l’année dernière, Ume Raconté The Verge « vous ne pouvez pas le faire en appuyant simplement sur un bouton ».

Mais il y a de bonnes preuves que les deepfakes deviennent plus faciles à fabriquer. Des chercheurs de l’initiative Global Pulse des Nations Unies ont démontré comment les discours peuvent être simulés de manière réaliste en seulement 13 minutes.

Au fur et à mesure que de plus en plus d’applications deepfake sont développées, nous pouvons nous attendre à ce que des personnes moins qualifiées produisent de plus en plus de deepfakes authentiques. Pensez à quel point l’édition de photos a explosé au cours de la dernière décennie.

La législation, la réglementation et les logiciels de détection ont du mal à suivre les avancées de la technologie deepfake.

En 2019, Facebook est venu pour la critique pour ne pas avoir supprimé une vidéo trafiquée de la politicienne américaine Nancy Pelosi, après avoir été en deçà de sa définition de deepfake.

En 2020, Twitter interdit le partage de médias synthétiques pouvant tromper, confondre ou nuire aux personnes (sauf si une étiquette est apposée). TIC Tac a fait de même. Et YouTube interdit les deepfakes liées aux élections fédérales américaines de 2020.

Mais même s’il s’agit de politiques bien intentionnées, il est peu probable modérateurs de plateforme sera en mesure de réagir aux signalements et de supprimer les deepfakes assez rapidement.

En Australie, avocats du cabinet NSW Ashurst ont déclaré que les lois existantes sur le droit d’auteur et la diffamation pourraient ne pas protéger les Australiens contre les deepfakes.

Et si des tentatives d’élaboration de lois ont commencé à l’étranger, elles se concentrent sur la communication politique. Par exemple, la Californie a a rendu illégale la publication ou la distribution de contenu manipulé numériquement d’un candidat lors d’une élection – mais n’a aucune protection pour les non-politiciens ou les célébrités.

Comment détecter un deepfake

L’un des meilleurs remèdes contre les deepfakes nuisibles est que les utilisateurs se dotent d’autant de compétences de détection que possible.

Habituellement, le premier signe d’un deepfake est que quelque chose va se sentir « off ». Si c’est le cas, regardez de plus près le visage du sujet et demandez-vous :

• Le visage est-il trop lisse ou y a-t-il des ombres inhabituelles sur les pommettes ?
• Les mouvements des paupières et de la bouche semblent-ils décousus, forcés ou non naturels ?
• Les cheveux ont-ils l’air faux? La technologie deepfake actuelle a du mal à conserver l’aspect original des cheveux (en particulier des poils du visage).

Le contexte est également important :

• Demandez-vous ce que le personnage dit ou fait. Est-ce qu’ils désavouent les vaccins ou jouent dans un clip porno ? Tout ce qui semble hors de propos ou contraire à la notoriété publique sera pertinent ici.
• Recherchez en ligne des mots clés sur la vidéo ou la personne qui y figure, car de nombreux deepfakes suspects auront déjà été démystifiés.
• Essayez de juger de la fiabilité de la source – semble-t-elle authentique ? Si vous êtes sur une plate-forme de médias sociaux, le compte de l’affiche est-il vérifié ?

Une grande partie de ce qui précède est une littératie numérique de base et nécessite de faire preuve de bon jugement. Là où le bon sens échoue, il existe des moyens plus approfondis pour essayer de repérer les deepfakes. Tu peux:

• Recherchez les mots-clés utilisés dans la vidéo pour voir s’il existe une transcription publique de ce qui se dit – les médias couvrent souvent les citations de politiciens et de célébrités de haut niveau dans les 72 heures.
• Prenez une capture d’écran de la vidéo en cours de lecture et faites un Google recherche d’image inversée. Cela peut révéler si une version originale de la vidéo existe, que vous pourrez ensuite comparer à la version douteuse.
• Diffusez directement toute vidéo suspecte mettant en scène un « collègue » ou un « parent » par cette personne.

Enfin, si vous parvenez à repérer un deepfake, ne le gardez pas pour vous. Appuyez toujours sur le bouton de rapport.

Article de Couverture Robprofesseur de communication numérique, Université RMIT

Cet article est republié de La conversation sous licence Creative Commons. Lis le article original.