Les experts préviennent que DeepFakes pourrait influencer les élections américaines de 2020

De fausses vidéos générées par l'IA et montrant des personnalités politiques pourraient faire fureur au cours du prochain cycle électoral et c'est une mauvaise nouvelle pour la démocratie.

Une étude publiée récemment indique que DeepFakes, un réseau de neurones crée des fausses vidéos de personnes réelles, représente l'une des plus grandes menaces posées par l'intelligence artificielle.

Les auteurs de l'étude déclarent:

Les systèmes AI sont capables de générer des enregistrements synthétiques réalistes de toute personne pour laquelle il existe jeu de données d'entraînement à grande voix. La même chose est de plus en plus vraie pour la vidéo. Au moment de la rédaction de cet article, les images et les sons forgés de «faux semblants» se sont révélés sensiblement incorrects, même pour des individus non formés. Cependant, au rythme où ces technologies font des progrès, il est probable que moins de cinq années s'écouleront avant de pouvoir tromper l'œil et l'oreille non formés.

Au cas où vous l'auriez manqué, DeepFakes a été mis en lumière l'année dernière lorsque des vidéos créées par elle ont commencé à apparaître sur les sites de réseaux sociaux et de pornographie

La manipulation de vidéos, d'images et de sons n'est pas nouvelle – il y a près de dix ans, Jeff Bridges Tron Legacy "apparaissant exactement comme il y a 35 ans quand il a joué dans l'original.

Qu'est-ce qui a changé? Il est ridiculement facile d'utiliser DeepFakes parce que, essentiellement, tout le travail est fait par l'IA. Il ne nécessite aucune compétence en édition vidéo et une connaissance minimale de l'IA à utiliser – la plupart des applications DeepFakes sont construites avec la plate-forme open source AI de Google, TensorFlow. Presque tout le monde peut mettre en place et former un réseau de neurones DeepFakes pour produire une fausse vidéo semi-convaincante.

C'est en partie la raison pour laquelle, lorsque DeepFakes a frappé la périphérie publique l'an dernier, la peur et la répulsion une fois que les gens ont commencé à exploiter des célébrités avec elle.

Si vous n'avez pas vu la vidéo où le président Obama insulte le président Trump (sauf, bien sûr, il est faux) , alors vous devriez vraiment prendre un moment pour le regarder, ne serait-ce que pour avoir une certaine perspective.

La plupart des gens qui regardent ce qui précède supposeront que c'est faux; non seulement le contenu est incrédule, mais l'image est jonchée d'artefacts. DeepFakes n'est pas parfait par tous les moyens, mais ce n'est pas forcément nécessaire. Si une équipe d'humains essayait de créer ces fausses vidéos, ils devraient probablement passer des heures et des heures à les éditer minutieusement image par image. Mais, même avec une configuration matérielle modeste, un mauvais acteur peut cracher des vidéos DeepFakes en quelques minutes. Quand il s'agit de propager la propagande avec succès, la quantité l'emporte sur la qualité.

Hany Farid, expert en technologie médico-légale, de Dartmouth College, dit AP News :

Je pense qu'ici aux États-Unis commencer à voir ce contenu dans les prochaines échéances et élections nationales dans deux ans. La technologie, bien sûr, ne connaît pas de frontières, donc je m'attends à ce que l'impact se répercute partout dans le monde.

Même si les vidéos ne sont pas très bonnes – et faites-nous confiance, elles iront mieux – ils pourraient encore inciter assez de gens à croire à peu près n'importe quoi. Il n'est pas difficile d'imaginer de mauvais acteurs utilisant l'IA pour simuler des vidéos de politiciens ou, peut-être même plus vraisemblablement, leurs partisans engagés dans un comportement qui soutient un récit diviseur

Le gouvernement américain travaille sur une fausse vidéo détecteur, tout comme les chercheurs du secteur privé dans le monde. Mais, il n'y aura jamais de système omniprésent pour protéger l'ensemble de la population contre de fausses vidéos. Et cela signifie que tout le monde doit rester vigilant car la propagande n'a pas à convaincre qui que ce soit, elle doit juste faire douter de la vérité.

Pour plus d'informations sur les réseaux de neurones, consultez notre guide ici . Et n'oubliez pas de visiter la section sur l'intelligence artificielle pour rester à jour sur nos futurs maîtres du robot.

Lire la suite:

Les MacBook Pro mis à jour d'Apple sont une étape attendue depuis longtemps direction