La pente glissante de l'utilisation de l'IA et des deepfakes pour donner vie à l'histoire

Pour marquer le Memorial Day d'Israël en 2021, les ensembles musicaux des Forces de défense israéliennes ont collaboré avec une société spécialisée dans les vidéos synthétiques, également connues sous le nom de technologie « deepfake », pour donner vie à des photos de la guerre israélo-arabe de 1948.

]Ils ont produit une vidéo dans laquelle de jeunes chanteurs vêtus d'uniformes d'époque et portant des armes d'époque ont chanté « Hareut », une chanson emblématique commémorant les soldats tués au combat. Pendant qu'ils chantent, les musiciens regardent les photographies fanées en noir et blanc qu'ils tiennent. Grâce à l'intelligence artificielle, les jeunes soldats des vieilles images clignent des yeux et leur sourient.

Le résultat est troublant. Le passé prend vie, Harry Potter style.

Au cours des dernières années, mes collègues et moi-même au UMass Boston's Applied Ethics Center avons étudié comment l'engagement quotidien avec AI remet en question la façon dont les gens pensent d'eux-mêmes et de la politique. Nous avons découvert que l'IA a le potentiel d'affaiblir la capacité des gens à porter des jugements ordinaires. Nous avons également constaté que cela sape le rôle de la sérendipité dans leur vie et peut les amener à remettre en question ce qu'ils savent ou pensent des droits de l'homme.

Maintenant, l'IA le fait. plus facile que jamais de ranimer le passé. Cela changera-t-il notre compréhension de l'histoire et, par conséquent, de nous-mêmes ?

Faible risque financier, coût moral élevé

Le désir de faire revivre le passé de manière vivante est pas nouveau. Les reconstitutions de guerre civile ou de guerre révolutionnaire sont monnaie courante. En 2018, Peter Jackson a minutieusement restauré et colorisé des images de la Première Guerre mondiale pour créer « Ils ne vieilliront pas », un film qui a permis aux téléspectateurs du 21e siècle de vivre la Grande Guerre plus immédiatement que jamais auparavant.[19659003]Les reconstitutions en direct et les séquences historiques soigneusement traitées sont des entreprises coûteuses et chronophages. La technologie Deepfake démocratise de tels efforts, offrant un outil bon marché et largement disponible pour animer de vieilles photos ou créer de fausses vidéos convaincantes à partir de zéro.

Mais comme pour toutes les nouvelles technologies, à côté des possibilités passionnantes se posent de sérieuses questions morales. Et les questions deviennent encore plus délicates lorsque ces nouveaux outils sont utilisés pour améliorer la compréhension du passé et raviver des épisodes historiques. seulement entre ceux qui vivent, mais entre ceux qui vivent, ceux qui sont morts et ceux qui doivent naître. L'identité politique, selon lui, n'est pas simplement ce que les gens en font. Ce n'est pas simplement un produit de notre propre fabrication. Au contraire, faire partie d'une communauté, c'est faire partie d'un pacte entre les générations – une partie d'une entreprise commune reliant les vivants, les morts et ceux qui vivront dans le futur.

Si Burke a raison de comprendre l'appartenance politique, cela façon, la technologie deepfake offre un moyen puissant de connecter les gens au passé, de forger ce contrat intergénérationnel. En donnant vie au passé de manière vivante et convaincante, la technologie anime le passé «mort» et le rend plus vivant et plus vivant. Si ces images stimulent l'empathie et le souci pour les ancêtres, les deepfakes peuvent rendre le passé beaucoup plus important.

Mais cette capacité comporte des risques. Un danger évident est la création de faux épisodes historiques. Des événements imaginaires, mythifiés et faux peuvent précipiter des guerres : une défaite historique du XIVe siècle lors de la bataille du Kosovo enflamme toujours les sentiments antimusulmans serbes, même si personne ne sait si la coalition serbe a réellement perdu cette bataille contre les Ottomans. .

De même, la deuxième attaque du golfe du Tonkin contre des navires de guerre américains le 4 août 1964 a été utilisée pour intensifier l'implication américaine au Vietnam. Il s'est avéré plus tard que l'attaque n'a jamais eu lieu .

Une atrophie de l'imagination

Auparavant, il était difficile et coûteux de mettre en scène de faux événements. Plus maintenant.

Imaginez, par exemple, ce que des images deepfake stratégiquement falsifiées des événements du 6 janvier aux États-Unis pourraient faire pour enflammer les tensions politiques ou quelle fausse vidéo d'une réunion des Centers for Disease Control and Prevention semblant dénigrer COVID- 19 vaccins nuiraient aux efforts de santé publique.

Le résultat, bien sûr, est que les deepfakes peuvent progressivement déstabiliser l'idée même d'un « événement » historique. Peut-être qu'avec le temps, à mesure que cette technologie progresse et devient omniprésente, les gens se demanderont automatiquement si ce qu'ils voient est réel.

Si cela conduira à plus d'instabilité politique ou – paradoxalement, à plus de stabilité en raison de l'hésitation à agir la base de ce qui est peut-être des événements fabriqués – est ouverte à la question.

Mais au-delà des inquiétudes concernant la fabrication en gros de l'histoire, il y a des conséquences plus subtiles qui m'inquiètent.

Oui, les deepfakes nous permettent de vivre le passé comme plus vivant et , par conséquent, peut accroître notre sens de l'engagement envers l'histoire. Mais cette utilisation de la technologie comporte-t-elle le risque d'atrophier notre imagination – en nous fournissant des images toutes faites et limitées du passé qui serviront d'associations standard pour les événements historiques ? Un effort d'imagination peut rendre les horreurs de la Seconde Guerre mondiale, le tremblement de terre de San Francisco de 1906 ou la Conférence de paix de Paris de 1919 dans des variations infinies.

Mais les gens continueront-ils à exercer leur imagination de cette façon ? Ou les deepfakes, avec leurs représentations réalistes et émouvantes, deviendront-ils les remplaçants pratiques de l'histoire ? Je crains que les versions animées du passé puissent donner aux téléspectateurs l'impression qu'ils savent exactement ce qui s'est passé – que le passé leur est pleinement présent – ce qui évitera alors le besoin d'en savoir plus sur l'événement historique.

Les gens ont tendance à penser. cette technologie rend la vie plus facile. Mais ils ne se rendent pas compte que leurs outils technologiques refaçonnent toujours les outilleurs, ce qui entraîne une détérioration des compétences existantes tout en ouvrant des possibilités inimaginables et passionnantes.

L'avènement des smartphones a permis de publier facilement des photos en ligne. Mais cela signifie également que certaines personnes ne bénéficient plus de vues à couper le souffle comme avant car elles sont tellement obsédées par la capture d'un moment « instagrammable ». La perte n'est pas non plus vécue de la même manière depuis l'omniprésence du GPS. De même, les deepfakes générés par l'IA ne sont pas seulement des outils qui amélioreront automatiquement notre compréhension du passé.

Néanmoins, cette technologie va bientôt révolutionner le lien de la société avec l'histoire, pour le meilleur et pour le pire.

Les gens ont toujours été meilleurs pour inventer. choses qu'à penser à ce que les choses qu'ils inventent leur font – "toujours plus habile avec les objets que les vies", comme le poète WH Auden l'a mis . Cette incapacité à imaginer les dessous des prouesses techniques n'est pas le destin. Il est encore possible de ralentir et de réfléchir à la meilleure façon de vivre le passé.

Cet article de Nir Eisikovitsprofesseur agrégé de philosophie et directeur, Applied Ethics Center, University of Massachusetts Boston est republié à partir de The Conversation sous une licence Creative Commons. Lire l'article d'origine.