L’IA a rendu difficile la distinction entre ce qui est réel et ce qui ne l’est pas, en particulier dans les photos et les vidéos. Cela a conduit à contrefaçons profondesappels automatisés trompeurs d’IA, accusations de fausses foules d’IAet désinformationqui ne fait que s’intensifier à l’approche de l’élection présidentielle de novembre.
Cependant, Andy Parsons, directeur principal de la Content Authenticity Initiative chez Adobe, affirme que le problème pourrait être résolu avec une autre technologie : les informations d’identification du contenu.
Ces « étiquettes nutritionnelles » d’informations sont intégrées dans les métadonnées du contenu numérique et agissent comme un filigrane invisible pour montrer si quelque chose a été créé avec l’IA. Ils répondre aux questions sur la façon dont un élément de contenu a été créé et s’il a été créé ou modifié avec l’IA.
Les créateurs peuvent ajouter des informations d’identification de contenu à tout ce qu’ils créent dans des programmes comme Photoshop et Concepteur Microsoft.
« Ce niveau de transparence peut aider à dissiper le doute, en particulier lors des dernières nouvelles et des cycles électoraux », a déclaré Parsons. Entrepreneur.
Comment les grandes technologies utilisent les informations d’identification
OpenAI utilise déjà les informations d’identification dans les images créées par le générateur d’images DALL·E 3 AI comme une partie de son approche aux élections de 2024. Google explore informations d’identification pour déterminer d’où provient le contenu de ses produits, y compris YouTube. Et en octobre, Leica a lancé le premier appareil photo au monde qui ajoute automatiquement des informations d’identification de contenu aux photos prises avec.
Pendant ce temps, en mai, TikTok est devenu le première plateforme de médias sociaux pour utiliser les informations d’identification du contenu pour détecter et étiqueter automatiquement le contenu « généré par l’IA » le cas échéant.
Parsons affirme que « l’adoption généralisée » des informations d’identification par les plateformes de médias sociaux « établirait une chaîne de confiance ».
« Cela permettra aux consommateurs de vérifier eux-mêmes les détails et permettra de faire confiance aux bons acteurs », a-t-il déclaré.
Adobe est membre du comité directeur de la Content Authenticity Initiative, avec Google, Microsoft, Sony, Intel et plus de 2 000 autres sociétés.
Source link