Fermer

septembre 28, 2018

AI permet la manipulation vidéo – et peut aider à l'arrêter


Le développement rapide dans le domaine de de l'intelligence artificielle (AI) au cours des dernières années a ouvert de nouveaux secteurs d'activité rentables, a permis la révolution Big Data et a permis technologies émergentes comme les véhicules autonomes. Il y a eu tellement d'avantages associés à l'IA moderne qu'il est facile de voir la technologie comme une panacée avec peu de véritables inconvénients.

La réalité est toutefois beaucoup plus complexe.

En pratique, l'IA en crée ou en amplifie problèmes qui commencent seulement à apparaître. L’augmentation et la diffusion d’informations délibérément trompeuses en ligne sont l’une des questions qui ont beaucoup attiré l’attention des médias ces derniers mois. Le problème des soi-disant «fausses nouvelles» est réel et s’aggrave. Les nouvelles technologies d'IA sont utilisées dans la création de vidéos trompeuses et elles se répandent à un rythme inquiétant. La bonne nouvelle est que d’autres nouveaux outils d’IA sont en cours de développement pour aider à contenir la vague croissante de contenu en ligne, et pas un instant trop tôt.

Voici ce qui se passe.

Ne croyez pas vos yeux

La manière la plus évidente (et dérangeante) par laquelle l'IA a été adaptée pour être utilisée dans la création de contenu trompeur peut être résumée en un seul terme: Deepfakes . Le terme fait référence aux images et aux vidéos qui ont été manipulées à l’aide de la technologie de l’IA pour modifier leur contenu d’une manière difficile à détecter. La plupart des gens ont pris conscience de la technologie lorsque Buzzfeed News a produit une vidéo extrêmement convaincante de Barack Obama faisant des déclarations qu’il n’a jamais faites. La seule bonne nouvelle à l’époque était que les vidéos manipulées de cette manière pouvaient être détectées de façon fiable en analysant comme le sujet a cligné des yeux (ou pas) dans la vidéo en question. Malheureusement, une nouvelle version de la technique ne souffre pas du même défaut.

Solutions en développement

En réponse à la menace que représentent des vidéos convaincantes et fabriquées pour le grand public, les membres de Le Congrès américain a pressé les représentants des entreprises technologiques de trouver des moyens de lutter contre leur propagation. Il ya eu beaucoup de conjectures quant à la responsabilité même de la police d’Internet pour du faux contenu. Certains croient qu'il incombera à l'industrie de la criminalistique numérique d'éliminer les mauvais acteurs, alors que d'autres insistent sur le fait que cela nécessitera une intervention gouvernementale.

19659008] visant à créer des mécanismes de détection capables de dépasser les prédateurs. Leur initiative impliquera une compétition entre experts en criminalistique numérique pour déterminer s'ils ont même les compétences nécessaires pour résoudre le problème. Cela contribuera également à déterminer ce qui est lié à la criminalistique numérique et où d'autres outils d'IA spécialisés devront être développés pour soutenir cet effort – potentiellement par le biais de programmes technologiques soutenus par le gouvernement.

Une course aux armements à l'échelle mondiale

Si la situation entourant la manipulation d'images et de vidéos basée sur l'IA et les technologies préparées pour les détecter et les combattre vous semble familière, cela devrait l'être. C’est parce qu’elle évoque les premiers jours du spam par courrier électronique, où les spécialistes du marketing black-hat ont profité d’un manque de contre-mesures pour inonder les boîtes de réception des utilisateurs de messages non sollicités. Dans les années qui ont suivi, nous avons assisté à une bataille acharnée entre les deux parties, qui a abouti à l’adoption d’une loi destinée à lutter contre les abus. Comme toute personne disposant d’un compte de messagerie peut vous le dire, le spam existe toujours de toute façon.

Cela peut sembler être le meilleur résultat que nous puissions attendre dans la bataille pour identifier et éradiquer également les images et les vidéos manipulées en ligne. Il semble évident que chaque évolution de la technologie entraînera une évolution des méthodes de détection, à l'infini. Comme pour le spam, cela signifie également que ce sont les individus qui prennent l’initiative en faisant confiance au contenu provenant de sources connues et en ayant un scepticisme certain à l’égard des informations non sollicitées. En réalité, c'est la seule contre-mesure que les faiseurs d'AI ne peuvent jamais vaincre: un esprit humain pointu et curieux.

Pour en savoir plus sur la technologie développée pour lutter contre la fraude et la tromperie, lisez Nouvelle arme pour combattre la fraude .

<! – Commentaires ->




Source link