Les chercheurs ont développé une IA pour détecter DeepFakes

Une équipe de chercheurs de l'Université d'État de New York (SUNY) a récemment mis au point une méthode permettant de détecter si les personnes d'une vidéo sont générées par l'IA. On dirait que DeepFakes pourrait répondre à son appariement

Ce que cela signifie: Peur de savoir si les ordinateurs seront bientôt capables de générer des vidéos impossibles à distinguer des images réelles peut faire beaucoup de bruit, du moins avec les méthodes actuellement disponibles

L'équipe de SUNY a observé que la méthode de formation pour créer de l'IA qui fabrique de fausses vidéos consiste à lui donner des images – et non de la vidéo. Cela signifie que certaines bizarreries physiologiques humaines – comme respirer et clignoter – n'apparaissent pas dans les vidéos générées par ordinateur. Ils ont donc décidé de construire une IA qui utilise la vision par ordinateur pour détecter le clignotement de fausses vidéos

The big deal: DeepFake est une méthode d'apprentissage en profondeur qui permet de remplacer le visage d'un personne dans une vidéo avec quelqu'un d'autre. Lors de sa sortie au public l'année dernière, il a été immédiatement utilisé pour exploiter les gens à travers la création de fausses pornographies mettant en scène des célébrités collées sur des corps d'acteurs de films adultes.

Jusqu'à présent, la détection de ces vidéos était une question d'expertise personnelle. Si vous savez ce qu'il faut rechercher, vous pouvez raisonnablement déterminer qu'une vidéo a été falsifiée. Mais le potentiel d'exploitation dangereuse existe toujours. En outre, la technologie utilisée pour créer de fausses vidéos continue de croître à un rythme alarmant. Les experts pensent que nous atteindrons un point où la seule façon de déterminer si une vidéo a été générée par l'IA sera l'utilisation d'outils de détection avancés.

Quelle est la prochaine étape: Nous sommes certains que quelqu'un fera une IA cela peut générer de fausses vidéos avec des humains qui clignotent. Et puis une équipe de recherche va devoir trouver comment la battre.

Heureusement, l'équipe SUNY a déjà des plans en place pour construire un détecteur plus robuste qui cherchera des choses comme le pouls et la respiration, ainsi que plus avancé.

Lire la suite:

Nintendo ressuscite deux de ses plus anciens titres d'arcade pour le Switch