La startup britannique Surf Security a lancé une version bêta de ce qu’elle prétend être le premier navigateur au monde doté d’une fonctionnalité intégrée conçue pour détecter les éléments générés par l’IA. contrefaçons profondes.
L’outil, disponible via le navigateur de Surf ou en tant qu’extension, peut détecter avec une précision allant jusqu’à 98 % si la personne avec laquelle vous interagissez en ligne est un véritable humain ou un IA imitation, a déclaré la société.
Cette entreprise de cybersécurité basée à Londres utilise une technologie de réseau neuronal « de niveau militaire » pour détecter les deepfakes. Le système utilise des modèles spatiaux d’état, qui détectent les clones générés par l’IA dans toutes les langues et tous les accents en analysant les images audio pour détecter les incohérences.
« Pour maximiser son efficacité, nous nous sommes concentrés sur la précision et la rapidité », a déclaré Ziv Yankowitz, CTO de Surf Security. Le réseau neuronal de l’outil est entraîné à l’aide de deepfakes créés par les principales plateformes de clonage vocal d’IA, a-t-il déclaré.
Le système dispose d’une fonction intégrée de réduction du bruit de fond pour clarifier l’audio avant le traitement. « Il peut détecter un son deepfake en moins de 2 secondes », a déclaré Yankowitz.
La nouvelle fonctionnalité est disponible pour les fichiers audio, y compris les vidéos en ligne ou les logiciels de communication tels que WhatsApp, Slack, Zoom ou Google Meet. Il vous suffit d’appuyer sur un bouton et le système vérifie si l’audio – enregistré ou en direct – est authentique ou généré par l’IA. Surf a déclaré qu’il ajouterait également à l’avenir la détection d’images AI à la boîte à outils du navigateur.
Les deepfakes sont un problème croissant
Les deepfakes, qui utilisent l’IA pour créer de faux fichiers audio ou vidéo convaincants, constituent une menace croissante.
Cette semaine encore, des chercheurs de la BBC ont découvert extraits audio deepfakes de David Attenborough ce son ne se distingue pas de la propre voix du célèbre présentateur. Divers sites Web et chaînes YouTube utilisent le deepfake pour lui faire dire des choses – sur la Russie, sur les élections américaines – qu’il n’a jamais dites.
Ce n’est que la pointe d’un vilain iceberg. Des deepfakes ont été utilisés pour permettre fraude à grande échelleinciter à des troubles politiques à travers fausses nouvelleset détruire les réputations en créant contenu faux ou préjudiciable.
Surf a déclaré avoir lancé le nouveau détecteur de deepfake pour aider à protéger les entreprises, les médias, la police et les militaires du monde entier contre le risque croissant de clonage de l’IA.
Cependant, la lutte contre les deepfakes est une bataille continue entre des humains utilisant des machines à des fins bénéfiques et d’autres humains utilisant des machines à des fins néfastes.
« Le logiciel de clonage vocal de l’IA devient de jour en jour plus performant », a admis Yankowitz. « Ainsi, comme toute cybersécurité, nous nous engageons à gagner une course aux armements en constante évolution. »
Surf prévoit de publier la version complète de son détecteur de deepfake au début de l’année prochaine.
Source link