Les chercheurs de l'IA ont développé un filtre de confidentialité pour lutter contre la reconnaissance faciale

Une équipe de chercheurs de l'Université de Toronto a mis au point un algorithme qui protège les images de la reconnaissance faciale AI

What it: Les chercheurs Parham Aarabi et Avishek Bose ont développé l'IA pour défendre les photos. reconnaissance faciale, mais ce n'est pas un bouclier – c'est en fait un agent d'attaque.

Bose, un étudiant diplômé travaillant sur le projet, a déclaré EurekAlert :

L'IA disruptive peut "attaquer" net pour la détection du visage est à la recherche. Si l'IA de détection recherche le coin des yeux, par exemple, elle ajuste le coin des yeux pour les rendre moins perceptibles. Cela crée des perturbations très subtiles sur la photo, mais pour le détecteur, elles sont assez importantes pour tromper le système.

Comment ça marche: Les scientifiques ont développé un réseau de neurones qui utilise la reconnaissance faciale pour identifier les gens dans les images, puis ils ont fait un pour le tromper. Les deux réseaux rivalisent, apprennent les uns des autres et finissent par devenir un robuste système de reconnaissance anti-faciale.

Fondamentalement, l'algorithme déforme certains pixels de l'image et, presque indétectable aux humains, cette manipulation prive la reconnaissance faciale. de sa capacité à identifier précisément ce qui est dans l'image.

Pourquoi c'est important: Cela ne vous protégera pas de la reconnaissance faciale en temps réel qui capture votre image en public, mais cela pourrait vous donner un certain contrôle sur la quantité de données qui peuvent être glanées à partir des photos que vous avez mises en ligne. À la suite du scandale Cambridge Analytica il est évident que les mauvais acteurs utilisant l'IA peuvent récupérer une quantité incroyable d'informations sur un individu à partir de bases de données à la fois publiques et mises à la disposition des annonceurs

. jeter les déchets qui contiennent les informations de votre compte bancaire sans les déchiqueter en premier, vous pouvez considérer que chaque fois que vous téléchargez une image sur les réseaux sociaux, vous donnez des pages qui valent des données.

en Chine et aux États-Unis il n'y a jamais eu de plus grande nécessité pour de simples mesures de confidentialité qui pourraient être déployées à grande échelle.