Profil LinkedIn avec une photo générée par l'IA essayée par Schmooze avec des initiés DC

juin
14, 2019

3 min de lecture

Cette histoire a paru à l'origine dans PCMag

Spies pourrait utiliser des photos générées par AI pour créer des faux profils plus difficiles à détecter sur LinkedIn.

Les comptes fictifs sur les services de réseautage social ne sont pas nouveaux. Mais jeudi, l'Associated Press a relaté le cas curieux de "Katie Jones", une femme rousse de LinkedIn qui affirmait travailler dans un grand groupe de réflexion à Washington DC

Selon l'AP, le profil n'est pas juste un faux. La photo de la femme peut avoir été créée par un programme alimenté par AI . Les preuves peuvent être trouvées dans des incohérences petites, mais perceptibles, dans l'image.

Le mois dernier, mon attention a été attirée sur un élément suspect: un faux profil LinkedIn reliant des types de groupes de réflexion de Washington et de hauts responsables américains.

Même plus étrange: Son visage lui-même semblait être faux. https://t.co/yvZbK8RoQt pic.twitter.com/CY85RRznk8

– Raphael Satter @ RightsCon (@razhael) Le 13 juin 2019

Plusieurs experts en technologie ont déclaré à l'AP ils étaient convaincus que la photo de profil avait été créée par AI sur la base des failles communes entre les photos fabriquées par des réseaux accusatoires générés, ou GAN. Les chercheurs ont utilisé cette technologie pour montrer comment elle peut extraire des photos réalistes, mais finalement fausses, de personnes qui n'existent pas.

Pour créer les photos, les GAN modéliseront les faux visages à partir d'existants. des photos de vraies personnes. Essentiellement, les algorithmes d'intelligence artificielle sélectionnent différentes caractéristiques, telles que les coiffures, la forme des yeux et la bouche, et les fusionnent pour créer une personne entièrement nouvelle.

Mais le processus n'est pas parfait . Les processus d'intelligence artificielle peuvent parfois avoir du mal à rendre les artefacts autour du visage synthétique. Dans le cas du profil de Katie Jones, la photo montre une femme avec une étrange boucle d'oreille gauche qui semble être "floue ou" fondue ", a noté l'AP.

Pourtant, la photo elle-même semble assez réelle. L'AP a confirmé le Le compte de Katie Jones était un simulacre fondé non pas sur la photo, mais sur les références du profil LinkedIn, toutes fausses.

Le compte a maintenant disparu et il n'est pas clair si les espions du gouvernement sont réels. créé le profil de Katie Jones ou s’il s’agissait uniquement de fraudeurs. Mais le profil LinkedIn tentait de réseauter avec d’anciens responsables du gouvernement américain et des experts en politiques. Utiliser une photo générée par AI aurait permis au profil de résister aux recherches par images inversées qui permet souvent de déterminer si un faux compte a levé une image du compte d'une personne réelle.