Qu’est-ce que l’application Lensa AI – et est-elle dangereuse pour votre vie privée ?

Si vous avez fait défiler n’importe quelle plate-forme de médias sociaux cette semaine – en particulier Instagram – vous avez probablement vu une multitude de portraits numérisés partagés par des amis. Ils ont l’air animés, caricaturaux et surtout d’une beauté envoûtante.

Les portraits sont générés par une nouvelle application photo, Lensa AI, qui vise à rendre « vos selfies plus beaux que vous n’auriez jamais pu l’imaginer ».

Utilisations de l’objectif intelligence artificielle pour numériser des portraits dans une variété de catégories, de l’anime à la fantaisie à ce qu’ils appellent « élégant » – qui ressemble le plus à une peinture à l’huile sur un fond de couleur vive ou vierge. L’application elle-même est gratuite, mais les portraits ont un coût. Avec un « essai gratuit » de sept jours, les utilisateurs peuvent télécharger 10 à 20 selfies, puis sélectionner un ensemble d’avatars uniques, allant de 50 pour 3,99 $, 100 pour 5,99 $ ou 200 pour 7,99 $. Un abonnement d’un an coûte 35,99 $.

Cependant, la popularité de l’application a soulevé des questions concernant la confidentialité ainsi que la nature potentiellement dangereuse de l’édition d’applications et de filtres qui ont inondé les médias sociaux depuis la création de Snapchat en 2011, FaceTune en 2013, et finalement TIC Tac en 2016.

Il y a environ trois ans, New yorkais L’écrivain et auteur Jia Tolentino est célèbre pour avoir sévi contre le côté obscur des filtres de médias sociaux, mettant en lumière une tendance de plus en plus populaire en chirurgie esthétique chez les jeunes adultes visant à obtenir le « visage Instagram ».

Le « visage unique et cyborgien », elle écrit est bien sûr jeune. « Il a des yeux de chat et de longs cils caricaturaux; il a un petit nez net et des lèvres pleines et luxuriantes », poursuit-elle. « Il vous regarde timidement mais d’un air absent, comme si son propriétaire avait pris la moitié d’un Klonopin et envisageait de vous demander de vous rendre à Coachella en jet privé. »

Cependant, contrairement à d’autres filtres sur les réseaux sociaux et les applications de retouche photo comme FaceTune, Lensa n’essaie pas d’avoir l’air « réel », mais se penche plutôt sur un nouveau type de distorsion photo enracinée dans son caractère d’un autre monde.

J’ai essayé l’application moi-même et j’ai suivi les instructions avant de générer les portraits. Il nécessite un minimum de 10 photos (avec un maximum de 20) et montre des exemples de « bonnes » et « mauvaises » sélections. Une bonne sélection est un selfie de près qui met en valeur vos caractéristiques naturelles. Une mauvaise sélection est vous en vacances, un peu loin, mais toujours en train de regarder la caméra.

Une fois les photos sélectionnées, la technologie prend jusqu’à 20 minutes pour générer les portraits dans 10 styles : fantasy, fée princesse, focus, pop, stylé, anime, léger, kawaii, irisé et cosmique.

Lié: 3 façons dont l’intelligence artificielle transformera le monde en 2023

Les « portraits » me ressemblent, c’est indéniable, mais il y a quelque chose à la fois onirique et dystopique dans les similitudes et les différences. Lensa a capturé avec précision mes yeux verts et mes cheveux noirs. Ce qui était le plus troublant, c’est la précision avec laquelle il a capturé mon sourire quelque peu maladroit et bouche fermée qui est présent dans tant de mes photos et de la vie réelle.

Fabriqué avec Lensa AI

Cependant, la fille dans les portraits me ressemble dans le sens où, peut-être, quelqu’un pourrait me ressembler s’il me jouait dans un Hollywood film – elle est plus jeune, avec un nez plus étroit, des clavicules saillantes et des lèvres plus pulpeuses – en bref : elle est beaucoup plus belle. Une autre différence troublante était que malgré ma sélection de photos n’étant que des selfies du cou vers le haut, Lensa a soit animé mon corps pour qu’il soit étonnamment mince et plusieurs photos ont révélé un décolleté dans des hauts et des robes à licou, d’autres présentant des poses objectivement suggestives – ce que je n’ai réalisé que plus tard pourrait être considéré comme chanceux par rapport à ce que d’autres femmes ont obtenu de l’application.

Fabriqué avec Lensa AI

Melissa Heikkilä, journaliste senior au MIT Technology Review, a écrit sur les 100 avatars générés, 16 étaient seins nus et 14 autres l’avaient dans « des vêtements extrêmement maigres et des poses ouvertement sexualisées ».

Et Heikkilä n’est pas le seul. Zoe Sottile, journaliste pour CNN, a vécu une expérience similaire dans laquelle Lensa a généré des images sexuellement discordantes alors que ses photos téléchargées étaient entièrement habillées. « Dans l’une des images les plus désorientantes, on aurait dit qu’une version de mon visage était sur un corps nu », a-t-elle déclaré. écrit. « Sur plusieurs photos, on aurait dit que j’étais nu mais avec une couverture stratégiquement placée, ou l’image juste coupée pour cacher quoi que ce soit d’explicite. »

Cependant, en ce qui concerne les avatars masculins, les portraits respirent à la fois la masculinité et la force: générant des hommes en tant que guerriers, astronautes et quelque chose ressemblant à une séance photo sur le thème de Top-Gun.

Après avoir généré mes propres avatars et lu des expériences similaires d’autres femmes, il est soudainement devenu clair pourquoi l’application, avant de générer vos portraits, exige que vous ayez « l’âge de la majorité (18/21+). »

L’entrepreneur a contacté Lensa AI pour un commentaire.

Lié: Les artistes sont « préoccupés par l’avenir de la créativité humaine » après l’utilisation de l’art généré par l’IA

Au-delà des éventuels soucis d’éthique et de sexualisation des femmes, l’appli pose intimité préoccupations pour les utilisateurs. Puisqu’il utilise la reconnaissance faciale pour générer les portraits, la question se pose de savoir combien de temps – et où – ces photos sont finalement stockées. Selon la politique de confidentialité de l’application, elle utilise la technologie API TrueDepth et les photos des utilisateurs « entraînent nos algorithmes à mieux fonctionner et à vous montrer de meilleurs résultats ».

Cependant, certains s’inquiètent de ce qu’il advient des données. « Voulez-vous vraiment que votre visage figure dans une grande base de données? Les gens doivent décider par eux-mêmes à ce sujet, mais ce n’est pas bénin, il n’y a rien à cela, ce n’est pas seulement amusant », Kerry Bowman, bioéthicien à l’Université de Toronto, a déclaré à CTV News.

Cependant, la société Tweeté que les images sont effacées du serveur après avoir été générées.

Dès que les avatars sont générés, les photos de l’utilisateur et le modèle associé sont définitivement effacés de nos serveurs. Et le processus recommencerait pour la prochaine demande.

– Laboratoires Prisma (@PrismaAI) 6 décembre 2022

Lensa AI a été lancé pour la première fois en 2018 en tant que produit de Prisma, qui fonctionnait comme une application de retouche photo et de filtrage avec la possibilité de transformer des images en œuvres d’art. Cependant, en novembre 2022, il a lancé la fonctionnalité « Magic Avatar » qui a balayé les médias sociaux et généré des images hautement partageables. Compte tenu de l’émergence récente de l’application, on ne sait toujours pas quelles sont les répercussions psychologiques et sur la vie privée de Lensa.

Le mois dernier, FaceTune a fait face à un recours collectif dans l’Illinois, affirmant que l’application collecte, stocke et utilise illégalement les données des consommateurs en violation de la loi sur la confidentialité des informations biométriques de l’Illinois (BIPA). Les plaignants sont trois parents de l’Illinois qui affirment que Lightricks (la société mère de FaceTune) a collecté les données biométriques de leurs enfants, âgés de 4, 10 et 13 ans.

Alors que Lensa maintient sa promesse de confidentialité, l’application est encore nouvelle, et donc beaucoup reste inconnue. En ce qui concerne les préoccupations quelque peu éthiques et psychologiques posées par de telles applications de retouche photo, une action en justice pourrait être délicate, car s’engager avec l’application, à la base, implique une sorte d’accueil de sa distorsion visuelle.

Lié: L’IA est-elle un risque pour la créativité ? La réponse n’est pas si simple

De la Commentaires pour Lensa sur l’App Store, la plupart sont extrêmement positifs – le louant comme le « meilleur du genre » ou un utilisateur disant qu’il « aime l’application » et continue de l’utiliser malgré des problèmes mineurs. Les plaintes les plus négatives concernent la limite de photos, les problèmes et le coût. D’autres plaintes concernent l’insatisfaction quant à la qualité de certaines photos, indiquant que dans certaines images, les yeux sont déformés ou que les membres ne semblent pas naturels. « J’ai des doigts qui ont l’air grotesques, des yeux mal colorés, ou un œil est plus gros que l’autre ou tombant, des visages déformés ou démembrés, ma tête soit coupée ou complètement absente sur les photos », écrit un autre utilisateur.

Donc, pour ceux qui recherchent une métamorphose de l’IA à l’aérographe, Lensa n’est peut-être pas l’application idéale après tout.