La reconnaissance faciale et l'IA envahiront la vie privée du public – mais cela peut être fait de manière éthique7 minutes de lecture

Nous vivons à une époque où nous avons un accès sans précédent à presque toutes les informations dont nous avons besoin. Avec l'émergence de nouvelles technologies comme l'intelligence artificielle (AI) la reconnaissance faciale, les mégadonnées, etc., l'expérience humaine est en train de changer pour toujours. Presque tout ce dont vous avez besoin est à portée de main; mais cet accès a un prix: des données pour des données. Une simple recherche en ligne peut sembler inoffensive, mais avant de vous en rendre compte, vous êtes bombardé de publicités vous offrant exactement ce que vous cherchiez. Comment cela fonctionne-t-il exactement?

En termes de base, la plupart du temps, lorsque vous utilisez une application technologique, vous divulguez souvent, sans le savoir, vos données personnelles, y compris votre âge, votre emplacement et votre sexe, entre autres. Ces données sont collectées et analysées puis utilisées pour personnaliser votre expérience en ligne. Par exemple, un article sur Watchblog explique comment vos habitudes d'achat en ligne sont surveillées en suivant les entreprises, ce qui conduit plus tard à de meilleures expériences en ligne personnalisées . Ces informations sont ensuite parfois vendues par ces sociétés de suivi à de plus grandes entités pour une utilisation future.

L'IA, bien que très utile, comporte un réel risque: la violation potentielle des droits de l'homme, en particulier de votre vie privée. Aujourd'hui, l'IA et la reconnaissance faciale sont utilisées pour générer ou extraire des informations personnelles sensibles ainsi que pour identifier et profiler des personnes. Avec des implications si énormes, le sujet même a provoqué un clivage sociétal – certains affirmant que l'IA et la reconnaissance faciale devraient être interdites complètement, et d'autres promulguant le monde des possibilités qu'elle ouvre aux humains, bien qu'avec un certain risque. [19659003] Lire: [ Les fausses déclarations de précision de Clearview AI augmentent les dangers de son logiciel de reconnaissance faciale ]

L'avantage

Soins de santé avancés

L'IA et la reconnaissance faciale offrent de nouvelles possibilités en matière de diagnostic et de traitement. Par exemple, l'IA permet de suivre et d'identifier les tendances dans les dossiers médicaux antérieurs et de relier ces informations à d'éventuelles options de diagnostic et de traitement. Comme indiqué dans un article sur Towards Data Science la reconnaissance faciale est actuellement utilisée dans les soins de santé pour dispenser les prescriptions d'un patient sur la base de leur scan biométrique du visage. Cela permet un système de collecte de médicaments plus efficace. Mais ce n’est pas tout: l’avenir de la reconnaissance faciale dans les soins de santé est très prometteur. Pour citer l'article «Certains fournisseurs de logiciels de reconnaissance faciale affirment que leurs produits peuvent aider à surveiller la pression artérielle ou les niveaux de douleur en identifiant les marqueurs faciaux clés, et cela pourrait s'avérer un outil utile à l'avenir pour les médecins et les utilisateurs finaux.»

Véhicules autonomes

La technologie de conduite a été l'une des premières arènes dans lesquelles l'IA s'est aventurée. Au cours des dernières décennies, il a permis la possibilité d'un régulateur de vitesse, d'un pilote automatique, d'un suivi de voie, d'une sécurité accrue du conducteur et de systèmes GPS. De nombreuses entreprises l'utilisent également pour accroître l'efficacité de la gestion des véhicules pour les propriétaires d'entreprise et encourager une conduite plus sûre et la productivité des travailleurs.

Cependant, avec l'introduction de véhicules autonomes la peur de la façon dont les voitures autonomes sont sûres et si le grand public peut faire confiance à un robot pour faire des choix sûrs et adaptés à la circulation. Alors que les avantages et les inconvénients des véhicules autonomes sont encore en suspens, il y a beaucoup à dire sur la façon dont les véhicules autonomes amélioreront la sécurité de la flotte commerciale surtout une fois que tous les bogues auront été résolus . Par exemple, les flottes de voitures autonomes sont susceptibles d'avoir des dispositifs de sécurité basés sur l'IA qui réduisent les accidents de voiture. Ces flottes autonomes utiliseront également un logiciel de suivi GPS avancé qui transférera des données à des organisations qui peuvent prendre des décisions commerciales concernant leurs déplacements, afin de fonctionner avec une productivité et une sécurité maximales.

Justice pénale

Partout dans le monde, les agences gouvernementales de sécurité et les entreprises utilisent l'IA et la reconnaissance faciale pour réduire la criminalité. Grâce à cette technologie, les responsables sont désormais en mesure d'identifier quoi que ce soit, de l'emplacement exact de la source d'un coup de feu au comportement criminel prédictif, aux schémas de fraude et aux zones et occasions sujettes à des activités criminelles. La quantité considérable de possibilités que cela ouvre aux forces de l'ordre pour évaluer et traiter correctement les criminels signifie des sauts et des limites pour la sécurité nationale et personnelle.

Ce ne sont là que quelques-uns des nombreux avantages de l'IA et de la technologie de reconnaissance faciale, en termes d'améliorer notre vie quotidienne et d'offrir plus de confort dans la société moderne.

L'inconvénient

Comme pour tout le reste, l'IA et la reconnaissance faciale ont leur juste part d'inconvénients.

D'une part, l'IA ne peut que glaner les connaissances dont elle a besoin pour fonctionner de manière optimale à partir d'un accès sans entrave aux données. Cela se traduit souvent par une cybersécurité limitée et des possibilités accrues pour les cybercriminels d'accéder à des informations sensibles. En fait, même des appareils ménagers apparemment sûrs comme les moniteurs pour bébé, les réfrigérateurs intelligents et les aides ménagères, tous menacent la sécurité en fournissant aux pirates un moyen d'infiltrer son espace personnel. [19659003] Le Journal of Ethics de l'AMA énumère en outre certaines des implications de l'IA et de la technologie de reconnaissance faciale, en termes de violation de la vie privée d'un utilisateur. Le consentement éclairé est l'un de ces problèmes, avec un besoin croissant de prestataires de soins de santé qui utilisent la reconnaissance faciale pour informer leurs patients sur les utilisations potentielles des données des patients.

Pour citer le journal, «En particulier, les patients pourraient ne pas être conscients que leurs images pourrait être utilisé pour générer des informations supplémentaires cliniquement pertinentes. Alors que les systèmes de FRT dans les soins de santé peuvent dépersonnaliser les données, certains experts sont sceptiques quant à la possibilité d'anonymisation réelle de ces données; d'un point de vue clinique et éthique, il est essentiel d'informer les patients sur ce type de risque. »

Deuxièmement, l'article de revue explore la question éthique des préjugés . En ce qui concerne le diagnostic basé sur la reconnaissance faciale, il existe une grande marge d'erreur de résultats biaisés, voire raciaux. Lorsque le pool de données pour l'IA et la reconnaissance faciale n'est pas racialement différent, les résultats peuvent également être biaisés par nature.

Ce problème est non seulement pertinent pour les soins de santé, mais il est également important en ce qui concerne l'utilisation de l'IA par le système de justice pénale et la reconnaissance faciale. Par exemple, considérons l'utilisation d'un système de reconnaissance faciale pour identifier les hommes gais . La technologie, citée dans l'AMA Journal of Ethics, «identifiait simplement le type d'habitudes de toilettage et de tenue vestimentaire stéréotypées associées aux hommes gais», illustrant comment les biais peuvent façonner les résultats de la reconnaissance faciale.

Un autre problème à considérer est le rôle du visage la reconnaissance et l'IA en matière de liberté démocratique. Comme indiqué dans l'article Towards Data Science, «Les principes de la liberté démocratique signifient avoir le droit de choisir, la liberté de rassembler et de partager des opinions. Malgré les nombreuses utilisations de la technologie de reconnaissance faciale, c'est un domaine qu'il enlève. » La reconnaissance faciale et l'IA permettent aux gouvernements d'espionner activement leurs citoyens, à leur insu et sous le couvert de protocoles de sécurité nationaux. Cela peut ressembler à une intrigue cinématographique dystopique, mais la réalité est que des technologies avancées comme celles-ci peuvent très facilement être utilisées pour des moyens moins qu'idéaux. C'est quelque chose dont nous devons être conscients avant de permettre à la technologie de pénétrer davantage dans certains aspects de notre vie quotidienne.

Comme indiqué ci-dessus, l'IA et la technologie de reconnaissance faciale présentent de nombreux avantages. Cependant, lorsqu'elles sont utilisées avec malveillance, ces technologies peuvent faire plus de mal que de bien. Il est donc vital que ces technologies soient mises en œuvre avec la plus grande prudence et tout en gardant à l'esprit les cadres éthiques concernant la confidentialité des utilisateurs. La notification, la demande de consentement et la protection adéquate de la vie privée et des données sont donc essentielles pour une utilisation réussie de l'IA et de la reconnaissance faciale à l'avenir.

Cette histoire est republiée de TechTalks , le blog qui explore comment la technologie résout les problèmes… et en crée de nouveaux. Aimez-les sur Facebook ici et suivez-les ici: