Silicon Valley veut lire dans vos pensées – voici pourquoi vous devriez vous inquiéter

Non content de surveiller presque tout ce que vous faites en ligne Facebook souhaite également lire dans vos pensées. Le géant des médias sociaux a récemment annoncé une percée dans son plan visant à créer un appareil qui lit les ondes cérébrales des personnes pour leur permettre de dactylographier simplement en réfléchissant. Et Elon Musk veut aller encore plus loin. Une des autres sociétés du patron de Tesla, Neuralink, développe un implant cérébral pour connecter directement les esprits à un ordinateur

Musk admet qu'il s'inspire de la science-fiction. qu'il veut s'assurer que les humains peuvent "suivre" l'intelligence artificielle . Il semble avoir oublié la part de la science-fiction qui met en garde contre les implications de la technologie.

Ces systèmes de lecture de l'esprit pourraient affecter notre vie privée, notre sécurité, notre identité, notre égalité et notre sécurité personnelle. Voulons-nous vraiment tout ce qui reste aux entreprises qui ont des philosophies telles que celle de l'ancien mantra de Facebook, " avance rapidement et casse des choses "?

Bien qu'elles aient l'air futuristes, les technologies nécessaires pour créer des dispositifs de lecture des ondes cérébrales ne sont pas si différents des outils neuroscientifiques classiques de l’IRM (imagerie par résonance magnétique) et de l’EEG (électroencéphalographie) utilisés dans les hôpitaux du monde entier. Vous pouvez déjà acheter un kit pour contrôler un drone avec votre esprit aussi en utiliser un pour taper des mots ne représente, à certains égards, pas un si grand saut. L’avancée sera probablement due à l’utilisation du machine learning pour passer au crible d’énormes quantités de données collectées dans notre cerveau et trouver les modèles d’activité neuronale qui relient les pensées à des mots spécifiques.

Un implant cérébral prendra probablement beaucoup plus de temps. développer, et il est important de séparer les réalisations de Neuralink du battage médiatique et de la promotion. Mais Neuralink a simultanément apporté des améliorations aux matériaux pour électrodes et à la chirurgie assistée par robot pour les implanter, conditionnant parfaitement la technologie afin qu'elle puisse être lue via USB.

Les plans de Facebook et de Neuralink pourraient se développer pratique médicale établie. Mais lorsque les entreprises collectent leurs pensées directement auprès de nos cerveaux, les problèmes éthiques sont très différents.

Tout système pouvant collecter des données directement à partir de nos cerveaux comporte des risques évidents pour la vie privée. La vie privée concerne le consentement. Mais il est très difficile de donner un consentement approprié si quelqu'un puise directement dans nos pensées. Les sociétés (et les gouvernements) de la Silicon Valley ont déjà recueilli subrepticement autant de données sur nous qu’elles pouvaient et les utilisaient d’une manière que nous l’avions plutôt . Comment pouvons-nous être sûrs que nos pensées aléatoires et personnelles ne seront pas capturées et étudiées parallèlement aux instructions que nous voulons donner à la technologie?

Discrimination et manipulation

L'un des problèmes éthiques existants en matière de collecte de données est discrimination fondée sur des attributs tels que le sexe ou la race qui peuvent être distingués à partir des données. En ouvrant une fenêtre sur l'esprit des gens, il serait plus facile de déterminer d'autres éléments qui pourraient constituer la base de préjugés, tels que la sexualité ou l'idéologie politique, ou même différentes façons de penser pouvant inclure des éléments tels que l'autisme.

Avec un système qui exploite à fond directement dans votre cerveau, non seulement vos pensées pourraient être volées, mais il est également possible de les manipuler. La stimulation cérébrale est déjà en cours de développement pour aider le traitement de l'ESPT et à réduire la violence . Il existe même des affirmations sensationnelles selon lesquelles il peut être utilisé pour télécharger directement des connaissances tout comme dans le film The Matrix.

Une étape prévisible consisterait à associer les technologies "in" et "out" pendant deux ans. -interface cerveau-ordinateur. La possibilité pour les gouvernements de nous rendre plus conformes, pour les employeurs de nous forcer à travailler plus dur, ou pour les entreprises de vouloir davantage de leurs produits, souligne à quel point nous devrions prendre au sérieux cette technologie.

Si les appareils de lecture de l'esprit deviennent le moyen habituel d'interagir avec les ordinateurs, nous n'aurons peut-être pas d'autre choix que de les utiliser pour suivre le rythme de collègues plus productifs. (Imaginez que quelqu'un postule aujourd'hui pour un travail de bureau mais refuse d'utiliser la messagerie électronique.) Et si les implants de style Neuralink devenaient la norme, cela pourrait également entraîner une plus grande inégalité, en fonction du niveau de kit que vous pourriez vous permettre d'installer.

Elon Musk a déclaré que l'énorme prêt nécessaire pour permettre une intervention chirurgicale avec Neuralink serait compensé par les gains potentiels des personnes «améliorées». L'idée de faire pression sur des personnes pour qu'elles contractent d'énormes dettes avant de pouvoir subir une intervention chirurgicale juste pour garder leur emploi vient tout droit d'une dystopie de science-fiction.

À tout cela s'ajoute la menace physique plus directe de voir nos systèmes envahir physiquement notre cerveau. . Bien que certaines personnes veuillent modifier leur cerveau avec une interface informatique (il existe déjà de nombreux biohackers expérimentaux ), leur déploiement à grande échelle nécessiterait des tests massifs et approfondis.

Etant donné les critères de Silicon Valley La réputation (et le penchant) de casser des choses plutôt que de s’arrêter pour les analyser, ces systèmes devront faire l’objet d’une réglementation stricte et d’un examen éthique avant même avant le début des essais . Sinon, cela risque de créer des cobayes humains mutilés.

Pour autant, la poursuite des recherches dans ce domaine pourrait présenter d’énormes avantages, en particulier pour les personnes souffrant de paralysie ou de troubles sensoriels. Mais la Silicon Valley ne devrait pas être en mesure de dicter la manière dont ces technologies sont développées et déployées. Si tel est le cas, il pourrait modifier radicalement la façon dont nous nous identifions en tant qu'être humain. Benjamin chercheur postdoctoral, École des arts médiatiques et de la technologie, Université Solent sous licence Creative Commons. Lisez l'article original .