5 véritables menaces d'IA qui font que The Terminator ressemble à un flic de la maternelle

Il. Jamais. Échoue. Chaque fois qu'un article d'IA parvient sur les réseaux sociaux, des centaines de personnes invoquent le spectre terrifiant de "SKYNET". ]Terminator franchise de films. C'était une vision effrayante de l'avenir de l'IA jusqu'à ce que l'apprentissage en profondeur arrive et que la grande technologie décide de retirer sa ceinture métaphorique et nous donne vraiment de quoi pleurer.

Au moins les gens qui combattent les robots dans Les franchises de films Terminator affrontent un méchant qu'elles peuvent voir et sur lesquelles elles peuvent tirer. Dans la vraie vie, vous ne pouvez pas frapper un algorithme.

Et cela rend difficile d'expliquer pourquoi, sur la base de ce qui se passe maintenant, le futur réel pourrait être encore plus effrayant que celui de ces films de robots tueurs.

Heureusement, nous avons des experts tels que Kai Fu Lee et Chen Qiufan, dont le nouveau livre, AI 2041: Ten Visions of our Future tente de prédire ce que les machines feront au cours des deux prochaines décennies. Et, sur la base de cette interview il y a une merde effrayante qui se dirige vers nous.

Selon Lee et Qiufan, les plus grandes menaces auxquelles les humains sont confrontés en ce qui concerne l'IA impliquent son influence, son manque de responsabilité ou d'explicabilité, son parti pris inhérent et explicite, son utilisation comme matraque contre la vie privée et, oui, les robots tueurs – mais pas le genre auquel tu penses.

Les Facebook

Si nous voulons donner la priorité à une liste de menaces existentielles pour la race humaine, nous devrions probablement commencer par la pire de toutes : les médias sociaux.

L'existence même de Facebook est un danger pour l'humanité. Il représente une entité commerciale avec plus de pouvoir que l'organe directeur de la nation dans laquelle il est incorporé.

Le gouvernement américain n'a pris aucune mesure significative pour réglementer l'utilisation de l'IA par Facebook. Et, pour cette raison, des milliards d'humains à travers la planète sont exposés chaque jour à des algorithmes de recommandation manifestement nocifs.

L'IA de Facebook a plus d'influence sur l'humanité que toute autre force dans l'histoire. Le réseau social compte plus d'utilisateurs mensuels actifs que le christianisme.

Il serait myope de penser que des décennies d'exposition aux réseaux sociaux, malgré des centaines de milliers d'études nous avertissant des véritables méfaits, n'auront pas un impact majeur sur notre espèce.

Que ce soit. dans 10, 20 ou 50 ans, les preuves semblent indiquer que nous vivrons jusqu'à regretter d'avoir tourné notre attention vers une entité mathématique qui est plus bête qu'un escargot .

Les Amazones

La prochaine menace sur notre tour-de-IA-horreurs est le monde fascinant de la technologie anti-vie privée et la dystopie cauchemardesque vers laquelle nous nous dirigeons en tant qu'espèce.

La bague d'Amazon est le parfait rappel que, pour une raison quelconque, l'humanité est profondément investie pour se tirer une balle dans le pied à chaque occasion possible.

S'il y a une chose sur laquelle presque toutes les nations libres de la planète sont d'accord, c'est que les êtres humains méritent un minimum d'intimité .

Les caméras de sonnette annulent cette intimité et donner à la fois au gouvernement et à une entreprise d'un billion de dollars un point de vue de voisin sur tout ce qui se passe dans chaque quartier du pays.

La seule chose qui empêche Amazon ou le gouvernement américain d'exploiter les données dans les compartiments où toutes ces séquences vidéo Ring sont stockées est leur parole .

Si jamais il devient lucratif d'utiliser nos données ou de les vendre. Ou un changement politique donne au gouvernement américain le pouvoir d'envahir notre vie privée qu'il n'avait pas auparavant, nos données ne sont plus en sécurité.

Mais ce n'est pas seulement Amazon. Nos voitures seront bientôt équipées de caméras connectées au cloud censées surveiller les conducteurs pour des raisons de sécurité. Nous avons déjà des microphones actifs à l'écoute dans tous nos appareils intelligents.

Et nous sommes sur le point de intégrer les interfaces cerveau-ordinateur . Le chemin vers les appareils portables qui envoient des données directement de votre cerveau aux serveurs des grandes technologies est pavé de bonnes intentions et d'une IA horrible.

La prochaine génération de technologies de surveillance, d'appareils portables et de compagnons d'IA pourrait éradiquer l'idée de confidentialité personnelle.

Les Googles

La différence entre être le premier résultat d'une recherche Google ou se retrouver en bas de page peut coûter des millions de dollars aux entreprises. Les moteurs de recherche et les agrégateurs de flux de médias sociaux peuvent tuer une entreprise ou couler une actualité.

Et personne n'a voté pour donner à Google ou aux algorithmes de recherche d'une autre entreprise ce genre de pouvoir, c'est juste arrivé. le biais est notre biais. Le parti pris d'Amazon détermine les produits que nous achetons. Les préjugés de Microsoft et d'Apple déterminent les nouvelles que nous lisons.

Nos médecins, politiciens, juges et enseignants utilisent les moteurs de recherche Google, Apple et Microsoft pour mener des affaires personnelles et professionnelles. Et les préjugés inhérents à chaque produit dictent ce qu'ils font et ne voient pas.

Les flux de médias sociaux déterminent souvent non seulement les articles d'actualité que nous lisons, mais aussi les éditeurs d'actualités auxquels nous sommes exposés. Presque chaque facette de la vie moderne est promulguée d'une manière ou d'une autre via un biais algorithmique. la vérité que nos algorithmes ont décidé pour nous.

Blâmer les algorithmes

L'IA n'a pas à faire quoi que ce soit pour nuire aux humains. Tout ce qu'il a à faire est d'exister et de continuer à être déroutant pour le grand public. Tant que les développeurs pourront faire passer l'IA de la boîte noire comme un moyen d'automatiser la prise de décision humaine, le sectarisme et la discrimination auront un foyer dans lequel s'épanouir.

Il y a certains des situations où nous n'avons pas besoin de l'IA pour s'expliquer.Mais lorsqu'une IA est chargée de prendre une décision subjective, en particulier celle qui affecte les humains, il est important que nous puissions savoir pourquoi elle fait les choix qu'elle fait.[19659008]C'est un gros problème lorsque, par exemple, l'algorithme de YouTube fait apparaître du contenu pour adultes sur des comptes d'enfantscar les développeurs responsables de la création et de la maintenance de ces algorithmes n'ont aucune idée de la raison pour laquelle cela se produit.

Mais et s'il n'y avait pas de meilleure façon d'utiliser l'IA de la boîte noire ? Nous nous sommes retrouvés dans un coin – presque toutes les grandes entreprises technologiques ouvertes au public sont alimentées par une IA de type boîte noire, et presque toutes sont nocives. Mais s'en débarrasser peut s'avérer encore plus difficile que de sortir l'humanité de sa dépendance aux combustibles fossiles – et pour les mêmes raisons. centre d'un certain nombre de catastrophes potentielles impliquant l'intelligence artificielle et la perte de vies humaines.

Assassinats

La dernière menace et peut-être la moins dangereuse (mais la plus évidente) pour notre espèce dans son ensemble est celle des drones tueurs. Notez que ce n'est pas la même chose que les robots tueurs.

Il y a une raison pour laquelle même l'armée américaine, avec son vaste budget, n'a pas de robots tueurs. Et c'est parce qu'ils sont inutiles quand on peut juste automatiser un char ou monter un fusil sur un drone.

La vraie menace robot tueur est celle que des terroristes accèdent à de simples algorithmes, des drones simples, des armes simples et une technologie avancée de contrôle des essaims de drones. l'avenir de la guerre car, entre pays, cela peut créer des ravages et des dommages, mais peut-être, de manière anonyme et les gens ne savent pas qui a commis l'attaque.

C'est donc aussi assez différent de la course aux armements nucléaires, où [the] nucléaire la course aux armements intègre au moins la dissuasion. Que vous n'attaquiez pas quelqu'un par peur de représailles et d'anéantissement.

Mais les armes autonomes pourraient être faisables comme attaque surprise. Et les gens pourraient même ne pas savoir qui l'a fait. Donc, je pense que c'est, de mon point de vue, le plus grand danger ultime dont je peux faire partie. Et nous devons être prudents et trouver comment l'interdire ou le réglementer.