Nous devons traiter l'IA comme nos propres enfants – donc cela ne nous tuera pas

A êtes-vous prêt pour Skynet? Que diriez-vous de l'univers Holodeck-meets-Skynet de Westworld (retour le 15 mars sur HBO)? Qu'en est-il des synthés détruisant les colonies de Mars comme on le voit dans Picard ? Avec autant de fictions qui saignent les images apocalyptiques de l'intelligence artificielle (IA) qui ont mal tourné, nous allons examiner quelques scénarios possibles de ce qui pourrait réellement se produire dans la montée de l'intelligence artificielle.

Bien que de nombreux chercheurs et experts en informatique ne le soient pas inquiet, les nouvelles technologies nécessitent une évaluation des risques. Alors, quel est le risque que l'IA se détériore et se transforme en un épisode de Westworld? Le consensus est mitigé. Mais, certains scientifiques de haut niveau comme Elon Musk et feu Stephen Hawking ont sonné l'alarme il y a des années, et il y a des raisons de s'inquiéter.

Des décès ont déjà eu lieu et continueront de se produire à la fois à partir de robots et d'intelligence artificielle mais ceux-ci sont accidentels. Qu'il s'agisse de voitures autonomes, de bras robotisés à la chaîne de montage ou même de technologies plus anciennes comme les dysfonctionnements d'avion et d'automobile, les décès liés aux pannes technologiques nous accompagnent depuis plus d'un siècle.

Pour ma part, je salue notre nouveaux seigneurs robotiques

Beaucoup conviendraient que les avantages de la plupart des technologies existantes l'emportent sur le risque. La réduction de la mortalité humaine due à l'amélioration de la médecine, de la sécurité et d'autres domaines fait plus que compenser toute perte de vie.

La société fait beaucoup pour réduire les décès liés à la machine, comme les lois sur les ceintures de sécurité, mais l'avantage est si grand que la plupart sont prêts à accepter une perte de vie dans le cadre du coût. Pourtant, toute perte de vie est une tragédie, il y aura donc toujours une certaine inquiétude à mesure que chaque champ mûrit. La peur joue un rôle encore plus important.

Mais que se passe-t-il lorsque les décès ne sont plus accidentels? Si nous parlons de sabotage intentionnel et de programmes nuisibles, cette menace a toujours existé et ne disparaîtra jamais. Mais quelle est la probabilité que la vie artificielle puisse développer la sensibilité? Quelle est la probabilité que l'IA consciente de soi sorte de sa programmation d'origine et nuise intentionnellement aux gens?

La réponse courte est que la plupart des scientifiques croient que la sensibilité est possible, mais il faudra des humains pour la concevoir de cette façon . L'intelligence artificielle dépassera-t-elle la nôtre et développera-t-elle la capacité de penser par elle-même? En supposant qu'il le fasse, il doit encore franchir la prochaine étape pour nuire aux humains.

La plupart des peurs concernent les événements d'extinction de style Terminator. Je pense que ceux-ci, tout comme les préoccupations concernant la vie extraterrestre avancée sur d'autres planètes qui nous anéantissent, sont exagérés. Certains peuvent être en désaccord, mais les créatures intelligentes seront plus évoluées et comprendront des concepts supérieurs comme la coopération, la confiance et la synergie, de sorte qu'elles seront moins susceptibles de nous tuer.

Mais même si extinction à grande échelle [19659007] N'est pas envisageable, il est possible que des systèmes individuels, qu'ils soient en réseau ou isolés, puissent intentionnellement causer des dommages. C'est une conjecture, mais je soupçonne qu'une grande partie de cela pourrait provenir de l'auto-préservation, un peu comme soutenir un humain dans un coin. Mais cela est vrai de toute créature vivante, intelligente ou non.

Que nous soyons à base de carbone ou de silicium ne fait aucune différence fondamentale; nous devons chacun être traités avec le respect approprié.

– Arthur C. Clarke, 2010: Odyssey Two

Penser à des robots comme vos propres enfants

Quelle est la solution? Comment la société peut-elle limiter le risque associé à l'IA frauduleuse à plus petite échelle? La réponse réside dans un changement de perspective. Pourquoi les gens ont-ils encore des enfants? Ils sont capables de causer beaucoup de tort, mais nous le faisons quand même. Si nous commençons à penser à l'IA en tant qu'humain, une fois qu'ils ont atteint la sensibilité, alors il est plus facile d'avoir une idée de la solution.

Il arrivera un moment où la société devra évaluer l'IA pour la sensibilité . S'ils atteignent ce seuil, les tribunaux leur accorderont des droits. Nous devons nous y attendre et nous attendre à les observer, à les former et à les enseigner comme nous le faisons pour nos enfants. Cela se fera à travers la programmation, les lois et l'interaction humaine.

Une fois que la société comprendra cela, la plupart des entreprises et des développeurs mettront en place des garde-fous pour empêcher l'intelligence artificielle de devenir sensible afin de pouvoir l'utiliser sans ces restrictions. Mais je pense qu'il y aura des tests développés pour vérifier. Les gouvernements vont probablement réglementer les développeurs pour s'assurer que les gens sont des acteurs honnêtes.

Mais comme tout le reste, des échecs – intentionnels et accidentels – sont inévitables. D'ici peu, l'intelligence artificielle sera probablement suffisamment avancée pour développer la sensibilité. La question demeure si les humains seront assez intelligents pour éviter la domination de nos créations robotiques.

Cet article a été initialement publié le The Cosmic Companion par James Maynard, journaliste en astronomie, fan de café, science-fiction , films et créativité. Maynard écrit sur l'espace depuis l'âge de 10 ans, mais il n'est «toujours pas Carl Sagan». En outre, Roy Huff est l'auteur de cet article et est un auteur, scientifique et enseignant à succès. Optimiste. Apprenant à vie. Résident d'Hawaï, amateur de livres et fan de tout ce qui concerne la science-fiction et la fantaisie. En savoir plus sur royhuff.net. Liste de diffusion / podcast de The Cosmic Companion . Vous pouvez lire cette pièce originale ici .

Publié le 15 mars 2020 – 13h00 UTC