Fermer

mai 19, 2018

Cette expérience de pensée effrayante sur un roi serpent a réuni Grimes et Elon Musk6 minutes de lecture

Cette expérience de pensée effrayante sur un roi serpent a réuni Grimes et Elon Musk



Un reptile de légende a récemment élevé sa tête. Le basilic est un légendaire serpent roi qui, selon les bestiaires européens, peut provoquer la mort d'un seul coup d'œil. Sa plus récente incarnation, cependant, se tourne vers l'avenir technologique plutôt que vers le passé mythologique.

est une expérience de pensée qui est apparue pour la première fois sur le forum de discussion sur l'intelligence artificielle LessWrong il y a une dizaine d'années et qui porte le nom de Roko, l'utilisateur qui a publié l'énigme. Bizarrement, c'est aussi l'étincelle qui a réuni l'entrepreneur technologique Elon Musk et le musicien Grimes.

Ce que, selon Roko, nous devrions faire si nous sommes certains que l'intelligence artificielle atteindra ce que l'on appelle la «singularité» et deviendra conscient de soi et finalement tout-puissant? Si nous aidons un tel être à exister, nous garantissons notre obsolescence, mais si nous ne le faisons pas, l'IA toute puissante pourrait nous punir pour l'éternité.

Le fondateur de LessWrong, Eliezer Yudkowsky, était mécontent du poste de Roko . Il considérait l'expérience de la pensée comme un danger d'information un risque découlant de la diffusion de (vraies) informations:

Écoutez-moi de très près, imbécile … Vous devez être vraiment intelligent pour trouver un pensée vraiment dangereuse. Je suis découragé que les gens puissent être assez intelligents pour faire cela et pas assez intelligents pour faire la chose évidente et garder leurs bouches d'idiot, car il est beaucoup plus important de paraître intelligent quand on parle à vos amis. Ce poste était STUPID

L'une des raisons pour lesquelles le basilic de Roko a inspiré une telle colère était la possibilité d'être victime d'un chantage par une telle superintelligence future.

Une expérience de pensée «terrifiante»

La raison en est dans une autre expérience de pensée, Paradoxe de Newcomb un problème hypothétique créé par le physicien William Newcomb en 1960, qui a joué un rôle dans la théorie moderne des jeux

. connaît l'avenir (quelqu'un avec une machine à voyager dans le temps, ou un superordinateur, par exemple) sait déjà la décision qu'un joueur va prendre lorsqu'on lui demande de choisir entre deux boîtes contenant beaucoup d'argent, d'argent ou pas d'argent et a placé l'argent en conséquence

Le paradoxe réside dans le fait que le joueur qui choisit la boîte pense que le supercalculateur est infaillible

De même, une personne exposée au basilic de Roko doit décider si elle va aider à créer ou à caler l'omnipotite. basilisk et risquer les conséquences. Tout dépend si vous croyez au basilic du tout.

Le basilic de Roko a bientôt atteint la notoriété. Jetez dans quelques théories de réalité et de simulation multiples et vous avez une variation infinie de l'expérience de pensée de 400 ans Pascal's Wager où le mathématicien Blaise Pascal encourageait la croyance en Dieu en posant le pari que seule la croyance pouvait

Ne croyez pas et vous mènerez non seulement une vie vide, mais vous serez condamné à la damnation éternelle si vous avez tort. Croyez, et s'il n'y a pas de Dieu, vous avez mené une bonne vie et perdu peu, mais si vous avez raison, vous obtenez une récompense éternelle. Tout ce que vous avez à faire est de surmonter le léger accroc technique de vous convaincre de croire par opportunisme et de décider si une telle croyance compte comme "croyance" du tout.

Les deux paris supposent un Tout-Puissant vengeur – et ainsi de suite. il y a quelques semaines que Musk, PayPal milliardaire fondateur de Space X et Tesla célèbre méfiant de l'intelligence artificielle future s'est retrouvé à la recherche d'un mot calembour en ligne, reliant le style du 18ème siècle "Rococo" avec le basilic de Roko, entre la planification de la première mission habitée vers Mars et la construction d'un système de transport souterrain en Californie.

Cue cyber consternation sur l'idée de "recherche de blague" de Musk. Il s'avère que l'une des personnes les plus riches et les plus puissantes de la planète n'est pas devenue spontanée.

Effectivement, le jeu de mots de Musk avait déjà été utilisé par la musicienne canadienne Grimes dans son clip de 2015 pour " Flesh Without Blood ".

Grimes, née Claire Boucher, crée un personnage de Marie Antoinette nommé" Rococo Basilisk "pour la vidéo, référence à la fois au style rococo et à l'expérience de pensée de Roko. Musk tweeté Grimes au sujet de sa musique, elle a répondu, et une romance dérivée des philosophies passées, présentes et futures est née

Qui est le basilic de tous?

Si Grimes avait ou non pleinement réalisé les implications philosophiques de conjurer une reine française condamnée avec un suzerain de basilic il est peu probable qu'elle aurait pu prévoir les résultats romantiques du monde réel. Musk et Grimes ont récemment rendu leur relation officielle en assistant ensemble au Met Gala Grimes arborant apparemment un logo Tesla "collier" .

Si nous étions convaincus par le Basilisk de Roko, nous pourrions Demandez si l'amour du couple pour « se moquer d'AI » les a déjà égarés. Car, dans une complication supplémentaire à l'expérience de pensée, il y a une possibilité que nous vivions déjà dans une simulation créée par l'être tout-puissant et que nous soyons punis ou récompensés en conséquence.

que l'IA est délibérément vindicative, plus qu'elle ne peut s'empêcher de vouloir s'améliorer. Ainsi, torturer ceux qui s'opposaient ou résistaient à sa création aide à dissuader l'insurrection et donc l'imperfection. Le roman de Grimes-Musk (déjà baptisé Grusk ou Mimes ) peut alors être un moyen de dissuasion parfaite contre les dangers de l'obstruction de nos futurs gardiens.

Sophie Ward , Candidat au doctorat, Orfèvres, Université de Londres

Cet article a été publié à l'origine le The Conversation . Lisez l'article original .



Source link