Envie de rendre les robots plus humains? Essayez la bêtise artificielle

Bienvenue dans l'ère de l'IA. Nous avons également manqué l'annonce officielle, mais il est évident que c'est ce que nous sommes. Ce nouveau paradigme nécessite l'acceptation ou le refus d'une nouvelle marque de foi: l'intelligence artificielle générale (AGI).

. Quoi qu'il en soit, parlons de robots tueurs.

Il semble que le monde entier soit obsédé par l'AGI – l'idée qu'une machine pourrait devenir "vivante" ou "sensible". Au minimum, une AGI serait aussi performante qu'une humain dans n'importe quel domaine. En ce moment, ils ne sont pas plus vivants qu'un rock et pas plus "capables" qu'une calculatrice. Mais cela ne les empêche pas d'accomplir des exploits surhumains, grâce à l'IA régulière.

La peur, bien sûr, est que les machines deviendront intelligentes et se dresseront contre nous. Dans la vraie science fiction, ils décideraient probablement que la meilleure façon de protéger les humains – ou de sauver la planète, ou tout autre objectif obscur que nos suzerains peuvent avoir en tête – est de nous tuer tous. [19659002] C'est sombre, et il est évidemment possible de poursuivre le débat sur le sujet, mais supposons qu'AGI – une superintelligence – est possible et qu'il nous incombe, dès maintenant, de planifier le soulèvement imminent. Que diable pourrions-nous faire pour y mettre un terme?

Michaël Trazzi et Roman V. Yampolskiy, respectivement chercheurs de l'Université de la Sorbonne et de l'Université de Louisville, pensent que la solution consiste à introduire une stupidité artificielle dans le mélange. Oui, stupidité artificielle. Non, ils ne rigolent pas.

Souvent, les médias aiment bien saisir la science sensationnelle, mais il s'agit d'une étude légitime menée par des chercheurs sérieux. Voici un extrait du livre blanc :

On dit qu'une IA est rendue artificiellement stupide sur une tâche lorsque certaines limitations sont délibérément introduites pour correspondre à la capacité d'un humain à effectuer la tâche. Une intelligence générale artificielle (AGI) peut être rendue plus sûre en limitant sa puissance de calcul et sa mémoire, ou en introduisant de la stupidité artificielle sur certaines tâches. Nous étudions les limites intellectuelles humaines et formulons des recommandations sur les limites à mettre en œuvre pour créer une AGI sûre.

Les intellectuels parmi notre public peuvent se sentir insultés, les scientifiques définissant la «stupidité artificielle» comme rendant les robots aussi stupides. Mais les chercheurs ne choisissent personne – c'est une préoccupation logique.

La vérité est que les machines sont déjà plus performantes que les humains dans de nombreuses tâches. Et, si votre marque particulière de foi moderne vous permet de croire en l’AGI, alors nous pouvons supposer que l’élargissement de leurs capacités déjà surhumaines conduirait à une véritable surintelligence. Nous serions tout de suite désavantagés de contester quoi que ce soit un tel être choisi.

Selon les chercheurs:

Les hommes ont des contraintes de calcul évidentes (mémoire, traitement, vitesse d'horloge) et ont développé des biais cognitifs. Une intelligence générale artificielle (AGI) n'est a priori pas contrainte par de telles limites computationnelles et cognitives.

L'une des manières d'inhiber AGI, propose l'équipe, consiste à intégrer des contraintes matérielles. Mais les scientifiques réalisent qu'un ordinateur super intelligent peut commander plus de puissance en ligne grâce au cloud computing, en achetant du matériel et en le faisant expédier, ou simplement en manipulant un humain stupide pour le faire.

coder en dur une règle ou une loi; "Tu ne te perfectionneras pas ni ton code", ou quelque chose comme ça. Mais qu'est-ce qui empêche notre IA intelligente de la force brute de la changer ou de pousser un humain à le faire? Ils ont pensé à cela aussi.

Mis à part nos limitations matérielles, il y a une chose majeure qui rend les humains vraiment, vraiment stupide: nos partis pris. L'équipe ajoute:

L'intégration de préjugés humains dans l'IAG présente plusieurs avantages: ils peuvent limiter l'intelligence de l'AGI et rendre fondamentalement plus sûre l'IAG en évitant les comportements pouvant nuire à l'homme.

qu'un réseau de neurones pourrait être délibérément codé avec ce qui le rendrait essentiellement trop stupide pour surpasser l'intelligence humaine. Nous ne les examinerons pas tous ici, mais vous pouvez lire le livre blanc de l'équipe sur l'arXiv ici .

L'équipe affirme que la stupidité artificielle ne nous protégera pas seulement de la menace de intelligence générale artificielle superintelligent, mais faire de l'intelligence artificielle, en général, plus humaine.

Quand il s'agit d'AGI: Tout ce que vous pouvez faire, l'IA peut faire mieux. Mais la bonne dose de stupide devrait maintenir le niveau de jeu.