L’IA est bien plus dangereuse que l’informatique quantique

Vivek Wadhwa et Mauritz Kop ont récemment rédigé un éditorial exhortant les gouvernements du monde entier à devancer la menace posée par la technologie émergente connue sous le nom d’informatique quantique. Ils sont même allés jusqu’à intituler leur article «Pourquoi l’informatique quantique est encore plus dangereuse que l’intelligence artificielle.”

À l’avant : celui-ci reçoit un très respectueux dur-désaccord de moi. Même si je crois que l’informatique quantique constitue une menace existentielle pour l’humanité, mes raisons diffèrent énormément de celles proposées par Wadhwa et Kop.

Indiquer

Wadhwa et Kop ouvrent leur article avec une description des échecs de l’IA, de son utilisation abusive potentielle et de la façon dont le récit des médias a exacerbé le danger de l’IA avant qu’il ne s’installe sur une piste puissante :

L’incapacité du monde à maîtriser le démon de l’IA – ou plutôt les technologies rudimentaires se faisant passer pour telles – devrait servir d’avertissement profond. Il existe une technologie émergente encore plus puissante avec le potentiel de faire des ravages, surtout si elle est combinée avec l’IA : l’informatique quantique. Nous devons de toute urgence comprendre l’impact potentiel de cette technologie, la réglementer et l’empêcher de tomber entre de mauvaises mains avant qu’il ne soit trop tard. Le monde ne doit pas répéter les erreurs qu’il a commises en refusant de réglementer l’IA.

L’article du duo décrit ensuite la nature des ordinateurs quantiques et l’état actuel de la recherche avant de s’arrêter sur son prochain point important :

Compte tenu de la portée et des capacités potentielles de la technologie quantique, il est absolument crucial de ne pas répéter les erreurs commises avec l’IA – où l’échec de la réglementation a donné au monde un biais algorithmique qui hyperalimente les préjugés humains, les médias sociaux qui favorisent les théories du complot et les attaques contre les institutions de une démocratie alimentée par de fausses nouvelles et des publications sur les réseaux sociaux générées par l’IA. Les dangers résident dans la capacité de la machine à prendre des décisions de manière autonome, les failles du code informatique entraînant des résultats imprévus, souvent préjudiciables.

Ils décrivent également le problème des normes de cryptage actuelles et le besoin d’une technologie résistante au quantum et de nouvelles normes pour empêcher que les secrets d’entreprise et nationaux ne soient exposés aux adversaires des États-Unis :

Les brevets, les secrets commerciaux et les droits de propriété intellectuelle connexes doivent être étroitement protégés – un retour au type de contrôle technologique qui était un élément majeur de la politique de sécurité pendant la guerre froide. Le potentiel révolutionnaire de l’informatique quantique élève à un niveau supérieur les risques associés au vol de propriété intellectuelle par la Chine et d’autres pays.

Enfin, l’article se termine par un appel à une législation de bon sens :

Les gouvernements doivent commencer de toute urgence à réfléchir aux réglementations, aux normes et aux utilisations responsables – et apprendre de la manière dont les pays ont géré ou mal géré d’autres technologies révolutionnaires, notamment l’IA, la nanotechnologie, la biotechnologie, les semi-conducteurs et la fission nucléaire.

Contrepoint

J’ai beaucoup écrit sur l’informatique quantique. Je crois qu’il a le potentiel d’être la technologie la plus transformatrice de l’histoire. Mais la menace qu’il représente est, à mon avis, plus étroitement liée à celle de la fusion que, disons, un couteau.

Comme le soulignent Wadhwa et Kop, l’échec total du gouvernement américain à établir ne serait-ce qu’un minimum de réglementations ou de politiques centrées sur l’humain concernant l’utilisation abusive de l’IA a abouti à un environnement de développement où les préjugés sont non seulement acceptables, mais c’est une évidence.

Mais aucune surveillance gouvernementale et aucune application des politiques ne changeront le fait que toute personne ayant accès à Internet et ayant la volonté de réussir peut créer, former et déployer des modèles.

Il est un peu plus difficile de construire un ordinateur quantique fonctionnel capable d’effectuer des tâches de décryptage contradictoires.

Wadhwa et Kop ont absolument raison dans leurs appels à une certaine réglementation – bien que je sois farouchement opposé à l’idée que les États-Unis, ou n’importe quel pays, devraient de quelque manière que ce soit « revenir au type de contrôle technologique qui était un élément majeur de la politique de sécurité pendant la guerre froide» en matière d’informatique quantique. La physique n’est pas un secret commercial ou militaire.

Chiffrement, par sa nature même, n’exige pas le secret. Et les ordinateurs quantiques, malgré tout l’espoir qu’ils représentent, ne promettent que d’accélérer les choses. Le monde est prend déjà des mesures à atténuer la menace du décryptage quantique.

La vérité est que l’IA et l’informatique quantique représentent une menace aussi grande que la capacité de l’humanité à les utiliser pour le mal.

À l’heure actuelle, des milliards d’humains sont activement manipulés par des algorithmes biaisés dans tous les secteurs imaginables, allant des médias sociaux et de la recherche d’emploi aux soins de santé et à l’application de la loi.

Comme mentionné précédemment, toute personne disposant d’un accès à Internet et ayant la volonté de réussir peut apprendre à créer et à déployer des modèles d’IA.

Il en coûte des millions, voire des milliards, pour construire un ordinateur quantique. Et les entreprises et les laboratoires qui les construisent sont déjà confrontés un environnement réglementaire beaucoup plus strict aux États-Unis que leurs homologues utilisant uniquement l’apprentissage automatique.

Quant aux dommages potentiels que les ordinateurs quantiques pourraient causer ? Outre les préoccupations de la paire concernant le cryptage quantique, il semble que leur principale préoccupation soit que les ordinateurs quantiques exacerbent les problèmes existants avec des inégalités et des biais algorithmiques.

À cela, je dirais que les ordinateurs quantiques représentent notre plus grand espoir de se libérer du paradigme « conneries dedans, conneries dehors » dans lequel l’apprentissage en profondeur a aspiré tout le domaine de l’intelligence artificielle.

Au lieu de s’appuyer sur des piles de GPU de la taille d’un mur pour faire des déductions par force brute à partir de seaux de données non étiquetées de la taille d’un bac à porc et d’espérer que la côte de bœuf et le filet mignon sortiront de l’autre côté, les ordinateurs quantiques pourraient ouvrir de toutes nouvelles méthodes de calcul pour traiter avec de plus petits lots de données de manière plus efficace.

Addition

Je pense que la « menace » de l’IA aurait pu être quelque peu atténuée par une réglementation plus stricte (il n’est jamais trop tard pour les États-Unis et d’autres acteurs suivre l’exemple de l’UE). Mais l’accessibilité de la technologie de l’IA en fait une menace claire et actuelle pour chaque être humain sur Terre.

La technologie informatique quantique est sur le point de nous aider à résoudre bon nombre des problèmes créés par le « l’échelle est tout ce dont vous avez besoin » foule.

En fin de compte, je pense qu’il s’agit de mettre la bonne technologie entre les bonnes mains au bon moment. L’intelligence artificielle est un couteau, c’est un outil qui peut être utilisé pour le bien ou le mal par à peu près n’importe qui. L’informatique quantique est comme la fusion, elle pourrait potentiellement causer des dommages massifs à une échelle sans précédent, mais le coût d’entrée est suffisamment élevé pour empêcher la grande majorité des habitants de la planète d’y accéder.

Historiquement parlant, cela n’a aucun sens de condamner la fusion ou l’informatique quantique sur la base d’hypothétiques choses qui pourraient mal tourner – où serions-nous sans l’énergie nucléaire ? L’appel à une plus grande surveillance et à une réglementation de bon sens est nécessaire, mais la confusion avec la technologie de l’IA semble injustifiée.

L’IA est clairement dangereuse, et c’est là que je pense que les organismes de réglementation, les médias et le grand public devraient concentrer leurs préoccupations.