« Nous pourrions perdre de manière irréversible le contrôle de l’IA autonome », préviennent d’éminents universitaires

Les lettres ouvertes mettant en garde contre les risques de l’IA s’accumulent – les meilleurs technologues et chercheurs tirent la sonnette d’alarme. développement incontrôlableen appuyant menaces existentielleset le manque de réglementation.

Aujourd’hui, juste une semaine avant le sommet de l’IA à Londres, un nouvelle lettre appelle les entreprises et les gouvernements à garantir une utilisation sûre et éthique de l’IA. Parmi les signataires figurent un certain nombre d’universitaires européens, trois lauréats du prix Turing et même les soi-disant parrains de l’IA, Yoshua Bengio et Geoffrey Hinton.

Ce n’est pas un hasard si, en mai dernier, Hinton quitter Google parler librement des dangers imminents de intelligence artificielle. Pour ajouter à l’ambiance dystopique, un mois plus tôt, Elon Musk averti que l’IA pourrait conduire à la « destruction de la civilisation » et Sundar Pichai de Google admis les dangers « gardent [him] debout la nuit. »

Dans la lettre publiée mardi, les signataires soulignent que même si les capacités de la technologie peuvent avoir un impact extrêmement positif sur l’humanité, le manque d’investissement dans la sécurité et l’atténuation des dommages pourrait avoir un impact négatif sur l’humanité. effet exactement inverse.

Le <3 de la technologie européenne

Les dernières rumeurs sur la scène technologique européenne, une histoire de notre sage vieux fondateur Boris et un art de l’IA discutable. C’est gratuit, chaque semaine, dans votre boîte de réception. S’inscrire maintenant!

Ils ont noté que l’IA a déjà dépassé les capacités humaines dans certains domaines, avertissant que « des capacités et des comportements imprévus » pourraient apparaître sans programmation explicite.

« Sans suffisamment de prudence, nous pourrions perdre de manière irréversible le contrôle des systèmes d’IA autonomes, rendant ainsi l’intervention humaine inefficace », peut-on lire dans la lettre. Cela pourrait conduire à une série de dangers inquiétants et croissants, allant de la cybercriminalité et de la manipulation sociale à la perte à grande échelle de la biosphère et… à l’extinction.

Face à l’enjeu, les signataires appellent les entreprises à consacrer au moins un tiers de leur budget R&D à la sécurité et à l’éthique de l’IA. Ils exhortent également les gouvernements à appliquer les normes et réglementations et à faciliter la coopération internationale afin de prévenir les imprudences et les abus.

L’UE à venir Loi sur l’IA Il s’agira du premier règlement au monde spécifique à l’IA qui cherchera à établir un ensemble clair de règles sur le développement de la technologie. Mais malgré les avertissements, le secteur des affaires a exprimé différentes préoccupationscraignant que la réglementation n’étouffe l’innovation.

En effet, trouver la frontière ténue entre la réglementation de l’IA et le progrès semble être l’un des plus grands défis auxquels les gouvernements sont aujourd’hui confrontés. Mais la difficulté présentée ne signifie pas (et ne devrait pas) signifier que la sécurité et la gouvernance sont d’une importance secondaire.

« Pour orienter l’IA vers des résultats positifs et éviter la catastrophe, nous devons nous réorienter. Il existe une voie responsable, si nous avons la sagesse de la suivre », concluent les universitaires.