La « DARPA britannique » va construire des contrôleurs d’accès à l’IA pour des « garanties de sécurité »

Une unité britannique de R&D a dévoilé aujourd’hui une vision futuriste des « garanties quantitatives de sécurité » pour l’IA.

L’Agence de Recherche et d’Invention Avancée (ARIA) compare les garanties aux normes de sécurité élevées dans l’énergie nucléaire et l’aviation de passagers. Dans le cas de l’apprentissage automatique, les normes impliquent une garantie probabiliste selon laquelle aucun préjudice ne résultera d’une action particulière.

Au cœur du plan d’ARIA se trouve un « gardien » IA. Cette sentinelle numérique veillera à ce que les autres agents IA fonctionnent uniquement dans le cadre des garde-fous définis pour une application spécifique.

ARIA consacrera 59 millions de livres sterling à ce projet. D’ici la fin du programme, l’agence a l’intention de démontrer une preuve de concept évolutive dans un domaine. Les suggestions incluent équilibrage du réseau électrique et gestion de la chaîne d’approvisionnement.

S’il est efficace, le projet pourrait sauvegarder des applications d’IA à enjeux élevés, telles que l’amélioration des infrastructures critiques ou l’optimisation des essais cliniques.

Le programme est le fruit de l’idée originale de David « davidad » Dalrymple, qui a co-inventé la populaire crypto-monnaie Filecoin.

Dalrymple a également mené des recherches approfondies sur la sécurité technique de l’IA, ce qui a suscité son intérêt pour l’approche du gardien. En tant que directeur du programme d’ARIA, il peut désormais mettre sa théorie en pratique.

La garantie du gardien

Les gardiens d’ARIA s’appuiera sur des modèles scientifiques du monde et des preuves mathématiques. Dalrymple a déclaré que le concept combine des concepts commerciaux et académiques.

« Les approches explorées par les grandes sociétés d’IA reposent sur des échantillons finis et ne fournissent aucune garantie quant au comportement des systèmes d’IA lors du déploiement », a-t-il déclaré à TNW par courrier électronique.

« En attendant, si nous nous concentrons trop sur des approches académiques telles que la logique formelle, nous courons le risque d’essayer efficacement de créer des capacités d’IA à partir de zéro.

« L’approche du gardien nous offre le meilleur des deux mondes en ajustant les capacités de pointe en tant que moteur pour rouler à grande vitesse, mais sur les rails du raisonnement mathématique. »

Cette fusion nécessite une interdisciplinarité profonde collaboration – c’est là qu’ARIA entre en jeu.

La DARPA britannique ?

Créée l’année dernière, l’ARIA finance des recherches « à haut risque et à haute récompense ». La stratégie a suscité des comparaisons avec la DARPA, la L’unité de « science folle » du Pentagone.

Dalrymple a établi un autre parallèle avec la DARPA. Il compare le nouveau projet d’ARIA à Programme HACMS de la DARPA, qui a créé un quadricoptère inpiratable. Le projet a prouvé que la vérification formelle peut créer un logiciel sans bug.

« Les vulnérabilités peuvent être exclues, mais uniquement avec des hypothèses sur l’étendue et la rapidité des interventions qu’un attaquant peut effectuer sur l’incarnation physique d’un système », a déclaré Dalrymple.

Son plan s’appuie sur une approche approuvée par Yoshua Bengio, un informaticien renommé. Lauréat du prix Turing, Bengio a également appelé à « garanties quantitatives de sécurité. Mais il a été déçu par les progrès réalisés jusqu’à présent.

« Contrairement aux méthodes de construction de ponts, de médicaments ou de centrales nucléaires, les approches actuelles pour former des systèmes d’IA de pointe – les systèmes d’IA les plus performants qui existent actuellement – ne nous permettent pas d’obtenir des garanties de sécurité quantitatives d’aucune sorte », a écrit Bengio dans un article de blog l’année dernière.

Dalrymple a une chance de changer cela. Cela constituerait également un énorme coup de pouce pour ARIA, qui a attiré examen minutieux des politiciens.

Certains législateurs ont remis en question le budget d’ARIA. L’organisme a obtenu un financement de 800 millions de livres sterling sur cinq ans – une somme considérable mais une simple fraction d’autres organismes de recherche gouvernementaux.

ARIA peut également indiquer des économies potentielles à l’horizon. Un programme lancé le mois dernier vise à former des systèmes d’IA à 0,1% du coût actuel.

L’un des thèmes de la conférence TNW de cette année est Ren-AI-ssance : la renaissance alimentée par l’IA. Si vous souhaitez approfondir tout ce qui concerne l’intelligence artificielle, ou simplement vivre l’événement (et saluer notre équipe éditoriale), nous avons quelque chose de spécial pour nos fidèles lecteurs. Utilisez le code TNWXMEDIA à la caisse pour obtenir 30 % de réduction sur votre carte d’affaires, passe investisseur ou des packages de démarrage (Amorcer & Augmenter).