Ébloui par les grandes technologies, le sommet britannique sur l’IA néglige les grandes questions

Les dirigeants mondiaux et les titans de la technologie se rendent actuellement dans le sud de l’Angleterre pour un sommet sur la sécurité de l’IA, mais cet événement tape-à-l’œil n’impressionne pas tout le monde.

Au cours des deux prochains jours, une centaine de gros bonnets assisteront à l’événement dans le cadre historique Bletchley Park, un domaine de campagneà environ 90 km au nord de Londres. Pendant Pendant la Seconde Guerre mondiale, le site abritait les décrypteurs qui ont déchiffré le célèbre dispositif de cryptage Enigma de l’Allemagne nazie. Quelque 80 ans plus tard, le gouvernement britannique veut montrer que le Royaume-Uni est toujours une superpuissance technologique – mais ces projets ont suscité l’inquiétude.

Les critiques ont diverses préoccupations. Ils craignent que les organisateurs du sommet soient fascinés par les « frontières » IA», des noms célèbres et des craintes lointaines, tout en négligeant des questions plus urgentes et plus inclusives.

Un ajout tardif et spectaculaire au programme a éveillé leurs soupçons. Lundi, le Premier ministre Rishi Sunak a révélé qu’il serait « en conversation » avec Elon Musk sur X.

Le

Les dernières rumeurs sur la scène technologique européenne, une histoire de notre sage vieux fondateur Boris et un art de l’IA discutable. C’est gratuit, chaque semaine, dans votre boîte de réception. S’inscrire maintenant!

Musk ajoute encore plus d’éclat à un étoilé liste des invités.

Parmi les invités figurent plusieurs poids lourds politiques, dont La vice-présidente américaine Kamala Harris, la présidente de la Commission européenne Ursula von der Leyen, le secrétaire général de l’ONU Antonio Guterres et le vice-ministre chinois Wu Zhaohui.

Sont également présents divers titans de la technologie, tels que le président de Microsoft Brad Smith, le PDG d’OpenAI Sam Altman et le chef de Meta AI Yann LeCun. Mais l’événement ne s’adresse pas à tout le monde.

« Ma crainte est que le sommet se concentre sur les menaces existentielles qui feront la une des journaux.

Une grande partie du secteur technologique estime que seuls les géants industriels et les dirigeants politiques seront assis à la table de conférence de Sunak.

Le Dr Hector Zenil, fondateur de la startup de soins de santé Oxford Immune Algorithmics, craint que l’événement ne soit dominé par l’IA générative et les grandes technologies. Il a demandé à Sunak de impliquent un plus grand équilibre entre la représentation commerciale et académique.

« Si l’on veut considérer le Sommet sur la sécurité de l’IA comme un succès – ou du moins sur la bonne voie pour créer un consensus sur la sécurité, la réglementation et l’éthique de l’IA – alors le gouvernement britannique doit s’efforcer de créer des règles du jeu équitables pour que toutes les parties discutent de la question. cas d’utilisation futurs de la technologie », a déclaré Zenil.

« Le Sommet ne peut pas être dominé par des entreprises ayant un agenda et un discours spécifiques autour de leurs intérêts commerciaux, sinon les activités de cette semaine seront considérées comme un exercice de marketing coûteux et trompeur. »

En conversation avec @Elon Musk
Après le sommet sur la sécurité de l’IA
jeudi soir le @X pic.twitter.com/kFUyNdGD7i

-Rishi Sunak (@RishiSunak) 30 octobre 2023

Les opinions de Zenil sont communes dans tout le secteur. Parmi les initiés de l’industrie qui partagent son malaise se trouve Victor Botev, directeur technique et co-fondateur de Iris.aiune startup basée à Oslo.

Ancien chercheur en IA à l’Université Chalmers et aujourd’hui chef d’entreprise, Botev souhaite une représentation plus large du monde universitaire et de l’industrie à la réunion.

« Il est essentiel que toute consultation sur la réglementation de l’IA inclue des perspectives allant au-delà des seuls géants de la technologie », a-t-il déclaré. « Les petites entreprises d’IA et les développeurs open source sont souvent pionniers en matière d’innovations, mais leurs voix en matière de réglementation ne sont pas entendues. Le sommet a raté une belle opportunité en n’incluant que 100 invités, principalement composés de dirigeants mondiaux et de grandes entreprises technologiques.

Les investisseurs en capital-risque ont soulevé des préoccupations similaires.

« À l’avenir, nous devons également donner davantage de voix aux startups elles-mêmes. L’IA sécurité L’accent mis par le sommet sur les grandes technologies et l’exclusion de nombreux membres de la communauté des startups de l’IA est décevant », a déclaré Catherine Almasque, associé commandité chez European VC Océan ouvert.

« Il est essentiel que les voix de l’industrie soient prises en compte lors de l’élaboration des réglementations qui auront un impact direct sur le développement technologique. »

Apocalypses de Frontier AI

La liste des invités fastueuse a été accompagnée d’un programme tout à fait dramatique. Selon les critiques, cette combinaison détourne l’attention de préoccupations plus urgentes.

Ils notent que le programme se concentrera exclusivement sur les systèmes d’IA « frontières » – un terme flou désignant les modèles d’IA avancés à usage général. Dans un récent rapport gouvernemental, le terme « IA frontalière » était appliqué presque entièrement aux grands modèles de langage (LLM) – en particulier ChatGPT d’OpenAI.

Zenil soupçonne que l’accent a été mis sur influencé par des PDG investis dans ce domaine. Il souhaite que le gouvernement adopte une vision plus large.

« Il est absolument essentiel que le Royaume-Uni dispose d’une stratégie cohérente en matière d’IA qui englobe tous les aspects de la technologie et les différents modèles. C’est avant tout important, car aucune approche ne deviendra la « solution miracle » pour l’adoption de l’IA », a-t-il déclaré.

« Si le sommet sur l’IA de Bletchley Park et le comité consultatif sur l’IA sont dominés par des personnes ayant un intérêt particulier en matière de recherche ou de commerce pour l’IA, il sera alors plus difficile de développer des cadres réglementaires reflétant tous les cas d’utilisation potentiels. »

Une autre cause de consternation est l’accent mis par le sommet sur des menaces hypothétiques « extrêmes » et des scénarios catastrophiques. Sunak a personnellement souligné ces possibilités cataclysmiques.

« Dans les cas les plus improbables mais extrêmes, il existe même le risque que l’humanité perde complètement le contrôle de l’IA grâce à ce type d’IA parfois appelé super intelligence », a-t-il déclaré la semaine dernière.

De telles perspectives apocalyptiques, affirment les critiques, sont dramatiquement exagérées. Certains accusent les médias d’exagérer les dangers, tandis que d’autres affirment que les patrons de la technologie exagèrent les risques pour dissimuler les problèmes réels et actuels qu’ils créent.

Ils sont davantage préoccupés par les menaces tangibles du changement climatique, les préjugés contre les groupes marginalisés et les cyberattaques. Ils notent par exemple qu’une étude récente trouvé que l’IA de Google pourrait bientôt consommer autant d’électricité que l’Irlande.

Almasque, de la société de capital-risque OpenOcean, craint que les priorités du sommet ne soient biaisées.

«Il semble probable que cela se concentrera principalement sur les risques plus importants et à long terme liés à l’IA, et beaucoup moins sur ce qui doit être fait aujourd’hui pour construire un écosystème d’IA prospère», a-t-elle déclaré. « C’est comme une startup qui s’inquiète du prix de son introduction en bourse avant de lever un financement de démarrage. »

Ces préoccupations sont partagées par Natalie Cramp, PDG de la société de données Profusion, qui a déjà conseillé le gouvernement britannique. Elle se méfie de la fixation sur un avenir imaginaire.

« Ma crainte est que le sommet sur la sécurité de l’IA se concentre sur les menaces existentielles qui font la une des journaux au détriment des problèmes plus banals qui ont actuellement la capacité de faire beaucoup de dégâts », a déclaré Cramp.

La préparation du sommet a amplifié la dissidence. Avant l’événement, Sunak a révélé qu’un élément essentiel de son plan serait la création d’un nouvel institut de sécurité de l’IA « une première au monde ».

Le Dr Asress Gikay, maître de conférences en IA à l’Université Brunel de Londres, n’a pas été impressionné par cette annonce. Gikay rejette l’objectif de l’institut de susciter des accords internationaux. Elle soupçonne Sunak d’avoir des arrière-pensées.

« Le Premier ministre semble plus concentré sur les déclarations politiques avec des programmes irréalistes et irréalisables plutôt que sur des problèmes plus urgents et réalisables, tels que l’investissement national dans l’IA et le développement d’un cadre politique et réglementaire solide pour une IA responsable au niveau national », a-t-elle déclaré. dit.

Prendre des risques

Au milieu du scepticisme, il y a aussi de l’optimisme quant au potentiel du sommet sur l’IA. Les participants de renom et l’attention des médias internationaux suggèrent que le Royaume-Uni peut être un acteur clé dans les développements mondiaux.

Le secteur florissant de l’IA du pays ajoute de la crédibilité à l’événement, tandis que son approche réglementaire favorable à l’innovation constitue un point de différenciation par rapport à la gouvernance de l’Union européenne. La position internationale unique de la Grande-Bretagne pourrait également constituer un pont entre les États-Unis, l’UE et la Chine.

Emad Mostaque, PDG de Stability AI, qui développe le modèle de conversion texte-image Stable Diffusion, fait partie des soutiens de premier plan du sommet.

« Le Royaume-Uni a une opportunité unique dans une génération de devenir une superpuissance de l’IA et de garantir que l’IA profite à tous, et pas seulement aux grandes technologies », a-t-il déclaré.

Botev, le co-fondateur de Iris.aiest plus avec un espoir prudent. Il est optimiste quant au potentiel du sommet, mais craint que le gouvernement ne prenne une décision irréfléchie pour un reportage en première page.

« Sous l’œil attentif de la communauté mondiale de l’IA, le Royaume-Uni devrait résister à cette envie », a-t-il déclaré. « Le sommet est l’occasion pour le Royaume-Uni de tracer une direction mondiale en matière de gouvernance de l’IA, garantissant des progrès sans compromettre la sécurité. Avec soin et sagesse, le Royaume-Uni peut élaborer des réglementations avant-gardistes qui favorisent l’innovation tout en établissant la confiance.