DeepMind COO sur la construction d’un avenir responsable pour l’IA et l’humanité

Récemment, une société basée en Nouvelle-Zélande un supermarché a été vexé de constater que son robot de repas IA se détraquait. Au lieu de proposer des suggestions de recettes saines utilisant ses produits, l’entreprise avait commencé à suggérer des plats tels que le « riz surprise infusé à l’eau de Javel » et le « ragoût de viande mystérieux » (la viande mystérieuse étant de la chair humaine).

Bien que cela ait pu être un peu amusant pour les farceurs d’Internet qui ont incité le robot à proposer des ingrédients de plus en plus farfelus, cela soulève également une préoccupation croissante. Que peut-il se passer lorsque l’IA tombe entre de mauvaises mains ?

L’année précédente, des chercheurs utilisaient une IA entraînée à rechercher de nouveaux médicaments utiles. pour générer 40 000 nouvelles armes chimiques en seulement six heures.

Même quand IA fait ce pour quoi il est formé, nous avons déjà vu de nombreux exemples de ce qui peut arriver lorsque des algorithmes sont développés sans surveillance, depuis les diagnostics médicaux dangereux jusqu’aux préjugés raciaux en passant par la création et la diffusion de fausses informations.

Alors que la course au développement de grands modèles de langage toujours plus puissants s’accélère, lors du TNW ​​2023, nous avons demandé aux experts en IA : « L’AGI constituera-t-elle une menace pour l’humanité ?

Que vous croyiez ou non à un avenir apocalyptique de type terminator, nous sommes tous d’accord sur le fait que l’IA doit être développée de manière responsable. Cependant, comme d’habitude, l’innovation a largement dépassé la réglementation. Alors que les décideurs politiques peinent à suivre le rythme, le sort de l’IA dépend en grande partie de la capacité de la communauté technologique à s’unir pour s’autoréguler, adopter la transparence et, ce qui est peut-être le plus inouï, réellement travailler ensemble.

Bien entendu, cela représente davantage de travail pour les entreprises développant l’IA. Comment construire un cadre pour développer une IA responsable ? Comment concilier cela avec la nécessité d’innover et de répondre aux attentes des membres du conseil d’administration et des investisseurs ?

Lors de TNW 2023, nous avons discuté avec Lila Ibrahim, COO du laboratoire d’IA DeepMind de Google. Elle a partagé trois étapes essentielles pour construire un avenir responsable pour l’IA et l’humanité.

Prêt à prendre part à la conversation ? Rejoignez vos collègues passionnés d’IA au TNW ​​2024 !

L’un des thèmes de la conférence TNW de cette année est Ren-AI-ssance : la renaissance alimentée par l’IA. Si vous souhaitez approfondir tout ce qui concerne l’intelligence artificielle, ou simplement vivre l’événement (et saluer notre équipe éditoriale), nous avons quelque chose de spécial pour nos fidèles lecteurs. Utilisez le code TNWXMEDIA à la caisse pour obtenir 30 % de réduction sur votre carte d’affaires, passe investisseur ou des packages de démarrage (Amorcer & Augmenter).