Parrain de l’IA Geoffrey Hinton: L’IA a besoin d’instincts maternels

Le « parrain de l’IA » craint que Supentillelligent L’IA défiera la domination humaine – mais il a une suggestion qui pourrait recadrer les assistants de l’IA en tant que mères de l’IA.

Dans un discours d’ouverture à la AI4 La conférence à Las Vegas mardi, Geoffrey Hinton, 78 ans, a prédit un avenir où l’IA pourrait affirmer le contrôle des humains aussi facilement qu’un adulte interagissant avec un enfant de 3 ans, ce qui lui a fait accomplir une tâche avec la promesse de bonbons. L’IA va être « beaucoup plus intelligente que nous », a déclaré Hinton.

En rapport: L’IA va «remplacer tout le monde» dans plusieurs domaines, selon le «parrain de l’IA». Voici qui il dit devrait être «terrifié».

Hinton est connu en tant que « parrain de l’IA » en raison de ses études pionnières qui ont jeté les bases des systèmes d’IA actuels, comme Chatgpt et d’autres chatbots. Hinton a commencé son travail à la fin des années 1970 et a finalement remporté le Prix Nobel en physique en 2024 pour son travail. Il est actuellement un Professeur honoraire de l’informatique à l’Université de Toronto.

Dans l’adresse, Hinton a suggéré de former l’IA à avoir des « instincts maternels » afin qu’il soit programmé pour se soucier profondément des gens. De cette façon, les systèmes d’IA avancés seront formés avec les mêmes instincts qu’une mère à la recherche de la survie de ses enfants.

^{Geoffrey Hinton. Photo par photo Lundahl / TT Agence de presse / AFP via Getty Images}

« C’est le seul bon résultat », a déclaré Hinton Business CNN. « Si ça ne va pas me parent, ça va me remplacer. »

Hinton a déclaré qu’il ne savait pas comment accomplir techniquement la tâche de créer une IA avec des instincts maternels, mais a souligné qu’il était essentiel pour les chercheurs et les développeurs de l’IA de y travailler. Il a souligné que « le seul modèle » d’un plus intelligent contrôlé par un être moins intelligent est « une mère contrôlée par son bébé ».

Hinton a également raccourci son calendrier prévu pour intelligence générale avancée (AGI), ou ai qui dépasse l’intelligence humaine. Au lieu de prévoir qu’il pourrait prendre 30 à 50 ans avant que AGI n’émerge, Hinton a déclaré qu’un « pari plus raisonnable » était de cinq à 20 ans.

En rapport: Ces 3 professions sont plus susceptibles de disparaître au cours des 20 prochaines années en raison de l’IA, selon un nouveau rapport

Hinton a déjà pesé sur l’impact de l’IA sur l’humanité, allant de l’extinction au chômage de masse. Par exemple, en décembre, Hinton prévu qu’il y avait au moins 10% de chances que l’IA éliminait l’humanité et conduit à l’extinction humaine au cours des 30 prochaines années.

Pendant ce temps, dans un Apparence du podcast En juin, Hinton a prédit que l’IA remplacerait tout le monde dans des emplois en col blanc, notant que des professions comme les parajuristes et les représentants du centre d’appels étaient les plus à risque. Il a dit que ce serait « longtemps » avant que l’IA ne prenne le contrôle des tâches physiques et des emplois en col bleu, ce qui rend ces professions les moins à risque pour le moment.

^{Rejoignez les meilleurs PDG, fondateurs et opérateurs au Conférence de niveau supérieur Pour débloquer des stratégies pour l’échelle de votre entreprise, augmentant les revenus et créant un succès durable.}