Safe Superintelligence Inc. d’Ilya Sutskever obtient un investissement de 1 milliard de dollars

Même si la destination de l’AGI pourrait éventuellement être à portée de main, a déclaré Purcell, « dans l’intervalle, l’essentiel du financement et de l’attention du marché continuera d’être dirigé vers l’entité génératrice de revenus, à savoir OpenAI. Cela lui permettra d’embaucher les meilleurs talents, de rechercher de nouvelles données et de continuer à innover. De plus, il bénéficie d’une tonne de crédits de cloud computing de Microsoft, ce qui représentera une dépense énorme pour SSI.

Purcell a ajouté que même s’il ne considère pas SSI comme une menace pour OpenAI, « je pense qu’il est intéressant que les deux noms de sociétés soient des oxymores. Comme nous le savons, l’IA est tout sauf ouverte : les modèles de transformateurs défient toute explication et les entreprises qui les créent sont tout aussi opaques en ce qui concerne les données qu’elles utilisent pour la formation. La «superintelligence sûre» est également un oxymore.»

Il a dit qu’après avoir passé la majeure partie de l’année dernière à faire des recherches Alignement de l’IAil a conclu que « le désalignement est un résultat inévitable de notre approche actuelle de l’IA. À mesure que ces systèmes deviendront « superintelligents », ils deviendront beaucoup moins contrôlables et beaucoup moins sûrs. C’est un objectif louable, mais finalement imparfait.