ChatGPT hallucine avec des réponses inattendues cette semaine

^{Cet article a été initialement publié sur Interne du milieu des affaires.}

ChatGPT a l’air un peu déséquilibré.

Certains utilisateurs se demandaient ce qui se passait Le chatbot d’OpenAI après avoir commencé à répondre à leurs requêtes mardi avec beaucoup de charabia.

Sean McGuire, associé principal du cabinet d’architecture mondial Gensler, captures d’écran partagées sur X de ChatGPT lui répondant dans un « Spanglish » absurde.

« Parfois, dans le processus créatif visant à maintenir le Spanglish entrelacé dynamique, les rouages ​​de la tecla peuvent devenir un peu fantaisistes. Merci beaucoup pour votre compréhension, et je veillerai à ce que nous soyons aussi clairs comme du cristal que l’eau à partir de maintenant. « , a écrit ChatGPT.

Cela s’est ensuite transformé en bien plus d’absurdités : « Est-ce que ça serait agréable que vos clics tournent les dents sur un type de gelée esprit-océan ? » Il a enchaîné avec des références au pianiste de jazz Bill Evans avant de répéter la phrase « Bonne écoute ! » sans arrêt.

chatgpt est apparemment en train de dérailler en ce moment et personne ne peut expliquer pourquoi pic.twitter.com/0XSSsTfLzP

– Sean McGuire (@seanw_m) 21 février 2024

Un autre utilisateur a interrogé ChatGPT sur les variations entre les matelas dans différents pays asiatiques. Il ne pouvait tout simplement pas y faire face.

Un utilisateur qui a partagé sur Reddit son interaction avec ChatGPT a déclaré que GPT-4 « est juste passé en mode hallucination complète », ce qui, selon eux, ne s’était pas vraiment produit avec cette gravité depuis « les premiers jours de GPT-3 ».

OpenAI a reconnu le problème. C’est tableau de bord d’état a d’abord déclaré mardi qu’il « enquêtait sur les rapports faisant état de réponses inattendues de ChatGPT ».

Il a ensuite été mis à jour pour indiquer que le problème avait été identifié et était surveillé, avant qu’une autre mise à jour mercredi après-midi n’indique que tous les systèmes fonctionnaient normalement.

C’est un moment embarrassant pour l’entreprise, considérée comme un leader dans la révolution de l’intelligence artificielle et qui a reçu un investissement de plusieurs milliards de dollars de Microsoft. Cela a également incité les entreprises à le payer pour utiliser la version la plus avancée de son IA.

OpenAI n’a pas immédiatement répondu à une demande de commentaires sur les problèmes de ChatGPT.

Cela n’a pas empêché les gens de spéculer sur la cause du problème.

Gary Marcus, professeur à l’Université de New York et expert en IA, a lancé un sondage sur X demandant aux utilisateurs quelle pourrait en être la cause, selon eux. Certains pensaient qu’OpenAI avait été piraté, tandis que d’autres pensaient que des problèmes matériels pourraient en être la cause.

Pourquoi ChatGPT agit-il si bizarrement ?

-Gary Marcus (@GaryMarcus) 21 février 2024

La plupart des personnes interrogées ont deviné des « poids corrompus ». Les pondérations sont un élément fondamental des modèles d’IA, aidant à fournir les résultats prédictifs que des outils tels que ChatGPT fournissent aux utilisateurs.

Serait-ce un problème si OpenAI était plus transparent sur le fonctionnement de son modèle et les données sur lesquelles il est formé ? Dans un article de SubstackMarcus a suggéré que la situation était un rappel que le besoin de technologies moins opaques est « primordial ».