Les aperçus de l’IA de Google comportent déjà des erreurs majeures

Effectuer une recherche sur Google, le plus grand moteur de recherche au monde avec plus de 90% du marché mondial, semble un peu différent maintenant. Au lieu d’une page de liens vers d’autres sites, Google génère automatiquement un résumé en haut de la page, citant une poignée de sites Web sélectionnés.

Les changements ont été annoncés la semaine dernière, avec le déploiement par Google du Résumés de l’IA à son 250 millions-plus d’utilisateurs mensuels aux États-Unis. Mais maintenant, certains utilisateurs signalent que la nouvelle technologie se trompe sur des informations importantes.

Bien que Google dit Alors que les premiers testeurs étaient plus satisfaits des résultats de recherche de présentation de l’IA, un public plus large a déjà repéré des inexactitudes, ou des hallucinations, avec cette fonctionnalité.

Lorsqu’un utilisateur X a tapé une requête de recherche « le fromage ne colle pas à la pizza », l’aperçu de l’IA de Google a répondu : « Vous pouvez également ajouter environ ⅛ de tasse de colle non toxique à la sauce pour lui donner plus de collant. »

https://t.co/W09ssjvOkJ pic.twitter.com/6ALCbz6EjK

– SG-r01 (@heavenrend) 22 mai 2024

La source de réponse de Google semble être un article de Reddit écrit il y a 11 ans.

Commentaire
par de la discussion
dansPizza

« Cet exemple est drôle, mais il peut y en avoir des dangereux qui ne sont pas aussi évidents » a écrit l’utilisateur X qui a signalé le problème.

Google signé un accord avec Reddit en février pour entraîner son IA. OpenAI a signé un accord similaire avec Reddit plus tôt ce mois-ci.

En rapport: Le nouvel accord d’OpenAI voit le pionnier de ChatGPT suivre l’exemple d’un concurrent

Chercheur en IA basé à Seattle Dr Margaret Mitchell a également souligné deux hallucinations d’IA sur X mercredi.

Le d’abord a montré qu’Elon Musk était allé à l’UC Berkeley. Au moment de la rédaction, l’erreur semble être corrigée.

La seconde a montré que le président Andrew Jackson, qui décédé en 1845diplômé de l’Université du Wisconsin-Madison en 2005.

Le président Andrew Johnson, qui je ne suis jamais allé à l’école et a appris à lire tout seul, a obtenu 14 diplômes de l’UW-Madison, selon l’aperçu de l’IA.

Pendant ce temps, dans la recherche Google.
Andrew Johnson l’a tué, je ne le savais pas. pic.twitter.com/IV2zCmI6Zv

-MMitchell (@mmitchell_ai) 22 mai 2024

Entrepreneur vérifié que la deuxième erreur était toujours présente au moment de la rédaction.

^{Inexact à plusieurs titres. Crédit : Entrepreneur}

L’IA de Google semble s’inspirer d’une association d’anciens élèves de l’UW-Madison en 2016 article montrant les années d’obtention du diplôme des anciens élèves avec présidentiel des noms.

En rapport: Oh génial, l’IA peut désormais détecter le sarcasme

Les erreurs illustrent comment l’IA pourrait ne pas réussir à capter les nuances des données de formation et potentiellement amplifier la désinformation, en particulier lorsqu’elle est intégrée à une plate-forme largement utilisée comme Google.

Anastasia Kotsiubynska, responsable du référencement chez SE Ranking, préfiguré les hallucinations dans une remarque partagée avec Entrepreneur la semaine dernière.

« Très probablement, il y aura toujours des informations trompeuses dans les résultats de recherche et des hallucinations, et de nombreux utilisateurs utiliseront probablement ces informations sans revérifier », avait déclaré Kotsiubynska à l’époque.

En rapport: Le trafic du site en baisse ? Voici les grands changements apportés par Google à son outil de recherche en matière d’IA

Google pourrait bientôt commencer à tester les publicités dans les aperçus de l’IA, selon la société annoncé Mardi, ajoutant une autre couche à sa nouvelle expérience de recherche AI.