L’application Newsbreak en tête des charts a utilisé l’IA pour écrire des histoires : rapport

Une nouvelle enquête révèle que l’application d’information la plus populaire aux États-Unis a publié plus de trois douzaines d’articles inexacts, améliorés ou signés par l’IA au cours des trois dernières années – avec des effets concrets.

NewsBreak, le le plus populaire application d’information aux États-Unis, se présente comme une source d’information locale. Il hauts le Google Play Store, avec plus de 50 millions de téléchargements, et domine les classements d’actualités de l’Apple App Store, surperformés uniquement par X et Reddit.

L’application ne fonctionne qu’aux États-Unis et fonctionne comme un agrégateur, regroupant les informations de différents médias, comme Fox, Reuters et CNN, sur une seule plateforme.

Un mercredi Reuters Le rapport a révélé que NewsBreak a utilisé l’IA au moins 40 fois depuis 2021 pour publier des articles inexacts, publier des articles provenant d’autres sources sous de fausses signatures et récupérer le contenu de concurrents.

Par exemple, deux articles basés sur l’IA sur NewsBreak indiquaient à tort que l’association caritative Harvest912, basée en Pennsylvanie, hébergeait une clinique de santé ouverte 24 heures sur 24 pour les sans-abri.

« Vous faites du MAL en publiant cette désinformation – les sans-abri se rendront à pied dans ces lieux pour se rendre dans une clinique qui n’existe pas », a écrit Harvest912 dans un e-mail adressé à NewsBreak en janvier.

Un autre e-mail adressé à NewsBreak par la banque alimentaire Food to Power, basée au Colorado, a expliqué comment NewsBreak avait incorrectement indiqué quand la nourriture serait distribuée à trois reprises – en janvier, février et mars.

La banque alimentaire a dû expliquer le problème aux personnes qui se présentaient en réponse aux articles de NewsBreak et les renvoyer chez elles sans la nourriture à laquelle elles s’attendaient.

NewsBreak a déclaré à Reuters qu’il avait supprimé les cinq articles contenant des informations inexactes.

En rapport: Microsoft a remplacé ses rédacteurs en chef par l’IA. Cela entraîne un désastre après l’autre

En ce qui concerne les outils d’IA et les fausses signatures, NewsBreak semble avoir utilisé cinq faux noms comme signatures pour les republications générées par l’IA d’histoires provenant d’autres sites.

L’ancien consultant de NewsBreak et ancien rédacteur en chef du Wall Street Journal, Norm Pearlstine, a signalé le problème dans une note de l’entreprise de mai 2022 adressée au PDG de NewsBreak, Jeff Zheng, écrivant « Je ne peux pas penser à un moyen plus rapide de détruire la marque NewsBreak ».

Zheng a répondu au mémo, reconnaissant le problème et demandant à l’équipe de le résoudre.

En rapport: OpenAI peut désormais accéder aux articles du Financial Times pour former l’IA

NewsBreak n’est pas le seul média soumis à un examen minutieux du contenu de l’IA. Bloomberg a rapporté plus tôt ce mois-ci que le journal local de San Francisco, Hoodline, comptait sur l’IA pour produire des histoires – et, à un moment donné, attribuait ces histoires à des personnages uniques de l’IA avec leur propre biographie.

L’IA est également connue pour générer du contenu inexact. Point de presse CNET utilisé AI a écrit plus de 70 articles l’année dernière et a dû publier corrections pour beaucoup, c’est à cause d’erreurs factuelles.

Pendant ce temps, la semaine dernière, Google annoncé « plus d’une douzaine d’améliorations techniques » après que les utilisateurs ont constaté que les aperçus de l’IA dans son moteur de recherche donnaient des réponses inexactes.

En rapport: Les aperçus de l’IA de Google comportent déjà des erreurs majeures