Une start-up de vérification des faits cible les hallucinations de l’IA après avoir levé 1 million d’euros

Une startup de vérification des faits a accéléré ses projets de bannissement Hallucinations de l’IA après avoir obtenu un financement de 1 million d’euros.

Basé en Norvège Factiverse utilise l’apprentissage automatique pour vérifier le contenu généré par l’intelligence artificielle. Les outils de l’entreprise détectent automatiquement les sorties inexactes. Ces erreurs suscitent désormais fréquemment des controverses.

Un avocat new-yorkais, par exemple, a dû s’excuser pour utiliser de fausses citations judiciaires provenant de ChatGPT. CNET devait corriger 41 des 77 histoires que le média avait écrit avec un outil d’IA. Bing AI de Microsoft a produit de nombreuses erreurs dans les analyses des rapports de revenus. Le chatbot de l’entreprise l’a également revendiqué espionné les employés.

Faverse propose une solution à ces problèmes. Fondée en 2016, la société construit des modèles brevetés qui analysent le contenu généré par l’IA. L’année dernière, la société a intégré ces modèles dans le Éditeur d’IA Faverse. L’outil détecte les biais et les erreurs dans le texte créé par ChatGPT. Il fait également surface de manière fiable sources des résultats.

Financement de la vérification des faits

La nouvelle injection de liquidités financera d’autres améliorations. Parmi les investisseurs figurent Murshid Ali, fondateur de Huddlestock et Skyfri, Johann Olav Koss, entrepreneur et quadruple médaillé d’or olympique en patinage de vitesse, et Yasmin Namini, ancienne cadre dirigeante du New York Times. Les sociétés d’investissement Herfo et Valide Invest ont également contribué.

PDG et co-fondateur de Faverse, Marie Amélie, a annoncé l’augmentation aujourd’hui à Conférence TNW.

« Cet investissement nous permettra d’accélérer le développement de notre activité désormais cruciale. Vérification des faits solutions et permettre à encore plus d’entreprises de tirer parti de la puissance de IA en toute confiance », a-t-elle déclaré.

Parallèlement au financement, Faverse a également lancé un programme de procès des journalistes. Les utilisateurs bénéficieront de 30 jours d’accès gratuit à la technologie de vérification des faits. Aucune carte de paiement n’est nécessaire pour l’essai.

Faverse souhaite que le nouvel essai et les fonds étendent la portée les startups base d’utilisateur. Espen Egil Hansen, président de la société, considère les hallucinations liées à l’IA comme une préoccupation majeure.

« Les cas d’entreprises confrontées à des conséquences juridiques pour des erreurs factuelles dans leurs chatbots sont déjà une réalité », a-t-il déclaré.. « Alors que l’IA s’enracine de plus en plus dans notre vie quotidienne, garantir l’exactitude des modèles d’IA n’est pas seulement une question de bonnes affaires ; c’est le fondement sur lequel reposent les valeurs démocratiques.