Les DSI doivent se garder de procéder eux-mêmes au « IA washing »

L’industrie informatique a une longue histoire de fournisseurs exagérer la fonctionnalité de leurs produits, et c’est cela arrive certainement dans le cycle actuel de battage médiatique de l’IA. Aujourd’hui, même les entreprises utilisatrices semblent surestimer leurs capacités en matière d’IA, ce qui pourrait entraîner de graves problèmes.

Les responsables informatiques des organisations qui envisagent l’IA subissent une pression importante – de la part des conseils d’administration, d’autres dirigeants et du marché lui-même – pour déployer des initiatives majeures en matière d’IA. De plus, selon les observateurs, la confusion sur la définition de l’IA peut également conduire à une exagération involontaire des capacités de l’IA.

Avec la ruée vers l’or actuelle de l’IA, les entreprises pourraient être tentées d’exagérer leurs mises en œuvre de l’IA pour attirer les investisseurs et les clients, une pratique appelée « IA washing », mais elles devraient y réfléchir à deux fois avant de le faire, déclare David Shargel, avocat en conformité réglementaire au sein d’un cabinet d’avocats. Bracewell.

Les agences de régulation américaines surveillent les affirmations exagérées sur l’IA, avec la Securities and Exchange Commission des États-Unis annonçant un règlement en mars avec deux conseillers en placement. La SEC avait accusé les deux sociétés d’avoir fait des déclarations trompeuses sur leur utilisation de l’IA à des fins de conseil en investissement, et les sociétés ont payé 400 000 $ dans le cadre du règlement.

Pression d’en haut

Certaines entreprises peuvent surestimer leur utilisation de l’IA parce qu’elles ne comprennent pas ce qu’elle englobe, explique Shargel, co-auteur de un article de blog en janvier sur le lavage de l’IA. Mais il semble également y avoir une certaine exagération intentionnelle, dit-il.

« Le lavage par l’IA est un phénomène nouveau, mais il s’agit en réalité d’un autre type de fraude », dit-il. « Les entreprises commettent toujours des fraudes et elles trouvent de nouvelles façons de le faire, basées sur les nouvelles technologies. »

Au-delà des problèmes réglementaires, les entreprises qui surestiment leur utilisation de l’IA pourraient s’exposer à des poursuites judiciaires contre les actionnaires et à une perte de confiance des clients, ajoute Shargel.

En d’autres termes, l’appel à l’ingéniosité en matière d’IA dans certaines organisations pourrait s’avérer être un chant de sirène.

En effet, une forte pression s’exerce sur les DSI et autres responsables informatiques pour qu’ils adoptent et déploient avec succès l’IA, ce qui incite à l’exagération, explique Kjell Carlsson, responsable de la stratégie IA chez Domino Data Lab, fournisseur d’une plateforme d’IA d’entreprise.

« Il existe une demande et un désir incroyables pour l’IA, et lorsqu’ils parlent d’IA, ils font référence au mandat de l’IA générative », dit-il. « C’est : « Nous avons vu la puissance d’OpenAI : dites-moi comment nous allons utiliser de grands modèles de langage afin de transformer notre entreprise. »

Les entreprises ont toujours suivi les tendances technologiques et essayé de prendre le train en marche, dit-il.

« Au moment où ChatGPT a fait son apparition, il a été étonnant de voir à quel point instantanément, principalement les fournisseurs de business intelligence, sont entrés et ont dépoussiéré leurs chatbots afin qu’ils puissent dire : « Nous sommes un centre de business intelligence basé sur l’IA », ajoute Carlsson.

Certains fournisseurs de BI ont rebaptisé leurs simples chatbots en outils d’IA, et même s’ils n’avaient pas tort techniquement, ils utilisaient des systèmes basés sur des règles qui ne s’appuient pas sur l’IA générative, ce qui alimente le battage médiatique actuel du marché, ajoute-t-il.

Désormais, les entreprises utilisatrices, plutôt que les fournisseurs de technologies, pourraient être tentées de faire de même.

Un nombre record d’entreprises du S&P 500, 199 d’entre elles, ont mentionné l’IA dans leurs appels de résultats couvrant le premier trimestre 2024, selon l’analyse de la société de recherche de documents FactSet. La moyenne sur cinq ans des mentions d’IA lors des appels de résultats était de 80, avec des mentions en forte augmentation depuis le premier trimestre 2023, peu de temps après le lancement de ChatGPT, a écrit la société dans un article de blog.

Confusion et inflation

Cette ruée vers l’IA fait que les entreprises recherchent une croissance future des revenus, par opposition aux bénéfices à court terme, une position attrayante pour les investisseurs, explique Toby Coulthard, CPO de Jacquard, fournisseur d’un outil d’IA pour la messagerie de marque. Avec la confusion autour de la définition de l’IA, qu’elle inclue des modèles de langage étendus (LLM), des réseaux de neurones, l’apprentissage automatique ou simplement une application de science des données, cela donne aux entreprises « beaucoup de latitude » lorsqu’elles prétendent utiliser l’IA, dit-il.

« La motivation intrinsèque à faire quelque chose pour préserver ou gonfler la capitalisation boursière, combinée à un concept sous-défini, conduit à une grande zone grise sur ce qui est approprié ou non », ajoute Coulthard. « Jusqu’à ce que le marché définisse réellement l’IA de manière significative, ou jusqu’à ce que les investisseurs évaluent l’IA de manière plus équilibrée, je ne m’attends pas à ce qu’elle ralentisse. »

Manque de cas d’utilisation

Une difficulté pour les DSI et autres responsables informatiques poussés à explorer l’IA est que les conseils d’administration et les PDG sont enthousiasmés par la génération AI et les LLM, mais les outils d’IA et d’apprentissage automatique plus traditionnels peuvent encore offrir de nombreux avantages à de nombreuses organisations, explique Carlsson de Domino Data Lab.

Même si la génération IA présente un potentiel majeur, peu de cas d’utilisation ont vu le jour jusqu’à présent, certains pour des secteurs spécifiques tels que la biopharmaceutique, avec une poignée d’applications pour la plupart d’autres entreprises, dit-il. Selon Carlsson, les chatbots intelligents permettant de traiter les plaintes des clients sont en train de s’implanter, tout comme les assistants virtuels dotés de fonctionnalités de recherche d’entreprise.

Peu d’autres cas d’utilisation de la génération IA ont émergé, ajoute-t-il.

« Lorsque je parle à des organisations, même celles qui ont connu quelques réussites, le pipeline de nouveaux cas d’utilisation est plutôt mince, et vous arrivez à des projets apparemment marginaux, du point de vue de la valeur commerciale, assez rapidement », dit-il. « Une entreprise à qui je parlais m’a dit : « Nous avions 500 suggestions sur la façon dont nous pourrions utiliser l’IA générative, et il s’agissait en réalité de cinq suggestions répétées 100 fois. »

Dans certains cas, les entreprises utilisent la génération IA pour des tâches que les outils d’IA plus traditionnels peuvent faire, comme l’analyse de base et l’automatisation des processus, ce qui peut créer des problèmes pour les responsables informatiques, dit-il. La génération IA peut encore halluciner, même si elle est réglée, créant un niveau d’incertitude alors que des outils plus traditionnels seraient plus cohérents.

« Il s’agit d’une nouvelle technologie, qui fonctionne avec de nouvelles données, qui s’intéresse à de nouveaux cas d’utilisation, et c’est un véritable défi », dit-il. « Vous vous rendez compte que ces modèles ne se comportent tout simplement pas comme vos modèles traditionnels. Il s’agit d’un niveau effrayant d’incertitude et de risque, ce qui rend difficile son utilisation comme une alternative aux technologies existantes.

Prends soin de toi

Shargel de Bracewell conseille aux entreprises d’être prudentes avant de faire des déclarations générales sur leurs capacités en IA. Pour éviter un contrôle réglementaire, les entreprises devraient créer une définition de l’IA à utiliser en interne et dans les dossiers réglementaires.

Les DSI et autres dirigeants devraient également envisager de revoir leurs capacités en IA avant de faire des réclamations, ajoute-t-il.

« Ce que les entreprises doivent vraiment faire, c’est penser à l’IA de la même manière qu’elles envisagent tout autre type de divulgation », explique Shargel. « Les entreprises ne divulguent pas leur situation financière sans un examen ou un audit de conformité. Les entreprises doivent traiter les informations concernant la technologie et l’IA de la même manière, et elles doivent avoir la capacité d’en évaluer l’exactitude.