Les DSI doivent se méfier du blanchiment de l’IA

L’industrie informatique a une longue histoire de fournisseurs qui ils exagèrent la fonctionnalité de ses produits ; il ne fait aucun doute que cela arrive aussi en faisant la promotion de l’intelligence artificielle (IA). Maintenant même Les entreprises utilisatrices semblent exagérer leurs capacités d’IA, ce qui pourrait leur causer de gros maux de tête.

Les responsables informatiques des organisations qui envisagent l’IA subissent une forte pression – de la part des conseils d’administration, d’autres dirigeants et du marché lui-même – pour mettre en œuvre des initiatives d’IA à grande échelle. De plus, selon les observateurs, La confusion sur la définition de l’IA peut également conduire à une exagération involontaire des capacités de l’IA..

Avec la ruée vers l’or actuelle de l’IA, les entreprises pourraient être tentées d’en faire trop de l’IA pour attirer les investisseurs et les clients, une pratique appelée « AI facelift ». Mais ils devraient y réfléchir à deux fois avant de le faire, déclare David Shargel, avocat spécialisé en conformité au cabinet d’avocats Bracewell.

Les régulateurs américains surveillent les affirmations exagérées sur l’IA, ainsi que la Securities and Exchange Commission des États-Unis. publicité en mars accord avec deux conseillers en placement. La SEC avait accusé les deux sociétés d’avoir fait des déclarations trompeuses sur leur utilisation de l’IA à des fins de conseil en investissement, et les sociétés ont été condamnées à payer 400 000 $ à titre de règlement.

pression d’en haut

Certaines entreprises peuvent abuser de leur utilisation de l’IA parce qu’elles ne comprennent pas ce que cela implique, explique Shargel, co-auteur de un article de blog en janvier sur le lifting de l’IA. Mais cela semble aussi être intentionnellement exagéré, dit-il.

« Le lifting de l’IA est un phénomène nouveau, mais en réalité il ne s’agit que d’un autre type de fraude »il déclare. « Les entreprises commettent toujours des fraudes et elles trouveront de nouvelles façons de le faire, basées sur les nouvelles technologies ».

Au-delà des problèmes réglementaires, Les entreprises qui exagèrent leur utilisation de l’IA pourraient s’exposer à des poursuites judiciaires contre leurs actionnaires et à une perte de confiance. de clients, ajoute Shargel.

En d’autres termes, l’appel à l’ingéniosité de l’IA dans certaines organisations peut s’avérer être un appel de sirène.

Cela est dû à la forte pression exercée sur les DSI et autres décideurs informatiques pour qu’ils adoptent et déploient avec succès l’IA. ce qui crée une certaine incitation au battage médiatique, déclare Kjell Carlsson, responsable de la stratégie d’IA chez Domino Data Lab, fournisseur d’une plate-forme d’IA d’entreprise.

« Il existe une demande et un désir incroyables pour l’IA, et lorsqu’ils parlent d’IA, ils font référence au mandat de l’IA générative », ajoute-t-il. « C’est un peu comme : « Nous avons vu la puissance d’OpenAI ; Dites-moi comment nous allons utiliser d’excellents modèles linguistiques pour transformer notre entreprise.

Les entreprises ont toujours suivi les tendances technologiques et essayé de prendre le train en marche, dit-il. « Au moment où ChatGPT est sorti, il était étonnant de voir à quel point les fournisseurs de business intelligence (BI) en particulier se sont immédiatement lancés dans la dépoussiérage. chatbots pouvoir dire qu’il s’agissait d’un centre de business intelligence basé sur l’IA », ajoute Carlsson.

Certains fournisseurs BI ont renommé leurs singles chatbots en tant qu’outils d’IA, et même s’ils n’avaient pas tort techniquement, ils utilisaient des systèmes basés sur des règles qui ne sont pas basés sur l’IA générative, ce qui est à l’origine du boom actuel du marché, ajoute-t-il.

Maintenant, Les entreprises utilisatrices, plutôt que les fournisseurs de technologie, pourraient être tentées de faire de même.. Un nombre record de sociétés du S&P 500, 199, ont mentionné l’IA dans leurs appels de résultats pour le premier trimestre 2024, selon l’analyse de la société de recherche de documents FactSet. La moyenne sur cinq ans des mentions d’IA lors des appels de résultats était de 80, avec des mentions en forte augmentation depuis le premier trimestre 2023, peu de temps après le lancement de ChatGPT, a écrit la société dans un article de blog.

Confusion et inflation

Cette ruée vers les partenariats avec l’IA place les entreprises vers une croissance future des revenus, plutôt que vers des bénéfices à court terme, une position attrayante pour les investisseurs, explique Toby Coulthard, CPO chez Jacquard, fournisseur d’un outil d’IA pour la messagerie de marque. La confusion sur la définition de l’IA, qu’elle inclut les grands modèles linguistiques (LLM), les réseaux de neurones, l’apprentissage automatique ou simplement une application de la science des données, donne aux entreprises « beaucoup de latitude » lorsqu’il s’agit d’affirmer qu’elles utilisent l’IA.se défend.

« La motivation intrinsèque à faire quelque chose pour préserver ou gonfler la capitalisation boursière, combinée à un concept mal défini, conduit à une vaste zone grise sur ce qui est approprié ou non », ajoute Coulthard. « Jusqu’à ce que le marché définisse réellement l’IA de manière significative, ou jusqu’à ce que les investisseurs évaluent l’IA de manière plus équilibrée, je ne m’attends pas à ce qu’elle ralentisse. »

Manque de cas d’utilisation

Une difficulté pour les DSI et autres responsables informatiques pressés d’explorer l’IA est que les conseils d’administration et les PDG sont enthousiasmés par l’IA générative et les grands modèles de langage, mais les outils d’IA et d’apprentissage automatique plus traditionnels peuvent encore offrir de nombreux avantages à de nombreuses organisations, déclare Carlsson de Domino Data Lab. .

Bien que l’IA générative présente un grand potentiel, peu de cas d’utilisation ont émergé jusqu’à présent, certains pour des secteurs spécifiques tels que les produits biopharmaceutiques, avec une poignée d’applications pour la plupart d’autres entreprises, dit-il. Les chatbots Les appareils intelligents permettant de gérer les réclamations des clients sont en train de s’implanter, tout comme les assistants virtuels dotés de capacités de recherche d’entreprise, selon Carlsson, qui a ajouté que peu de cas d’utilisation de l’IA générative ont émergé.

« Lorsque je discute avec des organisations, même celles qui ont connu quelques réussites, l’éventail de nouveaux cas d’utilisation est assez limité., et on arrive assez rapidement à des projets apparemment marginaux, du point de vue de la valeur commerciale », dit-il. « Une entreprise à qui j’ai parlé m’a dit : « Elles ont suggéré 500 façons d’utiliser l’IA générative, et il s’agissait en fait de cinq suggestions répétées 100 fois. »

Dans certains cas, les entreprises utilisent l’IA générative pour des tâches que les outils d’IA plus traditionnels peuvent réaliser, comme l’analyse de base et l’automatisation des processus, ce qui peut créer des problèmes pour les responsables informatiques, explique-t-il. L’IA générative peut encore être ahurissante, même si elle est affinée, créant un niveau d’incertitude alors que des outils plus traditionnels seraient plus cohérents.

« Il s’agit d’une nouvelle technologie qui fonctionne avec de nouvelles données et poursuit de nouveaux cas d’utilisation, ce qui constitue un défi » il est dit. « On constate que ces modèles ne se comportent pas comme les modèles traditionnels. Il s’agit d’un niveau d’incertitude et de risque effrayant, qui rend difficile son utilisation en remplacement des technologies existantes.

¡Ojo !

Shargel, de Bracewell, conseille aux entreprises d’être prudentes lorsqu’elles font des déclarations générales sur leurs capacités en IA. Pour éviter un contrôle réglementaire, les entreprises devraient créer une définition de l’IA à usage interne et un guide des pratiques réglementées.

Les DSI et autres dirigeants devraient également envisager de revoir leurs capacités en IA avant de faire des réclamations., Ajouter. « Ce que les entreprises doivent vraiment faire, c’est penser à l’IA de la même manière qu’elles envisagent tout autre type de divulgation », explique Shargel. « Les entreprises ne divulguent pas leur situation financière sans un examen de conformité ou un audit. « Les entreprises doivent traiter de la même manière les informations divulguées sur la technologie et l’IA, et elles doivent avoir la capacité d’évaluer leur exactitude. »