Stratégies pour lutter contre les risques liés à la mise en œuvre de GenAI

Les DSI sont sous pression pour intégrer l’IA générative dans les opérations et les produits de l’entreprise, souvent motivés par la nécessité de répondre rapidement aux attentes de l’entreprise et du conseil d’administration. Mais de nombreux services informatiques ne prennent pas en compte de manière approfondie les conditions préalables à un déploiement réussi de GenAI, et agir rapidement peut entraîner des erreurs coûteuses et des échecs de mise en œuvre. Nous examinons les risques d’une mise en œuvre rapide de GenAI et expliquons comment la gérer.

Alors que les organisations du monde entier se préparent à dépenser plus de 40 milliards de dollars en informatique de base (technologie budgétisée et supervisée par l’informatique centrale) pour GenAI en 2024 (selon le rapport d’IDC). Dépenses informatiques de base mondiales pour les prévisions GenAI, 2023-2027, janvier 2024), il est urgent de gérer les risques associés à ces investissements. Ces dépenses massives reflètent l’adoption rapide des technologies GenAI dans divers secteurs, mais elles soulèvent également d’importantes inquiétudes quant à la préparation des services informatiques et de l’entreprise dans son ensemble à gérer les exigences complexes d’une mise en œuvre réussie.

Erreurs notables de GenAI

Des incidents récents mettent en évidence les pièges potentiels d’une adoption précipitée de GenAI :

• ChatGPT accusé à tort un professeur de droit de harcèlement.
• Air Canada a été sommé d’indemniser un client induit en erreur par son chatbot.
• Google a dû suspendre son modèle Gemini AI en raison d’inexactitudes dans les images historiques.
• Samsung les employés ont divulgué des données exclusives à ChatGPT.
• UN Bogue de ChatGPT exposé les conversations des utilisateurs à d’autres clients.

Ces exemples soulignent les graves risques de fuite de données, de dommages à la marque et de problèmes juridiques qui découlent de la mentalité « agir vite et casser les choses ». La célèbre citation de Mark Zuckerberg devrait servir d’avertissement plutôt que de directive.

Principaux risques liés à la mise en œuvre de GenAI

Les organisations sont confrontées à une myriade de risques lors du déploiement de GenAI, notamment, mais sans s’y limiter :

• IA et empoisonnement des données
• Biais et explicabilité limitée
• Menace de marque
• violation de copyright
• Dépassements de coûts
• Impact environnemental
• Défis de gouvernance et de sécurité
• Problèmes d’intégration et d’interopérabilité
• Contentieux et conformité réglementaire

Une étude d’IDC montre que les deux tiers des entreprises dépensent trop d’argent dans leur budget cloud (Sondage rapide des DSI d’IDC, décembre 2022), et des dépassements de budget similaires sont attendus avec GenAI. De plus, des problèmes tels que les biais, les confabulations et les inexactitudes des performances sont répandus. La décentralisation de la mise en œuvre de GenAI par le personnel commercial sans surveillance informatique complique encore davantage la gouvernance.

Compréhension et préparation des fournisseurs

Une part importante des PDG (45 %) et des DSI (66 %) estiment que les fournisseurs de technologies ne comprennent pas pleinement les risques associés à l’IA (Enquête mondiale auprès des PDG d’IDC et Sondage rapide des DSI d’IDC, janvier 2024). Ce scepticisme nécessite un questionnement rigoureux des fournisseurs sur la confidentialité, la protection des données, la sécurité et l’utilisation des données de formation. Un partenariat efficace nécessite de la transparence et une documentation claire de la part des fournisseurs.

GenAI est de plus en plus intégré aux applications d’entreprise existantes. Lorsqu’elles considèrent le risque lié à la mise en œuvre de GenAI, les organisations ne doivent pas oublier que la « mise en œuvre » peut être le fait que leurs fournisseurs ajoutent la fonctionnalité GenAI aux produits que l’organisation possède déjà. Environ 35 % des applications utilisent actuellement une forme d’IA/ML et ce nombre devrait atteindre 50 % d’ici deux ans (Cloud Pulse 2T23IDC, août 2023 IDC).

Il s’agit d’un risque que de nombreuses organisations ne prennent pas en compte. Par exemple, Microsoft intègre son Copilot dans Windows 11, et des sociétés comme ServiceNow et Box intègrent des fonctionnalités GenAI. Il est essentiel que les organisations comprennent le fonctionnement de ces intégrations, leurs implications sur la confidentialité des données et les conditions dans lesquelles elles opèrent.

Les organisations doivent préparer une liste de contrôle complète de questions pour évaluer ces intégrations et discuter des implications avec leurs fournisseurs. Les organisations doivent déterminer si elles autorisent ou mettent à niveau la fonctionnalité en fonction des implications en matière de confidentialité, de sécurité, d’exactitude et de transparence de la mise en œuvre intégrée.

Cinq composants de la mise en œuvre de GenAI

Afin d’atténuer le risque de mise en œuvre de GenAI, tenez compte des cinq éléments suivants :

1. Technologie: systèmes, services, réseaux et plates-formes qui sous-tendent GenAI (peuvent être cloud, sur site ou hybrides)
2. Processus: atténuation des biais, sécurité, transparence du modèle, ingestion de données et confidentialité
3. Talent: compétences techniques, de données et de modèles à acquérir par le biais de formations, d’embauches ou de partenariats
4. Gouvernance: contrôle, responsabilité, expertise juridique, statutaire et éthique.Multidisciplinaire
5. Données: données bonnes, connues et comprises, pertinentes pour le cas d’utilisation

Évaluation de la maturité de l’IA

Comprendre la maturité de l’IA est crucial pour une mise en œuvre réussie de GenAI. Les organisations doivent évaluer de manière réaliste leurs niveaux de maturité en IA par rapport aux exigences du projet pour éviter de surengager des ressources. Cette maturité peut être construite, acquise ou acquise via des partenariats, le transfert de connaissances étant un élément essentiel de toute collaboration externe. Les éléments clés à comprendre lors de l’évaluation de la maturité sont la technologie, les processus, la gouvernance des talents et les données – sans surprise, les cinq éléments de la liste de contrôle ci-dessus.

Le graphique ci-dessous décrit les niveaux de maturité de l’IA tels que définis par le modèle MaturityScape d’IDC.

Lorsque vous examinez les cas d’utilisation, choisissez ceux qui correspondent à votre maturité en IA (ou à la maturité que vous pouvez acquérir auprès de tiers). Ne vous découragez pas et n’essayez pas un cas d’utilisation que votre organisation n’est pas en mesure de prendre en charge.

Catégories de cas d’utilisation et leurs exigences

Les cas d’utilisation de GenAI se répartissent en trois catégories principales :

1. Productivité ou efficacité: Il s’agit de tâches à faible risque, comme la synthèse de rapports ou la création d’appels d’offres, qui nécessitent un minimum de personnalisation et de talent. Ils sont corrélés à une faible maturité de l’IA et apportent généralement des avantages limités.
2. Fonctionnel: Il s’agit de tâches à risque moyen comme le marketing hyper-personnalisé, nécessitant de bonnes données et des talents internes disponibles. Ils correspondent à une maturité modérée de l’IA et peuvent apporter des bénéfices modérés.
3. Industrie ou transformation: Il s’agit de cas d’utilisation à haut risque et à fort impact, comme la découverte générative de médicaments, qui nécessitent un investissement important dans les talents et la qualité des données. Ceux-ci peuvent constituer des différenciateurs concurrentiels ou créer un fossé concurrentiel. Ils sont corrélés à une maturité élevée de l’IA et peuvent apporter de gros avantages.

Construire contre acheter : une approche équilibrée

Les organisations doivent adopter une combinaison de stratégies de création et d’achat adaptées à leurs contextes commerciaux et technologiques spécifiques. Cette approche équilibrée garantit que les projets s’alignent sur les exigences de maturité et de valeur de l’organisation. La figure ci-dessous illustre comment les cas d’utilisation correspondent à la maturité et à la valeur, puis aux options de mise en œuvre associées.

Conclusion

Naviguer dans les risques de GenAI nécessite une compréhension globale de la maturité de l’IA d’une organisation, une approche équilibrée de création et d’achat et une évaluation rigoureuse des fournisseurs. En relevant ces défis et en tirant parti de la bonne infrastructure, les organisations peuvent exploiter le potentiel de transformation de GenAI tout en minimisant les risques.

International Data Corporation (IDC) est le premier fournisseur mondial d’informations commerciales, de services de conseil et d’événements pour les marchés technologiques. IDC est une filiale en propriété exclusive d’International Data Group (IDG Inc.), le leader mondial des services de médias technologiques, de données et de marketing. Récemment élu cabinet d’analystes de l’année pour la troisième fois consécutive, les solutions technologiques leaders d’IDC vous fournissent des conseils d’experts soutenus par nos services de recherche et de conseil de pointe, de solides programmes de leadership et de développement et les meilleures données d’analyse comparative et d’approvisionnement. auprès des conseillers les plus expérimentés de l’industrie. Contactez-nous dès aujourd’hui pour en savoir plus.

Obtenez plus de conseils d’IDC sur gérer les risques de GenAI et construire contre acheter pour GenAI.

Daniel Saroff est vice-président du groupe de conseil et de recherche chez IDC, où il est praticien senior dans le domaine du conseil aux utilisateurs finaux. Cette pratique fournit un soutien aux conseils d’administration, aux chefs d’entreprise et aux responsables technologiques dans leurs efforts pour concevoir, comparer et optimiser la technologie de l’information de leur organisation. La pratique de conseil aux utilisateurs finaux d’IDC utilise notre vaste bibliothèque de données informatiques internationales, une solide base de recherche et des solutions de conseil sur mesure pour offrir une valeur commerciale unique grâce à l’accélération informatique, la gestion des performances, l’optimisation des coûts et des capacités d’analyse comparative contextualisée.

Daniel dirige également la pratique de recherche CIO/utilisateur final chez IDC. Cette pratique fournit des conseils aux dirigeants d’entreprise et de technologie sur la façon de tirer parti de la technologie pour obtenir des résultats commerciaux innovants et disruptifs. Les recherches d’IDC permettent aux clients de créer des stratégies commerciales et technologiques fondées et permettent aux responsables informatiques de fournir des services et des innovations qui stimulent la croissance et le succès de l’entreprise.

Daniel possède plus de 20 ans d’expérience dans des postes de direction dans des organisations de conseil et de fourniture de technologies. Avant de rejoindre IDC, il a occupé le poste de CIO pour une grande agence de l’État du Massachusetts, où il a dirigé l’agence à travers les migrations vers le cloud, la transformation numérique, la modernisation technologique, la réingénierie de la plate-forme d’entreprise, la sécurité en profondeur et la confiance zéro, ainsi que la défense et la réponse à un problème. cyberattaque majeure. Il a également occupé des postes de consultant chez Forrester et Gartner et a été directeur informatique dans une grande entreprise de l’aérospatiale et de la défense. Avant de rejoindre IDC, il possédait un cabinet de conseil privé en gestion informatique.