3 étapes pour éliminer l’IA fantôme

Imaginez un marché hautement concurrentiel où l’urgence d’innover est forte. Un chef de produit est soumis à une immense pression pour fournir des informations complexes sur les clients qui pourraient faire évoluer la stratégie produit de l’entreprise. Frustré par le manque d’outils d’IA générative, il découvre un outil en ligne gratuit qui analyse ses données et génère le rapport dont il a besoin en une fraction du temps habituel. Son manager loue son efficacité ainsi que la profondeur et l’étendue des connaissances qu’il produit.

Les distinctions sont de courte durée. Un audit de routine révèle de graves problèmes de conformité dans la manière dont l’outil accède et stocke les données. Cela signale également une fuite potentielle de données, mettant à mal ce qui était initialement considéré comme une innovation révolutionnaire.

Des événements similaires se sont produits dans de nombreux secteurs, et ce n’est pas surprenant étant donné que 93 % des décideurs informatiques et de données dans le monde déclarent que leur les organisations utilisent déjà l’IA générative dans une certaine mesure. Ces mêmes décideurs identifient une multitude de défis dans la mise en œuvre de l’IA générative, il est donc probable qu’une part importante de son utilisation soit « non autorisée ». En fait, plus de la moitié des utilisateurs d’IA dans une étude récente, ils disent qu’ils sont « réticents à admettre » qu’ils utilisent l’IA, car ils craignent que son utilisation « les rende remplaçables ». Le récit familier illustre l’épée à double tranchant de « l’IA fantôme » : des technologies utilisées pour accomplir des tâches basées sur l’IA sans l’approbation ou la surveillance de l’entreprise, apportant des gains rapides mais exposant potentiellement les organisations à des risques importants.

L’attrait de l’IA générative

En tant que théoricien de l’IA Eliezer Youdkowsky a écrit : « Le plus grand danger de l’intelligence artificielle est de loin que les gens concluent trop tôt qu’ils la comprennent. » Bien que sa déclaration soit bien antérieure à l’incroyable explosion de l’IA générative de 2023, son argument est encore plus pertinent dans le cas des outils d’IA générative en ligne gratuits. Non approuvés par le service informatique, ces outils offrent une facilité d’accès et d’utilisation qui peut obscurcir le jugement des employés, même les mieux intentionnés, quant aux implications plus larges de leurs choix.

Les dangers de l’IA générative non autorisée

Les risques supplémentaires liés à l’IA générative fantôme sont spécifiques et tangibles et peuvent menacer l’intégrité et la sécurité des organisations. Les outils d’IA non surveillés peuvent conduire à des décisions ou à des actions qui compromettent les mesures de conformité réglementaires et d’entreprise, en particulier dans les secteurs où la manipulation et le traitement des données sont strictement réglementés, comme la finance et la santé.

Les modèles d’IA générative peuvent perpétuer et amplifier les biais dans les données de formation lors de la construction des résultats. Les modèles peuvent produire du matériel susceptible de porter atteinte aux droits d’auteur. S’ils ne sont pas correctement formés, ces modèles peuvent répliquer du code susceptible de violer les conditions de licence. Si le code n’est pas correctement testé et validé, le logiciel dans lequel il est intégré peut être instable ou sujet aux erreurs, ce qui présente des problèmes et des coûts de maintenance à long terme. Le code généré pourrait contenir un code malveillant non détecté qui risquerait en outre de graves conséquences en cas de violation de données et d’arrêt du système.

En fin de compte, des interactions mal gérées avec l’IA, en particulier dans les applications destinées aux clients, peuvent entraîner des problèmes de réglementation et de relations publiques si elles violent les lois ou conduisent à une mauvaise expérience client ou à des problèmes éthiques, par exemple lorsque des préjugés entachent les résultats de l’IA. Il appartient aux dirigeants de mettre en place des garde-fous autour de l’IA générative fantôme pour éviter que les « pour » ne soient des « contre » qui exposent leurs organisations et leurs employés à des conséquences involontaires.

Comment les dirigeants peuvent combler le gouffre

Avec « 78 % des utilisateurs d’IA apportent leurs propres outils d’IA au travail« , il existe un gouffre grandissant entre ce que veulent les employés et ce que les équipes informatiques et IA peuvent fournir en toute sécurité. UN étude auprès de 700 décideurs IT et data parrainé par Iron Mountain indique que 36 % des personnes interrogées classent « la protection et la gestion des données et autres actifs créés par l’IA générative » parmi les principaux défis auxquels ils sont confrontés. « Créer et appliquer des politiques d’IA générative » suit de près avec 35 %. Voici trois recommandations pour encourager l’innovation tout en maintenant les normes de sécurité, de conformité, d’éthique et de gouvernance.

Synchronisez vos stratégies d’IA, de sécurité et de gouvernance des actifs

Pour tirer pleinement parti des avantages de l’IA tout en préservant la sécurité et la conformité, il est crucial d’intégrer la gouvernance de l’IA à votre stratégie organisationnelle globale. Exemples de premières étapes :

• Communiquez le rôle de l’IA dans la réalisation de vos objectifs stratégiques, en garantissant l’alignement avec les objectifs commerciaux et les besoins opérationnels.
• Établissez des lignes directrices complètes qui traitent des considérations éthiques, de la confidentialité des données et de la conformité réglementaire pour garantir un déploiement responsable de l’IA.
• Créez des comités ou des rôles spécifiquement chargés de superviser les déploiements d’IA dans l’ensemble de l’organisation, y compris ceux initiés par des départements individuels.
• Former des structures de gouvernance dédiées pour surveiller, évaluer et guider les initiatives d’IA, en garantissant une surveillance et une responsabilité cohérentes.
• Intégrez des mesures de sécurité spécifiques à l’IA dans les cadres informatiques existants pour atténuer les risques et vous protéger contre les menaces potentielles.

Favoriser une culture d’utilisation responsable de l’IA

Une étude récente montre que « 65 % des personnes interrogées admettent qu’elles manquent d’éducation autour de l’IA générative ». Promouvoir une utilisation responsable de l’IA au sein de votre organisation implique de créer un environnement favorable et des lignes directrices claires pour garantir des pratiques éthiques et sûres. Voici les étapes essentielles pour favoriser une telle culture :

• Impliquez les utilisateurs de l’IA générative et les experts fonctionnels dans l’élaboration de directives et de protocoles écrits pour divers départements (tels que le marketing, l’ingénierie, les ressources humaines, les soins aux patients et les processus de décision orientés client) afin de garantir une utilisation appropriée et éthique dans des environnements spécifiques.
• Offrez une formation aux utilisateurs finaux sur l’utilisation d’applications et de plates-formes d’entreprise avec IA générative intégrée. Cela augmentera la valeur des données tout en les protégeant contre les violations de données.
• Mettre en place une formation continue mettant l’accent sur les considérations éthiques et les risques potentiels.
• Fournissez des bacs à sable pour tester en toute sécurité les outils et applications d’IA, ainsi que des politiques et des garde-fous appropriés pour l’expérimentation.

Tirer parti de l’IA pour un avantage stratégique

Utiliser efficacement l’IA peut offrir un avantage concurrentiel significatif en créant une nouvelle valeur à partir de vos données. Ces étapes peuvent aider :

• Donnez aux employés les moyens d’expérimenter IA générative intégrée dans un environnement sécurisé. Cela peut améliorer la productivité et la satisfaction au travail en éliminant la monotonie dans leurs activités quotidiennes et en les encourageant à recommander des utilisations supplémentaires.
• Maintenez un catalogue complet d’outils d’IA utilisés dans toute l’organisation, gérés par le service informatique ou un responsable de l’IA, pour rationaliser l’intégration et la gestion des applications précieuses.
• Examiner et intégrer les projets d’IA expérimentaux réussis dans le cadre opérationnel principal de l’entreprise.
• Évaluez les performances des initiatives d’IA pour recueillir des informations, affiner les stratégies et garantir que les investissements en IA génèrent les résultats commerciaux souhaités.

Conclusion

Pour les dirigeants, l’IA fantôme présente des défis formidables, mais aussi des opportunités significatives. En comprenant sa double nature, les dirigeants peuvent formuler des stratégies qui exploitent les avantages des innovations décentralisées en matière d’IA tout en atténuant les risques associés. La clé réside dans la création d’un environnement équilibré où l’innovation est encouragée et la gouvernance est appliquée, orientant finalement l’entreprise vers une croissance et un succès durables dans un monde axé sur l’IA.

Apprendre encore plus dans ce document sur l’IA fantôme et les options que vous pouvez utiliser pour protéger votre entreprise.

Visitez notre Page de la plateforme d’expérience numérique Iron Mountain InSight® (DXP) pour voir comment vous pouvez utiliser l’IA générative sécurisée intégrée à la plateforme pour vous aider à accéder, gérer et gouverner vos informations physiques et numériques.