4 leçons essentielles dans la gouvernance de l’IA

Bien entendu, ce qui doit être protégé dépend du secteur d’activité. Alors que Planview se soucie de protéger la propriété intellectuelle, Wall Street English est consciente des sensibilités culturelles. Ils ajustent le contenu de leurs cours pour éviter d’offenser les étudiants, et leurs outils d’IA doivent faire de même. « Tout comme nous confions nos cours en ligne à des enseignants qualifiés pour garantir que rien d’inapproprié ne soit dit, nous devons veiller à ce que l’IA évite d’exprimer des opinions involontaires ou des contenus inappropriés », déclare Hortal. « Nous utilisons des techniques telles que la désinfection des entrées, le suivi contextuel et le filtrage de contenu, pour atténuer les risques et les vulnérabilités. Toutes ces choses font partie de notre gouvernance de l’IA.

Quoi que vous protégiez, les règles ne doivent pas s’arrêter au sein de votre propre organisation. Des efforts devraient être faits pour garantir que les mêmes protections puissent être garanties lorsque le travail est externalisé. « Certaines des entreprises les plus sophistiquées au monde disposent en interne d’une étonnante structure de gouvernance de l’IA », déclare Matt Kunkel, PDG de LogicGate, un éditeur de logiciels qui fournit une plate-forme holistique de gouvernance, de risque et de conformité (GRC). « Mais ils envoient ensuite toutes leurs données à des tiers qui les utilisent avec leurs grands modèles de langage. Si vos tiers ne sont pas d’accord avec vos politiques d’utilisation de l’IA, vous perdez alors le contrôle de la gouvernance de l’IA.

Commencez maintenant

Le conseil le plus courant émanant des responsables informatiques ayant déjà mis en œuvre la gouvernance de l’IA est de commencer dès maintenant. Entre le moment où les responsables informatiques commencent à travailler sur la gouvernance de l’IA et le moment où ils communiquent les règles au sein de leur organisation, cela peut prendre des mois. À titre d’exemple, il a fallu environ six mois à Planview entre le moment où ils ont commencé à réfléchir à leur politique et le moment où ils l’ont mise à la disposition de l’ensemble de l’entreprise dans leur système de gestion de l’apprentissage.