Watsonx.governance d’IBM vise l’audit de l’IA

IBM mise gros sur sa boîte à outils de surveillance IA générative et apprentissage automatique modèles, doublés watsonx.gouvernancepour affronter ses concurrents et positionner l’offre comme un top IA produit de gouvernance, selon un cadre supérieur d’IBM.

La boîte à outils, publiée dans le cadre du programme IBM Plateforme d’IA générative Watsonx en mai dernier, se différencie de manière unique par sa capacité de piste d’audit, a déclaré Heather Gentile, directrice de la gestion des produits à la division données et logiciels d’IA d’IBM.

Selon Gentile, cette fonctionnalité permet aux clients de watsonx.governance de créer un référentiel pour enregistrer les détails tout au long du cycle de vie d’un modèle, tels que la justification d’un certain choix de modèle ou quelle partie prenante a eu quelle implication dans le cycle de vie du modèle.

Gentile affirme que watsonx.governance propose une « approche ou solution plus holistique » par rapport aux solutions concurrentes, car soit elles n’ont pas la capacité de piste d’audit, soit elles n’offrent pas de services de surveillance en temps réel.

Qu’est-ce que watsonx.governance et comment ça marche ?

watsonx.governance est une boîte à outils permettant de gouverner les modèles d’IA générative et d’apprentissage automatique. Il se concentre sur trois domaines principaux de la documentation : la conformité, la gestion des risques et la gestion du cycle de vie des modèles – des processus qui, selon IBM, sont étroitement liés.

La documentation commence par la phase initiale de gestion du cycle de vie du modèle et se poursuit à travers chaque changement et mesure essentiel au processus d’adoption du modèle, y compris son cas d’utilisation.

La boîte à outils est accompagnée d’un flux de travail de bonnes pratiques qu’IBM diffuse dans toute l’entreprise en combinaison avec la politique de gouvernance existante de l’entreprise, selon Gentile.

« Nous opérationnalisons essentiellement [an enterprise’s] meilleures pratiques afin que, quelle que soit la partie prenante en train de créer un cas d’utilisation de l’IA, la boîte à outils exigera que la partie prenante soumette des informations au fur et à mesure qu’elle progresse dans le processus d’adoption d’un modèle particulier pour cette tâche ou ce cas d’utilisation,  » dit Gentil.

Une fois qu’un cas d’utilisation est approuvé, IBM effectue une analyse des risques basée sur la politique d’utilisation et de gouvernance de l’IA de l’entreprise, suggérant le type de surveillance que l’entreprise devrait utiliser pour ce cas d’utilisation particulier, a ajouté Gentile.

Après l’analyse des risques, l’entreprise compare ensuite les modèles pour voir lequel convient le mieux au cas d’utilisation en question, a déclaré Gentile.

« Nous capturons les informations sur les performances de ces modèles dans des fiches d’information. Nous prenons en fait une base de référence pour chacun des modèles que l’entreprise compare, et créons également une piste d’audit du modèle qui a été choisi pour prendre en charge le cas d’utilisation », a déclaré Gentile, ajoutant que la piste d’audit est conservée dès le début de le processus.

La piste d’audit comprend également des informations sur la phase suivante, lorsque le modèle entre en production, après quoi il est surveillé en permanence en temps réel, selon IBM.

La boîte à outils enregistrera et informera l’entreprise si le modèle déclenche une alerte, ne fonctionne pas bien ou doit être mis à jour, a ajouté IBM.

Pourquoi l’audit de l’IA est-il si important ?

Gentile estime que la capacité de piste d’audit distingue watsonx.governance, en particulier à la suite des réglementations en matière d’IA qui obligent les entreprises à auditer leurs modèles pour garantir leur conformité.

De grandes économies telles que les États-Unis, le Royaume-Uni, l’Union européenne et l’Inde travaillent déjà sur des réglementations et des cadres pour garantir la sécurité des grands modèles de langage (LLM). Le mois dernier, par exemple, les États-Unis et le Royaume-Uni ont signé un accord travailler en étroite collaboration au développement de suites d’évaluation pour les LLM qui sous-tendent de nombreux systèmes d’IA.

Le mois dernier, l’UE a également signé la première loi globale au monde régissant l’IA. Selon le texte final de la loi européenne sur l’IA, la loi vise à promouvoir « l’adoption d’une IA digne de confiance et centrée sur l’humain, tout en garantissant un niveau élevé de protection de la santé, de la sécurité, des droits fondamentaux et de la protection de l’environnement contre les effets néfastes des systèmes d’intelligence artificielle. .»

À cette fin, IBM a développé une capacité d’évaluation des risques liés à l’IA dans l’UE au sein de watsonx.governance afin d’identifier les lacunes dans la conformité à la loi européenne sur l’IA, en fournissant des suggestions sur la façon d’y remédier, a déclaré Gentile.

La société prévoit d’utiliser le même cadre pour intégrer les exigences réglementaires d’autres juridictions, notamment les États-Unis, le Royaume-Uni et l’Inde.

Ce cadre, selon Gentile, comprendra une capacité de surveillance continue pour garantir que les modèles respectent régulièrement les réglementations.

Quelle est la stratégie d’IBM avec watsonx.governance ?

Bien qu’il ait été lancé avec la plateforme Watsonx, IBM prévoit de vendre Watsonx.governance en tant qu’offre distincte.

« Notre principale initiative de feuille de route est l’IA partout », a déclaré Gentile, ajoutant que la boîte à outils est accessible sur n’importe quel modèle sur n’importe quelle plate-forme ou cadre, car sa mise en œuvre ou son intégration n’exige pas qu’une entreprise « déchire et remplace » sa technologie actuelle.

« Nous avons la capacité de gouverner n’importe quel modèle tiers ou open source où qu’il se trouve, y compris sur site… ou dans le cloud public et privé », a déclaré Gentile, expliquant que les SDK et API d’IBM facilitent cela.

La prise en charge de la plate-forme pour watsonx.governance inclut Amazon SageMaker, Amazon Bedrock, Google Vertex et Microsoft Azure.

La stratégie de commercialisation d’IBM pour watsonx.governance pourrait attirer les entreprises, ont déclaré les analystes Keith Kirkpatrick, du Futurum Group, et Maribel Lopez, de Lopez Research.

« Avoir une stratégie de gouvernance de l’IA cross-cloud rend IBM plus attractif pour les DSI et les administrateurs car il s’agit d’un monde multicloud », a déclaré Lopez. « Cela dit, les acheteurs se tourneront également vers leurs fournisseurs de cloud existants pour la gouvernance. Dans certains cas, IBM pourrait proposer une fonction de type audit superposé pour s’assurer que la gouvernance de l’autre cloud est à la hauteur.

Les discussions sur la gouvernance, selon Lopez et Kirkpatrick, permettront à IBM de rester au courant des acheteurs, ce qui est essentiel dans un marché concurrentiel.

L’accent mis par IBM sur la gouvernance et la modularité de ses offres Watsonx confèrent au fournisseur un avantage sur les autres, a ajouté Lopez. « Cette flexibilité donne à IBM la possibilité de vendre un produit spécifique à un acheteur qui pourrait utiliser un autre fournisseur pour ses services cloud principaux », a-t-elle déclaré.

Eric Johnson, directeur de la société de services professionnels West Monroe, est du même avis, affirmant que la boîte à outils d’IBM pourrait bénéficier d’un avantage sur le marché en raison de sa nature « impartiale ».

watsonx.governance est généralement disponible en deux niveaux – un essai gratuit et un niveau Essentials pour les particuliers et des preuves de concept, au prix de 0,60 USD par unité de ressource. Un niveau entreprise/production est prévu pour une disponibilité future.