Naviguer de manière responsable dans genAI : 3 actions que les DSI peuvent entreprendre dès maintenant

L’IA générative (genAI) stimulera la transformation dans tous les secteurs au cours de l’année à venir. Les dirigeants ont la profonde responsabilité non seulement d’exploiter le potentiel de l’IA, mais également de gérer ses complexités éthiques avec prévoyance, diligence et transparence.

J’ai l’occasion de parler très fréquemment avec des DSI et d’autres personnes à la pointe de l’IA via mon podcast Exécution inspirée. L’éthique, la gouvernance et la réglementation reviennent dans presque toutes les conversations. L’importance de ces sujets est claire et les dirigeants sont aux prises avec le « comment » : comment agir de manière responsable avec nos données, comment travailler avec les instances dirigeantes sur des solutions et comment intégrer ces valeurs dans les organisations que nous dirigeons.

Voici ce que disent trois dirigeants à propos de la genAI responsable, ainsi que les mesures que vous pouvez prendre pour commencer à faire avancer les choses dès aujourd’hui.

Au niveau organisationnel : Tenir les humains informés

Prasad Ramakrishnan est un cadre, un conseiller CIO et un investisseur. Il souligne que la technologie sans gouvernance forte est risquée et cite l’exemple des véhicules autonomes nécessitant un humain dans la voiture (ou supervisant son fonctionnement). Prasad conseille aux dirigeants de garder le jugement humain au courant, soulignant la nécessité d’intégrer l’éthique à chaque étape du développement de l’IA. Cela signifie établir des lignes directrices éthiques et des structures de gouvernance claires au sein de leurs organisations. L’objectif est de réduire les risques et de garantir que les projets d’IA apportent des avantages pratiques aux clients et améliorent l’efficacité opérationnelle.

Action pour les DSI : Établissez des directives éthiques et une gouvernance claires pour les projets d’IA afin de garantir l’alignement éthique et le succès opérationnel.

Au niveau de l’industrie : plaider en faveur de normes à l’échelle de l’industrie

Alex Mashrabov a passé des années en tant que directeur de GenAI chez Snap et a récemment fondé une société d’IA vidéo appelée Higgsfield. Il estime que nous devons dépasser les craintes exagérées couvertes par les médias et adopter une vision plus réaliste soutenue par des initiatives pratiques. S’attaquant spécifiquement à la génération vidéo, il partage deux défis critiques : la détection du contenu protégé par le droit d’auteur et la mise en œuvre de filigranes numériques IA.

Alex préconise l’établissement de normes à l’échelle de l’industrie dirigées par des plateformes majeures comme Google et Meta. Ses principales préoccupations sont la disparité des cadres réglementaires entre les États et l’adoption rapide de l’IA avant la clarté de la réglementation. « La gouvernance a besoin d’un leadership proactif de l’industrie », déclare Alex, appelant à la transparence et à la responsabilité dans les résultats de l’IA afin de minimiser les abus et de garantir des normes éthiques.

Action pour les DSI : plaidez en faveur de normes à l’échelle de l’industrie pour des résultats d’IA transparents et responsables qui abordent des questions telles que le droit d’auteur et l’intégrité numérique.

Au niveau des systèmes : donner la priorité à l’explicabilité

Jeff Frick a une formation en technologie et en médias et interviewe plusieurs des dirigeants les plus innovants d’aujourd’hui. Il évoque la nature évolutive de l’IA et les défis qu’elle entraîne. « Nous devons anticiper les améliorations au fil du temps malgré les limites actuelles », dit-il, établissant des parallèles avec les avancées technologiques historiques comme l’essor du PC.

Les préoccupations concernant l’explicabilité et la gouvernance ressortent le plus pour Jeff. Il souligne le défi que représente la réalisation d’une IA explicable accompagnée d’un apprentissage continu et d’une vaste saisie de données. Jeff souligne également la complexité de gérer les disparités réglementaires (par exemple, les différences entre les normes mondiales et régionales telles que le RGPD). Son point de vue est que la bonne gouvernance devrait être un accélérateur et non un obstacle à l’innovation.

Action pour les DSI : promouvoir l’ouverture et investir dans des technologies qui améliorent l’explicabilité des systèmes d’IA, afin que les parties prenantes puissent comprendre comment les décisions en matière d’IA sont prises et faire confiance aux résultats.

Un leadership responsable dans GenAI n’est pas facultatif – c’est essentiel. En établissant des normes éthiques claires, en promouvant la responsabilité et la collaboration à l’échelle du secteur, et en ayant un dialogue et des systèmes ouverts, vous pouvez orienter votre organisation vers un avenir de l’IA fondé sur la confiance et l’innovation.

Obtenez plus d’informations sur le leadership de DataStax

À propos de Chet Kapoor:

Chet est président-directeur général de DataStax. Il est un leader et un innovateur reconnu dans l’industrie technologique avec plus de 20 ans d’expérience à la tête d’entreprises innovantes de logiciels et de cloud computing, notamment Google, IBM, BEA Systems, WebMethods et NeXT. En tant que président-directeur général d’Apigee, il a dirigé des initiatives à l’échelle de l’entreprise pour faire d’Apigee l’un des principaux fournisseurs de technologies pour le commerce numérique. Google (Apigee) est la plateforme de gestion d’API cross-cloud qui fonctionne dans un monde multi-cloud et hybride. Chet a introduit avec succès Apigee en bourse avant que la société ne soit rachetée par Google en 2016. Chet a obtenu son baccalauréat en ingénierie à l’Arizona State University.