3 choses que les DSI peuvent faire pour synchroniser la génération IA avec la durabilité

Que l’IA tienne ou non ses promesses sur le long terme, les DSI tenus de rendre compte de l’intégralité de leur impact carbone doivent désormais inclure l’impact de l’IA dans leurs rapports Scope 3 – et cela devient très vite compliqué. Par exemple, si vous effectuez une inférence avec un modèle qui a été formé par quelqu’un d’autre, vous devez rendre compte de votre part de l’impact CO2. Le fournisseur peut être en mesure de vous indiquer le coût global de la formation, mais personne ne sait comment répartir ce coût entre tous les utilisateurs sur la durée de vie du modèle.

«Rien de tout cela n’est encore clair, car le reporting Scope 3 est nouveau, tout comme la génération AI», déclare Niklas Sundberg, directeur du bureau numérique et vice-président directeur de l’entreprise mondiale suisse de transport et de logistique Kuehne+Nagel. Sundberg en sait autant que quiconque sur le reporting Scope 3 et aborde le sujet dans son livre. Guide informatique durable pour les leaders technologiques.

Malgré les ambiguïtés, les responsables informatiques vont de l’avant avec l’IA. En cours de route, certains ont découvert trois choses qu’ils peuvent faire pour atténuer l’impact sur leurs propres initiatives de développement durable. Ils les partagent ici.

1. Faites appel à un grand fournisseur pour optimiser l’utilisation

« Nous sommes déjà des utilisateurs avancés de l’IA, et l’une des choses que nous recommandons est d’utiliser l’IA, en particulier l’inférence, par l’intermédiaire de fournisseurs qui ont partagé des environnements d’inférence d’IA à la demande », explique Elwin. Cela est logique, car plus les utilisateurs d’un service cloud public sont nombreux, plus les taux d’utilisation sont élevés. L’amélioration de l’utilisation des ressources lors de l’exécution d’applications d’IA gourmandes en énergie pourrait faire une différence dans l’empreinte carbone globale de votre organisation.

Les DSI peuvent aller plus loin en posant aux fournisseurs une liste de questions, en commençant par la manière dont ils entraînent leurs modèles et comment l’inférence est exécutée. « Si vous achetez uniquement des services d’inférence, demandez-leur comment ils peuvent prendre en compte tout l’impact en amont », explique Tate Cantrell, CTO de Verne, une société basée au Royaume-Uni qui fournit des solutions de centres de données aux entreprises et aux hyperscalers. « La sortie d’inférence prend une fraction de seconde. Mais la seule raison pour laquelle ces poids à l’intérieur de ce réseau neuronal sont tels qu’ils sont est due à des quantités massives de formation – potentiellement un ou deux mois de formation à quelque chose comme 100 à 400 mégawatts – pour obtenir cette infrastructure telle qu’elle est. Alors, combien devriez-vous vous facturer ? »

Cantrell exhorte les DSI à interroger les fournisseurs sur leurs propres rapports. « Publient-ils ouvertement l’impact en amont de leurs services dans une perspective de développement durable ? Quelle est la durée du processus de formation, combien de temps est-il valable et sur combien de clients ce poids a-t-il eu un impact ? »