Trois choses que les DSI peuvent faire pour aider l’IA à favoriser le développement durable

Technologie de l’espace rackable

Que l’IA tienne ou non ses promesses à long terme, Les DSI tenus de rendre compte de l’intégralité de leur impact sur les émissions de carbone doivent désormais inclure l’impact de l’IA dans leurs rapports scope 3, et ça se complique très vite. Par exemple, si vous effectuez une inférence avec un modèle qui a été formé par quelqu’un d’autre, vous devez déclarer votre part de l’impact CO.₂. Le fournisseur peut vous indiquer le coût total de la formation, mais personne ne sait comment répartir ce coût entre tous les utilisateurs sur la durée de vie du modèle.

« Rien de tout cela n’est encore clair, car le reporting scope 3 est nouveau, tout comme l’IA générative »», déclare Niklas Sundberg, directeur du bureau numérique et vice-président principal de l’entreprise mondiale suisse de transport et de logistique Kuehne+Nagel. Sundberg en sait autant que quiconque sur le reporting scope 3 et aborde le sujet dans son livre Guide informatique durable pour les leaders technologiques.

Malgré les ambiguïtés, les responsables informatiques vont de l’avant avec l’IA. En chemin, certains ont découvert trois choses que vous pouvez faire pour atténuer l’impact sur vos propres initiatives de développement durable. Ils les partagent ici.

1. Faites appel à un excellent fournisseur pour optimiser l’utilisation

« Nous sommes déjà des utilisateurs avancés de l’IA, et l’une des choses que nous recommandons est utiliser l’IA, en particulier l’inférence, par l’intermédiaire de fournisseurs qui ont partagé des environnements d’inférence d’IA à la demande », dit Elwin. Cela est logique, car plus il y a de personnes utilisant un service de cloud public, plus les taux d’utilisation seront élevés. Améliorer l’utilisation des ressources pour exécuter des applications d’IA à forte consommation d’énergie pourrait faire une différence dans l’empreinte carbone globale de votre organisation.

Les DSI peuvent aller plus loin en posant aux fournisseurs une liste de questions, en commençant par la manière dont ils entraînent leurs modèles et comment l’inférence est exécutée. « Si vous achetez uniquement des services d’inférence, vous devez leur demander comment ils peuvent prendre en compte tout l’impact en amont », explique Tate Cantrell, directeur technique chez Verne, une société basée au Royaume-Uni qui propose des solutions de centres de données pour les entreprises et les entreprises. entreprises. « Le résultat de l’inférence prend une fraction de seconde. Mais la seule raison pour laquelle ces poids au sein du réseau neuronal sont tels qu’ils sont est l’énorme quantité de formation – potentiellement un mois ou deux de formation à quelque chose comme 100 à 400 mégawatts – pour obtenir l’infrastructure telle qu’elle est. Alors, combien devons-nous facturer ? »

Verne

Cantrell exhorte les DSI à interroger les fournisseurs sur leurs propres rapports. « Est-ce qu’ils rendent compte ouvertement de l’impact de leurs services d’un point de vue durable ? Combien de temps dure le processus de formation, combien de temps est-il valable et combien de clients cet impact a-t-il touché ? »