Comme Gudipati et Nafde, Menon et son équipe envisagent d’utiliser les hyperscalers comme option à risque relativement faible. Bien qu’elle soit dans un environnement multicloud, l’agence héberge la plupart de ses implémentations cloud sur Microsoft Azure, certaines sur AWS et d’autres sur la plateforme d’information citoyenne 311 de ServiceNow. Le comté de Harris compte environ une demi-douzaine de POC basés sur l’IA en phase de planification, dont un qui modernise le traitement des permis et un autre qui modernise les processus judiciaires, selon Menon.
Jeter les bases
Pour développer les implémentations POC, Menon et son équipe créent un laboratoire qui devrait ouvrir ses portes en mars 2024 pour tester les outils d’IA avant leur déploiement. Le laboratoire, situé dans un immeuble de bureaux du comté, rassemblera des membres de plusieurs départements, notamment l’équipe de données et l’équipe d’architecture du comté.
« Il y a beaucoup d’intérêt à participer aux tests et à la participation dans tout le comté. Notre objectif est de rassembler les équipes et de fournir un environnement sécurisé pour apprendre et tester les solutions », explique-t-elle. Pour un projet typique qui impliquera probablement un lac de données Snowflake hébergé actuellement sur Azure, Menon souligne que la qualité des données est essentielle. « Les outils d’IA s’appuient sur les données utilisées dans ces solutions. De bonnes pratiques de gestion des données seront nécessaires pour obtenir les résultats souhaités et les solutions d’IA », dit-elle.
De même, Nafde a constitué une équipe de gouvernance de l’IA composée d’une vingtaine de personnes, dirigée par l’architecte d’entreprise en chef et le responsable des données de la Webster Bank, qui comprend des technologues, du personnel chargé des risques et de la conformité et des avocats. L’équipe IA de la banque se concentre également sur la qualité des données. Pour cela, le groupe a mis en place des outils de qualité des données et de gouvernance pour l’environnement Snowflake de la banque.
Pour Gudipati de Covanta, la première étape consistait à préparer l’entreprise à l’IA en créant une base de données solide et complète sur laquelle les technologies et services d’IA pourraient être mis en œuvre.
« L’IA se nourrit de données de haute qualité, c’est pourquoi nous avons créé une structure complète de gestion des données à l’aide de Talend, en tirant parti de Snowflake pour notre magasin et entrepôt de données opérationnels », explique Gutipati. « Nous avons ensuite mis en œuvre une suite complète d’outils d’IA sur AWS qui fonctionnent nativement bien ensemble pour nous offrir une véritable AIOps. Nous utilisions largement Amazon pour notre infrastructure et notre stockage de données, il était donc logique de les utiliser », poursuit Gudipati, qui ajoute : « Nous avons achevé les fondations et l’infrastructure sur lesquelles l’IA pouvait véritablement être développée à son plein potentiel. »
Risque de blocage
Étant donné que l’exécution d’algorithmes d’IA coûte cher, chaque projet risque d’entraîner un coût plus élevé que prévu.
« Les moteurs d’IA sont coûteux à exploiter car ils consomment beaucoup plus de processeurs que l’IA conventionnelle. Nous devons donc garder un œil sur les coûts », explique Gudipati.
Nafdé est d’accord. « Les gens ne réalisent pas que les modèles d’IA doivent générer autant de ressources de calcul. Ils ne réalisent pas combien cela peut coûter », explique Nafde. « Nous avons des déclencheurs de coûts pour les services informatiques. Nous pensons pouvoir gérer les coûts d’exploitation car nous évaluerons continuellement les coûts.
S’engager auprès d’un fournisseur de services cloud, y compris un hyperscaler, n’est pas sans risque de verrouillage. Bien qu’il soit possible de passer d’un fournisseur de cloud à une meilleure offre sur un autre, la main d’œuvre et les dépenses liées à cette transition sont intimidantes et pourraient annuler les économies potentielles. Snowflake, par exemple, fonctionne à la fois sur Microsoft Azure ou sur AWS, il serait donc possible de passer de l’un à l’autre. « Je ne pense pas que ce soit impossible, mais il faudrait faire un travail de base. C’est bien d’y penser à l’avance », déclare Gudipati.
Ne reste pas là, fais quelque chose
Pour les DSI, rares sont les technologies antérieures qui entraînent l’impératif d’agir qui accompagne l’IA générative. Les stratégies d’atténuation des risques se heurtent aux pressions des dirigeants de haut niveau qui ne veulent pas que leur entreprise soit laissée pour compte.
« C’est peut-être la première fois dans l’histoire que des dirigeants qui ne sont pas experts en technologie peuvent voir quelque chose et s’en enthousiasmer parce qu’ils peuvent s’y intéresser. Cela a été un tournant dans l’intérêt des conseils d’administration », déclare Hopkins de Forrester.
Dans les services financiers, Nafde voit des startups telles que Stripe, une société de paiement, et MX, une application mobile, qui pourraient utiliser l’IA pour prendre en charge les relations clients. «Le comportement des utilisateurs pourrait tellement changer qu’ils ne penseront plus aux banques, mais à l’application de paiement qu’ils utilisent», explique Nafde. « Les Fintechs et les startups vont exploiter l’IA pour soit dépasser les acteurs établis, soit s’épuiser. »
Cependant, contrairement aux startups, les entreprises établies ne peuvent pas risquer les pertes qui pourraient résulter d’un pari sur l’IA. Leur défi est de trouver une voie intermédiaire qui donne des résultats concrets. Gudipati déclare : « Nous ne disons pas au monde entier que nous sommes une entreprise basée sur l’IA, mais nous l’utilisons comme outil de résolution de problèmes au quotidien. »
mars 18, 2024
Les DSI se demandent où placer leurs paris sur l’IA – et comment réduire les risques.
Comme Gudipati et Nafde, Menon et son équipe envisagent d’utiliser les hyperscalers comme option à risque relativement faible. Bien qu’elle soit dans un environnement multicloud, l’agence héberge la plupart de ses implémentations cloud sur Microsoft Azure, certaines sur AWS et d’autres sur la plateforme d’information citoyenne 311 de ServiceNow. Le comté de Harris compte environ une demi-douzaine de POC basés sur l’IA en phase de planification, dont un qui modernise le traitement des permis et un autre qui modernise les processus judiciaires, selon Menon.
Jeter les bases
Pour développer les implémentations POC, Menon et son équipe créent un laboratoire qui devrait ouvrir ses portes en mars 2024 pour tester les outils d’IA avant leur déploiement. Le laboratoire, situé dans un immeuble de bureaux du comté, rassemblera des membres de plusieurs départements, notamment l’équipe de données et l’équipe d’architecture du comté.
« Il y a beaucoup d’intérêt à participer aux tests et à la participation dans tout le comté. Notre objectif est de rassembler les équipes et de fournir un environnement sécurisé pour apprendre et tester les solutions », explique-t-elle. Pour un projet typique qui impliquera probablement un lac de données Snowflake hébergé actuellement sur Azure, Menon souligne que la qualité des données est essentielle. « Les outils d’IA s’appuient sur les données utilisées dans ces solutions. De bonnes pratiques de gestion des données seront nécessaires pour obtenir les résultats souhaités et les solutions d’IA », dit-elle.
De même, Nafde a constitué une équipe de gouvernance de l’IA composée d’une vingtaine de personnes, dirigée par l’architecte d’entreprise en chef et le responsable des données de la Webster Bank, qui comprend des technologues, du personnel chargé des risques et de la conformité et des avocats. L’équipe IA de la banque se concentre également sur la qualité des données. Pour cela, le groupe a mis en place des outils de qualité des données et de gouvernance pour l’environnement Snowflake de la banque.
Pour Gudipati de Covanta, la première étape consistait à préparer l’entreprise à l’IA en créant une base de données solide et complète sur laquelle les technologies et services d’IA pourraient être mis en œuvre.
« L’IA se nourrit de données de haute qualité, c’est pourquoi nous avons créé une structure complète de gestion des données à l’aide de Talend, en tirant parti de Snowflake pour notre magasin et entrepôt de données opérationnels », explique Gutipati. « Nous avons ensuite mis en œuvre une suite complète d’outils d’IA sur AWS qui fonctionnent nativement bien ensemble pour nous offrir une véritable AIOps. Nous utilisions largement Amazon pour notre infrastructure et notre stockage de données, il était donc logique de les utiliser », poursuit Gudipati, qui ajoute : « Nous avons achevé les fondations et l’infrastructure sur lesquelles l’IA pouvait véritablement être développée à son plein potentiel. »
Risque de blocage
Étant donné que l’exécution d’algorithmes d’IA coûte cher, chaque projet risque d’entraîner un coût plus élevé que prévu.
« Les moteurs d’IA sont coûteux à exploiter car ils consomment beaucoup plus de processeurs que l’IA conventionnelle. Nous devons donc garder un œil sur les coûts », explique Gudipati.
Nafdé est d’accord. « Les gens ne réalisent pas que les modèles d’IA doivent générer autant de ressources de calcul. Ils ne réalisent pas combien cela peut coûter », explique Nafde. « Nous avons des déclencheurs de coûts pour les services informatiques. Nous pensons pouvoir gérer les coûts d’exploitation car nous évaluerons continuellement les coûts.
S’engager auprès d’un fournisseur de services cloud, y compris un hyperscaler, n’est pas sans risque de verrouillage. Bien qu’il soit possible de passer d’un fournisseur de cloud à une meilleure offre sur un autre, la main d’œuvre et les dépenses liées à cette transition sont intimidantes et pourraient annuler les économies potentielles. Snowflake, par exemple, fonctionne à la fois sur Microsoft Azure ou sur AWS, il serait donc possible de passer de l’un à l’autre. « Je ne pense pas que ce soit impossible, mais il faudrait faire un travail de base. C’est bien d’y penser à l’avance », déclare Gudipati.
Ne reste pas là, fais quelque chose
Pour les DSI, rares sont les technologies antérieures qui entraînent l’impératif d’agir qui accompagne l’IA générative. Les stratégies d’atténuation des risques se heurtent aux pressions des dirigeants de haut niveau qui ne veulent pas que leur entreprise soit laissée pour compte.
« C’est peut-être la première fois dans l’histoire que des dirigeants qui ne sont pas experts en technologie peuvent voir quelque chose et s’en enthousiasmer parce qu’ils peuvent s’y intéresser. Cela a été un tournant dans l’intérêt des conseils d’administration », déclare Hopkins de Forrester.
Dans les services financiers, Nafde voit des startups telles que Stripe, une société de paiement, et MX, une application mobile, qui pourraient utiliser l’IA pour prendre en charge les relations clients. «Le comportement des utilisateurs pourrait tellement changer qu’ils ne penseront plus aux banques, mais à l’application de paiement qu’ils utilisent», explique Nafde. « Les Fintechs et les startups vont exploiter l’IA pour soit dépasser les acteurs établis, soit s’épuiser. »
Cependant, contrairement aux startups, les entreprises établies ne peuvent pas risquer les pertes qui pourraient résulter d’un pari sur l’IA. Leur défi est de trouver une voie intermédiaire qui donne des résultats concrets. Gudipati déclare : « Nous ne disons pas au monde entier que nous sommes une entreprise basée sur l’IA, mais nous l’utilisons comme outil de résolution de problèmes au quotidien. »
Source link
Partager :
Articles similaires