Pourquoi les DSI d’entreprise doivent planifier l’IA de la génération Microsoft

Les entreprises possédant une solide expérience en matière d’open source peuvent envisager les modèles de fondation ouverts comme une option pour réduire les coûts, mais Curran met en garde contre l’assimilation des modèles de pondération ouverts avec l’écosystème open source plus familier. Il prédit cependant que les entreprises les adopteront, notamment en les utilisant dans des environnements organisés fournis comme Azure.

« J’ai constaté beaucoup d’intérêt pour les modèles open source, mais pas beaucoup en production », déclare Boyd, bien que les clients commencent à utiliser de petits modèles comme la série Phi de Microsoft. «Mais c’est en grande partie le début. Je n’ai pas vu d’adoption massive.

Au-delà de la simplification de la configuration et de l’exécution de modèles de pondération ouverts, leur utilisation sur une plateforme comme Azure présente un avantage supplémentaire : le service de sécurité du contenu des modèles de Microsoft est « activé et intégré par défaut à Azure Open AI Services, mais il est également activé par défaut avec tous nos modèles ouverts ». modèles sources également », ajoute-t-il.

Après l’enthousiasme et l’expérimentation de l’année dernière, les DSI sont plus réfléchis sur la manière dont ils mettent en œuvre la génération AI, prennent des décisions familières en matière de retour sur investissement et commencent souvent par le support client. « C’est un coût que la plupart des organisations doivent payer mais qu’elles n’aiment pas payer, et pourtant elles veulent quand même offrir une expérience de qualité », dit-il. La réduction des délais d’appel et des escalades constitue également un avantage évident.

Ces offres d’IA de génération intégrées plus verticales, spécifiques à des tâches, peuvent apporter plus que des copilotes de productivité généralistes, car les utilisateurs n’auront pas besoin de trouver des utilisations et de se rappeler ensuite de les inclure dans leur flux de travail. Mais les copilotes les plus populaires peuvent être très performants : Virgin Atlantic, par exemple, rapporte des gains d’efficacité de 14 minutes par jour.

Mais tous les copilotes n’apportent pas forcément la même valeur. Curran suggère que les copilotes de sécurité pourraient ne pas apporter de valeur supplémentaire significative par rapport aux outils existants dans Microsoft Defender, du moins sans formation supplémentaire. Mais l’Excel Copilot a été un succès surprise chez Virgin Atlantic. « Les gens adorent que Copilot vous indique automatiquement si vous rencontrez des incohérences dans les données dans la façon dont vous remplissez les formulaires », explique Walker. Il décrit comment Copilot peut vous avertir si, par exemple, vous ajoutez un filtre en double en minuscules au lieu de majuscules, et le corriger. « C’est comme si quelqu’un regardait par-dessus votre épaule pendant que vous le faites. »

Le Teams Copilot, qui résume les réunions et propose les prochaines étapes, est également presque universellement populaire. « Vous entrez dans une salle avec 15 personnes et vous ne vous concentrez pas sur qui rédige les procès-verbaux ou si vous devez être suffisamment clair dans la répartition et vous assurer que tout le monde comprend quel est le résultat », explique Walker. « Vous vous concentrez sur la réunion elle-même et vous êtes plus présent dans la salle parce que vous savez que Copilot est derrière vous pour enregistrer et transcrire. »

Même ce Copilot pré-construit doit être préparé avant d’être activé. Les organisations multilingues où le personnel parle à la fois dans leur langue maternelle et dans une langue commune comme l’anglais ou le mandarin devront surveiller plus attentivement la qualité des transcriptions et des traductions. Et si l’enregistrement des réunions n’est pas encore courant dans l’organisation, les DSI doivent consulter les équipes juridiques et de protection des données sur les politiques de conservation, d’audit et de suppression en raison de problèmes potentiels liés à la découverte.

Un plan de fuite de données est également utile ici. «Dès que vous enregistrez quelque chose, cela devient une forme de données et nécessite une classification et une place dans l’organisation», explique Walker. « Mais vous devez également savoir s’il est approprié de créer ces données en premier lieu. »

Même si les DSI doivent maintenir une discipline financière et suivre l’utilisation des API de génération avec le modèle désormais familier de « paiement à l’utilisation », en particulier à l’approche de la saison budgétaire de septembre, ils doivent également jouer un long jeu, prévient Mickey North Rizza, vice-président du groupe, Enterprise Software. chez IDC. « Cela va vous coûter beaucoup d’argent », dit-elle. « Les DSI peuvent se plaindre de ne pas en tirer suffisamment profit, mais la première fois que vous avez acheté un iPhone, personne ne savait quoi en faire. »

Qu’elle soit utilisée en tant qu’assistante, conseillère ou agent, elle s’attend à ce que l’accès optimisé à l’information de la génération AI réduise les processus métier en plusieurs étapes à des systèmes en temps réel avec beaucoup moins d’étapes. Mais il faut du temps pour expérimenter et obtenir des résultats significatifs.

Entre-temps, note Boyd, les prix d’OpenAI ont considérablement réduit. « En un an et demi depuis la disponibilité d’Azure OpenAI Services, ChatGPT 4 a été divisé par 12 tout en étant six fois plus rapide », dit-il.

Rendre la formation spécifique

Les déploiements progressifs ne concernent pas seulement des problèmes de coût, de sécurité ou de conformité, mais également la collecte des bons retours pour bien les gérer et assister correctement les utilisateurs. La formation est essentielle, même si l’on prend en compte les compétences de la génération IA lors du recrutement, tout comme la volonté d’accepter les processus simplifiés que la génération IA peut produire. Il est troublant de constater qu’il existe un écart considérable entre ce à quoi les dirigeants pensent que leurs employés sont prêts avec la génération AI et ce à quoi le personnel se sent préparé.

Forrester a constaté que 59 % des dirigeants estiment avoir suffisamment formé leur personnel, mais seulement 45 % des employés déclarent avoir reçu une formation formelle. La formation la plus réussie couvre non seulement les rôles du personnel mais aussi leurs flux de travail. Il existe un énorme enthousiasme pour la génération IA, mais l’engagement diminue rapidement s’ils n’ont pas le temps de l’explorer et d’apprendre comment obtenir des résultats utiles pour leur travail, explique Wong.

« Si vous n’utilisez pas la technologie pour repenser fondamentalement les processus et que vous vous contentez de superposer davantage de travaux d’IA sur les processus existants, vous n’en tirerez pas le meilleur parti », dit-il. « Il faut repenser les processus sous-jacents et suivre une formation continue car ces technologies évoluent très rapidement. Le paradoxe est que les employés en veulent toujours, même s’il leur est difficile d’intégrer l’IA générative dans leurs routines de travail, et que dans certains cas, cela s’avère décevant au regard de leurs attentes.

Les DSI voudront peut-être alors réfléchir à la manière dont les organisations adoptent des outils low code, où encourager l’enthousiasme, l’expérimentation et le partage d’une expertise croissante contribue à diffuser l’utilisation dans l’ensemble de l’entreprise. Microsoft et Virgin Atlantic font état de bons résultats grâce à une formation structurée qui inclut du temps pour expérimenter. Walker fait référence à des « séances de jeu guidées » et les utilisateurs ont été encouragés à partager ce qui a fonctionné avec leurs pairs. « Ils peuvent se présenter en tant qu’utilisateurs de confiance dans l’environnement et dire aux gens que ce n’est pas effrayant », dit-il.

Les DSI doivent également garder à l’esprit que la génération IA n’est qu’un des nombreux changements que les organisations demandent à leur personnel d’absorber. Le taux de changement auquel les travailleurs des entreprises sont censés s’adapter est jusqu’à trois fois supérieur à ce qu’il était en 2010, prévient Curran. « Les entreprises n’ont pas accru leur capacité à accompagner ces changements avec la même rapidité », dit-il. L’ajout de ressources pour soutenir les employés dans ces changements sera aussi important pour réussir avec la génération IA que d’avoir la bonne technologie.

Cela inclut les équipes informatiques elles-mêmes, qui doivent se préparer à ce que la génération IA continue à se développer à cette vitesse. Vladimirskiy transmet les conseils de Microsoft aux partenaires logiciels créant leurs propres produits d’IA de génération. « Tout le monde devrait s’attendre à ce qu’au moment où vous construisez quelque chose, vous devrez l’abandonner et recommencer », dit-il. « La valeur pour les entreprises ne réside peut-être pas tant dans le résultat du produit qu’elles créent, mais dans la création de l’expertise au sein de l’organisation, pour pouvoir l’exploiter à l’avenir lorsque l’IA deviendra beaucoup plus performante qu’elle ne l’est aujourd’hui. »