Même à ses débuts, l’IA générative transforme déjà les organisations et a un impact majeur sur la stratégie informatique. Si les modèles linguistiques (LLM) accélèrent l’agilité de l’ingénierie, ils peuvent également conduire à une accumulation de dette technique sans précédent. « Les systèmes de génération sont susceptibles d’augmenter la quantité de code produit, ce qui à lui seul accroît la dette technique », déclare Stephen O’Grady, fondateur du cabinet d’analystes Red Monk.
Mais ce n’est pas une raison pour que les DSI évitent d’explorer et de mettre en œuvre l’IA, ajoute Juan Perez, EVP et CIO chez Salesforce. Il considère l’IA comme toute autre application qui nécessite une gouvernance, une gestion de la sécurité, une maintenance et un support appropriés, ainsi qu’une gestion du cycle de vie appropriée. Et à mesure que le nombre de produits d’IA augmente, le choix des meilleurs modèles et données sous-jacentes est essentiel pour soutenir votre parcours vers l’IA.
Si elle est correctement mise en œuvre, l’IA générative peut produire des produits de meilleure qualité à moindre coût. « Il ne s’agit pas de savoir si l’IA aura un impact positif sur l’ensemble de l’entreprise, mais de savoir à quelle vitesse et quel impact elle aura », a déclaré Neil Sample, CIO de Walgreens Boots Alliance. Il souligne toutefois que le développement responsable de l’IA nécessite à la fois une réglementation gouvernementale et une gouvernance d’entreprise.
IA générative : au cœur de votre stratégie informatique
Les modèles d’apprentissage automatique ont le potentiel de permettre une itération informatique plus rapide. À tout le moins, il peut automatiser le fardeau des tâches fastidieuses et répétitives, libérant ainsi la bande passante des développeurs de logiciels pour qu’ils puissent se concentrer sur des tâches plus créatives et avancées, explique Andrea Maragodi, CIO de la plateforme de test de code Sonar. « Investir dans des outils d’IA générative pour soutenir ces équipes, c’est investir dans leur croissance, leur productivité et leur satisfaction générale », déclare-t-il.
L’IA générative augmentera considérablement le développement, en particulier dans la génération de code pour les langages de programmation établis tels que Java, Python et C++, ajoute Meera Rajvel, CIO, Palo Alto Networks. Mais sa puissance ne s’arrête pas là. Elle voit l’IA jouer un rôle clé en déplaçant les tests de code vers la gauche et en aidant les tests unitaires, le débogage et l’identification des erreurs au début du cycle de développement logiciel. « En tant que DSI, offrir aux développeurs les meilleurs outils pour réussir est un élément clé de mon travail, et l’IA améliorera certainement l’efficacité », déclare-t-elle.
L’IA a également le potentiel de faire progresser considérablement les opérations dans tous les départements. Carter Bass, CIO de la société de plateforme d’automatisation sans code Workato, affirme que l’IA est au centre de la stratégie informatique de son entreprise cette année. Mais les avantages s’étendent au-delà du domaine informatique pour aider au support client, augmenter la productivité et favoriser l’innovation entre les équipes. « Les DSI ont pour mission de développer efficacement leurs activités, et l’IA sera le moyen d’y parvenir », déclare-t-il.
Ce n’est donc pas seulement la génération de code qui bénéficiera de la dernière vague d’IA. La productivité des employés devrait être le principal impact, selon Sunny Bedi, CIO et CDO de la société d’entreposage de données dans le cloud Snowflake. Il prévoit un avenir dans lequel tous les employés travailleront en étroite collaboration avec AICopilot, ce qui les aidera à personnaliser l’expérience d’intégration des nouveaux employés, à coordonner les communications internes et à prototyper des idées innovantes. Il indique également qu’en tirant parti des capacités prêtes à l’emploi de LLM, les entreprises peuvent réduire leur dépendance à l’égard de tiers pour des opérations telles que la recherche, l’extraction de documents, la création et la révision de contenu et les chatbots.
La contribution de l’IA à la dette technique
Ce ne sont pas les modèles d’IA générative eux-mêmes, mais la manière dont ils sont appliqués dans la pratique qui sera le facteur déterminant le plus important dans la génération de dette informatique. « Vous devez réfléchir attentivement à l’endroit et à la manière dont l’IA est mise en œuvre dans votre organisation pour éviter de générer une dette technique à long terme », explique Sample, ajoutant que lors de l’application de modèles d’IA aux écosystèmes technologiques existants, il ajoute qu’il existe un risque élevé d’endettement. accumulation, par exemple lors de la révision de la connectivité ou de l’intégration de modèles d’IA génératifs tout en utilisant des piles plus anciennes.
D’un autre côté, si elle est utilisée correctement, l’IA générative pourrait contribuer à éliminer l’ancienne dette technique en réécrivant les applications existantes et en automatisant les retards de tâches. Cependant, les DSI ne devraient pas se lancer sans un environnement et une stratégie cloud adaptés. « Si les organisations adoptent l’IA générative trop rapidement, la dette technique existante peut continuer à augmenter, voire devenir chronique », déclare Steve Watt, CIO chez Hyland. À ce titre, il recommande de créer un plan pour remédier à la dette technique existante afin d’éviter l’effondrement de nouvelles initiatives basées sur l’IA.
Dans un premier temps, la dette informatique pourrait augmenter à mesure que les entreprises expérimentent l’IA et le LLM. Cependant, Bass convient que le LLM réduira ce phénomène à long terme, mais cela dépendra de la capacité de l’IA à répondre de manière dynamique aux exigences changeantes. « L’intégration de l’IA dans les processus métier permet de réagir plus rapidement aux changements de processus et de réduire la dette technique », explique-t-il.
Évaluation de la qualité du code généré par l’IA
Des questions ont récemment été soulevées concernant la qualité du code généré par l’IA, avec des rapports faisant état d’une augmentation de la modification et de la réutilisation du code depuis l’introduction des assistants couplés à l’IA. Selon O’Grady de Red Monk, la qualité du code produit par l’IA dépend de nombreux facteurs, notamment le modèle utilisé, le cas d’utilisation concerné et les compétences du développeur. « Comme les développeurs humains, les systèmes artificiels continuent de produire du code défectueux », dit-il.
Par exemple, Maragodi de Sonar cite une étude récente de Microsoft Research qui a évalué 22 modèles et a montré qu’ils échouent généralement lorsqu’ils sont testés par rapport à cette référence. Cela suggère un angle mort fondamental dans les contextes de formation. Les assistants artificiels peuvent générer du code fonctionnel, mais ils prennent rarement en compte d’autres contextes tels que l’efficacité, la sécurité et la maintenabilité. Il est également expliqué que le respect des conventions du code ne sera pas pris en compte.
L’essentiel pour Maragodi est qu’il reste encore beaucoup à faire. « La génération IA peut générer plus de lignes de code plus rapidement, mais si la qualité n’est pas bonne, cela peut prendre beaucoup de temps », dit-il. Il exhorte les DSI et les CTO à prendre les mesures nécessaires pour garantir que le code généré par l’IA est propre. « Cela implique d’être cohérent, intentionnel, adaptable et responsable, ce qui conduit à un logiciel sécurisé, maintenable, fiable et accessible », explique-t-il.
Les problèmes de qualité qui sous-tendent ces modèles peuvent avoir un impact négatif sur la sortie du code. L’IA générative a le potentiel de produire d’excellents artefacts techniques, mais la qualité des données, l’architecture du modèle et les procédures de formation peuvent tous conduire à de mauvais résultats, déclare Snow Software, le CIO de la plateforme d’intelligence technologique cloud : « Des modèles mal entraînés et des cas extrêmes inattendus peuvent entraîner des résultats de mauvaise qualité, présenter des risques opérationnels et nuire à la fiabilité du système », explique-t-il. Cela nécessite un examen et une validation continus du résultat et de la qualité.
L’IA est comme n’importe quel autre outil, et les résultats varient en fonction des outils que vous utilisez et de la manière dont vous les utilisez, ajoute Rajavel de Palo Alto Networks. Pour elle, sans une bonne gouvernance de l’IA, les modèles sélectionnés peuvent produire des artefacts de mauvaise qualité qui ne correspondent pas à l’architecture du produit ou aux résultats escomptés. Un autre facteur important est de choisir la meilleure IA pour la tâche à accomplir, dit-elle, car il n’existe pas de modèle unique adapté à toutes les tâches.
Identifier les risques potentiels de l’IA
Au-delà de la dette informatique et de la qualité du code, il existe d’autres impacts négatifs potentiels à prendre en compte lors de la mise en œuvre de l’IA générative. « Il s’agit notamment de la confidentialité et de la sécurité des données, des biais algorithmiques, du déplacement d’emplois et des problèmes éthiques liés au contenu généré par l’IA », explique Pooley.
Une possibilité est que l’IA générative soit utilisée par des individus malveillants. Rajavel souligne que les cybercriminels utilisent déjà cette technologie pour créer des campagnes de phishing convaincantes et diffuser de la désinformation. Les attaquants peuvent également cibler les outils d’IA générative ou les modèles eux-mêmes, ce qui pourrait entraîner des fuites de données et des résultats corrompus.
« Les systèmes de génération peuvent accélérer et aider les attaquants », ajoute O’Grady. « Mais la plus grande préoccupation de nombreuses entreprises est la fuite de données privées provenant de systèmes fermés de fournisseurs », dit-il.
Même si ces techniques peuvent produire des résultats très convaincants, elles peuvent contenir des informations inexactes. Au-delà des bugs dans le modèle, les problèmes de coûts doivent être pris en compte, et l’utilisation d’un mauvais modèle, le manque de visibilité sur les coûts de consommation ou une utilisation non efficace peuvent coûter très cher.
« L’IA comporte des risques », a déclaré Perez. « Il doit y avoir un contrôle humain dans ces domaines afin que chacun, de l’utilisateur le plus élémentaire à l’ingénieur le plus expérimenté, puisse faire confiance aux résultats », a-t-il déclaré. Un autre problème en suspens pour Perez est la propriété du développement et de la maintenance de l’IA, qui, selon lui, exerce une pression sur les équipes informatiques pour qu’elles répondent à la demande d’innovation.
problèmes d’emploi
Ensuite, les grands médias parlent du remplacement du travail humain par l’IA. Cependant, on ne sait pas encore clairement quel impact l’IA générative aura sur l’emploi dans les groupes informatiques. « L’impact sur l’emploi est difficile à prévoir à ce stade, c’est donc un sujet de préoccupation potentiel », a déclaré O’Grady.
Bien que les opinions divergent sur ce débat, l’échantillon de Walgreens ne croit pas que l’IA constitue une menace existentielle pour l’humanité. Il est plutôt optimiste quant au potentiel de l’IA générative pour améliorer la vie des travailleurs. « La vision à moitié pleine est que l’IA aura un impact sur de nombreux emplois, mais la vision à moitié pleine est que l’IA améliorera les performances humaines », dit-il. « En fin de compte, je pense que l’IA peut libérer les gens des tâches répétitives qui peuvent être automatisées et leur permettre de se concentrer sur des tâches de niveau supérieur », ajoute-t-il.
Comment apaiser les inquiétudes concernant l’IA
Répondre aux préoccupations posées par l’IA nécessite une approche multiforme. Pour Perez, la qualité de l’IA générative dépend des données ingérées par ces modèles. « Si vous voulez une IA fiable, vous avez besoin de données fiables », dit-il. Cependant, les données sont souvent remplies d’erreurs et des outils sont nécessaires pour intégrer des données non structurées dans différents formats. Il insiste également sur le fait d’aller au-delà d’une approche « humain dans la boucle » et de placer davantage les humains aux commandes. « L’IA devrait être un conseiller de confiance, mais pas le seul décideur », ajoute-t-il.
Le maintien de la qualité des logiciels nécessite également des tests rigoureux pour garantir que le code généré par l’IA est précis et exempt de bogues. À cette fin, Maragodi encourage les entreprises à adopter une approche de « code propre » qui inclut l’analyse statique et les tests unitaires. « Lorsque les développeurs se concentrent sur les meilleures pratiques en matière de code propre, ils peuvent être sûrs que leur code et leurs logiciels sont sécurisés, maintenables, fiables et accessibles. »
Les nouvelles technologies nécessitent de tempérer l’enthousiasme initial par une bonne dose de prudence, ajoute Bedi. Par conséquent, les responsables informatiques doivent envisager des mesures pour utiliser efficacement les assistants IA. Les exemples incluent l’utilisation d’outils d’observabilité capables de détecter les dérives architecturales et d’outils prenant en charge la préparation des exigences des applications.
Appliquer la gouvernance autour de l’adoption de l’IA
« L’IA générative représente une nouvelle ère d’innovation technologique qui, si elle est gérée correctement, a le potentiel d’apporter des avantages substantiels », déclare Pooley. Mais il conseille aux DSI de trouver un équilibre entre innovation et risque inhérent. Des contrôles et des lignes directrices visant spécifiquement à limiter l’exposition des données grâce à une utilisation sans restriction de ces outils doivent être appliqués. « Comme pour de nombreuses opportunités technologiques, si cela ne fonctionne pas, le DSI sera tenu responsable », ajoute-t-il.
Pour Sample, une partie de cette responsabilité incombe aux régulateurs pour répondre de manière appropriée aux risques que l’IA fait peser sur la société. Par exemple, les récents décrets de l’administration Biden visent à établir de nouvelles normes de sûreté et de sécurité en matière d’IA. Un autre aspect consiste à élaborer des lignes directrices d’entreprise pour gérer cette technologie en évolution rapide. Walgreens, par exemple, s’efforce de définir un cadre de gouvernance autour de l’IA qui inclut des considérations telles que l’équité, la transparence, la sécurité et l’explicabilité, dit-il.
Bass de Workato préconise également l’établissement de lignes directrices internes pour donner la priorité à la sécurité et à la gouvernance à mesure que l’IA se généralise. Il recommande d’éduquer les employés, de créer des playbooks internes et de mettre en œuvre des processus d’approbation pour les expériences d’IA. Pooley souligne que de nombreuses entreprises ont créé des groupes de travail sur l’IA pour gérer les risques et tirer parti des avantages de l’IA. Certaines organisations soucieuses de leur sécurité ont pris des mesures encore plus strictes. O’Grady ajoute que de nombreux acheteurs donnent la priorité aux systèmes sur site pour éviter la perte de données.
« Les DSI doivent faire preuve de leadership pour garantir que leurs équipes disposent de la formation et des compétences appropriées pour identifier, créer, mettre en œuvre et utiliser l’IA générative de manière à bénéficier à l’organisation. » Il explique comment les équipes produit et d’ingénierie de Salesforce ont mis en œuvre une couche de confiance entre les entrées et les sorties de l’IA afin de minimiser les risques liés à l’utilisation de cette technologie puissante.
En dehors de cela, l’utilisation intentionnelle de l’IA est également importante, tout comme la gouvernance. « De nombreuses entreprises se précipitent pour adopter l’IA sans comprendre clairement ce qu’elle fait ni comment elle bénéficiera au mieux à l’entreprise », explique Watt de Hyland. L’IA ne résout pas tous les problèmes. Par conséquent, comprendre les problèmes que la technologie peut ou ne peut pas résoudre est fondamental pour en tirer le meilleur parti, dit-il.
Impact commercial positif
Avec les contrôles appropriés en place, l’IA générative entraînera une plus grande agilité dans une multitude de domaines, et les DSI prévoient qu’elle soit utilisée pour fournir des résultats commerciaux tangibles comme l’expérience utilisateur. « L’IA générative permettra aux entreprises de créer des expériences client qui semblaient auparavant impossibles », déclare Perez. « L’IA n’est plus un outil réservé aux équipes de niche. Chacun aura la possibilité de l’utiliser pour être plus productif et efficace. »
Mais les avantages de l’UX ne se limitent pas aux clients externes. L’expérience des employés internes en bénéficiera également, ajoute Rajavel. Elle prédit qu’AICopilot, formé sur les données internes, pourrait réduire de moitié les demandes de tickets informatiques. C’est en fournissant instantanément des réponses que l’on trouve déjà sur les pages internes de l’entreprise.
Walgreens améliore également l’expérience client grâce à des assistants vocaux génératifs, des chatbots et des messages texte basés sur l’IA, explique Sample. En réduisant le volume d’appels et en augmentant la satisfaction des clients, les membres de l’équipe peuvent se concentrer davantage sur les clients en magasin. L’entreprise utilise également l’IA générative pour optimiser les opérations en magasin telles que la chaîne d’approvisionnement, l’espace en magasin et la gestion des stocks, et pour soutenir la prise de décision sur les résultats financiers et financiers de l’entreprise. Cependant, la prudence est de mise.
« Comme toutes les vagues technologiques précédentes, l’IA peut également présenter des inconvénients et des effets secondaires importants », explique O’Grady. « Dans l’ensemble, l’IA accélérera le développement, étendra les capacités humaines et élargira considérablement la portée des problèmes », conclut-il.
mai 22, 2024
Comment les DSI peuvent tirer parti de l’IA générative dans leur entreprise
Même à ses débuts, l’IA générative transforme déjà les organisations et a un impact majeur sur la stratégie informatique. Si les modèles linguistiques (LLM) accélèrent l’agilité de l’ingénierie, ils peuvent également conduire à une accumulation de dette technique sans précédent. « Les systèmes de génération sont susceptibles d’augmenter la quantité de code produit, ce qui à lui seul accroît la dette technique », déclare Stephen O’Grady, fondateur du cabinet d’analystes Red Monk.
Mais ce n’est pas une raison pour que les DSI évitent d’explorer et de mettre en œuvre l’IA, ajoute Juan Perez, EVP et CIO chez Salesforce. Il considère l’IA comme toute autre application qui nécessite une gouvernance, une gestion de la sécurité, une maintenance et un support appropriés, ainsi qu’une gestion du cycle de vie appropriée. Et à mesure que le nombre de produits d’IA augmente, le choix des meilleurs modèles et données sous-jacentes est essentiel pour soutenir votre parcours vers l’IA.
Si elle est correctement mise en œuvre, l’IA générative peut produire des produits de meilleure qualité à moindre coût. « Il ne s’agit pas de savoir si l’IA aura un impact positif sur l’ensemble de l’entreprise, mais de savoir à quelle vitesse et quel impact elle aura », a déclaré Neil Sample, CIO de Walgreens Boots Alliance. Il souligne toutefois que le développement responsable de l’IA nécessite à la fois une réglementation gouvernementale et une gouvernance d’entreprise.
IA générative : au cœur de votre stratégie informatique
Les modèles d’apprentissage automatique ont le potentiel de permettre une itération informatique plus rapide. À tout le moins, il peut automatiser le fardeau des tâches fastidieuses et répétitives, libérant ainsi la bande passante des développeurs de logiciels pour qu’ils puissent se concentrer sur des tâches plus créatives et avancées, explique Andrea Maragodi, CIO de la plateforme de test de code Sonar. « Investir dans des outils d’IA générative pour soutenir ces équipes, c’est investir dans leur croissance, leur productivité et leur satisfaction générale », déclare-t-il.
L’IA générative augmentera considérablement le développement, en particulier dans la génération de code pour les langages de programmation établis tels que Java, Python et C++, ajoute Meera Rajvel, CIO, Palo Alto Networks. Mais sa puissance ne s’arrête pas là. Elle voit l’IA jouer un rôle clé en déplaçant les tests de code vers la gauche et en aidant les tests unitaires, le débogage et l’identification des erreurs au début du cycle de développement logiciel. « En tant que DSI, offrir aux développeurs les meilleurs outils pour réussir est un élément clé de mon travail, et l’IA améliorera certainement l’efficacité », déclare-t-elle.
L’IA a également le potentiel de faire progresser considérablement les opérations dans tous les départements. Carter Bass, CIO de la société de plateforme d’automatisation sans code Workato, affirme que l’IA est au centre de la stratégie informatique de son entreprise cette année. Mais les avantages s’étendent au-delà du domaine informatique pour aider au support client, augmenter la productivité et favoriser l’innovation entre les équipes. « Les DSI ont pour mission de développer efficacement leurs activités, et l’IA sera le moyen d’y parvenir », déclare-t-il.
Ce n’est donc pas seulement la génération de code qui bénéficiera de la dernière vague d’IA. La productivité des employés devrait être le principal impact, selon Sunny Bedi, CIO et CDO de la société d’entreposage de données dans le cloud Snowflake. Il prévoit un avenir dans lequel tous les employés travailleront en étroite collaboration avec AICopilot, ce qui les aidera à personnaliser l’expérience d’intégration des nouveaux employés, à coordonner les communications internes et à prototyper des idées innovantes. Il indique également qu’en tirant parti des capacités prêtes à l’emploi de LLM, les entreprises peuvent réduire leur dépendance à l’égard de tiers pour des opérations telles que la recherche, l’extraction de documents, la création et la révision de contenu et les chatbots.
La contribution de l’IA à la dette technique
Ce ne sont pas les modèles d’IA générative eux-mêmes, mais la manière dont ils sont appliqués dans la pratique qui sera le facteur déterminant le plus important dans la génération de dette informatique. « Vous devez réfléchir attentivement à l’endroit et à la manière dont l’IA est mise en œuvre dans votre organisation pour éviter de générer une dette technique à long terme », explique Sample, ajoutant que lors de l’application de modèles d’IA aux écosystèmes technologiques existants, il ajoute qu’il existe un risque élevé d’endettement. accumulation, par exemple lors de la révision de la connectivité ou de l’intégration de modèles d’IA génératifs tout en utilisant des piles plus anciennes.
D’un autre côté, si elle est utilisée correctement, l’IA générative pourrait contribuer à éliminer l’ancienne dette technique en réécrivant les applications existantes et en automatisant les retards de tâches. Cependant, les DSI ne devraient pas se lancer sans un environnement et une stratégie cloud adaptés. « Si les organisations adoptent l’IA générative trop rapidement, la dette technique existante peut continuer à augmenter, voire devenir chronique », déclare Steve Watt, CIO chez Hyland. À ce titre, il recommande de créer un plan pour remédier à la dette technique existante afin d’éviter l’effondrement de nouvelles initiatives basées sur l’IA.
Dans un premier temps, la dette informatique pourrait augmenter à mesure que les entreprises expérimentent l’IA et le LLM. Cependant, Bass convient que le LLM réduira ce phénomène à long terme, mais cela dépendra de la capacité de l’IA à répondre de manière dynamique aux exigences changeantes. « L’intégration de l’IA dans les processus métier permet de réagir plus rapidement aux changements de processus et de réduire la dette technique », explique-t-il.
Évaluation de la qualité du code généré par l’IA
Des questions ont récemment été soulevées concernant la qualité du code généré par l’IA, avec des rapports faisant état d’une augmentation de la modification et de la réutilisation du code depuis l’introduction des assistants couplés à l’IA. Selon O’Grady de Red Monk, la qualité du code produit par l’IA dépend de nombreux facteurs, notamment le modèle utilisé, le cas d’utilisation concerné et les compétences du développeur. « Comme les développeurs humains, les systèmes artificiels continuent de produire du code défectueux », dit-il.
Par exemple, Maragodi de Sonar cite une étude récente de Microsoft Research qui a évalué 22 modèles et a montré qu’ils échouent généralement lorsqu’ils sont testés par rapport à cette référence. Cela suggère un angle mort fondamental dans les contextes de formation. Les assistants artificiels peuvent générer du code fonctionnel, mais ils prennent rarement en compte d’autres contextes tels que l’efficacité, la sécurité et la maintenabilité. Il est également expliqué que le respect des conventions du code ne sera pas pris en compte.
L’essentiel pour Maragodi est qu’il reste encore beaucoup à faire. « La génération IA peut générer plus de lignes de code plus rapidement, mais si la qualité n’est pas bonne, cela peut prendre beaucoup de temps », dit-il. Il exhorte les DSI et les CTO à prendre les mesures nécessaires pour garantir que le code généré par l’IA est propre. « Cela implique d’être cohérent, intentionnel, adaptable et responsable, ce qui conduit à un logiciel sécurisé, maintenable, fiable et accessible », explique-t-il.
Les problèmes de qualité qui sous-tendent ces modèles peuvent avoir un impact négatif sur la sortie du code. L’IA générative a le potentiel de produire d’excellents artefacts techniques, mais la qualité des données, l’architecture du modèle et les procédures de formation peuvent tous conduire à de mauvais résultats, déclare Snow Software, le CIO de la plateforme d’intelligence technologique cloud : « Des modèles mal entraînés et des cas extrêmes inattendus peuvent entraîner des résultats de mauvaise qualité, présenter des risques opérationnels et nuire à la fiabilité du système », explique-t-il. Cela nécessite un examen et une validation continus du résultat et de la qualité.
L’IA est comme n’importe quel autre outil, et les résultats varient en fonction des outils que vous utilisez et de la manière dont vous les utilisez, ajoute Rajavel de Palo Alto Networks. Pour elle, sans une bonne gouvernance de l’IA, les modèles sélectionnés peuvent produire des artefacts de mauvaise qualité qui ne correspondent pas à l’architecture du produit ou aux résultats escomptés. Un autre facteur important est de choisir la meilleure IA pour la tâche à accomplir, dit-elle, car il n’existe pas de modèle unique adapté à toutes les tâches.
Identifier les risques potentiels de l’IA
Au-delà de la dette informatique et de la qualité du code, il existe d’autres impacts négatifs potentiels à prendre en compte lors de la mise en œuvre de l’IA générative. « Il s’agit notamment de la confidentialité et de la sécurité des données, des biais algorithmiques, du déplacement d’emplois et des problèmes éthiques liés au contenu généré par l’IA », explique Pooley.
Une possibilité est que l’IA générative soit utilisée par des individus malveillants. Rajavel souligne que les cybercriminels utilisent déjà cette technologie pour créer des campagnes de phishing convaincantes et diffuser de la désinformation. Les attaquants peuvent également cibler les outils d’IA générative ou les modèles eux-mêmes, ce qui pourrait entraîner des fuites de données et des résultats corrompus.
« Les systèmes de génération peuvent accélérer et aider les attaquants », ajoute O’Grady. « Mais la plus grande préoccupation de nombreuses entreprises est la fuite de données privées provenant de systèmes fermés de fournisseurs », dit-il.
Même si ces techniques peuvent produire des résultats très convaincants, elles peuvent contenir des informations inexactes. Au-delà des bugs dans le modèle, les problèmes de coûts doivent être pris en compte, et l’utilisation d’un mauvais modèle, le manque de visibilité sur les coûts de consommation ou une utilisation non efficace peuvent coûter très cher.
« L’IA comporte des risques », a déclaré Perez. « Il doit y avoir un contrôle humain dans ces domaines afin que chacun, de l’utilisateur le plus élémentaire à l’ingénieur le plus expérimenté, puisse faire confiance aux résultats », a-t-il déclaré. Un autre problème en suspens pour Perez est la propriété du développement et de la maintenance de l’IA, qui, selon lui, exerce une pression sur les équipes informatiques pour qu’elles répondent à la demande d’innovation.
problèmes d’emploi
Ensuite, les grands médias parlent du remplacement du travail humain par l’IA. Cependant, on ne sait pas encore clairement quel impact l’IA générative aura sur l’emploi dans les groupes informatiques. « L’impact sur l’emploi est difficile à prévoir à ce stade, c’est donc un sujet de préoccupation potentiel », a déclaré O’Grady.
Bien que les opinions divergent sur ce débat, l’échantillon de Walgreens ne croit pas que l’IA constitue une menace existentielle pour l’humanité. Il est plutôt optimiste quant au potentiel de l’IA générative pour améliorer la vie des travailleurs. « La vision à moitié pleine est que l’IA aura un impact sur de nombreux emplois, mais la vision à moitié pleine est que l’IA améliorera les performances humaines », dit-il. « En fin de compte, je pense que l’IA peut libérer les gens des tâches répétitives qui peuvent être automatisées et leur permettre de se concentrer sur des tâches de niveau supérieur », ajoute-t-il.
Comment apaiser les inquiétudes concernant l’IA
Répondre aux préoccupations posées par l’IA nécessite une approche multiforme. Pour Perez, la qualité de l’IA générative dépend des données ingérées par ces modèles. « Si vous voulez une IA fiable, vous avez besoin de données fiables », dit-il. Cependant, les données sont souvent remplies d’erreurs et des outils sont nécessaires pour intégrer des données non structurées dans différents formats. Il insiste également sur le fait d’aller au-delà d’une approche « humain dans la boucle » et de placer davantage les humains aux commandes. « L’IA devrait être un conseiller de confiance, mais pas le seul décideur », ajoute-t-il.
Le maintien de la qualité des logiciels nécessite également des tests rigoureux pour garantir que le code généré par l’IA est précis et exempt de bogues. À cette fin, Maragodi encourage les entreprises à adopter une approche de « code propre » qui inclut l’analyse statique et les tests unitaires. « Lorsque les développeurs se concentrent sur les meilleures pratiques en matière de code propre, ils peuvent être sûrs que leur code et leurs logiciels sont sécurisés, maintenables, fiables et accessibles. »
Les nouvelles technologies nécessitent de tempérer l’enthousiasme initial par une bonne dose de prudence, ajoute Bedi. Par conséquent, les responsables informatiques doivent envisager des mesures pour utiliser efficacement les assistants IA. Les exemples incluent l’utilisation d’outils d’observabilité capables de détecter les dérives architecturales et d’outils prenant en charge la préparation des exigences des applications.
Appliquer la gouvernance autour de l’adoption de l’IA
« L’IA générative représente une nouvelle ère d’innovation technologique qui, si elle est gérée correctement, a le potentiel d’apporter des avantages substantiels », déclare Pooley. Mais il conseille aux DSI de trouver un équilibre entre innovation et risque inhérent. Des contrôles et des lignes directrices visant spécifiquement à limiter l’exposition des données grâce à une utilisation sans restriction de ces outils doivent être appliqués. « Comme pour de nombreuses opportunités technologiques, si cela ne fonctionne pas, le DSI sera tenu responsable », ajoute-t-il.
Pour Sample, une partie de cette responsabilité incombe aux régulateurs pour répondre de manière appropriée aux risques que l’IA fait peser sur la société. Par exemple, les récents décrets de l’administration Biden visent à établir de nouvelles normes de sûreté et de sécurité en matière d’IA. Un autre aspect consiste à élaborer des lignes directrices d’entreprise pour gérer cette technologie en évolution rapide. Walgreens, par exemple, s’efforce de définir un cadre de gouvernance autour de l’IA qui inclut des considérations telles que l’équité, la transparence, la sécurité et l’explicabilité, dit-il.
Bass de Workato préconise également l’établissement de lignes directrices internes pour donner la priorité à la sécurité et à la gouvernance à mesure que l’IA se généralise. Il recommande d’éduquer les employés, de créer des playbooks internes et de mettre en œuvre des processus d’approbation pour les expériences d’IA. Pooley souligne que de nombreuses entreprises ont créé des groupes de travail sur l’IA pour gérer les risques et tirer parti des avantages de l’IA. Certaines organisations soucieuses de leur sécurité ont pris des mesures encore plus strictes. O’Grady ajoute que de nombreux acheteurs donnent la priorité aux systèmes sur site pour éviter la perte de données.
« Les DSI doivent faire preuve de leadership pour garantir que leurs équipes disposent de la formation et des compétences appropriées pour identifier, créer, mettre en œuvre et utiliser l’IA générative de manière à bénéficier à l’organisation. » Il explique comment les équipes produit et d’ingénierie de Salesforce ont mis en œuvre une couche de confiance entre les entrées et les sorties de l’IA afin de minimiser les risques liés à l’utilisation de cette technologie puissante.
En dehors de cela, l’utilisation intentionnelle de l’IA est également importante, tout comme la gouvernance. « De nombreuses entreprises se précipitent pour adopter l’IA sans comprendre clairement ce qu’elle fait ni comment elle bénéficiera au mieux à l’entreprise », explique Watt de Hyland. L’IA ne résout pas tous les problèmes. Par conséquent, comprendre les problèmes que la technologie peut ou ne peut pas résoudre est fondamental pour en tirer le meilleur parti, dit-il.
Impact commercial positif
Avec les contrôles appropriés en place, l’IA générative entraînera une plus grande agilité dans une multitude de domaines, et les DSI prévoient qu’elle soit utilisée pour fournir des résultats commerciaux tangibles comme l’expérience utilisateur. « L’IA générative permettra aux entreprises de créer des expériences client qui semblaient auparavant impossibles », déclare Perez. « L’IA n’est plus un outil réservé aux équipes de niche. Chacun aura la possibilité de l’utiliser pour être plus productif et efficace. »
Mais les avantages de l’UX ne se limitent pas aux clients externes. L’expérience des employés internes en bénéficiera également, ajoute Rajavel. Elle prédit qu’AICopilot, formé sur les données internes, pourrait réduire de moitié les demandes de tickets informatiques. C’est en fournissant instantanément des réponses que l’on trouve déjà sur les pages internes de l’entreprise.
Walgreens améliore également l’expérience client grâce à des assistants vocaux génératifs, des chatbots et des messages texte basés sur l’IA, explique Sample. En réduisant le volume d’appels et en augmentant la satisfaction des clients, les membres de l’équipe peuvent se concentrer davantage sur les clients en magasin. L’entreprise utilise également l’IA générative pour optimiser les opérations en magasin telles que la chaîne d’approvisionnement, l’espace en magasin et la gestion des stocks, et pour soutenir la prise de décision sur les résultats financiers et financiers de l’entreprise. Cependant, la prudence est de mise.
« Comme toutes les vagues technologiques précédentes, l’IA peut également présenter des inconvénients et des effets secondaires importants », explique O’Grady. « Dans l’ensemble, l’IA accélérera le développement, étendra les capacités humaines et élargira considérablement la portée des problèmes », conclut-il.
Source link
Partager :
Articles similaires