L’une des perspectives est de savoir comment des individus malveillants pourraient capitaliser sur la génération IA pour poursuivre leurs efforts. Rajavel note que les cybercriminels utilisent déjà cette technologie pour exécuter des attaques à grande échelle grâce à sa capacité à élaborer des campagnes de phishing convaincantes et à diffuser de la désinformation. Les attaquants pourraient également cibler les outils de génération d’IA et les modèles eux-mêmes, entraînant une fuite de données ou un empoisonnement des résultats.
« Il est possible que les systèmes génératifs accélèrent et permettent aux attaquants de s’attaquer », explique O’Grady. « Cependant, la plus grande préoccupation de nombreuses entreprises est sans doute l’exfiltration de données privées des systèmes fermés des fournisseurs. »
Ces technologies peuvent produire des résultats très convaincants qui peuvent être truffés d’inexactitudes. En dehors des bugs dans les modèles, il y a également des implications financières à prendre en compte, et il est très facile de dépenser beaucoup, sans le savoir ou inutilement, en IA de génération, que ce soit en utilisant les mauvais modèles, en n’ayant pas de visibilité sur les coûts de consommation ou en ne les utilisant pas efficacement.
« L’IA n’est pas sans risque », explique Perez. « Il doit être construit à partir de zéro avec des humains contrôlant les domaines qui garantissent que chacun peut faire confiance à ses résultats – de l’utilisateur le plus élémentaire à l’ingénieur le plus expérimenté. » Une autre question sans réponse pour Perez est la responsabilité du développement et de la maintenance de l’IA, car cela exerce également une pression sur les équipes informatiques pour qu’elles répondent à la demande d’innovation, car de nombreux informaticiens manquent de temps pour mettre en œuvre et former des modèles et des algorithmes d’IA.
L’éléphant dans la pièce : l’emploi
Ensuite, il y a le résultat qui a agité les grands médias : le remplacement du travail humain par l’IA. Mais l’impact de la génération AI sur l’emploi dans les groupes informatiques reste encore à déterminer. « Les impacts sur l’emploi sont, à l’heure actuelle, difficiles à prévoir, c’est donc un sujet de préoccupation potentiel », déclare O’Grady.
Bien qu’il y ait sans aucun doute un mélange d’opinions dans ce débat, Walgreens’ Sample ne croit pas que l’IA constitue une menace existentielle pour l’humanité. Au lieu de cela, il est optimiste quant au potentiel de la génération AI pour améliorer la vie des employés. « Le point de vue du verre à moitié vide est que l’IA aura un impact sur de nombreux emplois, mais le point de vue du verre à moitié plein est qu’elle rendra les humains meilleurs dans ce qu’ils font », dit-il. « À terme, je pense que l’IA éliminera les tâches répétitives qui peuvent être automatisées et leur permettra de se concentrer sur des tâches de niveau supérieur. »
Comment apaiser les inquiétudes liées à l’IA
Pour répondre au déluge de préoccupations que pose l’IA, il faudra adopter une approche multiple. Pour Perez, la qualité de la génération AI dépend des données ingérées par ces modèles. « Si vous voulez une IA fiable et de qualité, vous avez besoin de données fiables et de qualité », dit-il. Le problème, cependant, est que les données sont souvent truffées d’erreurs, ce qui nécessite des outils permettant d’intégrer des données non structurées dans des formats disparates provenant de diverses sources. Il insiste également sur le fait d’aller au-delà des approches « humaines dans la boucle » pour mettre davantage les humains aux commandes. « Je considère l’IA comme un conseiller de confiance, mais pas comme le seul décideur », ajoute-t-il.
Pour garantir la qualité des logiciels, des tests rigoureux seront également nécessaires pour vérifier que le code généré par l’IA est précis et exempt de bogues. À cette fin, Malagodi encourage les entreprises à adopter une approche « propre pendant que vous codez » qui implique une analyse statique et des tests unitaires pour garantir des contrôles de qualité appropriés. « Lorsque les développeurs se concentrent sur les meilleures pratiques en matière de code propre, ils peuvent être sûrs que leur code et leurs logiciels sont sécurisés, maintenables, fiables et accessibles », déclare-t-il.
Comme pour toute nouvelle technologie, ajoute Bedi, l’enthousiasme initial doit être tempéré avec une prudence proportionnée. C’est pourquoi les responsables informatiques doivent envisager des mesures pour utiliser efficacement les assistants d’IA, comme les outils d’observabilité, capables de détecter les dérives architecturales et de prendre en charge la préparation aux exigences des applications.
Appliquer la gouvernance autour de l’adoption de l’IA
« L’IA générative représente une nouvelle ère de progrès technologique avec le potentiel d’apporter des avantages substantiels si elle est correctement gérée », déclare Pooley. Cependant, il conseille aux DSI de trouver un équilibre entre l’innovation et les risques inhérents. Des contrôles et des directives doivent notamment être appliqués pour limiter l’exposition des données grâce à une utilisation incontrôlée de ces outils. « Comme pour de nombreuses opportunités technologiques, les DSI se retrouveront responsables en cas de problème », ajoute-t-il.
Pour Sample, il incombe en partie aux régulateurs de répondre de manière adéquate aux risques que l’IA fait peser sur la société. Par exemple, il fait référence à un récent décret de l’administration Biden visant à établir de nouvelles normes de sûreté et de sécurité en matière d’IA. L’autre aspect est de diriger les lignes directrices de l’entreprise pour régir cette technologie en évolution rapide. Walgreens, par exemple, s’est lancé dans un projet visant à définir un cadre de gouvernance autour de l’IA qui inclut des considérations telles que l’équité, la transparence, la sécurité et l’explicabilité, dit-il.
Busse chez Workato préconise également l’établissement de directives internes donnant la priorité à la sécurité et à la gouvernance dans le sillage de l’IA. Il conseille de former les employés, d’élaborer des manuels de jeu internes et de mettre en œuvre un processus d’approbation pour l’expérimentation de l’IA. Pooley note que de nombreuses entreprises ont créé un groupe de travail sur l’IA pour aider à gérer les risques et à exploiter les avantages de la génération IA. Certaines organisations soucieuses de leur sécurité prennent des mesures encore plus strictes. Pour lutter contre l’exfiltration, de nombreux acheteurs privilégient les systèmes sur site, ajoute O’Grady.
« Les DSI doivent prendre les devants pour garantir que leurs équipes disposent de la formation et des compétences appropriées pour identifier, créer, mettre en œuvre et utiliser l’IA générative d’une manière qui profite à l’organisation », déclare Perez. Il décrit comment chez Salesforce, les équipes produit et d’ingénierie ont mis en œuvre une couche de confiance entre les entrées et les sorties de l’IA afin de minimiser les risques liés à l’utilisation de cette technologie puissante.
Cela dit, être intentionnel avec l’IA est tout aussi important que la gouverner. « Les organisations se précipitent pour mettre en œuvre l’IA sans comprendre clairement ce qu’elle fait et comment elle bénéficiera le plus à leur entreprise », explique Watt de Hyland. L’IA ne résoudra pas tous les problèmes. Il est donc fondamental de comprendre les problèmes que la technologie peut ou ne peut pas résoudre pour savoir comment la maximiser, dit-il.
Un impact positif sur l’entreprise
Avec les contrôles appropriés en place, la génération IA est en passe de catalyser une plus grande agilité dans d’innombrables domaines, et les DSI prévoient qu’elle soit utilisée pour obtenir des résultats commerciaux tangibles, comme l’expérience utilisateur. « L’IA générative va permettre aux entreprises de créer pour leurs clients des expériences qui semblaient autrefois impossibles », explique Perez. « L’IA n’est plus seulement un outil réservé aux équipes de niche. Tout le monde aura la possibilité de l’utiliser pour être plus productif et efficace.
Mais les avantages de l’UX ne s’arrêtent pas aux clients externes. L’expérience des employés internes en bénéficiera également, ajoute Rajavel. Des copilotes d’IA formés sur les données internes pourraient réduire de moitié les demandes de tickets informatiques, prédit-il, simplement en recherchant instantanément les réponses déjà trouvées sur les pages internes de l’entreprise.
Walgreens améliore également l’expérience client grâce à des assistants vocaux, des chatbots et des messages texte basés sur la génération AI, explique Sample. En réduisant le volume d’appels et en améliorant la satisfaction des clients, les membres de l’équipe peuvent mieux se concentrer sur leurs clients en magasin. De plus, l’entreprise déploie également la génération AI pour optimiser les opérations en magasin, telles que la chaîne d’approvisionnement, l’espace au sol et la gestion des stocks, aidant ainsi les dirigeants à prendre des décisions concernant les résultats financiers et financiers de l’entreprise. Mais la vigilance est de mise.
« Comme toutes les vagues techniques précédentes, l’IA va sans aucun doute s’accompagner d’inconvénients importants et de dommages collatéraux », déclare O’Grady. « Dans l’ensemble, cela accélérera le développement et augmentera les capacités humaines tout en élargissant considérablement la portée des problèmes. »
mars 20, 2024
Comment les DSI naviguent dans l’IA générative dans l’entreprise
L’une des perspectives est de savoir comment des individus malveillants pourraient capitaliser sur la génération IA pour poursuivre leurs efforts. Rajavel note que les cybercriminels utilisent déjà cette technologie pour exécuter des attaques à grande échelle grâce à sa capacité à élaborer des campagnes de phishing convaincantes et à diffuser de la désinformation. Les attaquants pourraient également cibler les outils de génération d’IA et les modèles eux-mêmes, entraînant une fuite de données ou un empoisonnement des résultats.
« Il est possible que les systèmes génératifs accélèrent et permettent aux attaquants de s’attaquer », explique O’Grady. « Cependant, la plus grande préoccupation de nombreuses entreprises est sans doute l’exfiltration de données privées des systèmes fermés des fournisseurs. »
Ces technologies peuvent produire des résultats très convaincants qui peuvent être truffés d’inexactitudes. En dehors des bugs dans les modèles, il y a également des implications financières à prendre en compte, et il est très facile de dépenser beaucoup, sans le savoir ou inutilement, en IA de génération, que ce soit en utilisant les mauvais modèles, en n’ayant pas de visibilité sur les coûts de consommation ou en ne les utilisant pas efficacement.
« L’IA n’est pas sans risque », explique Perez. « Il doit être construit à partir de zéro avec des humains contrôlant les domaines qui garantissent que chacun peut faire confiance à ses résultats – de l’utilisateur le plus élémentaire à l’ingénieur le plus expérimenté. » Une autre question sans réponse pour Perez est la responsabilité du développement et de la maintenance de l’IA, car cela exerce également une pression sur les équipes informatiques pour qu’elles répondent à la demande d’innovation, car de nombreux informaticiens manquent de temps pour mettre en œuvre et former des modèles et des algorithmes d’IA.
L’éléphant dans la pièce : l’emploi
Ensuite, il y a le résultat qui a agité les grands médias : le remplacement du travail humain par l’IA. Mais l’impact de la génération AI sur l’emploi dans les groupes informatiques reste encore à déterminer. « Les impacts sur l’emploi sont, à l’heure actuelle, difficiles à prévoir, c’est donc un sujet de préoccupation potentiel », déclare O’Grady.
Bien qu’il y ait sans aucun doute un mélange d’opinions dans ce débat, Walgreens’ Sample ne croit pas que l’IA constitue une menace existentielle pour l’humanité. Au lieu de cela, il est optimiste quant au potentiel de la génération AI pour améliorer la vie des employés. « Le point de vue du verre à moitié vide est que l’IA aura un impact sur de nombreux emplois, mais le point de vue du verre à moitié plein est qu’elle rendra les humains meilleurs dans ce qu’ils font », dit-il. « À terme, je pense que l’IA éliminera les tâches répétitives qui peuvent être automatisées et leur permettra de se concentrer sur des tâches de niveau supérieur. »
Comment apaiser les inquiétudes liées à l’IA
Pour répondre au déluge de préoccupations que pose l’IA, il faudra adopter une approche multiple. Pour Perez, la qualité de la génération AI dépend des données ingérées par ces modèles. « Si vous voulez une IA fiable et de qualité, vous avez besoin de données fiables et de qualité », dit-il. Le problème, cependant, est que les données sont souvent truffées d’erreurs, ce qui nécessite des outils permettant d’intégrer des données non structurées dans des formats disparates provenant de diverses sources. Il insiste également sur le fait d’aller au-delà des approches « humaines dans la boucle » pour mettre davantage les humains aux commandes. « Je considère l’IA comme un conseiller de confiance, mais pas comme le seul décideur », ajoute-t-il.
Pour garantir la qualité des logiciels, des tests rigoureux seront également nécessaires pour vérifier que le code généré par l’IA est précis et exempt de bogues. À cette fin, Malagodi encourage les entreprises à adopter une approche « propre pendant que vous codez » qui implique une analyse statique et des tests unitaires pour garantir des contrôles de qualité appropriés. « Lorsque les développeurs se concentrent sur les meilleures pratiques en matière de code propre, ils peuvent être sûrs que leur code et leurs logiciels sont sécurisés, maintenables, fiables et accessibles », déclare-t-il.
Comme pour toute nouvelle technologie, ajoute Bedi, l’enthousiasme initial doit être tempéré avec une prudence proportionnée. C’est pourquoi les responsables informatiques doivent envisager des mesures pour utiliser efficacement les assistants d’IA, comme les outils d’observabilité, capables de détecter les dérives architecturales et de prendre en charge la préparation aux exigences des applications.
Appliquer la gouvernance autour de l’adoption de l’IA
« L’IA générative représente une nouvelle ère de progrès technologique avec le potentiel d’apporter des avantages substantiels si elle est correctement gérée », déclare Pooley. Cependant, il conseille aux DSI de trouver un équilibre entre l’innovation et les risques inhérents. Des contrôles et des directives doivent notamment être appliqués pour limiter l’exposition des données grâce à une utilisation incontrôlée de ces outils. « Comme pour de nombreuses opportunités technologiques, les DSI se retrouveront responsables en cas de problème », ajoute-t-il.
Pour Sample, il incombe en partie aux régulateurs de répondre de manière adéquate aux risques que l’IA fait peser sur la société. Par exemple, il fait référence à un récent décret de l’administration Biden visant à établir de nouvelles normes de sûreté et de sécurité en matière d’IA. L’autre aspect est de diriger les lignes directrices de l’entreprise pour régir cette technologie en évolution rapide. Walgreens, par exemple, s’est lancé dans un projet visant à définir un cadre de gouvernance autour de l’IA qui inclut des considérations telles que l’équité, la transparence, la sécurité et l’explicabilité, dit-il.
Busse chez Workato préconise également l’établissement de directives internes donnant la priorité à la sécurité et à la gouvernance dans le sillage de l’IA. Il conseille de former les employés, d’élaborer des manuels de jeu internes et de mettre en œuvre un processus d’approbation pour l’expérimentation de l’IA. Pooley note que de nombreuses entreprises ont créé un groupe de travail sur l’IA pour aider à gérer les risques et à exploiter les avantages de la génération IA. Certaines organisations soucieuses de leur sécurité prennent des mesures encore plus strictes. Pour lutter contre l’exfiltration, de nombreux acheteurs privilégient les systèmes sur site, ajoute O’Grady.
« Les DSI doivent prendre les devants pour garantir que leurs équipes disposent de la formation et des compétences appropriées pour identifier, créer, mettre en œuvre et utiliser l’IA générative d’une manière qui profite à l’organisation », déclare Perez. Il décrit comment chez Salesforce, les équipes produit et d’ingénierie ont mis en œuvre une couche de confiance entre les entrées et les sorties de l’IA afin de minimiser les risques liés à l’utilisation de cette technologie puissante.
Cela dit, être intentionnel avec l’IA est tout aussi important que la gouverner. « Les organisations se précipitent pour mettre en œuvre l’IA sans comprendre clairement ce qu’elle fait et comment elle bénéficiera le plus à leur entreprise », explique Watt de Hyland. L’IA ne résoudra pas tous les problèmes. Il est donc fondamental de comprendre les problèmes que la technologie peut ou ne peut pas résoudre pour savoir comment la maximiser, dit-il.
Un impact positif sur l’entreprise
Avec les contrôles appropriés en place, la génération IA est en passe de catalyser une plus grande agilité dans d’innombrables domaines, et les DSI prévoient qu’elle soit utilisée pour obtenir des résultats commerciaux tangibles, comme l’expérience utilisateur. « L’IA générative va permettre aux entreprises de créer pour leurs clients des expériences qui semblaient autrefois impossibles », explique Perez. « L’IA n’est plus seulement un outil réservé aux équipes de niche. Tout le monde aura la possibilité de l’utiliser pour être plus productif et efficace.
Mais les avantages de l’UX ne s’arrêtent pas aux clients externes. L’expérience des employés internes en bénéficiera également, ajoute Rajavel. Des copilotes d’IA formés sur les données internes pourraient réduire de moitié les demandes de tickets informatiques, prédit-il, simplement en recherchant instantanément les réponses déjà trouvées sur les pages internes de l’entreprise.
Walgreens améliore également l’expérience client grâce à des assistants vocaux, des chatbots et des messages texte basés sur la génération AI, explique Sample. En réduisant le volume d’appels et en améliorant la satisfaction des clients, les membres de l’équipe peuvent mieux se concentrer sur leurs clients en magasin. De plus, l’entreprise déploie également la génération AI pour optimiser les opérations en magasin, telles que la chaîne d’approvisionnement, l’espace au sol et la gestion des stocks, aidant ainsi les dirigeants à prendre des décisions concernant les résultats financiers et financiers de l’entreprise. Mais la vigilance est de mise.
« Comme toutes les vagues techniques précédentes, l’IA va sans aucun doute s’accompagner d’inconvénients importants et de dommages collatéraux », déclare O’Grady. « Dans l’ensemble, cela accélérera le développement et augmentera les capacités humaines tout en élargissant considérablement la portée des problèmes. »
Source link
Partager :
Articles similaires