Dans le bureau du coin, la peur du risque GenAI l’emporte sur l’attrait de sa promesse

Je trouve incroyablement enrichissant d’écouter et d’apprendre des principaux PDG, membres de conseils d’administration et responsables technologiques de notre clientèle mondiale. Nous avons discuté de leurs objectifs commerciaux, de leurs ambitions de croissance et des défis auxquels ils sont confrontés pour moderniser leurs opérations.

Il y a de fortes chances que nous parlions également de leurs craintes. En effet, avec l’évolution rapide et l’adoption imminente de l’IA générative, le rôle des DSI et des CTO est devenu à la fois passionnant et revigorant, mais aussi plus compliqué et imprévisible.

Ce qui ressort clairement de chacune de ces conversations, c’est la nécessité croissante d’opérer de manière responsable, sûre et fiable pour protéger l’expérience de leurs clients. Ce sens de la mission est la raison pour laquelle j’ai rejoint PagerDuty en tant que PDG il y a près de huit ans.

La réalité est que les personnes et les logiciels sont imparfaits. Des conditions apparemment bénignes s’associent pour provoquer des catastrophes commerciales soudaines et à fort impact, dont nous sommes tous plus fréquemment confrontés en tant que consommateurs. Qu’un problème informatique ait bloqué le vol sur lequel vous comptiez, interrompu le flux d’un événement sportif en direct auquel vous êtes abonné ou rendu impossible l’accès à votre compte de trading, ces problèmes ont probablement conduit à votre mécontentement. Vous avez potentiellement mis fin à votre relation avec la marque et, certainement, l’entreprise qui vous a laissé tomber a subi des conséquences financières.

Le risque d’incidents commerciaux importants augmente. Et ce n’est pas parce que les équipes techniques ne font pas de leur mieux pour les éviter, mais plutôt parce que la dette technologique s’accumule dans tous les secteurs, se manifestant par une complexité croissante et une fragilité généralisée. Les incidents majeurs dont vous entendez parler dans l’actualité sont la dette technologique qui arrive.

Les équipes informatiques et opérationnelles sont en première ligne en cas d’incident majeur qui interrompt le cours normal des activités. Et même si la gestion des incidents n’est jamais pour les âmes sensibles, Les DSI et les CTO perdent en masse le sommeil.

Habituellement, les premiers à adopter les nouvelles technologies, les responsables techniques hésitent désormais à lancer des initiatives majeures d’IA générative jusqu’à ce qu’ils soient assurés que des garde-fous sont en place. L’imprévisibilité des résultats de l’IA et la méfiance à l’égard de la technologie qui se répète d’elle-même surviennent dans un contexte d’attentes croissantes de Wall Street à Main Street en matière de monétisation des investissements technologiques et d’offre d’expériences fluides.

J’entends parler de cette anxiété collective dans des conversations privées depuis des mois. Au-delà des fanfaronnades autour de l’IA, les dirigeants se concentrent sur l’énigme de l’accélération de l’innovation tout en concevant des cadres de gestion des risques pour les menaces que nous ne pouvons pas entièrement prévoir mais que nous devons anticiper. Les équipes ne peuvent plus se contenter de réagir plus rapidement. La prévention est le meilleur remède.

De plus en plus, nos clients se tournent vers Operations Cloud de PagerDuty pour obtenir du soulagement. Nous les aidons à anticiper et à gérer la nature imprévisible des incidents majeurs : les prévoir, les détecter, les résoudre et en tirer des leçons pour qu’ils ne se reproduisent plus. Grâce à une automatisation centrée sur l’IA, nos solutions offrent une valeur claire pour aider les entreprises à augmenter leurs revenus, à créer de l’efficacité et à atténuer les risques. C’est pourquoi plus de la moitié des sociétés Fortune 500 et près de 70 % des sociétés Fortune 100 utilisent PagerDuty.

Récemment, dans le but de mieux comprendre les attitudes des DSI à l’égard de l’IA générative, nous avons mené un sondage avec Wakefield Research auprès de 100 dirigeants du Fortune 1000, dont des DSI et des responsables informatiques. Les résultats témoignent d’une population qui se sent préoccupée et en conflit à propos de la nouvelle technologie tout en faisant de son mieux pour mener son organisation vers la prochaine ère de manière mesurée et réfléchie.

Lorsqu’on leur a posé la question, ces dirigeants nous ont déclaré qu’ils éprouvaient une profonde méfiance à l’égard de l’IA générative, en particulier des risques de sécurité et des préoccupations éthiques qui y sont associées. Plus précisément, nous avons entendu :

• Chacun d’entre eux (100 % des dirigeants interrogés) s’inquiète des risques de sécurité liés à la technologie de l’IA générative, et presque tous (98 %) ont suspendu leurs initiatives d’IA générative pour établir des politiques.
• Tous — 100 % — pensent que l’intervention humaine est essentielle pour réussir la mise en œuvre de l’IA générative, mais l’ampleur de l’implication humaine varie : 73 % pensent qu’elle nécessite une quantité modérée et 23 % estiment qu’un faible niveau seulement est nécessaire.
• Plus de la moitié (51 %) pensent qu’ils devraient adopter l’IA générative seulement après avoir mis en place les bonnes lignes directrices, et seulement 29 % ont mis ces lignes directrices en place ; et,
• Un quart complet a révélé qu’ils ne faisaient pas confiance à l’IA générative, point final.

Malgré de sérieuses réserves, ces dirigeants ressentent de fortes pressions concurrentielles les obligeant à agir rapidement. Près de la moitié (46 %) des personnes interrogées estiment qu’elles risquent de prendre du retard si elles n’adoptent pas l’IA générative le plus rapidement possible.

Comme J’ai mentionné il y a six moisde nombreux leaders technologiques se sentent coincés entre FOMO et FOGI : la « peur de passer à côté » des avantages de l’innovation et la « peur d’y accéder » sans les garanties appropriées, mettant ainsi en péril la fiabilité et la confiance des clients.

Beaucoup de choses ont changé au cours des 16 mois écoulés depuis la sortie publique de ChatGPT en novembre 2022. Les équipes de direction et les conseils d’administration repensent chaque aspect de leurs stratégies commerciales. Les marchés publics récompensent les pionniers du secteur et les acteurs des infrastructures. Les marchés du travail révèlent que les travailleurs sont préoccupés par leur employabilité future. Et les établissements d’enseignement ont du mal à prouver leur pertinence à une époque de transition.

Il ne fait aucun doute que l’IA générative change la donne pour les entreprises, la société et l’humanité. J’en ai personnellement fait l’expérience comme étant un résultat net positif. Mais aucune grande récompense n’est sans risque.

En tant que chefs d’entreprise, il est de notre rôle d’anticiper et d’atténuer les risques au service de nos clients et de notre avantage concurrentiel. Si les personnes qui gèrent la technologie pour les plus grandes entreprises mondiales tardent à adopter l’IA générative, elles passeront à côté des avantages qui élargiront l’écart concurrentiel. Mais se précipiter est irresponsable.

Il existe une autre voie : je soutiens qu’il vaut mieux affronter les risques de front. Lorsque vous les anticipez, vous pouvez positionner votre entreprise pour gérer les imprévus dans un monde imprévisible. Cela signifie être intentionnel dans l’établissement de lignes directrices d’utilisation, mettre en œuvre des garde-fous systématiques et, surtout, investir dès maintenant dans la résilience opérationnelle. Ainsi, lorsque vous rencontrez des incidents majeurs, vous êtes préparé, équipé des meilleures plateformes pour limiter le rayon d’explosion et son impact, et habilité à vous remettre rapidement au travail en cours : l’innovation au service de vos clients.

Service de téléavertisseur

Service de téléavertisseur

Pour en savoir plus, visitez-nous ici.