Fonctionnalités de cybersécurité GenAI : en valent-elles la peine ?

Les entreprises investissent d’énormes sommes d’argent dans l’IA générative – au point que les dépenses en GenAI en 2025 seront près de sept fois supérieures à celles de 2022, selon Données historiques et prévisions IDC.

Où va tout cet argent ? Dans de nombreux cas, c’est la cybersécurité, qui arrive en tête de liste des facteurs à l’origine de l’augmentation des dépenses informatiques en 2024.

Désormais, la question à laquelle les RSSI doivent répondre est de savoir si les dépenses consacrées aux outils et services GenAI en valent la peine. Quelles capacités de cybersécurité GenAI débloque-t-il ? Et quels sont les risques que les investissements de GenAI dans ce domaine se révèlent ratés et ne parvenant pas à créer une réelle valeur ?

Une façon d’appréhender ces questions consiste à évaluer dans quelle mesure l’IA a eu un impact notable sur les outils de cybersécurité. Cela peut s’avérer difficile étant donné les différentes manières dont les fournisseurs d’outils décrivent les fonctionnalités basées sur l’IA. Mais grâce à une analyse systématique des capacités de l’IA réellement disponibles aujourd’hui – par opposition aux fonctionnalités promises ou théorisées par les fournisseurs mais pas encore mises en œuvre – il est possible d’obtenir une évaluation précise de l’ampleur de l’impact de l’IA sur le domaine de la cybersécurité.

À cette fin, cet article explique comment GenAI est, et n’est pas, actuellement utilisé dans le domaine de la cybersécurité. (Pour être clair, l’accent est mis ici sur la mesure dans laquelle les outils de cybersécurité ont mis en œuvre des fonctionnalités basées sur l’IA, par opposition aux nouvelles menaces de cybersécurité posées par la technologie de l’IA – un sujet important mais assez différent.)

IA vs GenAI en cybersécurité

Une évaluation de l’impact de l’IA sur les solutions de cybersécurité doit commencer par l’observation que l’IA en général n’est pas nouvelle dans le domaine de la cybersécurité. Depuis des années, les outils de cybersécurité utilisent régulièrement la technologie de l’IA pour alimenter les processus analytiques, tels que la détection d’anomalies dans les systèmes informatiques qui pourraient être le signe d’une attaque.

GenAI, cependant, est un type différent de technologie d’IA, qui ouvre de nouvelles possibilités intéressantes pour les fournisseurs d’outils de cybersécurité et leurs clients. Avec GenAI, les cas d’utilisation de l’IA en cybersécurité s’étendent bien au-delà de l’analyse.

Appliquer GenAI aux défis de cybersécurité

Pour comprendre ces cas d’utilisation, examinons la manière dont GenAI s’applique à quatre domaines clés de la cybersécurité : les opérations de sécurité, la sécurité des applications, la sécurité du cloud et l’atténuation du phishing. Dans chaque catégorie, nous discuterons d’exemples spécifiques de fonctionnalités basées sur GenAI actuellement disponibles – et de leurs limites.

Opérations de sécurité

Les opérations de sécurité, qui visent à détecter les menaces et à y répondre, sont au cœur de la cybersécurité moderne. Dans ce domaine, les fonctionnalités GenAI remarquables incluent :

Résumant automatiquement les alertes pour aider les analystes à comprendre plus rapidement des volumes élevés de données d’alerte. Des fournisseurs comme Google et Elastic proposent actuellement cette fonctionnalité dans leurs outils de cybersécurité.

Utiliser un langage naturel (au lieu de requêtes basées sur du code, dont l’écriture nécessite du temps et des compétences) pour poser des questions sur les données de cybersécurité telles que les fichiers journaux. Cette fonctionnalité est disponible auprès de fournisseurs tels que CrowdStrike et Splunk.

Le principal avantage de ces fonctionnalités d’IA est qu’elles aident les équipes à travailler plus rapidement et plus efficacement, en particulier dans les cas où le personnel est moins expérimenté et donc moins capable d’effectuer des tâches telles que l’analyse rapide de gros volumes d’alertes. Cependant, il existe un risque que les outils GenAI tirent des conclusions inexactes lors de la synthèse d’informations ou de la traduction du langage naturel en code de requête.

Sécurité des applications

En matière de sécurité des applications, la principale fonctionnalité basée sur GenAI que les fournisseurs ont mise sur le marché à ce jour est la capacité des outils d’analyse des applications à générer du code qui corrige les failles de sécurité. Ceci est disponible via des plateformes comme Snyk et Veracode.

D’une certaine manière, ce type de fonctionnalité ressemble aux capacités de génération de code disponibles à partir des outils génériques de développement de logiciels basés sur l’IA, tels que GitHub Copilot, qui peuvent également aider à gérer les problèmes de sécurité des applications. Mais en intégrant cette fonctionnalité directement dans les plates-formes de sécurité des applications, les fournisseurs ont permis aux équipes de sécurité de détecter et de corriger plus rapidement les risques de sécurité des applications.

Sécurité du cloud

La sécurité du cloud est un domaine dans lequel GenAI a eu peu d’impact jusqu’à présent – ​​probablement parce que les outils d’analyse traditionnels basés sur des règles étaient efficaces pour détecter les risques de sécurité du cloud (comme les services cloud dépourvus de contrôles d’accès adéquats) avant l’avènement de GenAI.

Il n’est donc pas surprenant que les fonctionnalités de sécurité cloud basées sur GenAI se limitent principalement à des capacités telles que poser des questions en langage naturel pour analyser les données de sécurité cloud (une fonctionnalité disponible auprès de fournisseurs comme Orca).

Atténuation du phishing

La détection et le blocage du contenu de phishing sont un autre domaine dans lequel GenAI ouvre de nouvelles opportunités, mais n’innove pas fondamentalement. Le principal cas d’utilisation de l’IA générative dans le domaine du phishing consiste à utiliser GenAI pour détecter et supprimer les messages de phishing, une fonctionnalité disponible auprès de fournisseurs comme Ironscales.

Cependant, il est possible d’identifier le contenu susceptible de faire partie de campagnes de phishing par d’autres moyens, tels que l’analyse du sentiment des messages et des métadonnées sur l’origine des messages et les tendances de livraison. Ainsi, GenAI dans cet espace offre principalement une nouvelle façon d’accomplir une tâche ancienne.

En résumé, il est clair que les équipes de cybersécurité peuvent bénéficier dès maintenant des capacités basées sur GenAI, mais leur valeur est limitée. Aucune des fonctionnalités GenAI mises sur le marché jusqu’à présent n’est fondamentalement perturbatrice ; la plupart sont, au mieux, des améliorations progressives.

De plus, de nombreuses fonctionnalités disponibles sont principalement utiles aux équipes de cybersécurité moins expérimentées. Les analystes chevronnés sont moins susceptibles de bénéficier des outils GenAI car ils sont déjà capables d’effectuer des tâches complexes sans l’aide de GenAI.

Pour les RSSI, ce qu’il faut retenir, c’est qu’investir dans des outils de cybersécurité dotés de capacités GenAI est logique – jusqu’à un certain point. Il est important de reconnaître les limites de la valeur et d’éviter d’acheter de nouvelles fonctionnalités d’IA brillantes qui ne résolvent pas réellement les problèmes de cybersécurité spécifiques d’une organisation.

International Data Corporation (IDC) est le premier fournisseur mondial d’informations commerciales, de services de conseil et d’événements pour les marchés technologiques. IDC est une filiale en propriété exclusive d’International Data Group (IDG Inc.), le leader mondial des services de médias technologiques, de données et de marketing. Récemment élu cabinet d’analystes de l’année pour la troisième fois consécutive, les solutions technologiques leaders d’IDC vous fournissent des conseils d’experts soutenus par nos services de recherche et de conseil de pointe, de solides programmes de leadership et de développement et les meilleures données d’analyse comparative et d’approvisionnement. auprès des conseillers les plus expérimentés de l’industrie. Contactez-nous dès aujourd’hui pour en savoir plus.

Pour une analyse plus approfondie et plus large de l’impact de GenAI sur la cybersécurité, consultez la publication d’IDC «L’IA générative dans les outils de cybersécurité : distinguer le battage médiatique de la valeur.»

Christophe Tozzi, conseiller de recherche adjoint pour IDC, est maître de conférences en informatique et société au Rensselaer Polytechnic Institute. Il est également l’auteur de milliers de billets de blog et d’articles pour divers sites de médias technologiques, ainsi que de nombreuses publications scientifiques.

Avant de se consacrer actuellement à la recherche et à l’écriture sur la technologie, Christopher a travaillé à temps plein en tant que professeur d’histoire titulaire et analyste pour une startup technologique de la région de la baie de San Francisco. Il est également un connaisseur de longue date de Linux et a occupé des postes dans l’administration système Linux. Cette combinaison inhabituelle de compétences techniques « concrètes » et d’un accent sur les questions sociales et politiques aide Christopher à réfléchir de manière unique à l’impact de la technologie sur les entreprises et la société.