Pour les responsables de la sécurité, l’IA constitue un péril croissant et un bouclier émergent

Le fardeau déjà lourd supporté par les responsables de la sécurité des entreprises est considérablement aggravé par l’IA, l’apprentissage automatique et l’IA générative (genAI). Les logiciels malveillants, le phishing et les ransomwares sont des menaces en croissance rapide compte tenu de la nouvelle puissance et de l’efficacité de l’IA – par exemple, en améliorant les attaques de phishing, en créant de fausses identités convaincantes ou en usurpant l’identité de vraies.

L’accès facile aux plateformes genAI en ligne, telles que ChatGPT, permet aux employés de télécharger par inadvertance ou par inadvertance des données sensibles ou confidentielles. Entre les mains des adversaires, l’IA exploite deux vecteurs d’attaque :

• Il rend toute une série d’attaques existantes – telles que l’ingénierie sociale, le phishing, les deep fakes et les logiciels malveillants – plus rapides et beaucoup plus efficaces.
• Il permet d’exploiter des applications et des modèles d’IA d’entreprise pendant et après le développement, par exemple en déployant des attaques d’empoisonnement au stade de la formation du modèle ou en détournant le modèle en lui fournissant des informations incorrectes.

Les organisations réagissent à l’essor de l’IA de deux manières :

• Encourager une utilisation généralisée, avec peu de surveillance ou de compréhension des risques.
• Interdire presque toute utilisation (sauf pour un petit groupe de spécialistes), paralysant ainsi son potentiel.

Les responsables de la sécurité de l’information ont besoin d’une approche globale, flexible et réaliste.

Tirer parti de l’IA pour contrer l’IA

Les responsables de la sécurité se demandent déjà comment utiliser l’IA pour se défendre contre de telles attaques, surveiller l’utilisation qu’en font les employés et protéger les applications de l’organisation, y compris les applications et les modèles d’IA. L’adoption d’outils de sécurité individuels encore plus nombreux, désormais intégrant l’IA, est déjà en cours.

Mais une telle approche ad hoc implique des compromis : l’intégration est minime ou totalement absente ; une gestion centralisée est presque impossible ; le partage des données est difficile ; et la charge de travail du personnel de sécurité augmente.

Une approche alternative : les plateformes de sécurité basées sur l’IA

Une meilleure option réside dans les plates-formes de cybersécurité connectées, chacune dotée de capacités d’IA conçues et formées pour répondre à une vaste fonction de sécurité, telle que la protection du code, l’utilisation par les employés et les opérations de sécurité (SecOps). Si nécessaire, ces plateformes peuvent être complétées par des outils de sécurité spécialisés ciblant des vulnérabilités spécifiques.

Idéalement, ces plates-formes de sécurité basées sur l’IA sont conçues pour fonctionner en harmonie les unes avec les autres, permettant une gestion centralisée et le partage des données et, grâce à des API ouvertes, avec au moins certains outils de sécurité existants. Cette approche de consolidation peut être considérée comme une « plateforme » de la cybersécurité des entreprises à l’ère de l’IA. Cela transcende le débat éculé entre « le meilleur de sa catégorie et le modèle unique ».

Les responsables de la sécurité des entreprises peuvent commencer par se concentrer sur quelques priorités clés.

Défendez-vous contre les attaques basées sur l’IA : Bloquez les menaces sophistiquées basées sur le Web, les menaces Zero Day, les attaques évasives de commande et de contrôle et les attaques de piratage DNS.

Utilisation sécurisée de l’IA par les employés : Classer et prioriser les applications genAI pour évaluer les risques et détecter les anomalies ; créer et appliquer des politiques d’utilisation très spécifiques ; et alerter et coacher les employés sur l’utilisation de l’IA en toute sécurité.

Développement d’IA sécurisé : Surveillez les flux de trafic d’IA en temps réel couvrant les applications, les modèles, l’accès des utilisateurs et les menaces liées à l’infrastructure ; et permettre la détection des anomalies pour protéger les modèles d’IA contre la manipulation.

L’essentiel

L’IA donne à vos adversaires une puissance sans précédent. Tirer parti de l’IA dans les plateformes de cybersécurité connectées vous donne la même puissance pour vous défendre contre les attaques basées sur l’IA, sécuriser l’utilisation de l’IA par les employés et protéger votre chaîne d’approvisionnement en logiciels d’IA.

Tirez parti d’une approche de plateforme pour lutter contre les cybermenaces basées sur l’IA grâce à des capacités basées sur l’IA. Apprendre encore plus ici.