L’IA générative et la transformation de tout

L’IA générative est une innovation qui transforme tout. Dans quelle mesure et de quelles manières ce phénomène fait-il l’objet de nombreuses discussions et controverses. Mais comme c’est le cas pour de nombreuses nouvelles technologies, les inquiétudes qu’elles suscitent sont peut-être davantage liées à la peur de l’avenir qu’à la façon dont cet avenir sera envisagé.

ChatGPT et l’émergence de l’IA générative

Le malaise est compréhensible. En effet, il y a dix ans, certains experts a prévenu que l’intelligence artificielle nous ferait perdre près de 50 % de nos emplois actuels d’ici 2033. Mais nous sommes maintenant presque à mi-chemin, et nous n’avons même pas de voitures entièrement autonomes et autonomes.

La raison de cette conversation est l’émergence apparemment soudaine de l’IA générative et de son application la plus connue, Ouvrez ChatGPT d’IA. La réalité est très similaire à celle des débuts de nombreuses technologies qui changent de paradigme. C’est là où nous en sommes aujourd’hui avec l’IA générative. En seulement six mois, nous le voyons déjà atteindre un point d’inflexion technologique alors que les entreprises se précipitent pour généraliser l’utilisation d’applications d’IA générative.

Les implications pour la sécurité de l’entreprise

Pour la plupart des entreprises, le moment présent est un processus éducatif. Les entreprises voient l’IA générative comme un moyen d’accélérer leur efficacité. Mais dans le se précipiter pour adopter, ils se mettent en danger.

Certains de ces risques sont accidentels. Ils impliquent la copie ou le placement de données, de fichiers ou d’images sensibles d’entreprise dans des applications publiques d’IA générative. Le pool de connaissances de ChatGPT couvre essentiellement l’ensemble d’Internet. Les informations qui y sont chargées deviennent des données auxquelles tout autre abonné a accès. Cette fuite de données constitue aujourd’hui le principal problème de sécurité concernant l’IA générative des entreprises.

Une autre préoccupation majeure concerne la violation du droit d’auteur et de la propriété intellectuelle (PI). À qui appartient quoi lorsque le résultat est quelque chose qui est la propriété intellectuelle d’une entreprise combinée avec celle d’une autre dans ce service tiers accessible au public ? L’IA générative ne vérifie pas les préjugés, l’attribution ou la protection des droits d’auteur.

Une troisième préoccupation majeure est son utilisation comme outil par les cyber-attaquants. Il est important de noter ici que l’IA générative est aujourd’hui un moteur de développement de contenu. ChatGPT peut vous indiquer la manière dont les attaquants ont pénétré un système d’exploitation particulier ; il ne peut pas développer de manière indépendante une nouvelle méthode qui n’a jamais été réalisée auparavant. Au moins pas encore. Et probablement pas avant cinq bonnes années, voire plus.

Alors, comment faire rouler le train avec l’IA générative tout en sécurisant l’entreprise ?

L’importance de la politique

La protection de l’entreprise contre les risques potentiels de cybersécurité générés par l’IA ne commence pas par la technologie. Cela commence par les politiques commerciales de l’organisation – par l’éducation et l’établissement de bases permettant de comprendre et de reconnaître les risques qu’implique l’IA générative. L’importance de la politique s’étend à la sphère réglementaire. En effet, tout récemment, plusieurs leaders dans le domaine de l’IA ont appelé à une pause sur certains aspects du développement de l’IA pendant qu’un tel environnement réglementaire officiel est élaboré pour mettre en place des garde-fous.

Le dernier élément consiste pour les entreprises à mettre en place des contrôles qui leur permettront d’appliquer et d’automatiser des politiques permettant de surveiller l’utilisation de l’IA générative et de minimiser les risques pour l’entreprise.

Symantec et l’IA générative

Symantec a une longue histoire avec l’IA. La clé de notre objectif est la protection de la propriété intellectuelle des utilisateurs et de l’entreprise. Les organisations devraient se sentir particulièrement confiantes face à la menace posée par les systèmes d’IA générative si elles disposent déjà d’un système de protection des données tel que Symantec Data Loss Prevention Cloud. Une solution comme celle-ci aide les entreprises à adopter des outils d’IA générative en garantissant l’envoi conforme d’images ou de données aux outils génératifs.

Nous en sommes encore aux premiers jours de l’IA générative. C’est pourquoi nous disposons d’une grande équipe d’ingénieurs qui se consacre à maintenir Symantec à la pointe de cette technologie. En effet, nous utilisons bon nombre des mêmes types d’outils d’apprentissage automatique et même d’IA générative pour aider à identifier les comportements malveillants au fur et à mesure qu’ils sont utilisés pour les créer.

Lorsqu’il s’agit d’IA générative, la question n’est pas de savoir si c’est une victoire ou non pour l’entreprise. Les entreprises qui ne l’adopteront pas seront gravement désavantagées. Les entreprises doivent investir dans la sécurité pour tirer pleinement parti en toute sécurité de la technologie qui transforme tout.

Pour en savoir plus sur l’IA générative et la cybersécurité : télécharger le livre blanc.

À propos d’Alex Au Yeung

Broadcom

Alex Au Yeung est le directeur des produits de la division Symantec Enterprise chez Broadcom. Vétéran des logiciels depuis plus de 25 ans, Alex est responsable de la stratégie produit, de la gestion des produits et du marketing pour l’ensemble de Symantec.