Rogue AI mange les données de votre entreprise grâce à vos employés

Le rapport ajoute que près de 83 % de tous les documents juridiques partagés avec les outils d’IA le sont via des comptes non professionnels, tandis qu’environ la moitié du code source, des documents de R&D et des dossiers RH et des employés sont introduits dans l’IA non autorisée.

La quantité de données saisies dans tous les outils d’IA a presque quintuplé entre mars 2023 et mars 2024, selon l’étude. « Les utilisateurs finaux adoptent de nouveaux outils d’IA plus rapidement que l’informatique ne peut suivre, ce qui alimente la croissance continue de « l’IA fantôme » » ajoute le rapport.

Où vont les données ?

Dans le même temps, de nombreux utilisateurs ne savent peut-être pas ce qu’il advient des données de leur entreprise une fois qu’ils les partagent avec une IA sans licence. Les conditions d’utilisation de ChatGPT, par exemple, stipulent que la propriété du contenu saisi reste la propriété des utilisateurs. Cependant, ChatGPT peut utiliser ce contenu pour fournir, maintenir, développer et améliorer ses services, ce qui signifie qu’il pourrait être formé à l’aide des dossiers partagés des employés. Les utilisateurs peuvent refuser que ChatGPT soit formé avec leurs données.