Niveaux de risque
L’ampleur du garde-fou nécessaire pour tout projet d’IA particulier dépend de plusieurs facteurs : si l’IA sert des clients externes ou des utilisateurs internes, si elle affecte des domaines sensibles tels que le juridique, la santé ou la finance, et le degré de liberté accordé à l’IA. Ainsi, si l’entreprise de cybersécurité Réseaux Si plusieurs projets d’IA générative sont en cours, nécessitant différents types de contrôles, un client pourrait créer une meilleure politique de sécurité ou apprendre à utiliser une fonctionnalité spécifique du produit.
« Nous avons lancé la première version avec des questions structurées », explique-t-il. James Robinson, RSSI de l’entreprise. Étant donné que les clients ne pouvaient choisir que parmi un certain ensemble de questions, il n’était pas nécessaire de valider le instructions pour s’assurer qu’ils étaient dans le sujet, puisque les clients ne pouvaient pas poser de questions hors sujet. Mais au fil du temps, Netskope a évolué vers des interactions plus libres et ouvertes entre les utilisateurs et l’IA.
« C’est ce que nous avons fait savoir à certains groupes chargés de la réussite des clients, en mettant en place davantage de barrières et de contrôles », dit-il. Mais Cette interface ouverte particulière est disponible pour les employés internes, ajoute-t-il, et non directement pour les clients. « Ce sont des gens qui sont un peu plus proches de nous et qui sont liés par des accords de salariés. »
Une autre façon de réduire les risques consiste à construire une barrière complémentaire au modèle protégé, dit-il. JJ López Murphy, responsable de la science des données et de l’IA de la société de développement logiciel Globant.
« Un garde-corps doit être orthogonal à ce que fait le LLM », dit-il. « Si vous utilisez un modèle OpenAI, ne l’utilisez pas pour vérifier s’il se trouve dans les limites ou non. » Ou peut-être même ne pas utiliser du tout un modèle de générateur de texte, mais quelque chose d’une toute autre famille, dit-il. « Il est alors beaucoup moins probable que quelque chose puisse les toucher tous les deux. »
Regard vers l’avenir
L’évolution rapide de l’IA générative pose un double défi aux entreprises. D’une part, les nouvelles capacités de l’IA générative nécessiteront de nouveaux garde-fous et pourraient être difficiles à suivre. D’un autre côté, les fournisseurs d’outils de protection innovent également à grande vitesse.. Ainsi, si vous investissez et créez un nouvel ensemble de garde-corps, un produit peut être disponible avant que vous ayez terminé votre propre développement. Dans ce cas, vous aurez investi du capital et des connaissances précieuses dans un projet devenu inutile avant même qu’il ne soit terminé. Mais cela ne signifie pas que les entreprises doivent prendre du recul et attendre que les technologies dont elles ont besoin soient disponibles, dit-il. Jason Rader, vice-président principal et directeur de l’information, Insightun intégrateur de solutions.
« « Les premiers utilisateurs prennent des parts de marché de manière considérable. », il est dit. « Nous sommes prêts à mettre de côté les heures de travail perdues et le capital investi, car une fois que vous avez pris une part de marché, il est plus facile de la conserver. »
L’IA générative est une technologie transformatrice unique, dit-il. « J’avais l’habitude de dire : laissons les pionniers essayer ces choses. Maintenant, je ne pense pas que nous devions nécessairement investir dans notre propre matériel et former nos propres modèles », ajoute-t-il. « Mais essayer de l’adopter dans notre entreprise dès maintenant, et avoir la flexibilité de l’ajuster, est une bien meilleure stratégie. »
Source link