Niveaux de risque
L’ampleur du garde-fou requis pour tout projet d’IA particulier dépend de plusieurs facteurs : si l’IA sert des clients externes ou des utilisateurs internes, implique des domaines sensibles comme le juridique, la santé ou la finance, et le degré de liberté dont l’IA est accordé. Ainsi, si la société de cybersécurité Netskope a plusieurs projets d’IA de génération en cours, nécessitant différents types de contrôles, un client pourrait créer une meilleure politique de sécurité ou apprendre à utiliser une fonctionnalité particulière du produit.
« La première version que nous avons publiée comportait des questions structurées », explique James Robinson, RSSI adjoint de l’entreprise. Les clients étant uniquement autorisés à choisir parmi un ensemble de questions donné, il n’était pas nécessaire de valider les invites pour s’assurer qu’elles correspondaient au sujet, car les clients ne pouvaient pas poser de questions hors sujet. Mais au fil du temps, Netskope a évolué vers des interactions plus libres et ouvertes entre les utilisateurs et l’IA.
« C’est ce que nous avons communiqué à certains groupes chargés de la réussite des clients, à mesure que nous avons mis en place davantage de garde-fous et de contrôles », dit-il. Mais cette interface ouverte particulière est accessible aux employés internes, ajoute-t-il, et non directement aux clients. « Ce sont des individus qui sont un peu plus proches de nous et qui sont liés par des accords de salariés. »
Une autre façon de réduire les risques consiste à construire un garde-fou de manière complémentaire au modèle protégé, explique JJ Lopez Murphy, responsable de la science des données et de l’IA chez la société de développement de logiciels Globant.
« Un garde-fou devrait être orthogonal à ce que fait le LLM », dit-il. « Si vous utilisez un modèle OpenAI, ne l’utilisez pas pour vérifier s’il est dans les limites ou non. » Ou peut-être même ne pas utiliser du tout un modèle de générateur de texte, mais quelque chose d’une toute autre famille, dit-il. « Il est alors beaucoup moins probable que quelque chose puisse les frapper tous les deux. »
Regarder vers l’avant
La nature évolutive de la génération IA pose un double défi aux entreprises. D’une part, les nouvelles capacités LLM nécessiteront de nouveaux garde-fous et il peut être difficile de suivre le rythme. D’un autre côté, les fournisseurs d’outils de garde-corps innovent également à un rythme rapide. Ainsi, si vous investissez et construisez un nouvel ensemble de garde-corps, un produit standard pourrait devenir disponible avant que votre propre développement ne soit terminé. Vous avez immobilisé du capital et une expertise précieuse sur un projet qui est devenu inutile avant même qu’il ne soit terminé. Mais cela ne signifie pas que les entreprises doivent prendre du recul et attendre que les technologies dont elles ont besoin soient disponibles, déclare Jason Rader, vice-président directeur et RSSI chez Insight, un intégrateur de solutions.
« Les premiers utilisateurs prennent des parts de marché de manière considérable », dit-il. « Nous sommes prêts à mettre de côté les heures de travail perdues et le capital investi, car une fois que vous avez pris des parts de marché, il est plus facile de les conserver. »
L’IA générative est une technologie transformatrice unique, dit-il. « J’avais l’habitude de dire : laissons les premiers utilisateurs essayer ce genre de choses. Désormais, je ne pense pas que nous ayons nécessairement besoin d’investir dans notre propre matériel et de former nos propres modèles », ajoute-t-il. « Mais essayer de l’adopter dans notre entreprise dès maintenant, et avoir la flexibilité de s’adapter, est une bien meilleure stratégie. »
juillet 10, 2024
Comment les garde-fous permettent aux entreprises de déployer une IA sûre et efficace
Niveaux de risque
L’ampleur du garde-fou requis pour tout projet d’IA particulier dépend de plusieurs facteurs : si l’IA sert des clients externes ou des utilisateurs internes, implique des domaines sensibles comme le juridique, la santé ou la finance, et le degré de liberté dont l’IA est accordé. Ainsi, si la société de cybersécurité Netskope a plusieurs projets d’IA de génération en cours, nécessitant différents types de contrôles, un client pourrait créer une meilleure politique de sécurité ou apprendre à utiliser une fonctionnalité particulière du produit.
« La première version que nous avons publiée comportait des questions structurées », explique James Robinson, RSSI adjoint de l’entreprise. Les clients étant uniquement autorisés à choisir parmi un ensemble de questions donné, il n’était pas nécessaire de valider les invites pour s’assurer qu’elles correspondaient au sujet, car les clients ne pouvaient pas poser de questions hors sujet. Mais au fil du temps, Netskope a évolué vers des interactions plus libres et ouvertes entre les utilisateurs et l’IA.
« C’est ce que nous avons communiqué à certains groupes chargés de la réussite des clients, à mesure que nous avons mis en place davantage de garde-fous et de contrôles », dit-il. Mais cette interface ouverte particulière est accessible aux employés internes, ajoute-t-il, et non directement aux clients. « Ce sont des individus qui sont un peu plus proches de nous et qui sont liés par des accords de salariés. »
Une autre façon de réduire les risques consiste à construire un garde-fou de manière complémentaire au modèle protégé, explique JJ Lopez Murphy, responsable de la science des données et de l’IA chez la société de développement de logiciels Globant.
« Un garde-fou devrait être orthogonal à ce que fait le LLM », dit-il. « Si vous utilisez un modèle OpenAI, ne l’utilisez pas pour vérifier s’il est dans les limites ou non. » Ou peut-être même ne pas utiliser du tout un modèle de générateur de texte, mais quelque chose d’une toute autre famille, dit-il. « Il est alors beaucoup moins probable que quelque chose puisse les frapper tous les deux. »
Regarder vers l’avant
La nature évolutive de la génération IA pose un double défi aux entreprises. D’une part, les nouvelles capacités LLM nécessiteront de nouveaux garde-fous et il peut être difficile de suivre le rythme. D’un autre côté, les fournisseurs d’outils de garde-corps innovent également à un rythme rapide. Ainsi, si vous investissez et construisez un nouvel ensemble de garde-corps, un produit standard pourrait devenir disponible avant que votre propre développement ne soit terminé. Vous avez immobilisé du capital et une expertise précieuse sur un projet qui est devenu inutile avant même qu’il ne soit terminé. Mais cela ne signifie pas que les entreprises doivent prendre du recul et attendre que les technologies dont elles ont besoin soient disponibles, déclare Jason Rader, vice-président directeur et RSSI chez Insight, un intégrateur de solutions.
« Les premiers utilisateurs prennent des parts de marché de manière considérable », dit-il. « Nous sommes prêts à mettre de côté les heures de travail perdues et le capital investi, car une fois que vous avez pris des parts de marché, il est plus facile de les conserver. »
L’IA générative est une technologie transformatrice unique, dit-il. « J’avais l’habitude de dire : laissons les premiers utilisateurs essayer ce genre de choses. Désormais, je ne pense pas que nous ayons nécessairement besoin d’investir dans notre propre matériel et de former nos propres modèles », ajoute-t-il. « Mais essayer de l’adopter dans notre entreprise dès maintenant, et avoir la flexibilité de s’adapter, est une bien meilleure stratégie. »
Source link
Partager :
Articles similaires