Hallucinations de l’IA générative : que peut faire l’informatique ?

L’adoption de l’IA générative se développe sur le lieu de travail, et pour cause. Des études indiquent le potentiel de gains de productivité significatifs : les travailleurs ont vu certains projets d’écriture s’accélérer de 40 % en un temps record. étude publiée par Science et les développeurs ont pu effectuer certaines tâches jusqu’à 30 % plus rapidement selon une étude McKinsey. Mais l’épée à double tranchant de ces gains de productivité est l’un des talons d’Achille bien connus de l’IA générative : sa capacité à « occasionnellement »halluciner», ou présenter des informations incorrectes comme des faits.

Les hallucinations peuvent être problématiques pour les organisations qui s’empressent d’adopter l’IA générative. Dans un monde parfait, les résultats de l’IA générative n’auraient pas besoin d’être rigoureusement examinés. Mais dans les rares cas où des informations erronées provenant des hallucinations GenAI sont rendues publiques, le les résultats peuvent être embarrassants et peut éroder la confiance et la crédibilité de la marque.

Ce que l’informatique peut faire contre les hallucinations génératives de l’IA

Heureusement, il existe des mesures que les services informatiques peuvent prendre pour réduire le risque d’hallucinations génératives de l’IA, soit par le biais de les décisions qu’ils prennent dans leur propre environnement ou comment les utilisateurs internes sont formés à l’utilisation des outils existants. Voici une gamme d’options que le service informatique peut utiliser pour démarrer.

Utiliser la génération augmentée par récupération (RAG)

La génération augmentée par récupération (RAG) est une technique qui permet aux modèles de récupérer des informations à partir d’un ensemble de données ou d’une base de connaissances spécifié. Cette approche vous permet d’utiliser un modèle de langage étendu pour générer des réponses basées sur les documents pertinents que vous avez fournis à partir de votre source de données, ce qui peut donner lieu à des résultats plus pertinents et précis. Ce qui est précieux avec RAG, c’est qu’il peut être assez facile de se lever et peut être réalisé sur une infrastructure existante avec extraits de code facilement disponibles en ligne.

Envisagez d’affiner un grand modèle de langage

La génération augmentée par récupération peut être une technique utile pour obtenir des résultats plus précis, mais elle n’a pas d’impact sur le grand modèle de langage sous-jacent avec lequel vous travaillez. Pour cela, il faudra passer à la mise au point. Il s’agit d’un processus supervisé qui implique recycler un grand modèle de langage avec des données afin qu’il génère du contenu avec plus de précision en fonction de ces données. RAG et réglage fin ne doivent pas nécessairement être une proposition soit/soit ; en fait, il a été démontré qu’un modèle affiné associé à RAG réduire considérablement les hallucinations.

Utiliser une ingénierie rapide

L’ingénierie rapide est le terme sophistiqué désignant l’utilisation du processus de questions-réponses consistant à interagir avec un grand modèle de langage pour le former. L’utilisation de certaines techniques d’ingénierie rapides peut entraîner des modèles à réagir de manière plus prévisible et augmenter la précision de la résolution de problèmes. Cependant, l’ingénierie des invites est limitée dans la mesure où elle n’a pas la capacité d’accroître la connaissance du modèle de base. À bien des égards, cela se résume à des essais et des erreurs pour savoir quelles invites donnent de bons résultats, puis les utiliser de manière fiable.

Enseigner les meilleures pratiques d’IA générative aux utilisateurs quotidiens

Cette dernière étape ne peut être négligée : s’assurer que les utilisateurs ont une formation adéquate pour tirer le meilleur parti des grands modèles de langage et utilisent les meilleures pratiques telles que les évaluations par les pairs et la vérification des faits du contenu. Apprenez aux utilisateurs de base à créer des invites de manière à obtenir des résultats de haute qualité. Par exemple, utilisent-ils un langage clair et fournissent-ils un contexte adéquat dans leurs invites ? De même, une fois qu’ils ont obtenu un résultat, examinent-ils le contenu avec des experts internes en la matière et des pairs ? Ces pratiques de bon sens peuvent réduire les erreurs et garantir que le contenu est à la hauteur avant d’être vu publiquement.

L’antidote aux hallucinations : où va l’informatique à partir de maintenant

Alors que les organisations envisagent leur parcours vers l’IA générative, les risques d’hallucinations de l’IA peuvent être une source de préoccupation, mais avec les bonnes stratégies en place, l’informatique peut réduire ces risques et concrétiser les promesses de l’IA générative. Il est probable que de nombreuses organisations informatiques emploieront un certain nombre de ces approches, par exemple la formation ou l’augmentation des modèles parallèlement à la formation des utilisateurs pour une couverture la plus large possible. Il convient également de noter que ces stratégies ne sont pas exhaustives et que ce qui fonctionne pour chaque organisation dépendra des cas d’utilisation spécifiques et des ressources disponibles. Les services informatiques voudront également réfléchir aux options de déploiement qui leur donneront la possibilité la bonne combinaison de sécurité et de personnalisation pour répondre à leurs besoins.

Peu importe où vous en êtes dans votre parcours GenAI, les étapes ci-dessus peuvent vous aider. Et si vous avez besoin de conseils supplémentaires, solliciter le soutien de partenaires peut vous y aider plus rapidement. Chez Dell, nous travaillons chaque jour avec les organisations pour les aider à identifier les cas d’utilisation, à mettre en place des solutions, à accroître l’adoption et même à former les utilisateurs internes pour accélérer l’innovation.

Pour en savoir plus, visitez dell.com/ai.