Évitez ces ardents aveugles risqués lors de l’utilisation de la société Gen AI large

L’intérêt pour le général AI n’a pas ralenti, mais la mise en œuvre à l’échelle de l’entreprise a car davantage de risques se révèlent. Récent Recherche en fabrication Les préoccupations croissantes concernant les risques de Gen IA ont fait que les fabricants ont fait une pause pour un déploiement.

Cet article explique trois taches aveugles qui peuvent être catastrophiques. Mais, tout d’abord, sachez que Gen AI n’est pas comme les autres technologies.

Gen AI fonctionne différemment des autres IA et technologies

Trois différences clés sont:

• La génération AI dépend des réseaux de neurones, qui sont inspirés par le cerveau. Et nous ne comprend pas complètement le cerveau.
• La génération AI dépend également des modèles de langue importants (LLM) avec de grands ensembles de contenu et de données. Ce qui est exactement dans le LLM varie selon les solutions d’IA génératives, tout comme leur approche de la divulgation.
• Les scientifiques ne savent pas exactement comment fonctionne la génération AI, comme La revue du MIT a bien rapporté.

Bien que Gen Ai soit puissant, il est plein d’inconnues. Plus nous avons mis en lumière ses «gotchas», plus vous pouvez gérer les risques de le déployer.

En rapport: Pourquoi Genai est la sauce secrète pour de bonnes expériences client

1. Intensification de la demande de transparence

La demande de transparence sur la façon dont les entreprises utilisent Gen IA proviennent du gouvernement, des employés et des clients. Ne pas être préparé met votre entreprise à risque d’amendes, de poursuites, de perte de clients et pire.

La législation du général AI a proliféré dans le monde à tous les niveaux. L’Union européenne a donné le ton avec son Vous avez un document. Pour rester sur le côté droit de ce règlement, votre entreprise doit divulguer quand et comment il utilise Gen AI. Vous devrez démontrer comment vous ne remplacez pas les humains pour prendre des décisions clés ou introduire un biais.

Dans le même temps, les employés et les clients veulent savoir quand et pourquoi ils ont affaire à la génération AI. Si votre organisation utilise Gen IA dans le processus d’embauche, expliquez que les candidats et les employés impliqués. (Pour en savoir plus sur l’IA dans l’embauche, ne manquez pas Ce guide développé par mon équipe et terminal.io.)

Lors de la communication avec les clients, votre entreprise doit divulguer en utilisant Gen AI sous n’importe quelle forme (voix, texte, chat, etc.). Une façon est dans les politiques, comme moyen fait ici. Une autre façon est de fournir des indices dans le expérience client. Par exemple, AWS montre Lorsque des résumés de pages connexes sont générés par l’IA.

La bonne nouvelle est que si votre entreprise aborde les deux prochains points morts, la transparence sera beaucoup plus facile.

2. Liste croissante d’inexactitude causes

Le disant de longue date « ordonnance dans les ordures » est vrai pour une IA générative. Ce qui est nouveau avec une IA générative, c’est comment les ordures peuvent entrer et, par conséquent, provoquer des inexactitudes.

• Abusant une IA générative pour les mathématiques: L’IA générative est mauvaise en mathématiques et la manipulation des nombres. J’ai partagé mon expérience récente avec ce problème sur LinkedIn ici. Pour toute expérience impliquant des calculs, des comparaisons de numéros et autres, vous devrez compléter Gen AI avec d’autres solutions.
• Ordures dans le LLM: Si le LLM a incorrect, obsolète ou contenu biaiséalors votre entreprise est à risque. Et les chances que ce risque se produise est plus élevée que jamais parce que les sources de contenu de confiance allant du New York Times à Condé Nast se retirent. Des recherches récentes ont révélé un 50% de baisse des données et du contenu Disponible pour les technologies Gen AI. Donc, exiger la transparence de la LLM de toute solution GEN AI que vous considérez avant de vous engager dans un.
• Ordures dans votre contenu et données: Pour adapter Gen AI pour votre entreprise, il est probable que vous deviez les former sur votre propre contenu et données. Mais si ce contenu et ces données ne se rencontrent pas de manière cohérente Vos normessont obsolètes ou ont des erreurs, votre entreprise est en danger.

Mon entreprise recherche répétée montre que les entreprises qui déclarent un niveau élevé de maturité des opérations de contenu sont plus rapides à tirer parti de la génération AI que les autres parce qu’elles ont des pratiques pour documenter les normes de contenu, gouverner la qualitéet plus.

Si votre entreprise n’a pas de telles pratiques, vous n’êtes pas seul. La bonne nouvelle est qu’il n’est jamais trop tard pour rattraper son retard. Notre équipe a récemment aidé le plus grand détaillant de rénovation domiciliaire au monde à définir des normes de contenu complètes pour les communications transactionnelles sur tous les canaux pertinents en moins de trois mois.

Plus de bonnes nouvelles ici. Lorsque vous combler les lacunes de précision, vous réduisez également le risque de votre entreprise d’introduire involontairement un biais ou de violer le droit d’auteur.

En rapport: Trois cas d’utilisation de Gen-AI qui peuvent être utiles pour les organisations

3. L’étendue de la maintenance requise

La génération AI semble parfois magique, mais elle nécessite en fait une maintenance vigilante par votre entreprise et la solution Gen AI que vous choisissez. Si vous déploiez la génération AI sans approche claire de la maintenance, vous multiplierez les risques de 1 et 2 grâce à des problèmes comme ceux-ci:

• Dérive: Ce problème est lorsque le monde réel change, mais votre modèle GEN AI ne le fait pas, comme lorsque le contenu et les données du LLM deviennent obsolètes. C’était correct lorsque vous avez lancé pour la première fois, mais maintenant ce n’est pas le cas. Imaginez un chatbot donnant à vos clients un fait inexact sur l’un de vos produits car il n’est pas au courant de cette nouvelle fonctionnalité de produit.
• Dégradation: Également appelé effondrement du modèle, ce problème est lorsque votre solution Gen AI devient plus stupide au lieu de plus intelligente. Une cause de dégradation est à court de contenu frais et de qualité pour le LLM. Des recherches récentes montrent que les LLM, ironiquement, Décomposer lorsqu’il est nourri avec du contenu généré par l’IA.

Ainsi, Gen AI est une technologie uniquement puissante qui peut amener le contenu de votre entreprise à de nouveaux niveaux d’efficacité. Mais ce pouvoir comporte beaucoup de risques. Prenez ces risques au sérieux lorsque vous planifiez votre implémentation Gen AI afin que vous ayez moins de maux de tête et plus de succès.