Concevoir des expériences alimentées par Genai de manière responsable / blogs / perficient

Le perficient est un leader reconnu des solutions d’intelligence artificielle, en particulier en ce qui concerne l’IA génératrice, permettant aux entreprises d’accélérer l’adoption de l’IA et de transformer les opérations. Avec une expertise approfondie à travers Google, Adobe, Salesforce, Microsoftet AWS Technologies, nous concevons et déployons des solutions évolutives et à fort impact qui stimulent l’efficacité, l’innovation et les résultats commerciaux mesurables dans toutes les industries.

Nos experts se livrent régulièrement à un leadership d’opinion, comme Blogs discutant des avantages de l’IA et positions stratégiquesen plus de leur travail transformationnel pour les clients. Récemment, le travail de Perficient avec l’assistant virtuel Genai Virtual d’un fabricant automobile de premier plan a été inclus dans le rapport de Forrester intitulé «Des conception d’expériences génaies de manière responsable», qui explique comment s’assurer que les solutions d’IA génératrices sont fonctionnelles, efficaces et, surtout, sûres et responsables.

Pourquoi concevoir de manière responsable? Potentiel de résultats positifs et négatifs

Le potentiel de l’IA pour gagner du temps et une efficacité stimulante a conduit de nombreuses entreprises à rapidement mettre en œuvre son utilisation sur le lieu de travail les fonctions administratives telles que les RH, le juridique et les achats sont des adoptants précoces. Bien que ces avantages soient attrayants, beaucoup s’inquiètent des inconvénients de ces implémentations. Le revers pourrait potentiellement aggraver les expériences et nuire aux utilisateurs et aux organisations.

Si le Genai est déployé correctement, il peut fournir des tâches quotidiennes plus faciles et stimuler la productivité des employés, en particulier chez les personnes handicapées. Les chatbots peuvent réduire considérablement les défis auxquels sont confrontés les personnes en pouvant recueillir rapidement des informations à partir de plusieurs sources et produire un résumé cohérent.

Bien qu’il existe de nombreux points positifs avec le déploiement de l’IA, cela pourrait également entraîner de graves conséquences. Selon Forrester, «la base de données sur les incidents de l’IA, qui suit les dommages de l’IA, a énuméré plus de 3 600 rapports d’incidents couvrant les catégories de la désinformation aux décès autonomes des véhicules en septembre 2024.» Les chatbots et autres IA sont connus pour fournir des conseils préjudiciables et biaisés, réduisant leur efficacité et désavantageant ceux qu’ils ont été conçus pour soutenir, favorisant ainsi la méfiance du public envers l’IA.

La conception responsable commence dans l’institution

Comment concevez-vous de manière responsable pour éviter les pièges? Grâce à une bonne gouvernance interne et à la création de culture, les organisations peuvent construire une structure qui prend en charge les décisions de conception responsables. Avec ces paramètres en place, les individus travaillant sur le design se sentiront habilités à maintenir ces principes dans leurs conceptions Genai.

«Lors de la conception avec l’IA, les équipes devraient poser des questions essentielles: avons-nous laissé quelqu’un hors de cette expérience? Avons-nous effectué des recherches sur les utilisateurs avec le public cible et validé nos conceptions UX avec lui? Fournions-nous la formation appropriée pour concevoir de manière responsable? Répondre à ces questions pointera les équipes dans la bonne direction pour chaque projet. » – Lisa McMichael, accessibilité numérique du directeur principal, perficient

Lors du Summit du Forrester CX en Amérique du Nord en 2024, l’auteur de ce rapport, l’analyste principal Gina Bhawalkar, a présenté le travail de perficient avec ce constructeur automobile pendant sa session. La présentation a souligné que lors de l’approche du projet avec un premier constructeur automobile, notre équipe a défini plusieurs niveaux pour générer des réponses par rapport à la fourniture de réponses organisées. L’objectif était de s’assurer que l’assistant virtuel de l’IA a fourni les meilleures informations aux clients en fonction de la nature de leurs demandes.

Par exemple:

1. Pour les questions liées à la sécurité, nous livrons des réponses organisées pour assurer un verbiage précis.
2. Pour les questions du produit, nous permettons à l’IA de générer des réponses en utilisant des informations du site Web.
3. Nous utilisons des connaissances pré-formées pour fournir des informations sur les requêtes générales comme «Qu’est-ce qu’un SUV?»

Ce faisant, l’équipe a été en mesure d’améliorer la précision des réponses offertes aux utilisateurs et de réduire le risque que des sujets de sensibilité plus élevée comme la sécurité soient traités de manière irresponsable. De plus, l’équipe a défini des directeurs tels que l’offre de suggestions à l’utilisateur de commencer lors de l’atterrissage sur le site. Une étude de cas complète décrivant ce projet peut être Trouvé ici.

Prêt à développer des solutions d’intelligence artificielle de manière responsable? Explorer L’expertise Genai de Fulfillment.