Les DSI s’inquiètent de la génération AI – pour toutes les bonnes raisons

« Obtenir des réponses à des questions comme celles-là n’est pas facile, n’est-ce pas ? » » dit Cook. « Souvent, vous avez des représentants du service après-vente qui n’étaient même pas nés au moment de la sortie de ces produits.

« Très souvent aujourd’hui, ils devront mettre le client en attente ou le rappeler », a poursuivi Cook. « Ce n’est pas très efficace et ce n’est pas une expérience formidable pour le client. L’intention est que ces outils d’IA générative permettent qu’il s’agisse d’une conversation unique avec une réponse rapide.

Et Ford Pro, une entreprise qui fournit des services télématiques en plus des véhicules de flotte et des chargeurs de véhicules électriques, construit un chatbot alimenté par LLM pour fournir aux équipes internes un accès plus rapide et plus précis à la documentation.

L’état final du no-code

Démocratiser l’IA est le cri de ralliement des outils no-code/low-code depuis quelques années maintenant, et l’IA générative porte le concept à un autre niveau. Grâce à un chatbot soutenu par l’IA générative, les informations normalement confinées au domaine des data scientists et des analystes commerciaux peuvent désormais être à la portée de toute personne autorisée.

Clearsense, Ford Pro et New York Life développent tous cette capacité. Avec raison.

Ce qui est le plus excitant pour Venkatesh de Cloudera, ce n’est pas seulement que davantage de personnes puissent rechercher des réponses à partir des données. De plus, davantage de données sont accessibles que jamais.

« Le type de données le plus difficile à comprendre est celui des données non structurées », a déclaré Venkatesh. « Mais c’est critique. Quelle a été l’expérience du client ? Avons-nous résolu le problème ? Combien de fois ont-ils dû appeler ? Et pourquoi ne l’avons-nous pas vu plus tôt ? Une grande partie de cela est cachée dans l’historique des discussions, et non dans toutes les lignes et colonnes de données structurées.

« Il n’est plus nécessaire d’enseigner aux modèles que le prêt et l’hypothèque peuvent être utilisés de manière interchangeable dans certains contextes. Les LLM s’en chargent eux-mêmes. Ainsi, le coût d’extraction du sens sémantique est probablement 100 fois moins élevé qu’il y a 18 mois. C’est énorme. »

ça ne représente pas

Pour l’instant, du moins, la plupart considèrent l’IA générative comme un outil permettant d’accélérer la prise de décision et les interactions humaines. Si quelqu’un développe actuellement des applications basées sur l’IA pour prendre des décisions ou parler directement avec les clients, je ne les ai pas trouvés. Étonnamment, cependant, les gens sont assez divisés quant à savoir s’ils pensent que ce jour viendra ou non.

Musser et Cook de Ford de New York Life pensent que cela se produira probablement pour certaines applications, une fois que les garde-corps seront verrouillés et que la possibilité d’hallucinations sera pratiquement éliminée. Boicey de Clearsense n’en est pas si sûr.

« Nous ne comprenons pas vraiment comment, sur le plan cognitif, les humains réagissent », a-t-il déclaré. « Nous passerons donc invariablement à côté de certains types de contributions et de conclusions. Appelez cela de l’intuition. Appelez cela de l’expérience. Quelle que soit la raison pour laquelle un humain envisage la réponse de la génération IA et dit : « Oui, je comprends, mais ce n’est pas la bonne décision pour ce patient ici. »

Nandi d’AWS est d’accord, affirmant que le coût potentiel de la remise des clés dépasse les avantages.

« En particulier pour une industrie réglementée, vous aurez besoin de mettre en place de très bons garde-fous et contrôles », a déclaré Nandi. « Et au fait, l’un des garde-corps les plus simples que vous puissiez mettre en œuvre ? Une personne intelligente.