Le procès de Patagonia soulève d’épineux problèmes de données GenAI

Ce procès n’implique directement que Patagonia et Talkdesk, mais la manière dont les programmes d’IA exploitent les données consultées est très importante.

Ce qui est allégué

Talkdesk capture toutes les conversations du service client des clients et partenaires commerciaux de Patagonia, les transcrit et utilise des programmes d’IA non spécifiés pour « analyser les paroles des appelants afin de déterminer de quoi parle l’appelant et ce qu’il ressent », selon le dossier californien. « Ni Talkdesk ni Patagonia ne divulguent aux individus que leurs conversations sont interceptées, écoutées, enregistrées et utilisées par Talkdesk. Ils n’obtiennent pas non plus le consentement du client pour que Talkdesk intercepte, écoute, enregistre et utilise le contenu de l’appel. C’est illégal en vertu de la loi californienne.

Le procès fait référence à l’un des produits Talkdesk AI, Copilot, qu’il décrit comme un « assistant GenAI qui écoute, guide et assiste les agents du centre de contact lors des interactions avec les clients. Par exemple, Copilot suggérera automatiquement des réponses pertinentes aux agents dans les chats, les e-mails, les appels et les SMS en fonction du contenu des communications des clients. Talkdesk enregistre toutes ces informations dans le cloud et crée un historique des interactions, ce qui permet aux entreprises de suivre les conversations précédentes des clients, même si ces conversations ont eu lieu sur un support différent. Toutes ces données sont stockées sur les serveurs de Talkdesk.