Les services de transcription d’IA révèlent des secrets d’entreprise : rapport

Peut-on confier à l’IA des informations confidentielles ?

C’était la question en jeu lorsque le populaire service de transcription d’IA Otter, qui a plus de 14 millions d’utilisateursa envoyé la semaine dernière une transcription automatique d’une réunion Zoom au chercheur en IA Alex Bilzerian après avoir rencontré une société de capital-risque. Le problème est que Bilzerian n’était pas censé voir la transcription complète, qui transcrivait également les conversations qu’il n’était pas censé entendre entre les VC après l’appel officiel.

Bilzerian a écrit que l’IA avait inclus « des heures de leurs conversations privées », y compris « des détails intimes et confidentiels sur leurs affaires » dans un poster sur X qui a été visionné plus de cinq millions de fois.

Une société de capital-risque avec laquelle j’ai eu une réunion Zoom a utilisé Otter AI pour enregistrer l’appel, et après la réunion, elle m’a automatiquement envoyé par courrier électronique la transcription, y compris les heures de leurs conversations privées par la suite, au cours desquelles ils ont discuté de détails intimes et confidentiels sur leur entreprise.

– Alex Bilzerian (@alexbilz) 26 septembre 2024

Loutre a répondu à Bilzerian sur X et a déclaré que la société de capital-risque aurait pu choisir de ne pas partager automatiquement la transcription. On ne sait pas si l’entreprise a oublié de mettre fin à un appel Zoom ou de désactiver la transcription de l’IA après l’appel.

Bilzerian a dit Le Washington Post qu’il a décidé ne pas conclure l’accord sur la base de la transcription qu’il a reçue.

Les utilisateurs de X ont fait part de leurs inquiétudes quant à l’empreinte accrue de l’IA dans les réunions et ont partagé des anecdotes connexes en réponse au message de Bilzerian.

Mark Cecchini, directeur des solutions patrimoniales chez Quadrant Capital, a écrit que les assistants IA rejoignaient les réunions plus souvent sans y être autorisés. Kristen Ruby, PDG de la société de relations publiques Ruby Media Group, pointu que la thérapie virtuelle se déroule via des appels vidéo enregistrés, conduisant à un éventuel piratage de données.

En rapport: De nos jours, tout est « alimenté par l’IA ». Voici comment distinguer le battage médiatique de la véritable innovation.

Un utilisateur X a écrit ça sa femme a reçu une transcription AI d’une réunion privée tandis qu’une autre revendiqué ils ont reçu une transcription après un entretien avec une conversation enregistrée expliquant pourquoi ils ne convenaient pas.

Les problèmes de confidentialité de l’IA ne sont pas nouveaux. Selon le Centre d’études stratégiques et internationales, l’IA a le potentiel de accroître la portée de la surveillance par améliorer technologie de reconnaissance faciale et algorithmes prédictifs sur les réseaux sociaux.

Cependant, l’IA peut avoir un avantage. Un mai 2024 Étude Goldman Sachs estime que l’IA pourrait augmenter la productivité de 25 % et note que « les premiers signaux de futurs gains de productivité semblent très, très positifs ».

En rapport: L’IA pour les outsiders : voici comment les petites entreprises peuvent prospérer grâce à l’intelligence artificielle