Comment construire une voie sûre vers l’IA dans le secteur de la santé

Les soins de santé adhèrent à des normes élevées. Cela est évident dans la formation rigoureuse requise pour les prestataires, les protocoles de sécurité stricts pour les professionnels des sciences de la vie et les exigences strictes en matière de données et de confidentialité pour les logiciels d’analyse des soins de santé. Les enjeux dans le domaine des soins de santé sont plus importants, car les erreurs peuvent avoir des conséquences mortelles. Par conséquent, chaque innovation doit être abordée avec la plus grande prudence.

En conséquence, l’adoption de l’IA dans le secteur de la santé a été confrontée à des défis et à des controverses importants, plus encore que dans d’autres secteurs. Cela est dû en grande partie au scepticisme généralisé concernant les affirmations ambitieuses sur le potentiel de l’IA à révolutionner le traitement du cancer, associé à l’intégration relativement lente des technologies de l’IA dans diverses disciplines de la santé. Les préoccupations concernant la sécurité, la confidentialité et l’exactitude des données ont été au premier plan de ces discussions. Cependant, avec les progrès rapides des technologies d’IA et d’IA générative (GenAI) et l’émergence de plusieurs applications prometteuses dans le monde réel, une voie plus claire et plus sûre pour l’intégration de l’IA dans les soins de santé commence à prendre forme.

Sur la base des travaux de mon entreprise développant des solutions d’IA et de GenAI pour aider les principaux organismes payeurs de soins de santé au monde à travailler plus efficacement avec les prestataires, nous avons identifié les critères suivants comme étant les clés pour instaurer la confiance dans la technologie.

1. Expertise dans le domaine de la santé : On ne saurait trop insister sur le fait que quiconque développe des modèles de soins de santé basés sur l’IA doit comprendre les cas d’utilisation uniques et les exigences strictes en matière de sécurité et de confidentialité des données – ainsi que les nuances détaillées de la manière dont ces informations seront utilisées – dans le contexte de soins de santé spécifique où la technologie sera utilisée. être déployé. Pour les solutions utilisées dans le processus d’autorisation préalable, par exemple, les développeurs doivent comprendre que tout point de données manquant ou toute rupture de continuité dans le suivi du parcours complet du patient pourrait entraîner des refus de couverture ou des approbations pouvant avoir des conséquences potentiellement mortelles. De même, ils doivent intégrer des protocoles de sécurité et des freins et contrepoids dans la technologie pour valider le traçage des données et reconnaître les informations potentiellement erronées ou incomplètes.
2. Sécurité, confidentialité et précision des données : L’un des principaux obstacles à la mise en œuvre de l’IA dans les soins de santé est le risque d’exposition accidentelle à des informations privées sur la santé. Pour que les analyses de soins de santé basées sur l’IA soient suffisamment précises pour fournir des informations significatives sur les parcours réels des patients, elles doivent être alimentées par des données anonymisées robustes. Cependant, pour éviter le risque de réidentification ou de violation de la vie privée lors de l’utilisation de ces données dans un grand modèle de langage (LLM), il est important de mettre en œuvre plusieurs stratégies d’atténuation des risques. Celles-ci incluent plusieurs techniques telles que le contrôle d’accès basé sur les rôles dans plusieurs couches d’applications d’IA, l’autorisation fine pour les bases de données vectorielles, le cryptage des informations de santé protégées (PHI) et des informations personnellement identifiables (PII) dans les métadonnées des bases de données vectorielles, le masquage PHI/PII avant envoyer au LLM en tant que contexte, héberger les LLM derrière des pare-feu, générer des réponses sûres à l’aide de l’ingénierie d’invite, affiner le LLM open source pour classer les invites et les réponses comme sûres ou dangereuses, et utiliser l’architecture de génération augmentée (RAG) de récupération sécurisée pour empêcher hallucinations. Dans les implémentations en entreprise, différentes combinaisons de ces techniques seront appliquées. La décision quant à savoir quoi utiliser et à quel moment sera basée sur des facteurs tels que les performances et le coût.
3. Observabilité et explicabilité : Les décisions fondées sur l’IA dans le domaine des soins de santé doivent être transparentes et explicables pour garantir la confiance et faciliter une prise de décision éclairée par les prestataires de soins de santé. L’observabilité et l’explicabilité sont essentielles pour comprendre le comportement de l’IA, identifier les erreurs et garantir la conformité aux normes réglementaires. Certaines mesures importantes qui doivent être prises pour surveiller et résoudre ces problèmes comprennent une communication et une documentation spécifiques concernant les paramètres d’utilisation de GenAI, la journalisation des entrées et des sorties en temps réel et une évaluation cohérente par rapport aux mesures de performance et aux références.
4. Concentrez-vous sur l’évolutivité : Au-delà de tous les réglages précis spécifiques aux tâches et des contrôles de confidentialité des données qui doivent être intégrés au processus, il est également important de se rappeler que la technologie doit être accessible, abordable et capable d’évoluer et de se développer à mesure que de nouvelles technologies sont développées. et à mesure que de nouveaux défis apparaissent. C’est là qu’intervient le mariage de l’expertise en matière de domaine et de données. Pour créer des solutions GenAI efficaces qui aident les infirmières responsables des soins à examiner efficacement des dizaines de réclamations dans le temps qu’il leur a fallu pour en examiner une seule ou pour aider à repérer les anomalies qui déclenchent une intervention plus précoce sur un dossier. maladie chronique, les équipes technologiques doivent adopter une approche modulaire du développement technologique, une approche qui s’appuie sur des experts possédant une expertise dans le domaine et la technologie qui mettent continuellement à jour l’infrastructure technologique sous-jacente en fonction de nouvelles données et de nouvelles capacités.

Le fait est que l’IA révolutionne actuellement la façon dont nous diagnostiquons et traitons les maladies, et les entreprises qui l’adoptent de manière responsable trouvent une voie plus rapide vers des interventions plus précoces et de meilleurs résultats. Même si y parvenir n’est peut-être pas aussi simple que de lancer ChatGPT et de lui demander d’identifier les patients à risque ou d’évaluer les antécédents médicaux des patients pour déterminer s’il est sûr ou non pour eux de recevoir une nouvelle thérapie expérimentale, la technologie transforme la façon dont les soins sont dispensés. est livré.

Pour en savoir plus, visitez-nous ici.

A propos de l’auteur
Jay Nambiar est directeur de la technologie, soins de santé, et Prashant Renu est vice-président, solutions d’IA, soins de santé chez EXL, une société leader dans l’analyse de données et les opérations et solutions numériques.