L’Organisation mondiale de la santé (OMS) vient de publier un nouveau document énumérant les principales considérations réglementaires relatives à l’intelligence artificielle (IA) au service de la santé. Cette publication souligne l’importance d’établir la sécurité et l’efficacité des systèmes d’IA, de mettre rapidement les systèmes appropriés à la disposition de ceux qui en ont besoin et de favoriser le dialogue entre les parties prenantes, notamment les développeurs, les organismes de réglementation, les fabricants, les travailleurs de la santé et les patients.
Avec la disponibilité croissante des données sur les soins de santé et les progrès rapides des techniques d’analyse – qu’il s’agisse d’apprentissage automatique, de logique ou de statistiques – les outils d’IA pourraient transformer le secteur de la santé. L’OMS reconnaît le potentiel de l’IA pour améliorer les résultats sanitaires en renforçant les essais cliniques, en améliorant le diagnostic médical, le traitement, les soins auto-administrés et les soins centrés sur la personne, et en complétant les connaissances, les aptitudes et les compétences des professionnels de la santé. Par exemple, l’IA pourrait être bénéfique dans des contextes où l’on manque de spécialistes médicaux, notamment pour l’interprétation des scanners rétiniens et des images radiologiques.
Cependant, les technologies de l’IA – y compris les modèles de langage de grande taille – sont rapidement déployées, parfois sans que l’on comprenne parfaitement comment elles peuvent fonctionner, ce qui pourrait soit bénéficier, soit nuire aux utilisateurs finaux, y compris les professionnels de la santé et les patients. Lorsqu’ils utilisent des données de santé, les systèmes d’intelligence artificielle peuvent avoir accès à des informations personnelles sensibles, ce qui nécessite des cadres juridiques et réglementaires solides pour protéger la vie privée, la sécurité et l’intégrité, que cette publication vise à aider à mettre en place et à maintenir.
« L’intelligence artificielle est très prometteuse pour la santé, mais elle s’accompagne également de sérieux défis, notamment la collecte de données non éthiques, les menaces pour la cybersécurité et l’amplification des préjugés ou de la désinformation« , a déclaré le Dr Tedros Adhanom Ghebreyesus, directeur général de l’OMS. « Ces nouvelles orientations aideront les pays à réglementer efficacement l’IA afin d’en exploiter le potentiel, que ce soit pour le traitement du cancer ou la détection de la tuberculose, tout en minimisant les risques. »
En réponse aux besoins croissants des pays de gérer de manière responsable l’essor rapide des technologies de santé liées à l’IA, la publication présente six domaines de réglementation de l’IA pour la santé.
- Pour favoriser la confiance, la publication souligne l’importance de la transparence et de la documentation, par exemple en documentant l’ensemble du cycle de vie du produit et en suivant les processus de développement.
- En ce qui concerne la gestion des risques, des questions telles que l’utilisation prévue, l’apprentissage continu, les interventions humaines, les modèles de formation et les menaces de cybersécurité doivent être abordées de manière exhaustive et les modèles doivent être aussi simples que possible.
- La validation externe des données et la clarté de l’utilisation prévue de l’IA contribuent à garantir la sécurité et à faciliter la réglementation.
- Un engagement en faveur de la qualité des données, par exemple en évaluant rigoureusement les systèmes avant leur diffusion, est essentiel pour garantir que les systèmes n’amplifient pas les biais et les erreurs.
- Les défis posés par des réglementations importantes et complexes – telles que le Règlement général sur la protection des données (RGPD) en Europe et le Health Insurance Portability and Accountability Act (HIPAA) aux États-Unis d’Amérique – sont abordés en mettant l’accent sur la compréhension du champ de compétence et des exigences en matière de consentement, au service de la protection de la vie privée et des données.
- La promotion de la collaboration entre les organismes de réglementation, les patients, les professionnels de santé, les représentants de l’industrie et les partenaires gouvernementaux peut contribuer à garantir que les produits et les services restent conformes à la réglementation tout au long de leur cycle de vie.
Les systèmes d’IA sont complexes et dépendent non seulement du code avec lequel ils sont construits, mais aussi des données sur lesquelles ils sont formés, qui proviennent de contextes cliniques et d’interactions avec les utilisateurs – par exemple. Une meilleure réglementation peut aider à gérer les risques que l’IA amplifie les biais dans les données d’entraînement.
Par exemple, il peut être difficile pour les modèles d’IA de représenter fidèlement la diversité des populations, ce qui entraîne des biais, des inexactitudes, voire des échecs. Pour atténuer ces risques, la réglementation peut être utilisée pour garantir que les attributs – tels que le sexe, la race et l’origine ethnique – des personnes figurant dans les données d’apprentissage sont signalés et que les ensembles de données sont intentionnellement rendus représentatifs.
La nouvelle publication de l’OMS vise à présenter les principes clés que les gouvernements et les autorités réglementaires peuvent suivre pour élaborer de nouvelles orientations ou adapter les orientations existantes sur l’IA au niveau national ou régional.