Réglementation de l'IA dans le secteur de la santé en 2024 : approches de l'UE et de la FDA

Dans le paysage actuel des soins de santé en évolution rapide, l'intégration de l'intelligence artificielle (IA) n'est plus un concept futuriste ; c'est une ressource essentielle que les leaders du secteur doivent exploiter pour rester compétitifs. De la médecine de précision au diagnostic prédictif en passant par la découverte de médicaments, l'IA révolutionne la pratique de la médecine et redéfinit le paysage concurrentiel du secteur des soins de santé.

Mais ces avancées ne sont pas sans risques. Que vous soyez chercheur, investisseur ou praticien médical, vous devez comprendre les limites de la technologie de l'IA et les orientations probables qu'elle prendra sous la direction des régulateurs, qui s'efforcent tant bien que mal de surveiller et de contrôler le rythme effréné de l'innovation dans le domaine des soins de santé.

Dans cet article, rédigé en coopération avec Darya Lialina, Responsable Qualité et Affaires Réglementaires chez Spyrosoft, nous examinerons de plus près comment l'IA est appliquée dans le secteur de la santé et quelles implications les nouvelles réglementations sur l'IA auront pour le secteur en 2024.

Quels sont les avantages de l'IA dans la santé ? 

L'intelligence artificielle offre de nombreux avantages dans le domaine de la santé, révolutionnant le secteur de diverses manières. Citons notamment :

Diagnostics et détection des maladies 

L'IA peut analyser des images médicales, telles que les radiographies, les IRM et les scanners, pour contribuer à la détection précoce et précise de maladies comme le cancer, le diabète et les pathologies cardiovasculaires.

Il peut fournir une interprétation rapide et cohérente des images, réduisant les risques d'erreur humaine et améliorant le diagnostic.

Traitement et médecine personnalisés 

L'IA peut analyser les données des patients, y compris les antécédents médicaux, afin d'élaborer des plans de traitement personnalisés et de suggérer les médicaments et thérapies les plus efficaces. La médecine personnalisée peut améliorer les résultats des traitements et minimiser les effets indésirables.

Analyse prédictive 

L'IA peut prévoir les épidémies, les réadmissions de patients et les besoins de maintenance des équipements médicaux en analysant de vastes quantités de données. Cela permet aux prestataires de soins de santé d'allouer les ressources efficacement et d'améliorer les soins aux patients.

Assistants de santé virtuels et chatbots 

Les assistants virtuels et les chatbots alimentés par l'IA peuvent assurer un support 24h/24 et 7j/7, répondre aux questions des patients et fournir des conseils de santé. Ils peuvent contribuer à alléger la charge des professionnels de santé et à améliorer l'engagement des patients.

Surveillance à distance 

L'IA permet la surveillance à distance des patients, permettant aux prestataires de soins de suivre en temps réel les signes vitaux et l'état de santé des patients. Cela est particulièrement précieux pour la gestion des maladies chroniques et la garantie d'une intervention précoce.

En savoir plus sur les autres applications de l'IA dans le secteur de la santé et les bénéfices qu'elles apportent.

Comprendre les risques posés par l'utilisation de l'IA dans les soins de santé 

Le principal avantage desystèmes d'IA, et en même temps leur plus grand risque, réside dans leur capacité à apprendre automatiquement à partir d'immenses volumes de données d'entraînement générées lors de la prestation courante de services médicaux. Cette approche sans intervention humaine présente un certain nombre de risques inédits et propres à cette technologie, notamment :

• Manque d'explicabilité – En raison de cette approche purement axée sur les données, il est souvent difficile de savoir ce que le modèle apprend exactement et comment il se comportera dans un environnement différent de celui dans lequel il a été créé. En raison de ce manque d'explicabilité, les systèmes d'IA modernes sont souvent décrits comme opaques ou comme une « boîte noire », dont le fonctionnement interne reste insaisissable.

• Biais – Tout d'abord, il existe un manque notable de diversité dans le dossier de santé électronique (DSE) utilisé pour entraîner de nombreux systèmes de santé dotés d'IA/ML, ce qui peut entraîner des résultats biaisés. De plus, la mauvaise utilisation de certaines caractéristiques présentes dans les données peut fausser les résultats d'un algorithme, comme lorsque les dépenses de santé ont été incluses parmi les facteurs d'estimation du niveau de maladie des patients par un algorithme populaire. Cela a conduit l'algorithme à conclure que les personnes de couleur, qui ont tendance à dépenser moins d'argent en soins de santé, étaient moins malades que les patients blancs présentant des pathologies similaires. 

• Performances prédictives médiocres – Tous les systèmes d'IA et de ML présentent des performances prédictives irrégulières en raison de facteurs de confusion et de décalage de domaine. Par exemple, un modèle d'apprentissage automatique (ML) qui a été entraîné à prédire avec succès une fracture de la hanche à partir de radiographies s'appuyait principalement sur des facteurs de confusion tels que le modèle de scanner CT ou l'âge du patient, que le modèle ML pouvait déduire à partir des scans. Lorsqu'il est déployé dans un hôpital équipé de scanners CT différents ou accueillant une démographie de patients différente, un problème connu sous le nom de décalage de domaine, un tel modèle ne peut pas être considéré comme fiable pour effectuer des prédictions correctes.

• Absence de réglementations claires – Il n'existe pas de lignes directrices (ni même de principes) en matière d'IA universellement applicables, et encore moins qui s'appliqueraient spécifiquement au secteur de la santé. Les chercheurs et les dirigeants du secteur sont souvent amenés à anticiper les futures règles susceptibles de remplacer les lignes directrices actuelles ou de s'appliquer à des domaines actuellement non réglementés. Les décisions techniques et commerciales prises aujourd'hui peuvent s'avérer fatales si elles entrent en conflit avec des règles futures ou inconnues.

• Lacunes de compétences – Les informaticiens qui créent des systèmes d'IA manquent généralement de connaissances médicales, tandis que les cliniciens possèdent habituellement une compréhension limitée des algorithmes complexes. Le volet business d'un projet peut manquer de connaissances dans ces deux domaines. La création d'outils d'IA pour la santé sûrs et performants nécessite une collaboration interdisciplinaire substantielle et un transfert de connaissances.

Globalement, une compréhension générale de ces risques par toutes les parties prenantes est essentielle pour réduire la probabilité de diagnostics incorrects, de traitements inefficaces et d'autres comportements indésirables de la part des systèmes d'IA. De plus, les personnes qui conçoivent et commercialisent des systèmes de santé basés sur l'IA doivent avoir le doigt sur le pouls des tendances réglementaires dans leur juridiction.

Fondamentalement, les réglementations devraient traiter les risques – pour la santé et la sécurité, l'environnement, l'économie, les consommateurs, etc. – ainsi que leurs causes. Les règles et procédures fondées sur la science, ciblées et proportionnées sont plus efficaces et moins coûteuses.

Réglementations américaines actuelles et proposées relatives à l'utilisation de l'IA dans le secteur de la santé

Les États-Unis réglementent l'industrie d'une manière particulière. Les États individuels constituent la source principale de législation en matière de sécurité publique, de santé et de bien-être, mais le gouvernement fédéral est chargé de réglementer le commerce interétatique et étranger. En raison de cet équilibre instable des pouvoirs, une législation fédérale trop ambitieuse est souvent rejetée par les tribunaux. Dans le vide laissé par la législation centralisée du gouvernement fédéral, les agences du pouvoir exécutif sont en mesure de réglementer des activités importantes pour les intérêts de la nation et, dans certains cas, de se substituer aux lois des États.

L'une de ces agences est la Food and Drug Administration (FDA), qui s'intéresse vivement à la formulation de réglementations et de politiques encadrant l'IA dans les applications médicales. La FDA a approuvé 692 dispositifs médicaux intégrant l'IA/ML (en date d'octobre 2023), avec plus de 80 % d'entre eux depuis 2019 (commercialisés via l'autorisation 510(k), accordée dans le cadre d'une demande De Novo, ou d'une autorisation de mise sur le marché). Il convient toutefois de noter qu'à la date de rédaction de cet article, la FDA n'a approuvé aucun dispositif reposant sur une architecture d'IA purement générative.

La liste des dispositifs médicaux intégrant l'IA/ML commercialisés aux États-Unis est disponible ici.

Dans son Plan d'action 2021, la FDA a défini cinq objectifs spécifiques pour la surveillance pratique des logiciels basés sur l'IA/ML en tant que dispositif médical (SaMD)

• Cadre réglementaire sur mesure – Les réglementations proposées se concentrent sur le problème des systèmes d'IA qui apprennent au fil du temps et exigent un « Predetermined Change Control Plan », récemment publié sous la forme d'unprojet de lignes directrices. Ce plan doit définir les aspects « quoi » du système d'IA qui peuvent être adaptés par l'apprentissage et doit expliquer « comment » exactement le système met en œuvre l'adaptation tout en restant sûr et efficace

• Bonnes pratiques de machine learning – Dix principes directeurs sont proposés pour promouvoir des dispositifs médicaux sûrs, efficaces et de haute qualité. L'un de ces principes est que « les participants aux études cliniques et les ensembles de données sont représentatifs de la population de patients visée », ce qui répond au problème de décalage de domaine susmentionné. Un autre principe stipule que « l'accent est mis sur la performance de l'équipe humain-IA » et promeut l'interprétabilité humaine du système, encourageant ainsi le développement de modèles d'apprentissage automatique transparents plutôt que de boîtes noires opaques.

• Approche centrée sur le patient avec une transparence accrue – La transparence des systèmes d'IA est cruciale non seulement pour les cliniciens, mais aussi pour les patients. Tout comme les patients peuvent demander à leur médecin pourquoi, par exemple, il recommande un certain plan de traitement, ils devraient pouvoir poser cette question à un système d'IA qui a formulé cette recommandation. On parle parfois de « droit à l'explication », similaire à celui prévu par le RGPD de l'UE, comme mentionné ci-dessous.

• Réduire les biais algorithmiques – Les systèmes d'IA/ML, qui sont généralement entraînés avec des données issues de jeux de données historiques, peuvent être sensibles aux biais. En effet, ils peuvent refléter les biais inhérents aux données avec lesquelles ils sont entraînés. Étant donné que la prestation de soins de santé est souvent influencée par des aspects tels que la race, l'origine ethnique et le statut socio-économique, il est possible que les biais présents dans notre système de santé soient involontairement intégrés à ces algorithmes.

• Performances en conditions réelles – La collecte d'informations sur les performances en conditions réelles concernant l'application pratique des SaMD peut permettre aux fabricants d'obtenir des informations sur l'utilisation de leurs produits, de mettre en évidence les domaines à améliorer et de les aider à agir rapidement sur les problèmes de sécurité ou de convivialité. Cela est à nouveau lié au problème de décalage de domaine, car la performance d'un modèle qui est satisfaisante dans l'environnement d'entraînement peut se dégrader fortement lorsque le modèle rencontre des données inédites.

Réglementations étatiques en matière d'IA

Pour en venir brièvement aux initiatives législatives au niveau des États, un exemple notable provient de

AB 311, concernant les « outils de décision automatisés », actuellement à l'étude par l'Assemblée de Californie. La loi s'appliquerait à la fois aux déployeurs publics et privés de systèmes automatisés, notamment dans le secteur de la santé, et leur imposerait de :

• Soumettre les évaluations d'impact annuelles
• Communiquer les raisons qui sous-tendent chacune des décisions du système, si le sujet de la décision est une personne physique
• Offrir au sujet de la décision la possibilité d'être examiné par un système non automatisé, s'il s'agit d'une personne physique
• Développez des mesures de protection, documentez les limites du système et communiquez-les aux utilisateurs et aux sujets du système
• Désigner une personne responsable de la gouvernance / conformité
• Rédiger une politique accessible au public décrivant les outils utilisés, leurs risques et les mesures prises pour atténuer ces risques

Le décret sur le développement sûr, sécurisé et digne de confiance de l'IA

L'une des actions les plus récentes visant à réglementer l'IA dans le secteur de la santé aux États-Unis a été la signature du décret présidentiel sur le développement sûr, sécurisé et digne de confiance de l'intelligence artificielle par le président Joe Biden. Ce décret définit plusieurs actions clés pour atteindre cet objectif. Vous trouverez ci-dessous un résumé des plus importantes du point de vue du secteur de la santé :

Nouvelles normes pour la sécurité et la sûreté de l'IA :

• L'exigence de partager les résultats des tests de sécurité et les informations critiques avec le gouvernement garantit que les systèmes d'IA utilisés dans le domaine de la santé sont sûrs et dignes de confiance.
• Le développement de normes, d'outils et de tests pour la sûreté et la sécurité de l'IA est particulièrement pertinent pour le secteur de la santé, où la sécurité des patients est primordiale.

Protection de la vie privée des Américains :

• Prioriser le développement de techniques préservant la vie privée dans l'IA peut contribuer à protéger les données de santé sensibles des patients.
• Renforcer la recherche et les technologies préservant la vie privée est essentiel pour protéger les informations médicales des patients.

Promouvoir l'équité et les droits civiques :

• Les applications d'IA dans le domaine de la santé doivent répondre aux problématiques liées à la discrimination et aux biais, en particulier dans des domaines tels que le diagnostic et les recommandations de traitement.
• Garantir l'équité dans l'utilisation de l'IA dans les soins de santé est essentiel pour maintenir un accès équitable et des résultats pour tous les patients.

Défendre les consommateurs, les patients et les étudiants :

• L'utilisation responsable de l'IA dans le secteur de la santé peut conduire au développement de médicaments salvateurs et de traitements innovants.
• Les outils éducatifs assistés par IA peuvent aider à former les professionnels de santé et à améliorer l'enseignement des soins de santé.

Promouvoir l'innovation et la concurrence :

• Les principes et les bonnes pratiques en matière d'IA devraient inclure des considérations pour les professionnels de santé, l'IA étant de plus en plus intégrée à la pratique médicale et à l'administration.
• Traiter la question du déplacement professionnel dans le secteur de la santé est essentiel pour soutenir les travailleurs lors de l'adoption des technologies d'IA.

Garantir une utilisation responsable et efficace de l'IA par les pouvoirs publics :

• Les orientations gouvernementales sur l'utilisation de l'IA peuvent influencer la manière dont les agences fédérales et les organisations de santé emploient les technologies d'IA.
• L'acquisition de produits et services d'IA est pertinente pour les agences de santé cherchant à adopter des solutions d'IA.

Les éléments les plus critiques du décret pour le secteur de la santé sont ceux qui garantissent la sûreté, la sécurité et l'usage éthique de l'IA, ainsi que ceux qui promeuvent un accès équitable et des résultats pour tous les patients.

Comment l'UE va réglementer l'utilisation de l'IA dans le domaine de la santé

La Commission européenne, l'Agence européenne des médicaments (EMA) et la Coalition internationale des autorités de réglementation des médicaments (ICMRA) travaillent ensemble à l'élaboration de politiques et de réglementations cohérentes répondant aux défis complexes de l'utilisation de l'IA dans le secteur de la santé. Parmi les suggestions actuelles pour les futures réglementations figurent :

• Surveillance renforcée – Les entreprises de santé utilisant l'IA devraient disposer d'un comité de surveillance multidisciplinaire chargé de superviser le développement des produits afin de comprendre et de gérer les implications d'une IA à haut risque. Les autorités de régulation établiront des lignes directrices pour la désignation d'une personne qualifiée chargée de superviser la conformité de l'IA / du ML.

• Explicabilité – La performance des modèles dits « boîte noire » peut justifier leur utilisation dans certains cas, mais dans la mesure du possible, les développeurs devraient s'efforcer de dévoiler le fonctionnement interne de leurs outils. Parmi les recommandations figurent la fourniture de listes d'importance des caractéristiques, des analyses SHAP et/ou LIME, et des métriques d'explicabilité similaires, non seulement pour le modèle mais aussi pour les inférences individuelles lors du déploiement.

• Intégrité des données – Les futures règles relatives à la provenance, à la diversité, à l'authentification, à la validation, à la protection et à l'utilisation des données devraient suivre les principes de nécessité (les données doivent être strictement pertinentes), de proportionnalité (ne collecter que les données nécessaires) et de subsidiarité (utiliser les données les moins sensibles possibles).

• Humain dans la boucle – L'inclusion de l'action humaine et de la supervision dans le développement et le déploiement des outils d'IA/ML contribuera à instaurer la confiance dans leur efficacité, leur fiabilité et leur équité. Cette approche « centrée sur l'humain » devrait s'étendre au-delà de la collecte et de la modélisation pour englober également une reliance sur les résultats rapportés par les utilisateurs et les patients dans l'évaluation des outils d'IA/ML.

• Normes internationales – Les régulateurs devraient encourager le développement international et la standardisation de pratiques solides d'apprentissage automatique dans le secteur de la santé selon les principes de fiabilité, de qualité, de transparence et de compréhensibilité. Les règles de classification des dispositifs médicaux devraient dépendre de facteurs tels que la supervision humaine, les garanties, l'auto-apprentissage et l'autonomie.

Nombre de ces lignes directrices proposées sont actuellement à l'étude dans le cadre de la proposition Règlement sur l'IA de la Commission européenne. Le projet de règlement sur l'IA définit comme objectifs concrets 1) de créer une définition juridique du « système d'IA », où une définition de travail est une …logiciel développé avec des techniques et des approches [spécifiques] et qui peut, pour un ensemble donné d'objectifs définis par l'homme, générer des résultats tels que du contenu, des prédictions, des recommandations ou des décisions influençant les environnements avec lesquels il interagit. Et 2) d'adopter une approche basée sur les risques qui propose différentes réglementations en fonction des catégories de risques suivantes :

• Risque inacceptable – l'IA est manipulatrice de manière préjudiciable, exploite des groupes vulnérables, met en œuvre un scoring social pour les autorités publiques ou utilise des systèmes d'identification biométrique à des fins répressives)

• Risque élevé – L'IA utilisée comme composant de sécurité ou dans certains domaines tels que la catégorisation des personnes physiques ou la gestion des infrastructures critiques

• Risque limité – Chatbots, IA générative pour l'image, l'audio ou la vidéo

• Risque faible – Utilisation limitée ou périphérique de l'IA ou du ML

Les systèmes d'IA présentant un risque inacceptable seront interdits, car ils sont considérés comme une menace évidente pour la sécurité des personnes. Les fournisseurs de systèmes d'IA à haut risque devront s'enregistrer dans une base de données à l'échelle de l'UE et ces systèmes seront soumis à un ensemble d'exigences portant notamment sur la gestion des risques, les tests, la robustesse technique, l'entraînement des données et la gouvernance des données, la transparence, la supervision humaine et la cybersécurité. Les applications associées à un risque limité ne sont soumises qu'à un ensemble restreint d'obligations de transparence, tandis que celles à faible risque sont exemptes de toute obligation.

Enfin, le Règlement général sur la protection des données (RGPD) de l'UE garantit le droit à une « information significative sur la logique » des systèmes algorithmiques. Cela peut être interprété comme « un droit à l'explication », selon lequel les décisions automatisées par l'IA doivent être accompagnées d'une explication compréhensible par l'humain. En outre, le RGPD stipule que les systèmes algorithmiques ne doivent pas prendre de décisions importantes affectant les droits légaux, sauf s'il existe un certain niveau de supervision humaine.

Collaborez avec nous pour garantir que votre logiciel est conforme aux réglementations en matière d'IA 

Comme indiqué ci-dessus, les principes directeurs qui sous-tendent les réglementations formulées par les États-Unis et l'UE sont similaires. Si l'orientation des réglementations dans l'UE est relativement claire, il est encore trop tôt pour dire quels principes seront formellement intégrés dans le droit américain, et quand. À la date de rédaction de ce document, la plupart de ces principes n'existent que dans des déclarations de politique et ne sont pas adoptés. L'exception la plus notable est la loi européenne sur la protection des données (RGPD), qui inclut déjà des exigences relatives à l'explicabilité des systèmes d'IA et à la nécessité d'une intervention humaine dans certaines décisions automatisées.

Les technologies d'IA en évolution rapide représentent des opportunités uniques pour de nouvelles solutions logicielles destinées à l'analyse de données de santé, à la médecine personnalisée, aux systèmes d'aide à la décision et à d'autres usages de l'IA en médecine. Parallèlement, les développeurs de logiciels et les informaticiens doivent être conscients des réglementations à venir concernant l'IA dans le secteur de la santé. Spyrosoft possède une longue expérience de la réponse à ce double défi et constitue le collaborateur idéal pour les entreprises cherchant à tirer parti de l'IA dans le secteur de la santé.

Notre expérience dans la création de solutions logicielles pour les dispositifs médicaux et les dispositifs médicaux de diagnostic in vitro (DIV) témoigne d'une compréhension nuancée des besoins complexes de ce secteur. Parallèlement à notre expertise en développement logiciel, nous fournissons des services complets, du Système de Management de la Qualité (SMQ) au soutien réglementaire. Associez-vous à nous pour ouvrir la voie en matière d'IA dans le domaine de la santé.