II. UN ENCADREMENT DE L'IA EN SANTÉ QUI PRIVILÉGIE UNE APPROCHE PAR CATÉGORIE D'USAGE, AVEC DES GARANTIES ÉTHIQUES FORTES
Si les progrès de l'IA en santé justifient pleinement les efforts consentis en faveur de l'innovation, ils soulèvent aussi des enjeux éthiques cruciaux dont dépend leur acceptabilité sociale.
Pour atteindre cet équilibre, un corpus éthique sur l'IA en santé a vu le jour dès 2021 au double plan international et national.
Avec le Règlement européen sur l'IA, l'Union européenne s'est également dotée d'un cadre juridique contraignant pour l'utilisation de l'IA au sein de ses États membres.
A. DES PRINCIPES ÉTHIQUES GÉNÉRAUX CONSACRÉS À L'ÉCHELLE MONDIALE ET APPROFONDIS À L'ÉCHELLE NATIONALE
À l'échelle internationale, l'Organisation mondiale de la santé (OMS) a publié en 2021 des lignes directrices pour l'éthique et la gouvernance de l'IA en santé, complétées en 2024 par des lignes directrices pour l'éthique et la gouvernance des grands modèles multimodaux924(*).
L'organisation énonce une quarantaine de recommandations couvrant six grands principes925(*). Elle invite en particulier les États à imposer des audits indépendants sur l'impact des grands modèles de langage (LLM).
En France, le Comité national pilote d'éthique du numérique (CNPEN) a formulé plusieurs avis sur les usages de l'IA, y compris dans le domaine de la santé926(*).
Il en ressort cinq principales exigences éthiques :
1. Afin d'éviter l'effet de « boîte noire » et de garantir l'explicabilité des technologies d'IA, les fournisseurs de solutions sont incités à informer les utilisateurs en rendant accessible une documentation claire et les informations afférentes sur les mises à jour. Cet enjeu d'explicabilité de l'IA revêt une importance croissante avec le développement de l'IAG, qui fonctionne par rapprochements statistiques, contrairement à l'IA symbolique qui ne produit que ce pour quoi elle a été inventée ;
2. Tout professionnel utilisateur de l'IA doit informer ses patients sur les méthodes utilisées pour formuler un diagnostic, le recours à l'IA ne pouvant être passé sous silence ;
3. Les responsabilités respectives des fournisseurs de solutions d'IA et des utilisateurs de ces solutions doivent être clairement définies ;
4. La décision finale ne doit pas être dictée par l'IA et ainsi échapper à l'utilisateur, qui doit disposer d'outils de contrôle de l'IA ;
5. Le respect du consentement des patients et la protection de leur vie privée sont centraux : seules les données nécessaires à la prise en charge du patient doivent avoir été collectées, avec son accord et en s'assurant que les données soient ensuite anonymisées.
Dans une approche plus opérationnelle, diverses initiatives ont par ailleurs vu le jour dans les secteurs public et privé pour proposer une labellisation éthique de l'IA et attester de pratiques responsables et transparentes (« Labelia », « Ethical AI », « Ethik-IA » ou encore « Ekitia »)927(*).
À titre d'exemple, le label de l'entreprise « Ethik IA » », créé en 2023 dans le cadre d'un partenariat avec le « Digital Medical Hub » (DMH) et l'AP-HP, vise à garantir la conformité de l'IA au principe de « garantie humaine ». S'inscrivant dans une démarche de normalisation avec l'Afnor, il permet d'évaluer l'éthique et la conformité juridique des solutions d'IA selon des critères prédéfinis.
Bien que non opposables, l'ensemble de ces textes et initiatives ont favorisé l'émergence de références éthiques partagées par les acteurs de l'IA en santé.
* 924 OMS, Ethics and governance of artificial intelligence for health, 28 juin 2021 : https://iris.who.int/server/api/core/bitstreams/f780d926-4ae3-42ce-a6d6-e898a5562621/content ; Ethics and governance of artificial intelligence for health : guidance on large multi-modal models, 2024 : https://iris.who.int/server/api/core/bitstreams/e9e62c65-6045-481e-bd04-20e206bc5039/content
* 925 1. Protéger l'autonomie de l'être-humain et écarter le risque de dépendance aux algorithmes : la décision médicale ne doit pas être déléguée à la machine ; 2. Défendre la vie privée, le bien-être et la sécurité des personnes tout en promouvant l'intérêt public dans le recours à l'IA : les technologies de l'IA ne doivent pas nuire ; 3. Garantir la transparence, l'explicabilité et l'intelligibilité des IA ; 4. Favoriser la responsabilisation, l'IA ne devant pas conduire à exonérer les humains de leur responsabilité ; 5. Garantir l'inclusion et l'équité de l'IA pour éviter les effets discriminatoires, notamment en corrigeant les biais et en s'assurant de la qualité des données ; 6. Promouvoir une IA réactive et durable en limitant son impact environnemental.
* 926 Avis n° 7 du 30 juin 2023 Systèmes d'intelligence artificielle générative : enjeux d'éthique : https://www.ccne-ethique.fr/sites/default/files/2023-09/CNPEN_avis7_06_09_2023_web-rs2.pdf ; avis n° 5 du 9 mai 2023 Plateformes de données de santé : enjeux d'éthique : https://www.ccne-ethique.fr/sites/default/files/2023-05/CCNE-CNPEN_GT-PDS_avis_final27032023.pdf ; avis n° 4 du 10 janvier 2023 Diagnostic médical et intelligence artificielle : enjeux éthiques : https://www.ccne-ethique.fr/sites/default/files/2023-01/Avis%20141%20du%20CCNE%20et%204%20du%20CNPEN%20Diagnostic%20M%C3%A9dical%20et%20Intelligence%20Artificielle%20%20Enjeux%20Ethiques.pdf ; avis n° 3 du 9 novembre 2021 Agents conversationnels : enjeux d'éthique : https://www.ccne-ethique.fr/sites/default/files/2022-02/Avis%20n%C2%B03%20agents%20conversationnels%20enjeux%20d%27%C3%A9thique.pdf
* 927 Une analyse comparative de ces labels a été réalisée par le ministère de la santé dans son Guide d'implémentation de l'éthique dans les SIA en santé (juillet 2025) : https://esante.gouv.fr/sites/default/files/media_entity/documents/guide-ia_vf.pdf (voir l'annexe 1).