B. FORMER LES PROFESSIONNELS DE SANTÉ À L'IA
Le Règlement européen sur l'IA impose un contrôle humain effectif des SIA à haut risque949(*). Les déployeurs doivent vérifier que les personnes chargées du contrôle humain disposent des compétences, de la formation, de l'autorité et du soutien nécessaires à l'exercice de leur mission950(*).
L'IA doit en effet rester un levier de renforcement de la compétence et non un facteur d'appauvrissement des savoirs ou d'asservissement. Il s'agit de préserver l'autonomie décisionnelle du professionnel et, pour le médecin, le colloque singulier entre le patient et le soignant, conformément à l'article R. 4127-5 du code de la santé publique qui précise que « le médecin ne peut aliéner son indépendance professionnelle sous quelque forme que ce soit ».
Le respect de l'exigence de supervision humaine dépend directement de la qualité de la formation à l'IA des acteurs appelés à utiliser ces outils.
Si l'importance qu'il convient d'accorder à la formation initiale et continue du corps médical, et plus généralement des soignants, est aujourd'hui bien identifiée, les efforts de formation restent encore insuffisants. De l'avis général, les jeunes professionnels de santé ne sont pas encore suffisamment formés au recours à l'IA et à ses enjeux éthiques, la professeure Marie Pia d'Ortho allant jusqu'à qualifier la situation de « trou béant »951(*). Elle juge indispensable une évolution des maquettes pédagogiques, avec l'intégration de modules dédiés dès les premières années d'études médicales et paramédicales.
Les rapporteurs rejoignent cette préoccupation et appellent de leurs voeux une poursuite des efforts de formation initiale et continue des soignants. Une attention particulière doit être portée au biais d'automatisation, qui se traduit par une confiance excessive accordée aux recommandations produites par un SIA au détriment du jugement clinique du professionnel. Ce phénomène peut conduire à un relâchement progressif de la vigilance, voire à des erreurs graves.
La formation continue apparaît également essentielle pour maintenir un niveau élevé de discernement humain dans la pratique médicale et éviter une perte progressive de compétences. Dans sa pratique courante, le professionnel de santé doit être en mesure d'expliquer sur quels éléments il aurait fondé sa décision en l'absence d'assistance algorithmique.
Recommandation 77 : Consolider les efforts de formation initiale et continue de l'ensemble des acteurs de la santé à l'IA
Un usage maîtrisé, critique et éthiquement responsable de l'IA apparaît d'autant plus important que la responsabilité du professionnel de santé utilisant une IA demeure appréciée au regard du droit commun.
Que l'acte de soin soit accompli avec ou sans assistance d'un SIA, il reste entièrement responsable de l'acte réalisé. Comme le soulignent la HAS et la Cnil dans leur projet de guide conjoint précité, cela « implique que celui-ci répond non seulement de l'usage qu'il fait de l'IA, mais également du degré d'autonomie qu'il accorde à cet outil dans l'exécution de ses gestes ou dans ses décisions médicales ».
Face à la rapidité des évolutions technologiques dans le domaine de l'IA, en particulier avec les progrès de l'IA agentique, il conviendra néanmoins de veiller à ce que le droit en vigueur soit toujours adapté pour permettre d'identifier clairement les responsabilités en jeu dans le recours à des SIA.
Recommandation 78 : Réévaluer régulièrement la pertinence du régime juridique de la responsabilité médicale pour prendre en compte les évolutions technologiques rapides observées dans le domaine de l'IA et les nouveaux usages qui apparaissent au cours du temps
* 949 Article 14 de l'AI Act.
* 950 Article 26 de l'AI Act.
* 951 Audition des rapporteurs.