D. FAIRE RESPECTER LE CADRE NORMATIF EN VIGUEUR
Le Règlement européen sur l'IA prévoit un régime de sanctions dissuasif pour les fournisseurs de SIA qui méconnaîtraient leurs obligations.
Le montant de l'amende est modulé en fonction de la gravité du manquement constaté. Il peut atteindre 35 millions d'euros ou 7 % du chiffre d'affaires annuel mondial pour les violations les plus graves, qui concernent les usages prohibés, et 15 millions d'euros ou 3 % du chiffre d'affaires mondial pour le non-respect des obligations applicables aux SIA à haut risque (évaluation de conformité, gestion des risques, qualité des données, documentation technique, surveillance post-commercialisation).
Le respect du cadre normatif et de ses principes éthiques dépendra cependant de la capacité des autorités nationales de contrôle à faire usage de leurs compétences.
Ces autorités doivent disposer de l'expertise suffisante pour évaluer des technologies souvent complexes, conduire des investigations approfondies, et, le cas échéant, mobiliser pleinement le pouvoir de sanction prévu par le droit européen.
Les rapporteurs estiment nécessaire de prévoir une synthèse annuelle des actions de surveillance et de contrôle mises en oeuvre dans le domaine de la santé pour garantir le respect de l'AI Act. Cette démarche apporterait une contribution utile à l'évaluation de l'organisation et des moyens mobilisés.
Recommandation 80 : Prévoir une synthèse annuelle consolidée, par exemple sous l'égide de l'Agence du numérique en santé, des actions de surveillance, de contrôle et de sanction mises en oeuvre par les autorités françaises dans le domaine de la santé pour s'assurer du respect, sur le territoire français, des obligations prévues par le Règlement européen sur l'IA