III. RISQUES SOCIÉTAUX ET ENJEUX ÉTHIQUES
A. PROTÉGER L'INTÉGRITÉ DES USAGERS DES NEUROTECHNOLOGIES
1. Préserver l'intégrité mentale, le libre arbitre et l'identité personnelle
a) Neurotechnologies et intégrité de la personne
La capacité croissante des neurotechnologies à déchiffrer et à moduler l'activité cérébrale soulève la question des atteintes potentielles que ces techniques sont susceptibles de porter, directement ou indirectement, à l'intégrité mentale de la personne.
Il s'agit de protéger la vie privée mentale, la liberté cognitive (liberté de penser et autonomie décisionnelle) et, pour les plus jeunes, le développement équilibré du cerveau.
Pour prendre en compte ces enjeux, d'aucuns plaident pour la consécration de « neurodroits ». C'est le cas en particulier de la fondation américaine « Neurorights Foundation ».
La notion de « neurodroits »
Dans le cadre des réflexions sur l'encadrement juridique et éthique des neurotechnologies, plusieurs auteurs ont mis en avant la notion de « neurodroits » au cours des dernières années. Cet ensemble de droits et libertés spécifiques serait la traduction des principes éthiques, sociaux et juridiques applicables au domaine cérébral et mental d'une personne845(*).
Cinq catégories de neurodroits sont identifiées dans la littérature scientifique846(*) 847(*) :
- le droit à la vie privé mentale, qui désigne la protection contre toute intrusion dans l'activité cérébrale ;
- le droit au libre arbitre, qui renvoie à la préservation des capacités de décision et de choix d'un individu face aux influences extérieures ;
- le droit à l'identité personnelle, qui vise à protéger l'individu de toute manipulation ou altération non souhaitée de sa personnalité et de sa conscience ;
- le droit à l'accès équitable aux neurotechnologies, dont celles qui permettent d'accroître les capacités cognitives ;
- le droit à la protection contre les biais, notamment algorithmiques.
Dans son rapport sur les aspects éthiques des neurotechnologies, le Comité international de bioéthique de l'Unesco souligne l'intérêt de reconnaître et de protéger les « neurodroits ». Il s'agirait de reconnaître l'existence de nouveaux droits fondamentaux à l'ère des neurotechnologies devant la limite des droits existants.
Au plan juridique, la question de savoir s'il faut consacrer les « neurodroits » en tant que tels ou sous la forme d'un « droit à l'intégrité cérébrale » fait cependant débat.
En 2021, le Chili est devenu le premier État au monde à introduire la protection des neurodroits au sein de sa Constitution. Plus récemment aux États-Unis, l'État du Colorado, suivi par d'autres états, a adopté une loi visant à protéger les données neurales, en soulignant le caractère sensible de ces données personnelles848(*).
En Europe, et en France en particulier, il semble que l'arsenal juridique en matière de protection des droits fondamentaux soit suffisamment développé pour couvrir les droits et libertés rattachés à la notion de « neurodroits ». En particulier, l'article 3 de la Charte des droits fondamentaux de l'Union européenne dispose que « toute personne a droit à son intégrité physique et mentale ».
Comme l'indique Grégoire Loiseau, Professeur à l'École de droit de la Sorbonne, si la notion de « neurodroits » permet d'alerter sur les risques d'intrusion dans la vie mentale, « il n'est pas sûr qu'il soit besoin en opportunité de nouveaux droits pour mettre en évidence ces risques, et moins encore pour protéger les personnes contre les effets néfastes des neurotechnologies d'influence. Des droits existants, fussent-ils émergents, permettent d'y pourvoir avec, eux-mêmes, une portée limitée tenant aux modalités, individuelles ou collectives, de leur exercice : il y a le droit au respect de la vie privée, pourvu de la large amplitude que lui donne la Cour européenne des droits de l'homme ; il y a aussi le droit à l'intégrité psychique. »849(*)
Une étude du service de recherche du Parlement européen conclut également que « les droits consacrés dans la Convention européenne des droits de l'homme et la Charte des droits fondamentaux de l'Union européenne pourraient bien fournir un cadre juridique approprié. En revanche, si de nouveaux droits humains et/ou fondamentaux sont introduits, les droits existants pourraient être restreints. [...] Il est donc conseillé d'envisager de relever les défis des neurotechnologies à travers des règlements et des directives »850(*).
Les rapporteurs ne jugent pas nécessaire de consacrer les « neurodroits » comme une catégorie juridique à part entière. Ils soulignent en revanche l'importance de veiller à la protection de l'intégrité mentale, du libre arbitre et de l'identité personnelle lors du recours aux neurotechnologies dans l'ensemble des champs du droit, de façon transversale.
Il s'agit de s'assurer de la conformité des droits sectoriels (recherche, santé publique, éducation, travail, consommation, sport...) aux principes éthiques consacrés dans les chartes et recommandations.
Dans le domaine du sport en particulier, particulièrement exposé aux aspirations d'augmentation des capacités851(*), il serait opportun de considérer comme relevant du dopage certaines utilisations des neurotechnologies à des fins d'amélioration de la performance, ainsi que le préconisent le CCNE et le CCNEN 852(*).
Dans le milieu de la défense, où la perspective de « soldats augmentés » suscite également un intérêt majeur de la part des organismes de défense nationaux, le Comité d'éthique de la défense préconise quant à lui de bannir toute augmentation cognitive qui porterait atteinte au libre arbitre des combattants853(*).
Recommandation 64 : Veiller à l'adéquation des réglementations sectorielles (travail, éducation consommation, sport, défense...) avec le corpus éthique consacré dans les chartes et recommandations sur les neurotechnologies, afin de protéger l'intégrité physique et mentale ainsi que l'identité de la personne
b) L'enjeu de la continuité psychologique et de l'identité personnelle
Au-delà du débat juridique sur les neurodroits, il convient de garder à l'esprit que l'appréciation portée sur la préservation de l'intégrité mentale de l'usager d'une neurotechnologie peut-être rendue particulièrement délicate dans certaines circonstances.
Comme l'indique Éric Fourneret, maître de conférences en philosophie, les interfaces neuronales, en particulier celles qui sont invasives, sont de nature à brouiller la frontière entre l'intention humaine et le traitement algorithmique854(*).
C'est le cas des dispositifs couplés à un système d'IA générative : avec le recours à des algorithmes d'auto-apprentissage, il est possible que le dispositif anticipe sur les décisions de l'usager avant même que ce dernier n'ait conscience de ses propres intentions855(*).
Cette remise en question de l'autonomie du patient peut ainsi conduire à une perception altérée du libre arbitre des individus équipés et affecter leur identité personnelle.
Dans ces conditions, distinguer les actions relevant de la machine de celles de l'individu et identifier la responsabilité de l'un ou de l'autre peuvent s'avérer difficiles856(*).
2. Protéger l'intérêt des patients dans la durée
a) Garantir la prise en compte des enjeux éthiques par les comités de protection des personnes, dès le stade de la recherche
Dès lors que leur développement requiert une recherche impliquant la personne humaine, les neurotechnologies sont soumises au droit commun de la recherche issu de la loi dite loi « Jardé » du 5 mars 2012857(*).
Celle-ci impose notamment le passage par un comité de protection des personnes (CPP) avant toute recherche interventionnelle et non interventionnelle impliquant des personnes (RIPH), selon une gradation en fonction du risque (classification RIPH 1,2 ou 3).
Instances indépendantes agréées par le ministère de la santé, les CPP sont chargés d'évaluer les protocoles de recherche afin de garantir la protection des participants, le respect de leurs droits et la proportionnalité des risques encourus858(*). Leur avis favorable est obligatoire pour démarrer les projets.
Leur composition pluridisciplinaire (professionnels de santé, juristes, psychologues, représentants des usagers du système de santé) doit permettre une évaluation croisée des enjeux scientifiques, juridiques et éthiques des protocoles qui leur sont soumis.
En raison des enjeux liés à l'intégrité mentale, à la captation de données cérébrales et aux risques potentiels de modification cognitive ou comportementale, le rôle des CPP revêt une importance particulière dans le domaine des neurotechnologies. Les protocoles utilisant des dispositifs de mesure neurophysiologique, des techniques de stimulation cérébrale ou des ICM peuvent soulever des questions spécifiques relatives au consentement éclairé, à la vulnérabilité des participants et à la protection des données neuronales.
Or plusieurs personnes auditionnées par les rapporteurs ont souligné que les CPP ne détiennent pas systématiquement les compétences et l'expertise nécessaires à l'évaluation des technologies numériques.
Sans vouloir rigidifier le cadre actuel au risque de freiner indûment l'innovation technologique859(*), les rapporteurs rappellent l'importance pour les CPP d'être en capacité de formuler des avis parfaitement éclairés sur les projets de recherche impliquant des neurotechnologies.
Recommandation 65 : Adapter la composition
et le fonctionnement des comités de protection des personnes (CPP) aux
enjeux des neurosciences en demandant, dans les avis sur les neurotechnologies,
la prise en compte de leurs implications à long terme pour
l'intégrité mentale, au-delà des risques physiques
immédiats
À cette fin, mettre les CPP en capacité de
faire appel en leur sein à des compétences spécifiques en
neurotechnologies et en
« neuroéthique »
b) S'assurer de la continuité dans le temps des solutions thérapeutiques
Les fragilités du modèle économique de certains fabricants de neurotechnologies, en particulier les start-up, exposent les patients équipés de ces dispositifs à un risque de grande vulnérabilité en raison des difficultés potentielles que ces entreprises peuvent rencontrer pour prospérer ou simplement assurer la maintenance des équipements.
Les situations dans lesquelles ce risque se réalise sont qualifiées de « neuroabandon »860(*) : dans ces cas de figure rares mais aux conséquences potentiellement graves, la disparition du fabricant ou ses difficultés économiques créent une rupture dans la prise en charge des patients. Le suivi, la maintenance ou l'assistance technique peut s'interrompre.
En témoigne, dans le domaine des dispositifs médicaux, l'exemple récent de l'entreprise française Carmat, spécialisée dans les coeurs artificiels avec 122 personnes implantées dans le monde. Le risque de liquidation judiciaire auquel l'entreprise a été confrontée a mis en lumière les conséquences potentiellement vitales de la disparition du fabricant pour les patients dépendants de cette technologie861(*).
Les témoignages recueillis auprès de patients à travers le monde862(*), notamment ceux porteurs de dispositifs destinés à soulager les migraines chroniques ou à faciliter la mobilité, illustrent les conséquences concrètes de ces situations. Lorsqu'ils ne peuvent plus bénéficier du remplacement, de l'entretien ou de la mise à jour de leur implant en raison de l'arrêt de la fabrication du dispositif ou de son système de support associé, ils peuvent se retrouver dans des situations de grande détresse.
Cet enjeu du neuroabandon revêt une acuité particulière lorsqu'il s'agit de dispositifs invasifs. Les patients ayant intégré ces technologies dans leur routine quotidienne, les considèrent souvent comme partie intégrante de leur existence863(*). Dès lors, l'interruption du suivi technique ou médical ne constitue pas seulement une difficulté matérielle : elle peut affecter profondément leur autonomie, leur qualité de vie et leur sentiment de sécurité.
La pérennité et la responsabilité des entreprises développant des neurotechnologies, en particulier invasives, apparaissent ainsi comme un facteur déterminant pour la continuité des soins et la préservation de l'« agentivité » des patients.
C'est pourquoi il apparaît nécessaire d'intégrer, la question du suivi des patients en cas de défaillance ou de disparition des entreprises dès la conception des projets, et de s'interroger sur les mécanismes de garantie devant être mis en place afin d'assurer la continuité des soins et la protection des usagers.
L'Unesco864(*) invite en ce sens les organismes compétents de chaque État membre à veiller à assurer la continuité de l'accès aux solutions, lorsque les développeurs sont en incapacité de l'assumer.
Recommandation 66 : Prendre en compte le risque de « neuroabandon » des patients par les entreprises, dès la conception des neurotechnologies et anticiper les solutions garantissant une continuité des soins en cas d'aléa menaçant la poursuite de la prise en charge, comme la cessation d'activité d'un fabricant
c) Garantir la cybersécurité des neurotechnologies
L'emploi de techniques de neuroimagerie ou de toute autre neurotechnologie donne accès à un vaste champ d'informations qui peuvent susciter la convoitise.
La littérature scientifique identifie deux types de risques de cybersécurité pouvant donner lieu à des exploitations malveillantes :
- le risque de « piratage du cerveau »865(*) dans le cas où un dispositif est piraté puis contrôlé par une entité tierce. Dans cette hypothèse, la manipulation ou l'altération des signaux de l'activité cérébrale peuvent servir à faire réaliser à la victime des actions qui ne correspondent pas à ses souhaits866(*) ;
- le risque de fuite ou de captation non autorisée de données cérébrales, qui peut exposer les utilisateurs à une atteinte à leur vie privée.
Comme le montrent les failles de sécurité informatique dont certains dispositifs de pacemakers ont fait l'objet aux États-Unis en 2017, laissant la possibilité à un tiers de prendre le contrôle des appareils concernés et de moduler la fréquence cardiaque des usagers867(*), ces risques doivent être pris au sérieux.
Pour prémunir les usagers de toute atteinte à leur vie privée et leur intégrité physique et psychique, il convient d'intégrer les enjeux de cybersécurité dès la phase de développement des neurotechnologies.
Dans leur avis conjoint sur les neurotechnologies, le CCNE et le CCNEN préconisent plusieurs mesures complémentaires parmi lesquelles une certification des neurotechnologies invasives par des organismes qualifiés au regard des garanties de cybersécurité proposées.
Des mesures de sécurité renforcées doivent également s'appliquer aux données neurales, d'autant plus qu'avec la puissance de l'IA et l'évolution des connaissances, il sera à l'avenir possible d'aller plus loin dans le traitement de ces données868(*),869(*).
Pour les neurotechnologies non médicales, il convient de favoriser un traitement local des données, dès lors qu'il est possible. Il convient à tout le moins d'imposer une parfaite transparence sur les conditions de stockage afin que tout utilisateur puisse donner son consentement à la collecte de données en pleine connaissance de cause.
Recommandation 67 : Intégrer la couverture du risque de cybersécurité des neurotechnologies, en particulier des interfaces cerveau-machine, dès la conception des dispositifs, et protéger la sécurité informatique en privilégiant autant que possible le traitement local des données
3. Réexaminer la rédaction de l'article 16-14 du code civil, qui délimite le champ d'autorisation du recours à l'imagerie cérébrale, en privilégiant une approche par les usages
L'article 16-14 du code civil limite les techniques d'imagerie cérébrale aux domaines médical, de la recherche et judiciaire. Depuis la loi de bioéthique de 2021, l'utilisation de l'imagerie cérébrale fonctionnelle est en outre interdite en cas d'expertise judiciaire (cf. supra).
Cette interdiction se justifie par le fait que son emploi dans ce cadre présente des risques de surinterprétation des résultats (prétention à détecter des mensonges ou à prédire une récidive...).
Or comme l'indique la Cnil, les progrès des capteurs et du traitement du signal sont tels que le recours à d'autres techniques non invasives (EEG, MEG, techniques optiques de type fNIRS), seules ou combinées, permettent aujourd'hui de récolter des données neurales exploitables pour inférer des réactions ou des émotions. Ainsi, une définition par les seules technologies apparaît restrictive, au risque de ne pas couvrir l'ensemble des cas d'usage.
De plus, il existe certaines circonstances judiciaires particulières dans lesquelles le recours à l'imagerie fonctionnelle peut avoir un intérêt objectif. Ce fut le cas dans l'affaire dite « Lambert », dans laquelle le Conseil d'État s'est appuyé sur les résultats d'explorations cérébrales structurales et fonctionnelles pour constater que l'activité cérébrale du patient ne justifiait pas le maintien des soins870(*).
Pour la chercheuse Sonia Desmoulin-Canselier, la rédaction de l'article 16-14 du code civil, en limitant sa portée aux techniques utilisées au lieu de cibler les usages et la question des données, demeure insuffisamment précise pour se prémunir contre tout risque de « neurodéterminisme ».
Dans son rapport de 2018 sur la bioéthique, le Conseil d'État suggérait de limiter le recours aux techniques d'imagerie cérébrale dans le cadre de l'expertise judiciaire à certaines finalités précises871(*).
Serait ainsi explicitement interdit le recours aux données issues de neurotechnologies pour établir la vérité d'un témoignage, mettre au jour une responsabilité juridique et pour évaluer la dangerosité, le risque de récidive ou tout trait de personnalité.
Serait à l'inverse préservée la possibilité d'y recourir pour l'évaluation d'un état neurologique dont l'objectivation est nécessaire dans certains contentieux comme celui de l'arrêt des soins.
Compte tenu de l'ensemble de ces éléments, les rapporteurs considèrent que de nécessaires adaptations doivent être apportées à l'article 16-14 du code civil en substituant à l'approche par les seules technologies une approche par les usages ou les finalités.
Recommandation 68 : Réexaminer la rédaction de l'article 16-14 du code civil, qui délimite le champ d'autorisation du recours à l'imagerie cérébrale, en privilégiant autant que possible une approche par les usages et non seulement par les techniques
La rédaction actuelle de l'article 16-14 du code civil ne précise pas non plus le statut des données neurales collectées, ni de façon exhaustive leurs usages possibles (stockage, croisement, ré-utilisation des signaux ou des inférences tirées de ces signaux ...). Sonia Desmoulin-Canselier estime que cette omission laisse par exemple ouverte la possibilité d'une utilisation secondaire de données collectées lors d'un examen médical, y compris à d'autres fins, dont judiciaires, alors que le consentement n'aurait été donné qu'au titre de l'examen médical initial (cf. infra).
* 845 Marcello Ienca, « On Neurorights », Frontiers in Human Neuroscience, 15, septembre 2021, p. 701258, https://doi.org/10.3389/fnhum.2021.701258
* 846 Rafael Yuste, Jared Genser et Stephanie Herrmann, « It's Time for Neuro-Rights », Horizons: Journal of International Relations and Sustainable Development, n° 18, Center for International Relations and Sustainable Development, 2021, p. 154-65.
* 847 European Parliament, Directorate General for Parliamentary Research Services, The protection of mental privacy in the area of neuroscience: Societal, legal and ethical challenges, Publications Office, 2024, https://doi.org/10.2861/869928
* 848 https://leg.colorado.gov/bills/hb24-1058
* 849 Grégoire Loiseau, Droit de l'intelligence artificielle, « Intelligence artificielle et droit des personnes », LGDJ, 2026.
* 850 European Parliament, Directorate General for Parliamentary Research Services, The protection of mental privacy in the area of neuroscience: Societal, legal and ethical challenges, Publications Office, 2024, https://doi.org/10.2861/869928
* 851 Camille Jeunet, Denis Hauw et Jose Del R. Millán, « Sport Psychology: Technologies Ahead », Frontiers in Sports and Active Living, 2, février 2020, p. 10, https://doi.org/10.3389/fspor.2020.00010
* 852 CCNEN et CCNE, Avis 150 - Avis 10 - Interfaces cerveau- machine et autres neurotechnologies numériques : questions d'éthique.
* 853 Comité d'éthique de la défense, Le soldat augmenté, Ministère des armées, 4 décembre 2020.
* 854 Éric Fourneret, « Neurotechnologies invasives : agentivité et responsabilité morale », Cahiers Droit, Sciences & Technologies, 21, 2026, https://doi.org/10.4000/15tp5
* 855 Liam Drew, « Mind-reading devices can now predict preconscious thoughts: is it time to worry? », Nature, 647, no 8090, novembre 2025, p. 575-77, https://doi.org/10.1038/d41586-025-03714-0
* 856 Éric Fourneret, « Neurotechnologies invasives », art. cit.
* 857 Loi n° 2012-300 relative aux recherches impliquant la personne humaine.
* 858 Les CPP exercent ainsi une fonction de validation méthodologique et éthique. Ils examinent notamment la pertinence scientifique du protocole, l'évaluation de la balance bénéfices/risques, les critères d'inclusion et d'exclusion, ainsi que les modalités d'information et de recueil du consentement des participants.
* 859 Au travers de ses recommandations dans le cadre de sa note scientifique sur les neurotechnologies, l'Office soulignait déjà la nécessité de veiller à ce que le cadre législatif adopté ne porte pas atteinte au déploiement de la recherche en France. Office parlementaire d'évaluation des choix scientifiques et technologiques, Les neurotechnologies : défis scientifiques et éthiques, note scientifique n° 32, op. cit.
* 860 Ou « neuroabandonment ».
* 861 D'autres exemples existent, comme celui de la société Second Sight, fabricant de rétines artificielles, qui a cessé de fournir un soutien technique aux patients équipés, laissant plus de 350 personnes dans le monde dont 18 en France, équipées de rétines artificielles devenues obsolètes. Eliza Strickland et Mark Harris, « Their Bionic Eyes Are Now Obsolete and Unsupported », IEEE Spectrum, 15 February 2022, https://spectrum.ieee.org/bionic-eye-obsolete ; Alice Vitard, « Comment la start-up Second Sight a laissé les utilisateurs de son oeil bionique dans le noir », L'usine digitale, 16 février 2022, https://www.usine-digitale.fr/article/comment-la-start-up-second-sight-a-laisse-les-utilisateurs-de-son-il-bionique-dans-le-noir.N1785162
* 862 Liam Drew, « Abandoned », art. cit.
* 863 Frederic Gilbert, Marcello Ienca et Mark Cook, « How I became myself after merging with a computer: Does human-machine symbiosis raise human rights issues? », Brain Stimulation, 16, no 3, mai 2023, p. 783-89, https://doi.org/10.1016/j.brs.2023.04.016
* 864 Unesco, Recommandation sur l'éthique des neurotechnologies, op. cit. (point 108).
* 865 «brainjacking » en anglaise.
* 866 Jonathan Pugh, Laurie Pycroft, Anders Sandberg, Tipu Aziz et Julian Savulescu, « Brainjacking in deep brain stimulation and autonomy », Ethics and Information Technology, 20, no 3, septembre 2018, p. 219-32, https://doi.org/10.1007/s10676-018-9466-4
* 867 Damien Leloup, « Des porteurs de pacemakers piratables incités à effectuer une mise à jour logicielle », Le Monde, 1er septembre 2017, https://www.lemonde.fr/pixels/article/2017/09/01/des-porteurs-de-pacemakers-piratables-incites-a-effectuer-une-mise-a-jour-logicielle_5179848_4408996.html
* 868 European Data Protection Supervisor, TechDispatch: neurodata #1/2024, Publications Office, 2024, https://doi.org/10.2804/770800
* 869 European Commission, Joint Research Centre, Emerging applications of neurotechnology and their implications for EU governance, op. cit.
* 870 Conseil d'État, Décision n° 375081, 24 juin 2014.
* 871 Conseil d'État, Révision de la loi de bioéthique : quelles options pour demain ? 28 juin 2018.