Projet de loi relatif à la bioéthique

TITRE III

APPUYER LA DIFFUSION DES PROGRÈS SCIENTIFIQUES
ET TECHNOLOGIQUES DANS LE RESPECT
DES PRINCIPES ÉTHIQUES

Article 10
Consentement à l'examen des caractéristiques génétiques

Cet article ouvre la possibilité d'informer la personne, sous réserve de son consentement, de découvertes de caractéristiques génétiques sans relation avec l'indication initiale de l'examen dès lors que cette information peut permettre à cette personne ou ses apparentés de bénéficier de mesures de prévention ou de soins.

La commission spéciale a supprimé la précision, introduite en première lecture par l'Assemblée nationale, de l'interdiction de la publicité en faveur des examens de génétique constitutionnelle, ce type de publicité relevant de pratiques commerciales trompeuses déjà sanctionnées par le droit en vigueur.

I - Le dispositif proposé

1. Le droit en vigueur : des informations tirées d'un examen génétique circonscrites au champ de l'indication initiale de l'examen

Dans sa rédaction en vigueur, l'article 16-10 du code civil prévoit qu'un examen des caractéristiques génétiques ne peut être entrepris qu'à des fins médicales ou de recherche scientifique et est soumis au consentement exprès de la personne, qui doit être consigné par écrit préalablement à la réalisation de l'examen, après que la personne a été dûment informée de la nature et de la finalité de l'examen. Le consentement doit mentionner la finalité de l'examen et reste révocable sans forme et à tout moment.

L'article R. 1131-1 du code de la santé publique détaille les finalités médicales que peut poursuivre un examen des caractéristiques génétiques. Celui-ci peut ainsi avoir pour objet :

- de poser, de confirmer ou d'infirmer le diagnostic d'une maladie à caractère génétique chez une personne ;

- de rechercher les caractéristiques d'un ou plusieurs gènes susceptibles d'être à l'origine du développement d'une maladie chez une personne ou les membres de sa famille potentiellement concernés ;

- d'adapter la prise en charge médicale d'une personne selon ses caractéristiques génétiques.

L'article R. 1131-4 du même code précise, en outre, le contenu de l'information qui doit être délivrée à la personne à l'occasion du recueillement de son consentement : « la personne est informée des caractéristiques de la maladie recherchée, des moyens de la détecter, du degré de fiabilité des analyses ainsi que des possibilités de prévention et de traitement. En outre, elle est informée des modalités de transmission génétique de la maladie recherchée et de leurs possibles conséquences chez d'autres membres de sa famille. » Dans ces conditions, les informations tirées de l'examen des caractéristiques génétiques doivent être strictement circonscrites à la maladie recherchée.

Lorsque l'examen des caractéristiques génétiques est entrepris à des fins de recherche, les dispositions relatives aux recherches impliquant la personne humaine sont applicables. Trois modalités de consentement sont alors possibles :

- lorsqu'il entre dans le cadre d'une recherche interventionnelle, que celle-ci comporte une intervention sur la personne non justifiée par sa prise en charge habituelle (1° de l'article L. 1121-1 du code de la santé publique) ou seulement des risques et contraintes minimes (2° de l'article L. 1121-1 du code de la santé publique), l'examen est conditionné au consentement exprès, libre et éclairé de la personne (premier et deuxième alinéas de l'article L. 1122-1-1 du code de la santé publique) ;

- lorsqu'il entre dans le cadre d'une recherche non interventionnelle (3° de l'article L. 1121-1 du code de la santé publique), l'examen est conditionné à l'absence d'opposition de la personne après information de cette dernière sur les finalités du projet de recherche (avant-dernier alinéa de l'article L. 1122-1-1 du code de la santé publique) ;

- lorsqu'il est réalisé à partir d'éléments du corps de la personne prélevés à d'autres fins, l'examen est conditionné à l'absence d'opposition de la personne après information de cette dernière sur les finalités du projet de recherche (article L. 1131-1-1 du code de la santé publique).

Le non-respect du principe du consentement exprès et écrit posé par l'article 16-10 du code civil est sanctionné pénalement : aux termes de l'article 226-25 du code pénal, « le fait de procéder à l'examen des caractéristiques génétiques d'une personne à des fins autres que médicales ou de recherche scientifique, ou à des fins médicales ou de recherche scientifique, sans avoir recueilli préalablement son consentement dans les conditions prévues par l'article 16-10 du code civil, est puni d'un an d'emprisonnement et de 15 000 euros d'amende. »

2. Le développement du séquençage haut-débit et la collecte de données additionnelles

L'utilisation de plus en plus courante de tests pangénomiques ^{202 ( * )} grâce aux techniques de séquençage haut-débit, permettant l'analyse de l'ensemble du génome ou de l'exome ^{203 ( * )} , conduit à la découverte de données additionnelles sans lien avec l'indication initiale de l'examen, mais révélant la présence de variations génétiques susceptibles d'être en lien avec une pathologie. Ces données sont généralement classées en deux catégories :

- les données incidentes : elles sont découvertes de manière fortuite ;

- les données secondaires : elles sont recherchées activement à partir d'une liste de gènes préétablie.

L'interprétation et, le cas échéant, la prise en charge des variations génétiques découvertes de façon incidente peuvent s'avérer problématiques dès lors que leurs pertinence et utilité cliniques n'ont pas, pour certaines d'entre elles, encore pu être clairement établies par les données scientifiques disponibles. Certaines variations génétiques peuvent être considérées comme « actionnables » au regard de l'état des connaissances médicales et ainsi donner lieu à des mesures de prévention ou de soins. Pour d'autres, leur signification pathologique et la pénétrance ^{204 ( * )} de la maladie associée à la mutation génétique sont encore mal appréhendées.

Dans son avis ^{205 ( * )} de juin 2018 sur la révision de la loi de bioéthique, le Conseil d'État, observant que « l'information donnée dans ce cadre reste souvent probabiliste, exprimée sous la forme d'un risque accru », redoute ainsi que la communication de ces anomalies génétiques découvertes fortuitement ne conduise à la révélation d'un « statut génétique » qui consistera essentiellement pour la personne concernée en « un passage d'une incertitude à une autre. » Néanmoins, saisi en 2013 d'un projet de décret relatif aux conditions de mise en oeuvre de l'information de la parentèle dans le cadre d'un examen des caractéristiques génétiques à finalité médicale, le Conseil d'État avait alerté le Gouvernement « sur la nécessité d'adapter les termes de l'article 16-10 du code civil et de l'article R. 1131-4 du code de la santé publique pris pour son application qui apparaissent, compte tenu des évolutions scientifiques, partiellement obsolètes et empêchent de prévoir de façon explicite une information de la parentèle conforme aux objectifs légitimes de prévention et de soins. »

Selon l'étude d'impact annexée au projet de loi, le recours au séquençage haut-débit et aux tests pangénomiques s'est intensifié au cours de la période récente : le nombre de laboratoires réalisant des examens à partir de séquenceurs de nouvelle génération a augmenté de près de 71 % sur la période 2013-2017 et les examens résultant de l'utilisation de ces séquenceurs a représenté 15,8 % de l'ensemble des examens de génétique moléculaire en 2017, contre 9,3 % en 2015. Par ailleurs, le plan « France médecine génomique 2025 », qui prévoit la création de 12 plateformes de séquençage génomique haut-débit, soulève la question de la communication sur des variations génétiques découvertes de manière aléatoire dans le cadre de projets de recherche.

3. Le dispositif proposé par le projet de loi : la possibilité de consentir à la révélation de données génétiques incidentes

L'article 10 du projet de loi procède à une réécriture de l'article 16-10 du code civil. Il précise le champ d'application du régime de consentement exprès et écrit en le limitant aux seuls examens des caractéristiques génétiques constitutionnelles, c'est-à-dire héritées ou acquises à un stade précoce du développement prénatal. Sont ainsi exclus de ce régime :

- les examens des caractéristiques génétiques somatiques, acquises ultérieurement et non transmissibles, visées par le nouvel article L. 1130-2 du code de la santé publique proposé par l'article 25 du projet de loi ;

- les analyses génétiques effectuées à partir d'échantillons biologiques prélevés et conservés à d'autres fins qui feront l'objet d'un régime de consentement tacite (en l'absence d'opposition), prévu par le nouvel article L. 1130-5 du code de la santé publique proposé par l'article 18 du projet de loi.

Si le nouvel article 16-10 du code civil proposé par le projet de loi maintient le principe du consentement exprès et écrit préalablement à la réalisation d'un examen des caractéristiques génétiques constitutionnelles et ses garanties ^{206 ( * )} , il précise, dans son II, le contenu de l'information que la personne doit recevoir avant de donner son consentement. Cette information devra ainsi indiquer :

- la nature de l'examen ;

- l'indication de l'examen, s'il est entrepris à des fins médicales, ou son objectif, s'il est entrepris à des fins de recherche scientifique ;

- le cas échéant, la possibilité que l'examen révèle incidemment des caractéristiques génétiques sans relation avec l'indication initiale ou avec son objectif initial mais dont la connaissance permettrait à la personne ou aux membres de sa famille de bénéficier de mesures de prévention, y compris de conseil génétique, ou de soins ;

- la possibilité de refuser la révélation de données génétiques incidentes. Ce droit d'opposition est néanmoins contrebalancé par une information sur les risques qu'un refus ferait courir aux membres de la famille potentiellement concernés dans le cas où l'anomalie diagnostiquée pourrait être responsable d'une affection grave justifiant de mesures de prévention ou de soins.

Il est, en outre, précisé que la communication des résultats révélés incidemment sera assurée dans les mêmes conditions que la communication des résultats correspondant à l'indication initiale.

En cas d'examen des caractéristiques génétiques réalisé dans le cadre d'un projet de recherche à partir d'échantillons prélevés à d'autres fins, notamment à l'occasion de soins ou d'essais cliniques, il est renvoyé, au III de l'article 16-10 du code civil dans sa rédaction envisagée par le projet de loi, aux dispositions du nouvel article L. 1130-5 du code de la santé publique proposé par l'article 18 du projet de loi, visant à faciliter l'utilisation secondaire de tels échantillons par des recherches nécessitant le recours à des examens génétiques, en conditionnant la réalisation de ces examens à l'absence d'opposition de la personne dûment informée.

II - Les modifications adoptées par l'Assemblée nationale

Outre un amendement rédactionnel adopté en commission à l'initiative de son rapporteur, l'Assemblée nationale a adopté en séance, en dépit d'un avis défavorable de la commission et du Gouvernement, un amendement de nos collègues députés Pascal Brindeau et Jean-Christophe Lagarde (UDI) visant à interdire tout démarchage publicitaire portant sur l'examen des caractéristiques génétiques constitutionnelles d'une personne.

Cet amendement intervient en réaction à la diffusion sur plusieurs chaînes de télévision (BFM-TV, CNews et LCI), à l'été 2018, d'une publicité en faveur de tests ADN émanant d'un annonceur étranger. Dans la mesure où le recours à des tests génétiques en dehors du cadre prévu par la loi est puni pénalement ^{207 ( * )} , ce message publicitaire pouvait inciter à des comportements délinquants, ce qui a amené le conseil supérieur de l'audiovisuel (CSA) à adresser une mise en garde aux chaînes concernées.

III - La position de la commission

L'interdiction de toute publicité en faveur de tests génétiques adoptée par l'Assemblée nationale n'est pas assortie de sanctions pénales. Votre commission s'interroge donc sur l'opportunité et l'effectivité d'une telle disposition.

Il convient, en effet, de préciser que la réalisation d'examens des caractéristiques génétiques en dehors du cadre légal, notamment les tests génétiques disponibles sur Internet et effectués en dehors d'une consultation de génétique médicale, fait déjà l'objet d'un dispositif de sanctions pénales :

- l'article 226-25 du code pénal punit d'un an d'emprisonnement et de 15 000 euros d'amende le fait de procéder à des tests génétiques à d'autres fins que médicales ou de recherche scientifique ou sans le consentement préalable de la personne ;

- l'article 226-28-1 du même code punit de 3 750 euros d'amende le fait pour une personne de solliciter l'examen de ses caractéristiques génétiques, de celles d'un tiers ou l'identification d'une personne par ses empreintes génétiques en dehors des conditions prévues par la loi.

La publicité en faveur d'actes médicaux pris en charge par l'assurance maladie est déjà prohibée. Aux termes de l'article R. 4127-19 du code de la santé publique, repris à l'article 19 du code de déontologie médicale, « la médecine ne doit pas être pratiquée comme un commerce » et « sont interdits tous procédés directs ou indirects de publicité et notamment tout aménagement ou signalisation donnant aux locaux une apparence commerciale. »

Enfin, la publicité en faveur de tests génétiques commerciaux disponibles en accès libre relève de pratiques commerciales trompeuses qui font déjà l'objet de sanctions pénales. En application du 9° de l'article L. 121-4 du code de la consommation, est réputée trompeuse toute pratique commerciale qui a pour objet de déclarer ou de donner l'impression que la vente d'un produit ou la fourniture d'un service est licite alors qu'elle ne l'est pas. L'article L. 132-2 du même code punit les pratiques commerciales trompeuses d'un emprisonnement de deux ans et d'une amende de 300 000 euros.

Dans ces conditions, votre commission a adopté un amendement supprimant l'alinéa introduit en première lecture par l'Assemblée nationale et précisant, à l'article 10 du projet de loi, que la publicité en faveur des tests génétiques est interdite (amendement COM-83 de Michel Amiel).

La commission a adopté cet article ainsi modifié.

Article 10 bis (nouveau)
Encadrement de l'accès aux tests génétiques à visée généalogique

Cet article, inséré par la commission, autorise le recours aux tests génétiques à visée généalogique sous réserve du respect de certains critères, dont l'interdiction de délivrer des informations à caractère médical.

I - Le droit en vigueur : une interdiction devenue virtuelle

Le recours aux tests génétiques en accès libre, c'est-à-dire en dehors d'une consultation de génétique médicale ou ne s'inscrivant pas dans le cadre d'un projet de recherche en santé, est aujourd'hui interdit :

- l'article 226-25 du code pénal punit d'un an d'emprisonnement et de 15 000 euros d'amende le fait de procéder à des tests génétiques à d'autres fins que médicales ou de recherche scientifique ou sans le consentement préalable de la personne ;

- l'article 226-28-1 du même code punit de 3 750 euros d'amende le fait pour une personne de solliciter l'examen de ses caractéristiques génétiques, de celles d'un tiers ou l'identification d'une personne par ses empreintes génétiques en dehors des conditions prévues par la loi.

La France et la Pologne sont aujourd'hui les seuls pays, en Europe, à interdire le recours aux tests génétiques commerciaux en accès libre.

En dépit de cette interdiction, nombreux sont les Français qui ont recours aux tests génétiques disponibles sur Internet, commercialisés par des sociétés étrangères telles que « Ancestry.com », « 23andme » ou « MyHeritage ». Selon les estimations communiquées à votre commission, plus de 100 000 Français par an se procureraient des kits de prélèvement en vue de réaliser un examen de leurs caractéristiques génétiques à des prix de plus en plus abordables compte tenu des progrès techniques réalisés dans ce domaine. Une association spécialisée en génétique généalogique estime ainsi à près d'1,5 million le nombre de personnes en France ayant potentiellement déjà utilisé des tests génétiques à visée généalogique et ont alimenté ainsi les bases de donnée des sociétés commercialisant ces tests. Au niveau mondial, on estime que plus de 15 millions de personnes ont déjà acheté des tests génétiques sur Internet.

Dans ses réponses au questionnaire de votre commission, François Molins, procureur général près la Cour de cassation, a confirmé l'ineffectivité des sanctions pénales en matière de tests génétiques effectués en dehors du cadre légal, ces sanctions ne permettant pas d'enrayer ce phénomène croissant. Il rappelle ainsi que les tests génétiques commerciaux constituent aujourd'hui un marché particulièrement attractif que certains observateurs valorisent à 22 milliards de dollars à l'horizon 2024, avec un prix des tests toujours plus accessible, compris entre 59 et 99 dollars.

Les buts poursuivis par ces tests sont variés : il peut s'agir, selon les sociétés les proposant, de tests généalogiques, de tests de paternité ^{208 ( * )} mais aussi de tests proposant de détecter des variants génétiques susceptibles d'être liés au développement d'une pathologie. Selon les cas, plusieurs de ces services peuvent être proposés à partir d'un seul auto-prélèvement réalisé par la personne demandeuse.

L'interdiction des tests génétiques en accès libre reste aujourd'hui essentiellement virtuelle. La direction des affaires criminelles et des grâces du ministère de la justice indique qu'aucune procédure en la matière n'a été portée à sa connaissance et aucun jugement n'est recensé à ce jour sur les infractions prévues par l'article 226-28-1 du code pénal. Devant l'ampleur de ce phénomène, l'agence de la biomédecine a été chargée par la loi relative à la bioéthique de 2011 de « mettre à disposition du public une information sur l'utilisation des tests génétiques en accès libre et d'élaborer un référentiel permettant d'en évaluer la qualité » ^{209 ( * )} .

Si elle n'a pas élaboré de référentiel des examens génétiques vendus sur Internet, l'agence a déployé, en revanche, un site Internet à destination du grand public visant notamment à alerter sur les risques liés à l'utilisation de ces tests en accès libre et valorisant l'encadrement médical proposé en France dans l'accompagnement des personnes lors de la communication des résultats ( www.genetique-medicale.fr ).

II - Le dispositif adopté par la commission : autoriser les tests à visée généalogique tout en les encadrant

L'enthousiasme des Français pour les tests génétiques généalogiques ne semble pas prêt d'être entamé par leur interdiction légale qui ne s'est jusqu'ici jamais matérialisée par une quelconque condamnation ou amende. Nombreux sont ceux de nos compatriotes qui ont déjà consenti ou envisagent de consentir à la conservation de leurs données génétiques personnelles dans des bases de données valorisées par des sociétés commerciales étrangères qui pourraient s'affranchir des règles applicables en France et dans l'Union européenne en matière de protection des données personnelles, pour ensuite céder ces données à d'autres opérateurs privés ou publics, commerciaux, pharmaceutiques, académiques ou institutionnels ^{210 ( * )} .

Une partie du recours à ces tests est motivée par la recherche d'origines généalogiques, historiques ou géographiques, notamment par des personnes nées d'un don ou nées dans le secret qui cherchent à identifier des apparentés biologiques qui auraient eux-mêmes eu recours à ces tests. D'autres tests proposent néanmoins de révéler la présence chez une personne de variants génétiques identifiés comme prédisposants à une pathologie, sans aucun accompagnement médical.

Découle de l'interdiction absolue des tests génétiques commerciaux une situation particulièrement préjudiciable : la cession de données génétiques personnelles à des sociétés étrangères en dehors de tout contrôle et la délivrance d'informations génétiques d'ordre médical sans conseil délivré par des professionnels qualifiés.

Dans ces conditions, votre commission a adopté un amendement COM-190 du rapporteur tendant à autoriser, par dérogation à l'article 16-10 du code civil, les tests génétiques exclusivement à visée généalogique, sous réserve que ces tests remplissent plusieurs conditions :

- leur conformité au référentiel de qualité élaboré par l'agence de la biomédecine devra être attestée dans le cadre d'une procédure d'évaluation définie par voie réglementaire. L'attestation de cette conformité devra être déclarée à l'agence de la biomédecine qui disposera ainsi d'une visibilité complète des tests génétiques s'engageant à respecter son référentiel ;

- ces tests ne peuvent avoir pour objet de délivrer une information génétique d'ordre médical et ne peuvent, en conséquence, faire l'objet d'une prise en charge par la solidarité nationale ;

- les informations tirées de ces tests ne peuvent servir de fondement à des actions visant à faire valoir des droits patrimoniaux ou extrapatrimoniaux, notamment dans le cadre d'une démarche d'établissement d'un lien de filiation ;

- les données collectées à l'occasion de la réalisation de ces tests ne pourront être utilisées lors de la conclusion de tout contrat, notamment d'un contrat relatif à une protection complémentaire d'assurance maladie ou d'un contrat d'assurance.

La commission a adopté cet article additionnel ainsi rédigé.

Article 10 ter (nouveau)
Expérimentation de l'accès en population générale
aux examens des caractéristiques génétiques

Cet article permet l'expérimentation de l'accès aux examens des caractéristiques génétiques en population générale sans nécessité de présenter un antécédent familial de pathologie d'origine génétique ou de contexte clinique justifiant la réalisation d'un tel examen.

I - Le droit en vigueur : la nécessité d'antécédents familiaux ou de signes cliniques

En application de l'article 16-10 du code civil, la prescription par un médecin d'un examen des caractéristiques génétiques est subordonnée à l'identification d'une maladie d'origine génétique prédéterminée à partir d'un examen clinique ou de l'historique médical familial du patient. Aussi, en application de l'article R. 1131-5 du code de la santé publique, la personne éligible à un tel examen doit-elle faire état soit d'un antécédent familial d'une pathologie dont l'un des facteurs serait une mutation génétique, soit de symptômes ou d'indices cliniques d'une telle pathologie, notamment en oncologie.

Or une personne peut hériter d'une mutation génétique pouvant être responsable d'une affection grave, sans pour autant que cette affection se soit manifestée dans son contexte familial ou sans que cette personne ne dispose d'informations complètes sur l'historique médical de ses apparentés biologiques. À titre d'exemple, dans le cadre de la prescription d'un médicament indiqué dans le traitement du cancer du sein lié aux mutations BRCA 1 et 2, il apparaît que les patientes auxquelles ce traitement a été administré n'auraient pu, en l'absence d'indices familiaux, se voir prescrire un examen préalable des caractéristiques génétiques dans près d'un cas sur deux. De même, dans certaines formes de l'amyotrophie spinale infantile, dont la forme la plus sévère conduit au décès à deux ans de 50 % des enfants concernés, il s'avère dans près de neuf cas sur dix qu'aucun antécédent familial n'est reporté.

II - Le dispositif adopté par la commission : un accès facilité mais encadré aux examens génétiques

L'intérêt grandissant des Français pour les tests génétiques en accès libre et la très grande sensibilité des informations d'ordre médical sollicitées à cette occasion plaident pour un accès facilité mais encadré aux examens génétiques effectués dans un parcours médical. Il est en effet préférable que les personnes souhaitant savoir si elles présentent une mutation génétique en soient informées dans le cadre d'une consultation de génétique médicale.

Dans cette logique, votre commission a adopté un amendement COM-191 du rapporteur tendant à autoriser, à titre expérimental, la prescription d'examens des caractéristiques génétiques en l'absence d'antécédent familial ou de contexte clinique justifiant la recherche d'une anomalie génétique prédéterminée, sous réserve que les conditions suivantes soient remplies :

- le consentement de la personne doit être obtenu dans les mêmes conditions que celles prévues par l'article 16-10 du code civil, après que la personne a reçu les informations listées par le même article, à l'exception de l'indication de l'examen ;

- l'examen réalisé dans le cadre de cette expérimentation ne peut faire l'objet d'une prise en charge par la solidarité nationale. Il devra être pris en charge directement par la personne mais pourra faire l'objet, le cas échéant, d'une prise en charge, partielle ou totale, par son organisme complémentaire d'assurance maladie.

Cet article ménage la possibilité pour le pouvoir réglementaire de définir une liste des anomalies génétiques susceptibles d'être recherchées dans le cadre de cette expérimentation, dans le cas où des consultations menées auprès de l'agence de la biomédecine et des sociétés savantes en génétique médicale concluraient à la pertinence d'une telle liste. À l'heure actuelle, quatre pathologies pourraient justifier, selon certaines de ces sociétés savantes, la conduite d'études pilotes permettant d'évaluer la prévalence de certaines mutations génétiques : la mucoviscidose, l'amyotrophie spinale infantile et les deux hémoglobinopathies que sont la drépanocytose et la bêta-thalassémie.

Cette expérimentation reprend une proposition formulée par le CCNE dans son avis 129 ^{211 ( * )} dans lequel il « se propose d'examiner, de façon plus approfondie, les possibilités d'extension du dépistage génétique à la population générale ». Il y plaide pour la « mise en place [d'] une étude pilote de recherche opérationnelle portant sur plusieurs régions ou sur des tranches d'âge différentes et que soient évaluées les conséquences de cette extension en termes de santé publique, de retentissement psychologique et de coût. » Lors de son audition par votre commission, le président du CCNE s'est déclaré favorable à l'assouplissement de l'accès aux examens génétiques, en dehors d'un projet parental et sans antécédent familial, sous réserve de sa réalisation dans le cadre d'une consultation de génétique avec, le cas échéant, une prise en charge des frais associés par la personne demandeuse.

La commission a adopté cet article additionnel ainsi rédigé.

Article 11
Encadrement du recours
à un traitement algorithmique à des fins médicales

Cet article propose de créer un cadre juridique pour l'utilisation d'un traitement algorithmique de données massives lors de la réalisation d'un acte médical. La commission a adopté plusieurs amendements afin de renforcer les garanties assurées au patient lors de l'utilisation de ces technologies dites d' « intelligence artificielle ».

I - Le dispositif proposé : la création d'un cadre juridique dédié à l'utilisation d'un traitement algorithmique de données massives en médecine pour préserver une forme de garantie humaine

Alors que l'intelligence artificielle est en constant développement dans le domaine de la santé, l'article 11 du projet de loi tend à prévoir un encadrement spécifique pour l'utilisation d'un traitement algorithmique de données massives en vue de la réalisation d'un acte médical à visée préventive, diagnostique ou thérapeutique.

Sont ici visés les actes médicaux prodigués au patient à titre individuel et non l'utilisation de l'intelligence artificielle à des fins de recherche ou de gestion sanitaire.

• Le développement de l'intelligence artificielle en santé constitue un progrès au service du patient mais soulève des enjeux éthiques et juridiques

L'intelligence artificielle se définit comme « la science qui consiste à faire faire aux machines ce que l'homme ferait moyennant une certaine intelligence » ^{212 ( * )} . Un algorithme, qui répond à cette définition, se définit au sens strict selon la Commission nationale de l'informatique et des libertés (CNIL), entendue par le rapporteur, comme « la description d'une suite finie et non ambigüe d'étapes ou d'instructions permettant d'obtenir un résultat à partir d'éléments fournis en entrée » ^{213 ( * )} . Le traitement algorithmique visé par le projet de loi correspond aux algorithmes informatiques « permettant de combiner des informations les plus diverses pour produire une grande variété de résultats » ^{214 ( * )} .

Ces outils peuvent être très positifs pour le patient en améliorant l'efficacité et la précocité des diagnostics, en fournissant une aide à la décision thérapeutique, en améliorant le suivi de l'évolution d'une maladie ou encore en prévenant la survenance de pathologies. Le rapport sur les enjeux du numérique en santé commandé par le Comité consultatif national d'éthique (CCNE) ^{215 ( * )} , en propose diverses illustrations dont l'aide au diagnostic de cancers grâce au traitement par intelligence artificielle d'une très grande quantité de clichés d'imagerie médicale, qui permet de repérer de façon précoce les zones à risque tumoral.

Marc Cuggia, professeur d'informatique médicale et praticien hospitalier au centre hospitalier universitaire (CHU) de Rennes, également entendu par le rapporteur, citait comme autre exemple les logiciels de prescription de médicaments dotés de modules d'intelligence artificielle et permettant l'émission d'alertes visant à éviter les erreurs de doses ou les interactions médicamenteuses.

Comme l'a indiqué la CNIL au rapporteur, le développement et l'usage d'algorithmes va très souvent nécessiter le recours à des données personnelles, l'inverse étant possible mais plus rare. Les données de santé recueillies dans ce cadre seront donc soumises au règlement général sur la protection des données (RGPD) s'il s'agit de données à caractère personnel ^{216 ( * )} . Les données du patient saisies dans un traitement algorithmique sont en premier lieu utilisées en vue d'aider le professionnel de santé à statuer sur la situation personnelle dudit patient. Mais elles peuvent aussi être ultérieurement utilisées à d'autres fins et, notamment, pour alimenter un ou plusieurs algorithmes ou pour un projet de recherche par exemple ^{217 ( * )} .

Il faut toutefois préciser qu'aux termes de l'article L. 1111-8 du code de la santé publique, les hébergeurs de données de santé à caractère personnel recueillies à l'occasion d'activités de prévention, de diagnostic, de soins ou de suivi social et médico-social ne peuvent utiliser les données qui leur sont confiées à d'autres fins que l'exécution que la prestation d'hébergement et que tout acte de cession à titre onéreux de telles données est sanctionné des peines prévues à l'article 226-21 du code pénal ^{218 ( * )} .

Outre la question de la gestion des données, l'utilisation de l'intelligence artificielle soulève la question de la responsabilité du médecin lors de l'utilisation d'un traitement algorithmique.

Dans son étude publiée en 2018, le Conseil d'État estimait que « les règles actuelles de la responsabilité médicale sont susceptibles de s'adapter aux évolutions issues du développement des systèmes d'intelligence artificielle » ^{219 ( * )} .

L'intelligence artificielle relève du droit des biens et les dommages qu'elle est susceptible de causer peuvent être appréhendés par les règles de la responsabilité du fait des choses ^{220 ( * )} . De ce fait, la responsabilité du professionnel reconnu comme le gardien de la chose peut être engagée sans faute sauf en cas de force majeure. Si le bien est défectueux, la responsabilité du producteur peut aussi être engagée sur le fondement de la responsabilité du fait des produits défectueux ^{221 ( * )} .

^{La Cour de justice de l'Union européenne (CJUE) a récemment confirmé qu'un logiciel d'aide à la prescription constituait un dispositif médical, même si un tel logiciel n'agissait pas directement dans ou sur le corps humain222 ( * ). Il en résulte que les dispositifs d'intelligence artificielle qui exploitent les données d'un patient pour assister une décision médicale doivent semble-t-il être regardés au sens du droit européen comme des dispositifs médicaux.}

Les dispositifs médicaux

Ils sont régis par le règlement (UE) 2017/745 du Parlement européen et du Conseil du 5 avril 2017 relatif aux dispositifs médicaux, modifiant la directive 2001/83/CE, le règlement (CE) n° 178/2002 et le règlement (CE) n° 1223/2009 et abrogeant les directives du Conseil 90/385/CEE et 93/42/CEE.

Ce règlement impose notamment une évaluation clinique du dispositif médical avant sa mise sur le marché, pour démontrer sa conformité avec les exigences générales en matière de sécurité et de performance. Les fabricants de dispositifs médicaux sont également tenus d'établir et de garantir la fiabilité et la robustesse du traitement tout au long de sa durée de vie.

Pour être qualifié de dispositif médical (DM) ou de dispositif médical de diagnostic in vitro (DM DIV), le dispositif doit présenter les critères cumulatifs suivants :

- être destiné à une utilisation à des fins médicales au sens de la définition du DM ou du DM DIV. Il doit permettre, par exemple, un diagnostic, une aide au diagnostic, un traitement ou une aide au traitement ;

- donner un résultat propre au bénéfice d'un seul patient ;

- effectuer une action sur les données entrantes, telle qu'une analyse afin de fournir une information médicale nouvelle. Cette action doit être différente d'un stockage, d'une communication, ou d'une simple recherche via une base de données ou une bibliothèque numérique intégrant des données dans un but exclusif d'archivage sans les exploiter.

En conséquence, le traitement algorithmique qui réunit ces critères cumulatifs est un dispositif médical.

Le champ des traitements algorithmiques ne pouvant être limitativement défini, la CNIL estime que certains de ces traitements pourraient être exclus de la catégorie des dispositifs médicaux, d'où l'intérêt de prévoir un cadre juridique ad hoc .

• La création d'un cadre juridique applicable à l'utilisation d'un traitement algorithmique de données massives vise à préserver une forme de garantie humaine

Compte tenu de ces enjeux, l'article 11 du projet de loi tend à instituer une forme de « garantie humaine » afin d'éviter une déshumanisation de la relation de soin entre le patient et le médecin et la dépossession de ce dernier de son autonomie décisionnelle.

Ce concept de garantie humaine dans l'utilisation de l'intelligence artificielle, développé notamment dans les travaux du professeur David Gruson, déjà cité, serait consacré au sein d'un nouvel article L. 4001-3 du code de la santé publique et se déclinerait en trois points.

Premièrement, il instituerait un principe d'information du patient lorsqu'un professionnel de santé ^{223 ( * )} a recours à un traitement algorithmique de données massives pour des actes à visée préventive, diagnostique ou thérapeutique, au moment de la communication des résultats de ces actes. Le professionnel de santé en question devrait également informer la personne concernée des « modalités d'action de ce traitement ».

Deuxièmement, le nouvel article L. 4001-3 du code de la santé publique préciserait que l'adaptation des paramètres du traitement algorithmique utilisé par un professionnel de santé ne pourrait être réalisée sans son intervention, formulation qui a été précisée en commission à l'Assemblée nationale à l'initiative de notre collègue député Philippe Berta, rapporteur.

Troisièmement, ce même article instituerait une obligation de traçabilité des actions du traitement algorithmique ainsi que des données qui sont utilisées dans ce cadre. Les informations qui en résultent devraient être accessibles aux professionnels de santé qui l'utilisent.

II - La position de la commission : renforcer les garanties offertes au patient lors de l'utilisation d'un traitement algorithmique à des fins médicales

La commission a approuvé le principe proposé à l'article 11 du projet de loi. Elle a adopté plusieurs amendements sur proposition du rapporteur afin de renforcer les garanties applicables à l'utilisation de ces technologies en matière médicale.

• Encadrer le recours aux traitements algorithmiques sans exclure ceux qui ne font pas intervenir de données massives au stade de leur utilisation

La commission a adopté un amendement COM-256 du rapporteur qui supprime les termes de « données massives » pour encadrer plus largement le recours aux traitements algorithmiques en matière médicale. Cette modification semble nécessaire pour deux raisons.

Les auditions ont tout d'abord mis en évidence que la définition des « données massives » n'était pas consensuelle, comme l'ont indiqué au rapporteur Bénédicte Bévière-Boyer, maître de conférences en droit privé et sciences criminelles à l'Université de Paris 8 et Sonia Desmoulin-Canselier, docteur en droit privé et chargée de recherche au Centre national de la recherche scientifique (CNRS). À cet égard, si le droit français ne connaît pas la notion de « traitement algorithmique de données massives », il connaît déjà celle de « traitement algorithmique », introduite par la loi n° 2018-493 du 20 juin 2018 relative à la protection des données personnelles ^{224 ( * )} pour les décisions administratives individuelles et reprise par la loi n° 2019-222 du 23 mars 2019 de programmation 2018-2022 et de réforme pour la justice ^{225 ( * )} pour les services en ligne de conciliation et de médiation.

Ensuite, la référence aux données massives au stade de l'utilisation d'un traitement algorithmique réduit inutilement le champ d'application de l'article car certains traitements algorithmiques peuvent être « entraînés » sur des données massives mais ensuite utilisés sur un nombre bien plus faible de données. Certains traitements algorithmiques peuvent même ne pas s'appuyer sur des données fournies en très grande quantité : par exemple, lorsqu'il s'agit de cohortes de patients spécifiques ou souffrant d'une maladie rare.

• Prévoir l'information du patient en amont du recours à un traitement algorithmique

Par l'adoption du même amendement COM-256 du rapporteur, la commission a souhaité que le recours à un traitement algorithmique fasse l'objet d'une information préalable à son utilisation par le professionnel de santé, alors que le projet de loi ne prévoit qu'une information au moment de la communication des résultats.

Ce principe a fait l'unanimité lors des auditions. Préconisé par la Commission nationale de l'informatique et des libertés (CNIL) ^{226 ( * )} et le Comité consultatif national d'éthique (CCNE) ^{227 ( * )} , il a en outre recueilli l'avis favorable du conseil national de l'ordre des médecins. L'information préalable du patient sur le recours à un traitement algorithmique est nécessaire à deux égards : en vertu du traitement de ses données personnelles et de leur archivage, ainsi qu'au titre des principes généraux définis par la loi n° 2002-303 du 4 mars 2002 relative aux droits des malades et à la qualité du système de santé, impliquant que le patient doit accepter la prescription du médecin.

Comme l'indique notre collègue député Philippe Berta dans son rapport sur le projet de loi, il s'agit de « préserver la portée des principes posés par les articles L. 1111-2 et L. 1111-4 du code de la santé publique selon lesquels le patient a le droit d'être informé sur son état de santé et les traitements qui lui sont proposés et qu'il prend, avec le professionnel de santé et compte tenu des informations et des préconisations qu'il lui fournit, concernant sa santé » ^{228 ( * )} . À cet égard, l'exigence d'information préalable prévue à l'article L. 1111-2 du code de la santé publique sur laquelle se fonde le consentement libre et éclairé du patient à un acte ou traitement médical porte sur les « différentes investigations, traitements ou actions de prévention qui sont proposés (...) ». Il est donc logique, s'agissant de dispositions spéciales applicables à l'utilisation de traitements algorithmiques, de prévoir un principe similaire d'information préalable du patient.

Il y serait toutefois fait exception en cas d'urgence ou d'impossibilité d'informer, pour ne pas faire peser sur le professionnel de santé une obligation disproportionnée.

Prolongeant le principe de l'information préalable, la commission a également précisé que le professionnel de santé devrait expliquer au patient sous une forme intelligible la manière dont le traitement serait mis en oeuvre à son égard. Cette rédaction paraît plus claire que celle adoptée par l'Assemblée nationale qui imposait au médecin d'expliquer au patient « les modalités d'action de ce traitement ».

• Garantir la supervision du traitement algorithmique par le professionnel de santé

La commission a ensuite garanti la supervision du traitement algorithmique par le professionnel de santé.

Par l'adoption d'un amendement COM-257 du rapporteur, la commission a indiqué que la saisie d'informations relatives au patient dans le traitement algorithmique se faisait sous le contrôle du professionnel de santé qui y a recourt.

La rédaction adoptée par l'Assemblée nationale qui prévoyait que l'adaptation des « paramètres » d'un traitement algorithmique ne pouvait être réalisée sans un professionnel de santé ne paraissait pas adaptée car elle relevait plutôt du domaine technique.

Les termes utilisés étaient d'ailleurs ambigus, ce qu'ont confirmé les auditions : s'agissait-il pour le professionnel de santé de modifier lui-même les « paramètres » d'un traitement, notion qui renvoie à la conception même du dispositif, ou plutôt de saisir lui-même les informations relatives à son patient dans l'outil pour obtenir le résultat final ?

D'après les éléments portés à la connaissance du rapporteur par les services du ministère de la santé, il semblerait que la seconde interprétation soit la bonne. En effet, le professionnel de santé est rarement en mesure de modifier directement le traitement algorithmique. C'est la raison pour laquelle la commission a levé la confusion pour atteindre le même objectif : la supervision du traitement algorithmique par le professionnel de santé.

La marge d'appréciation du médecin, mis en concurrence avec un algorithme dont la puissance de calcul et de diagnostic est supérieure à l'homme, peut en effet se réduire. Dans son étude publiée en 2018 sur la révision de la loi de bioéthique, le Conseil d'État estimait qu'il convenait « d'écarter le risque que les progrès de l'intelligence artificielle dans le domaine de la santé aient pour effet de marginaliser l'autonomie du médecin dans l'acte médical » ^{229 ( * )} .

Or, si ces outils peuvent être très positifs pour le patient, ils n'en comportent pas moins des biais qui peuvent être liés, comme l'a indiqué la Commission nationale de l'informatique et des libertés (CNIL), à l'âge, au sexe, à l'origine, ou encore à l'environnement.

Compte tenu de ces risques, il importe que le médecin continue d'assumer les décisions médicales qu'il prend, quitte à s'écarter des solutions proposées par une intelligence artificielle.

Si le Conseil d'État relève que les dispositions en vigueur en matière de déontologie médicale permettent d'ores et déjà de prévenir une aliénation du médecin à la machine ^{230 ( * )} et de fonder l'interdiction d'un diagnostic établi uniquement par un système d'intelligence artificielle ^{231 ( * )} , il juge que « cette interdiction mériterait d'être rappelée de manière plus nette, à l'instar de ce que prévoit l'article [47] de la loi du 6 janvier 1978 qui prévoit qu'aucune décision produisant des effets juridiques à l'égard d'une personne ne peut être prise sur le seul fondement d'un traitement automatisé de données. ^{232 ( * )} »

Dans cet esprit, la commission a donc consacré le principe selon lequel « aucune décision médicale ne peut être prise sur le seul fondement d'un traitement algorithmique » par l'adoption d'un amendement COM-258 du rapporteur.

Par l'adoption d'un amendement COM-259 du rapporteur, la commission a fixé une obligation de transparence du fonctionnement d'un traitement algorithmique. Cette rédaction se substituerait à celle adoptée par l'Assemblée nationale dont les termes ont été jugés imprécis. Il était ainsi fait référence à une obligation de « traçabilité » sans préciser sa définition ni par qui elle était assurée.

Il s'agirait de garder trace des opérations effectuées par la machine, afin que les professionnels de santé, ayant accès aux informations, puissent a posteriori en reconstituer le raisonnement.

Dès lors, sans exiger que les professionnels de santé aient accès à la « traçabilité » de toutes les étapes, qui renvoie plutôt au domaine technique, la commission a souhaité que le traitement algorithmique ne fonctionne pas comme une « boîte noire », c'est-à-dire que le professionnel de santé ne puisse pas expliquer pour quelles raisons le traitement est arrivé à un résultat donné.

Enfin, par l'adoption d'un amendement COM-260 du rapporteur, la commission a renvoyé au pouvoir réglementaire, après avis de la Commission nationale de l'informatique et des libertés (CNIL), le soin de préciser les conditions d'application de ce nouveau cadre juridique.

La commission a adopté cet article ainsi modifié.

Article 12
Encadrement du recours aux techniques
d'imagerie cérébrale et interdiction des discriminations
fondées sur les résultats de ces techniques en matière d'assurance

Cet article propose d'étendre le champ d'application de l'article 16-14 du code civil qui régit le recours aux techniques d'imagerie cérébrale, d'exclure le recours à l'imagerie fonctionnelle en justice et d'interdire toute discrimination fondée sur les résultats de ces techniques. La commission a préféré en rester au droit en vigueur pour ce qui concerne le recours à l'imagerie fonctionnelle en justice, considérant que sa modification n'était pas nécessaire.

I - Le cadre actuel du recours aux techniques d'imagerie cérébrale

Dans son avis n° 129 préalable à la révision de la loi de bioéthique, le Comité consultatif national d'éthique (CCNE) définit les neurosciences comme ayant « pour objet l'étude du fonctionnement du système nerveux depuis ses aspects les plus fondamentaux (moléculaires, cellulaires, synaptiques) jusqu'à ceux, plus fonctionnels, qui concernent les comportements ou les processus mentaux » ^{233 ( * )} .

Parmi les différentes disciplines qui les composent, l'imagerie cérébrale est utilisée pour étudier la structure du cerveau et son activité. Comme le précise Luc Buée, président de la société des neurosciences, consulté par le rapporteur, elle permet de caractériser l'évolution normale ou pathologique du cerveau à tous les stades de la vie et de tenter de comprendre les règles de son fonctionnement. Elle comprend différentes techniques parmi lesquelles on trouve le scanner cérébral ^{234 ( * )} , l'imagerie par résonnance magnétique (IRM) ^{235 ( * )} , la tomographie par émissions de positons ^{236 ( * )} (TEP) ou l'électroencéphalographie ^{237 ( * )} .

Dans son avis n° 129, le CCNE attire l'attention sur l'IRM qui, en particulier, permet l'étude du cerveau, non seulement sur le plan morphologique ou biochimique (imagerie anatomique), mais aussi sur le plan fonctionnel (imagerie fonctionnelle) en valorisant l'activation du cerveau lors de tâches diverses (motrices, sensorielles, cognitives) ou encore lors d'états psychologiques variés (peur, angoisse, plaisir, satisfaction). Le CCNE précise que ces deux potentialités de l'IRM n'ont pas la même finalité : « l'imagerie anatomique peut permettre de déceler des anomalies éventuellement susceptibles de contribuer à expliquer un comportement particulier », alors que l'imagerie fonctionnelle « vise à observer l'activité cérébrale afin d'en déduire des conséquences sur le psychisme » ^{238 ( * )} .

Le recours aux techniques d'imagerie cérébrale, régi par l'article 16-14 du code civil, n'est aujourd'hui autorisé qu'à des fins médicales, de recherche scientifique ou dans le cadre d'expertises judiciaires. Il est soumis au consentement exprès et écrit de la personne concernée, informée de la finalité de l'examen, celle-ci pouvant révoquer ledit consentement sans forme et à tout moment.

Issues de la loi n° 2011-814 du 7 juillet 2011 relative à la bioéthique, ces dispositions visaient à apporter des garanties à l'utilisation de techniques ne faisant jusqu'alors l'objet d'aucun encadrement. Comme l'indiquait à l'époque notre collègue François-Noël Buffet, rapporteur pour avis au nom de la commission des lois, la crainte sous-jacente était que l'on puisse considérer que « les configurations neuronales du cerveau, siège de la pensée, portent la vérité de la personne ou que l'on utilise ces savoirs pour prédire son comportement ou ce qui relève de son for intérieur » ^{239 ( * )} .

À l'origine, Jean Leonetti - rapporteur de la loi en 2011 à l'Assemblée nationale - entendait cantonner l'usage des techniques en justice à l'objectivation d'un préjudice au niveau du cerveau ou à l'évaluation de la responsabilité d'un prévenu sur le fondement de l'article 122-1 du code pénal ^{240 ( * )} , dans l'objectif d'éviter que l'imagerie cérébrale puisse être utilisée contre celui sur lequel elle serait pratiquée pour prouver sa culpabilité.

La crainte est avant tout celle de l'utilisation de cette technologie comme un détecteur de mensonge, grâce à l'utilisation de l'imagerie cérébrale fonctionnelle. Si la rédaction finalement retenue à l'article 16-14 du code civil, plus large, n'exclut pas formellement cette possibilité, elle réserve l'utilisation de cette technique à un magistrat du siège, seul compétent pour ordonner une expertise judiciaire, tant en matière civile ^{241 ( * )} que pénale ^{242 ( * )} .

Cette précaution n'a pas permis d'éviter les critiques, notamment celles du CCNE, qui dans son avis n° 129 précité, considère que l'imagerie fonctionnelle pourrait être utilisée comme détecteur de mensonge et pour cette raison, est « très défavorable à l'utilisation de l'IRMf ^{243 ( * )} dans le domaine judiciaire », d'autant plus que cette technique n'est « pas reconnue comme présentant une fiabilité suffisante ». Dans le même esprit, l'Office parlementaire d'évaluation des choix scientifiques et technologies (OPECST), relevait à l'occasion de son rapport d'évaluation de la loi du 7 juillet 2011 relative à la bioéthique, « qu'il demeure un risque d'emploi abusif, quant à leur valeur prédictive réelle ou étayée, des techniques d'imagerie cérébrale fonctionnelle dans le cadre des expertises judiciaires » ^{244 ( * )} .

II - Le dispositif proposé : l'exclusion du recours à l'imagerie fonctionnelle en justice (IMRf), l'extension du champ des techniques visées à l'article 16-14 du code civil et la sanction des discriminations

• Exclure le recours à l'IMRf en justice et étendre le champ des techniques visées à l'article 16-14 du code civil

Tenant compte de ces critiques, l'article 12 du projet de loi tend à exclure l'utilisation de l'imagerie cérébrale fonctionnelle pour les expertises judiciaires. L'Assemblée nationale, approuvant ce principe, a toutefois renvoyé au pouvoir réglementaire le soin de déterminer la liste des techniques interdites, en adoptant en séance publique un amendement de notre collègue député Jean-François Éliaou, rapporteur, avec les avis favorables de la commission et du Gouvernement.

L'article 12 du projet de loi propose également de faire évoluer le champ des techniques visées par l'article 16-14 du code civil aujourd'hui relatif à la seule imagerie cérébrale. Le texte adopté par l'Assemblée nationale propose, à l'initiative d'amendements du rapporteur adoptés en séance publique avec les mêmes avis favorables précités, de faire référence à l'imagerie et à « l'exploration » de l'activité cérébrale. Le projet de loi initial lui, ne visait plus que « l'enregistrement » de l'activité cérébrale.

• Sanctionner les discriminations fondées sur les résultats de techniques mentionnées à l'article 16-14 du code civil

L'article 225-1 du code pénal définit les différents critères de discrimination, parmi lesquels figure notamment l'état de santé d'une personne. La commission de telles infractions est punie de trois ans d'emprisonnement et de 45 000 euros d'amende lorsqu'elles consistent par exemple à refuser la fourniture d'un bien ou d'un service ou à refuser d'embaucher une personne (article 225-2 du code pénal).

L'article 225-3 du code pénal déroge à ces principes en permettant aux personnes physiques ou morales de procéder à certaines distinctions fondées sur les critères énumérés à l'article 225-1, lorsqu'elles apparaissent légitimes. Il précise à cet égard que les discriminations fondées sur l'état de santé d'une personne peuvent être légitimes lorsqu'elles consistent en des opérations ayant pour objet la prévention et la couverture du risque décès, des risques portant atteinte à l'intégrité physique de la personne ou des risques d'incapacité de travail ou d'invalidité.

Ces discriminations ne peuvent toutefois se fonder :

- ni sur la prise en compte de résultats de tests génétiques prédictifs ayant pour objet une maladie qui n'est pas encore déclarée ;

- ni sur la prise en compte des conséquences sur l'état de santé d'un prélèvement d'organe.

L'article 12 du projet de loi propose d'ajouter à ces deux exclusions la prise en compte de données issues des techniques mentionnées à l'article 16-14 du code civil. Dans sa version initiale, il excluait les données issues de techniques « d'enregistrement » de l'activité cérébrale. Dans la version finalement adoptée par l'Assemblée nationale, il vise désormais les techniques « d'imagerie et d'exploration » de l'activité cérébrale, par coordination avec la modification du champ des techniques visées à l'article 16-14 du code civil.

III - La position de la commission : maintenir le droit en vigueur à l'article 16-14 du code civil et approuver l'interdiction de l'usage des résultats d'examens du cerveau à des fins de discrimination dans le domaine assurantiel

La commission n'a pas été convaincue par les propositions d'évolution législative de l'article 16-14 du code civil et a préféré, par l'adoption d'un amendement COM-261 du rapporteur, en rester au droit existant pour plusieurs raisons.

S'agissant de l'usage de l'imagerie fonctionnelle en justice, le Conseil d'État considérait dans son étude de 2018 ^{245 ( * )} que la modification des dispositions en vigueur ne s'avérait pas nécessaire. Les services de la Chancellerie, interrogés par le rapporteur, ont confirmé ne pas avoir connaissance de recours abusifs aux techniques d'imagerie cérébrale par les juridictions pénales, qui justifieraient d'encadrer plus strictement leur usage.

Le Conseil d'État relevait en outre à la lumière des travaux parlementaires de 2011 « qu'en aucun cas, le législateur n'a entendu permettre le recours à ces techniques aux fins de détecter le mensonge ».

Il semble d'ailleurs douteux de déduire de l'article 16-14 du code civil qu'un tel usage serait autorisé. L'utilisation des techniques d'imagerie cérébrale aux fins de détecter le mensonge d'un prévenu pourrait, au demeurant, être contraire au principe selon lequel « nul n'est tenu de s'accuser », qui découle de l'article 9 de la Déclaration des droits de l'homme et du citoyen de 1789 relatif à la présomption d'innocence, selon une jurisprudence établie du Conseil constitutionnel depuis 2004 ^{246 ( * )} . Comme l'indique le commentaire aux cahiers de cette décision : « aucun autre principe ou règle de valeur constitutionnelle ne fait obstacle à ce qu'une personne reconnaisse sa culpabilité si elle le fait volontairement, consciemment et librement, c'est-à-dire en dehors de tout « chantage » , de tout « marchandage », de tout malentendu et de toute contrainte » ^{247 ( * )} . Dans ces conditions, il est fort probable que l'obtention d'aveux sous la contrainte au moyen d'une technique faisant office de détecteur de mensonge relèverait d'une procédure contraire à la Constitution.

Comme l'indique Sonia Desmoulin-Canselier, docteur en droit privé et chargée de recherche au Centre national de la recherche scientifique (CNRS), dans son étude sur le sujet, le droit en vigueur permet de ne « pas fermer la porte à un emploi utile des différentes techniques d'imagerie, au service des droits de la défense, de la découverte de la vérité et de la protection des victimes » ^{248 ( * )} . En pratique, comme elle l'a indiqué au rapporteur lors de son audition, l'analyse cérébrale fonctionnelle n'aurait été utilisée qu'une seule fois depuis 2011 devant la justice, pour déterminer le caractère grave et irréversible des lésions cérébrales d'un patient.

Une telle expertise peut donc être utile au juge, sans toutefois jamais se substituer à sa libre appréciation. Le Conseil d'État relevait à cet égard « qu'une telle expertise ne peut être imposée à l'intéressé, qu'elle ne constitue qu'un élément parmi d'autres dans le cadre du procès, soumis au débat contradictoire y compris quant à la méthode employée, et qu'elle ne saurait, comme l'a rappelé la Cour de cassation, se substituer à l'appréciation du juge sur les questions qui relèvent de son office » ^{249 ( * )} , comme c'est le cas pour toutes les expertises ^{250 ( * )} .

S'agissant de l'extension des techniques entrant dans le champ d'application de l'article 16-14 du code civil, le Gouvernement s'est inspiré d'une préconisation de l'étude du Conseil d'État suggérant de faire référence à l'enregistrement cérébral en lieu et place de l'imagerie cérébrale, pour prendre en compte l'évolution des technologies intervenue depuis 2011.

Il semble toutefois que ni la notion d' « enregistrement » cérébral ni celle d' « exploration » ne soient pertinentes. Il est en effet ressorti des auditions des représentants de l'Institut national de la santé et de la recherche (INSERM), Étienne Hirsch et Bernard Poulain, ainsi que de celle de Stanislas Dehaene, professeur au collège de France, que cela pourrait conduire à interdire des dispositifs de neuro-modulation non invasifs utilisés à des fins paramédicales. Or, ces dispositifs sont aujourd'hui autorisés et pour ceux qui présenteraient des risques, un encadrement spécifique est proposé à l'article 13 du présent projet de loi ^{251 ( * )} .

Les échanges avec les services du ministère de la santé ont également mis en évidence que cette extension du champ d'application de l'article 16-14 du code civil pourrait être contraire au droit de l'Union européenne, en ce qu'elle constituerait un obstacle à la libre circulation d'un produit sans justification de santé publique.

Pour ce qui concerne la sanction des discriminations fondées sur des données issues de l'imagerie cérébrale, en l'état du droit, la prise en compte de données issues de techniques d'imagerie cérébrale ne fait pas partie des exclusions prévues à l'article 225-3 du code pénal.

Il est donc souhaitable de renforcer les garanties applicables aux personnes subissant de tels examens, afin que les résultats ne puissent être utilisés en leur défaveur pour majorer le coût d'une assurance décès ou invalidité en raison de risques déduits de l'examen du cerveau.

La commission a adopté cet article ainsi modifié.

Article 13
Interdiction par décret des dispositifs ayant pour effet de modifier l'activité cérébrale en cas de danger pour la santé humaine

Cet article propose d'encadrer les dispositifs de neuro-modulation en permettant leur interdiction par décret, pris après avis de la Haute autorité de santé, en cas de danger grave ou de suspicion de danger grave pour la santé humaine. La commission a exclu les équipements qui sont des dispositifs médicaux, relevant déjà des pouvoirs de police de l'Agence nationale de sécurité du médicament et des produits de santé (ANSM).

I - Le dispositif proposé : encadrer le développement de la « neuro-modulation » en permettant l'interdiction de ces dispositifs par décret lorsqu'ils représentent un risque pour la santé humaine

Constatant le développement de dispositifs dits de « neuro-modulation », c'est-à-dire ayant pour objet de modifier le fonctionnement du cerveau, l'article 13 du projet de loi tend à permettre au pouvoir réglementaire, après avis de la Haute autorité de santé (HAS), d'interdire tout acte, procédé, technique ou équipement qui aurait un tel objet, dès lors qu'il présenterait « un danger grave ou une suspicion de danger grave pour la santé humaine ». Toute décision de levée de l'interdiction serait prise, par parallélisme des formes, également par décret. Un nouvel article L. 1151-4 serait inséré dans le code de la santé publique à cet effet.

Les techniques concernées relèvent de deux catégories : le « neuro-traitement » à des fins thérapeutiques ou la « neuro-amélioration », destinée à l'amélioration des capacités cérébrales de personnes non malades. Consultés par le rapporteur, les spécialistes des neurosciences Olivier Oullier, professeur à l'Université d'Aix-Marseille et président d'une société de neuroinformatique et Laura Pignatel, docteur en droit de l'Université d'Aix-Marseille, précisent que ces termes sont avant tout issus du secteur commercial et doivent donc être employés avec prudence. Ils permettent toutefois d'identifier les familles de dispositifs concernés.

Elles comprennent ainsi, pour la première, des médicaments (comme les psychostimulants ou les anxiolytiques) ou des dispositifs médicaux invasifs destinés à la stimulation transcrânienne ^{252 ( * )} ou à la stimulation cérébrale profonde ^{253 ( * )} pour lutter contre des maladies neurodégénératives, comme les maladies de Parkinson ou d'Alzheimer, les troubles obsessionnels compulsifs ou les états dépressifs majeurs.

Ces dispositifs sont encadrés par les règles applicables à la mise sur le marché et au contrôle des médicaments ^{254 ( * )} ou des dispositifs médicaux ^{255 ( * )} . L'article L. 5312-1 du code de la santé publique dispose à cet égard que l'Agence nationale de sécurité du médicament et des produits de santé (ANSM) peut interdire la mise en service ou l'utilisation de dispositifs médicaux, lorsqu'il existe un danger grave ou une suspicion de danger grave pour la santé humaine.

En revanche, certains dispositifs de « neuro-amélioration » sans finalité médicale vendus dans le commerce ne font pas l'objet d'un tel encadrement, ne relevant ni de la catégorie des médicaments ni forcément de celle des dispositifs médicaux - seuls ceux destinés à la stimulation cérébrale transcrânienne le sont. Ils sont toutefois soumis à l'obligation de sécurité générale des produits. Comme le précisent Olivier Oullier et Laura Pignatel, déjà cités, la neuro-amélioration constitue le plus souvent un acte de détournement de techniques initialement développées pour traiter des cas pathologiques afin d'améliorer les capacités cognitives chez des personnes non malades. Peut être citée, à titre d'illustration, la technique du « neurofeedback », processus d'apprentissage destiné à modifier et à réguler son activité cérébrale grâce à la stimulation transcrânienne.

Le Comité consultatif national d'éthique (CCNE), qui avait déjà consacré un rapport au sujet en 2012 ^{256 ( * )} , relève dans son avis n° 129 préalable à la révision de la loi de bioéthique que « les effets réels (efficaces et délétères) de ces techniques chez le sujet non malade demeurent très mal connus » ^{257 ( * )} .

Outre les risques de l'ambition transhumaniste, qui consiste à vouloir dépasser la vulnérabilité inhérente à l'espèce humaine, les services du ministère de la santé ont indiqué au rapporteur que les effets à court terme ou à long terme de ces équipements sans finalité médicale sont aujourd'hui encore insuffisamment évalués. Ils sont susceptibles de présenter des risques pour la santé des consommateurs. La mesure proposée par l'article 13 donnerait à l'administration les moyens d'intervenir.

Elle s'inspire du dispositif existant à l'article L. 1151-3 du code de la santé publique, introduit dans notre droit par la loi n° 2009-879 du 21 juillet 2009 portant réforme de l'hôpital et relative aux patients, à la santé et aux territoires, qui permet au pouvoir réglementaire d'interdire, dans le domaine des actes à visée esthétique, ceux qui présenterait un danger grave ou une suspicion de danger grave pour la santé humaine.

La HAS, en charge des avis préalables aux décrets, ne tire pas un bilan très positif de l'application de ces dispositions en vigueur, comme elle a pu l'indiquer lors de son audition du rapporteur. Elle considère que l'absence de définition des notions de « danger grave » ou de « suspicion de danger grave » obère l'efficacité du dispositif et, surtout, qu'elle manque de données pour étayer les avis destinés à justifier une interdiction. Elle craint que le dispositif proposé par l'article 13 du projet de loi rencontre les mêmes écueils. Les services du ministère de la santé estiment, quant à eux, que les notions relatives au danger auquel le projet de loi fait référence sont familières du juge administratif et permettent une juste appréciation du risque.

L'Assemblée nationale n'a pas modifié, lors de l'examen du texte, son économie générale, outre l'adoption d'amendements rédactionnels du rapporteur, Philippe Berta, en commission et en séance publique avec l'avis favorable du Gouvernement.

II - La position de la commission : approuver le principe de l'article 13 tout en excluant les dispositifs médicaux qui relèvent déjà des pouvoirs de police de l'ANSM

La commission a approuvé le principe de l'article 13 du projet de loi, qui tend à pallier un vide juridique pour les dispositifs de « neuro-amélioration » en permettant d'intervenir en cas de danger pour la santé humaine.

Il n'est pas sans présenter des limites : comme l'a relevé la HAS, la rareté des données disponibles ne facilitera pas la mise en oeuvre du dispositif. Est-ce pour cela qu'il faut y renoncer ? La commission, suivant l'analyse du rapporteur, juge au contraire qu'il s'agit d'une mesure utile de prévention des risques, qu'il n'est pas interdit de compléter à l'avenir.

La commission a également relevé que la rédaction des notions de « danger grave » ou de « suspicion de danger grave » était volontairement large pour permettre une appréciation in concreto par les services et, en cas de litige, par le juge. Comme l'indique le Conseil d'État dans son avis sur le projet de loi « l'extrême difficulté, relevée par l'étude du Conseil d'Etat de 2018, à distinguer la neuro-amélioration à des fins de performance chez la personne non malade et les neuro-traitements à des fins thérapeutiques, conduit à ce que les dispositions ne différencient pas l'utilisation des techniques de neuro-modulation selon leurs finalités mais selon leur dangerosité ».

La commission a également repris à son compte les observations du Conseil d'État selon lesquelles les limitations à la liberté d'entreprendre qui pourraient résulter de l'application du nouvel article L. 1151-4 du code de la santé publique pouvaient être admises au regard des principes constitutionnels de protection de la santé et de sauvegarde de la dignité de la personne humaine.

Par l'adoption d'un amendement COM-262 du rapporteur, la commission spéciale a en revanche exclu les équipements qui sont des dispositifs médicaux, car ils relèvent déjà des pouvoirs de police de l'Agence nationale de sécurité du médicament et des produits de santé (ANSM), en application des articles L. 5311-1 et 5312-1 du code de la santé publique. Par le même amendement, elle a également procédé à une modification rédactionnelle.

La commission a adopté cet article ainsi modifié.

---

* ²⁰² « Whole Exome Sequencing - WES » ou « Whole Genome Sequencing - WGS ».

* ²⁰³ Ensemble des gènes du génome qui code pour la synthèse des protéines, qui peut ainsi être regardé comme l'« ADN codant ».

* ²⁰⁴ Elle correspond à la portion d'individus porteurs du variant génétique (génotype) qui manifestent la maladie (phénotype ou morphotype de la maladie).

* ²⁰⁵ Conseil d'État, Révision de la loi de bioéthique : quelles options pour demain ? , étude à la demande du Premier ministre adoptée en assemblée générale le 28 juin 2018.

* ²⁰⁶ Mention dans le consentement écrit de l'indication ou de l'objectif de l'examen et caractère révocable, en tout ou partie, du consentement.

* ²⁰⁷ Article 226-28-1 du code pénal.

* ²⁰⁸ En France, les tests conduisant à l'établissement ou à la contestation d'un lien de filiation ne peuvent être réalisés qu'en exécution d'une mesure d'instruction ordonnée par le juge, avec le consentement du parent présumé, en application de l'article 16-11 du code civil.

* ²⁰⁹ 9° de l'article L. 1418-1 du code de la santé publique.

* ²¹⁰ Plusieurs articles de presse soulèvent la question de la cession de données génétiques de clients par des sociétés de tests ADN à des institutions judiciaires comme le Federal Bureau of Investigation (FBI) aux États-Unis pour la recherche de suspects.

* ²¹¹ Comité consultatif national d'éthique pour les sciences de la vie et de la santé, Contribution du comité consultatif national d'éthique à la révision de la loi de bioéthique 2018-2019 , avis 129, 18 septembre 2018.

* ²¹² Cette définition a été introduite par le scientifique Marvin Minsky en 1956.

* ²¹³ Comment permettre à l'homme de garder la main ? Les enjeux éthiques des algorithmes et de l'intelligence artificielle, Synthèse du débat public animé par la Commission nationale de l'informatique et des libertés dans le cadre de la mission de réflexion éthique confiée par la loi pour une République numérique, décembre 2017. Ce document est consultable à l'adresse suivante : https://www.cnil.fr/sites/default/files/atoms/files/cnil_rapport_garder_la_main_web.pdf

* ²¹⁴ Ibid . supra .

* ²¹⁵ Numérique & Santé, quels enjeux éthiques pour quelles régulations ? Rapport du groupe de travail dirigé notamment par David Gruson, membre du comité de direction de la chaire santé de Sciences Po, professeur associé à la faculté de médecine Paris-Descartes et par Claude Kirchner, président de la commission de réflexion sur l'éthique de la recherche en sciences et technologies du numérique d'Allistene (Cerna), tous deux entendus lors des auditions. Ce rapport est consultable à l'adresse suivante : https://www.ccne-ethique.fr/sites/default/files/publications/rapport_numerique_et_sante_19112018.pdf

* ²¹⁶ Article 9 du règlement (UE) 2016/679 du 27 avril 2016 relatif à la protection des personnes physiques à l'égard du traitement des données à caractère personnel et à la libre circulation de ces données (RGPD) et 6 de la loi n° 78-17 du 6 janvier 1978 relative à l'informatique, aux fichiers et aux libertés.

* ²¹⁷ La personne doit être informée de la possibilité de réutiliser ultérieurement ses données pour une autre finalité au moment de leur collecte (article 13 du RGPD) ou au moment de leur réutilisation (article 14 du RGPD), sauf, dans ce dernier cas, si cette information se révèle impossible ou exigerait des efforts disproportionnés en particulier pour le traitement à des fins de recherche scientifique.

* ²¹⁸ « Le fait, par toute personne détentrice de données à caractère personnel à l'occasion de leur enregistrement, de leur classement, de leur transmission ou de toute autre forme de traitement, de détourner ces informations de leur finalité telle que définie par la disposition législative, l'acte réglementaire ou la décision de la Commission nationale de l'informatique et des libertés autorisant le traitement automatisé, ou par les déclarations préalables à la mise en oeuvre de ce traitement, est puni de cinq ans d'emprisonnement et de 300 000 euros d'amende. »

* ²¹⁹ Révision de la loi de bioéthique, quelles options pour demain ? Conseil d'État, étude à la demande du Premier ministre, adoptée en assemblée générale le 28 juin 2018. Ce document est consultable à l'adresse suivante :

https://www.conseil-etat.fr/ressources/etudes-publications/rapports-etudes/etudes/revision-de-la-loi-de-bioethique-quelles-options-pour-demain

* ²²⁰ Article 1242 du code civil : « On est responsable non seulement du dommage que l'on cause par son propre fait, mais encore de celui qui est causé par le fait des personnes dont on doit répondre, ou des choses que l'on a sous sa garde. »

* ²²¹ Articles 1245 et suivants du code civil.

* ²²² Cour de justice de l'Union européenne, 7 décembre 2017, Syndicat national de l'industrie des technologies médicales, n° C-329/16 : « un logiciel dont l'une des fonctionnalités permet l'exploitation de données propres à un patient, aux fins, notamment, de détecter les contre-indications, les interactions médicamenteuses et les posologies excessives, constitue, pour ce qui est de cette fonctionnalité, un dispositif médical (...) et ce même si un tel logiciel n'agit pas directement dans ou sur le corps humain ».

* ²²³ Les termes choisis sont volontairement larges, mais les principales hypothèses visées sont celles du médecin et de son patient. Le cas échéant, ce périmètre permet d'inclure les autres professionnels de santé qui auraient recours à un traitement algorithmique à des fins médicales.

* ²²⁴ Article 47 de la loi n° 78-17 du 6 janvier 1978 relative à l'informatique, aux fichiers et aux libertés.

* ²²⁵ Article 4-3 de la loi n° 2016-1547 du 18 novembre 2016 de modernisation de la justice du XXI ^e siècle.

* ²²⁶ Commission nationale de l'informatique et des libertés (CNIL), délibération n° 2019-097 du 11 juillet 2019 portant avis sur un projet de loi relatif à la bioéthique. Cet avis est consultable à l'adresse suivante : https://www.legifrance.gouv.fr/affichCnil.do?id=CNILTEXT000038848207

* ²²⁷ Dans son avis n° 129 du 18 septembre 2018.

* ²²⁸ Rapport n° 2243 pré-cité, p. 233.

* ²²⁹ Révision de la loi de bioéthique, quelles options pour demain ? Conseil d'État, étude à la demande du Premier ministre, adoptée en assemblée générale le 28 juin 2018, p. 207. Cette étude est consultable à l'adresse suivante :

https://www.conseil-etat.fr/ressources/etudes-publications/rapports-etudes/etudes/revision-de-la-loi-de-bioethique-quelles-options-pour-demain

* ²³⁰ L'article R. 4127-5 du code de la santé publique dispose que « Le médecin ne peut aliéner son indépendance professionnelle sous quelque forme que ce soit. »

* ²³¹ Les articles L. 4161-1 et suivants du code de la santé publique répriment l'exercice illégal de la médecine.

* ²³² Étude du Conseil d'État publiée en 2018 précitée, p. 207.

* ²³³ Avis n° 129, contribution du comité consultatif national d'éthique à la révision de la loi de bioéthique, rendu public le 25 septembre 2018. Cet avis est consultable à l'adresse suivante :

https://www.ccne-ethique.fr/fr/actualites/lavis-129-contribution-du-ccne-la-revision-de-la-loi-de-bioethique-est-en-ligne

* ²³⁴ Le scanner cérébral ou tomodensitométrie (TDM) cérébrale est un examen permettant de reconstituer des images du cerveau sous forme de fines coupes axiales en deux ou trois dimensions.

* ²³⁵ L'imagerie par résonance magnétique (IRM) est un examen basé sur l'utilisation de champs électromagnétiques. Il donne des images du corps en deux ou trois dimensions.

* ²³⁶ La tomographie par émission de positons (TEP) est une méthode d'imagerie médicale qui permet de mesurer en trois dimensions l'activité métabolique d'un organe grâce aux émissions produites par les positons issus de la désintégration d'un produit radioactif injecté au préalable.

* ²³⁷ L'électroencéphalographie permet d'enregistrer l'activité électrique spontanée des neurones du cerveau. Le tracé ainsi obtenu est appelé électroencéphalogramme.

* ²³⁸ Ibid . supra .

* ²³⁹ Avis n° 381 (2010-2011) de M. François-Noël Buffet, fait au nom de la commission des lois, déposé le 29 mars 2011, sur le projet de loi relatif à la bioéthique. Ce rapport est accessible à l'adresse suivante : https://www.senat.fr/rap/a10-381/a10-381.html

* ²⁴⁰ Cet article dispose notamment que : « N'est pas pénalement responsable la personne qui était atteinte, au moment des faits, d'un trouble psychique ou neuropsychique ayant aboli son discernement ou le contrôle de ses actes (...) ».

* ²⁴¹ Articles 143 et suivants du code de procédure civile.

* ²⁴² Articles 156 et suivants du code de procédure pénale.

* ²⁴³ Imagerie à résonance magnétique fonctionnelle.

* ²⁴⁴ Rapport n° 80 (2018-2019) de M. Jean-François Eliaou, député et Mme Annie Delmont-Koropoulis, sénatrice, fait au nom de l'Office parlementaire d'évaluation des choix scientifiques et technologiques, déposé le 25 octobre 2018, sur l'évaluation de l'application de la loi n° 2011-814 du 7 juillet 2011 relative à la bioéthique. Ce rapport est consultable à l'adresse suivante : http://www.senat.fr/rap/r18-080/r18-080.html#_Toc530050027

* ²⁴⁵ Révision de la loi de bioéthique, quelles options pour demain ? Conseil d'État, étude à la demande du Premier ministre, adoptée en assemblée générale le 28 juin 2018, p. 188. Cette étude est consultable à l'adresse suivante :

https://www.conseil-etat.fr/ressources/etudes-publications/rapports-etudes/etudes/revision-de-la-loi-de-bioethique-quelles-options-pour-demain

* ²⁴⁶ Décisions n° 2004-492 DC du 2 mars 2004 sur la loi portant adaptation de la justice aux évolutions de la criminalité, cons. 110.

* ²⁴⁷ Les cahiers du Conseil constitutionnel, cahier n° 16, commentaire de la décision n° 2004-492 DC du 2 mars 2004 sur la loi portant adaptation de la justice aux évolutions de la criminalité.

* ²⁴⁸ Usages et interprétations judiciaires des images cérébrales, Sonia Desmoulin-Canselier, Revue de science criminelle et de droit comparé, Dalloz, 2018, p. 343.

* ²⁴⁹ Étude du Conseil d'État précitée, p. 189.

* ²⁵⁰ Pour un exemple s'agissant d'une expertise psychocriminologique, voir Cour de cassation, chambre criminelle, 29 janvier 2003, n° 02-86.774.

* ²⁵¹ Voir commentaire de l'article 13.

* ²⁵² Stimulation externe au moyen de courants électriques, magnétiques ou électromagnétiques.

* ²⁵³ Consiste à implanter une électrode de stimulation dans le cerveau du patient pour en activer certaines zones.

* ²⁵⁴ Titre II du livre I ^er de la cinquième partie du code de la santé publique.

* ²⁵⁵ Titre I ^er du livre II de la cinquième partie du code de la santé publique.

* ²⁵⁶ Recours aux techniques biomédicales en vue de « neuro-amélioration » chez la personne non-malade : enjeux éthiques Comité consultatif nationale d'éthique pour les sciences de la vie et de la santé, avis n° 122, 12 février 2012. Cet avis est consultable à l'adresse suivante :

https://www.ccne-ethique.fr/sites/default/files/publications/ccne.avis_ndeg122.pdf

* ²⁵⁷ Avis n° 129 précité, p. 94.