Mercredi 7 mai 2025
- Présidence de M. Laurent Lafon, président -
La réunion est ouverte à 9 h 30.
Mise en oeuvre du règlement européen sur l'intelligence artificielle en matière de rémunération des contenus culturels - Audition de Mme Alexandra Bensamoun, professeure de droit privé à l'Université Paris-Saclay
M. Laurent Lafon, président. - Nous avons le plaisir d'accueillir ce matin Alexandra Bensamoun, professeure de droit privé à l'université Paris-Saclay, spécialiste du droit d'auteur.
Madame la professeure, le 20 décembre 2023, nous vous avions déjà entendue avec des représentants des ayants droit. Nos échanges avaient permis de clarifier un sujet qui occupe désormais le devant de la scène médiatique et dont vous êtes l'une des meilleures spécialistes, celui de l'intelligence artificielle (IA) et de ses conséquences sur le droit d'auteur et les droits voisins.
À l'époque, vous aviez évoqué les débats en cours autour du projet de règlement européen établissant des règles harmonisées concernant l'intelligence artificielle (RIA). Ce règlement a finalement été promulgué le 13 juin dernier, mais son adoption n'a toutefois pas mis fin aux controverses. La position de la France durant la discussion a été ambiguë. Comme cela avait été amplement souligné, notre pays a été pris en étau entre la nécessité de défendre l'exception culturelle française et européenne et la volonté de développer le secteur de l'innovation.
Dans le même temps, le monde culturel dans son ensemble s'est alarmé des conséquences de l'irruption des IA dites génératives, dont les modèles sont entraînés sur des données collectées sans rémunération, bien souvent en toute illégalité, et qui se posent en concurrents sérieux des productions culturelles humaines. À ce titre, la publication par la Commission européenne de la troisième version du code de bonnes pratiques en mars dernier a suscité des réactions à tout le moins mitigées, à tel point que de nombreux ayants droit préféreraient désormais une absence de code plutôt que cette version, jugée extrêmement permissive et trop peu contraignante.
Le Conseil supérieur de la propriété littéraire et artistique (CSPLA) vous a confié la difficile tâche de trouver une traduction concrète aux principes contenus dans ce règlement, notamment dans son article 53, qui tente de définir un cadre normatif en matière de respect du droit d'auteur par les IA génératives. Votre rapport, très attendu, sera prochainement remis à la ministre de la culture. Il sera certainement très utile à la mission d'information sur l'intelligence artificielle et la création que la commission a confiée à Laure Darcos, Agnès Evren et Pierre Ouzoulias. Les rapporteurs ont entamé leurs travaux en mars dernier - ils vous ont d'ailleurs entendue la semaine passée - et se rendront à Bruxelles la semaine prochaine pour notamment rencontrer les responsables de la mise en oeuvre du RIA à la Commission européenne.
Madame la professeure, avec les rapporteurs de la mission, j'ai souhaité vous entendre pour permettre aux sénatrices et aux sénateurs composant la commission de profiter de votre expertise et de votre sens de la pédagogie sur un sujet qui, au-delà des présentations schématiques, est en réalité d'une redoutable complexité juridique et technique. L'IA est incontestablement un élément essentiel de notre avenir et de notre souveraineté. Elle ne doit cependant pas opérer sans règles et sans cadre, en ignorant les acquis du droit de la propriété intellectuelle, si nécessaire à nos créateurs.
Nous avons pleinement conscience que nous vivons une époque charnière et que ce sujet, sur lequel l'Europe est le premier continent à poser un cadre normatif, ne doit pas devenir un simple pion dans les négociations commerciales, en particulier avec les États-Unis, qui ont adopté une posture extrêmement agressive sur les toutes les législations visant à réguler le monde numérique. À ce propos, je souligne les positions constantes du Sénat, notamment de la commission de la culture et de la commission des affaires européennes, laquelle a appelé au renforcement des conditions d'une réelle souveraineté numérique européenne, le 13 mars dernier, au travers du rapport de nos collègues Catherine Morin-Desailly et Florence Blatrix Contat.
Madame la professeure, je vais maintenant vous passer la parole. Je la céderai ensuite aux trois rapporteurs de la mission d'information, puis aux sénateurs qui le souhaiteront.
Je vous rappelle que cette audition est captée et diffusée en direct sur le site internet du Sénat.
Mme Alexandra Bensamoun, professeure de droit privé à l'université Paris-Saclay. - Je vous remercie de cette invitation qui m'honore. Je me tiendrai à votre disposition dans les prochains jours pour une meilleure compréhension des enjeux de l'IA qui sont à la fois sociétaux, techniques et technologiques, et, par conséquent, parfois difficiles d'approche.
En tant que professeure de droit à l'université, je ne représente aucun intérêt particulier, ni les titulaires de droits, ni les entreprises de la tech. Bien que je sois une personnalité qualifiée par le ministère de la culture, mes propos n'engagent pas le ministère. De la même façon, le rapport issu des travaux de la commission de l'intelligence artificielle, à laquelle j'ai participé, n'engageait pas le Président de la République. Je m'exprime donc en mon nom propre et je m'appuie sur mon expérience de quinze ans dans le domaine du droit du numérique, et plus particulièrement du droit de l'intelligence artificielle.
(Mme Bensamoun diffuse un diaporama pour illustrer sa présentation.)
La mission d'information du Sénat s'intéresse à l'IA et à la création au sens large. L'IA n'est pas un sujet uniquement technique ou technologique. Aussi, en parler n'est pas réservé aux seuls spécialistes de la technique, car cet outil aura des conséquences sur notre souveraineté.
Tout d'abord, l'IA influera sur notre souveraineté normative. Actuellement, on compte trois législateurs, ou law makers, en la matière dans le monde : l'Europe a choisi de réguler l'intelligence artificielle par le premier texte transversal qu'est le RIA de juin dernier, dont l'adoption n'a pas été simple et qui est très contesté, notamment par les États-Unis qui sont le deuxième législateur en la matière et qui traversent plutôt une phase de dérégulation, notamment à l'égard de la technique. Ils accusent l'Europe d'entraver le commerce et de défavoriser les entreprises américaines au travers des législations européennes relatives au numérique, à savoir le RIA, le règlement européen sur les services numériques ou Digital Services Act (DSA) et le règlement européen sur les marchés numériques ou Digital Markets Act (DMA). Le troisième législateur est la Chine, mais ce pays régule l'IA pour d'autres raisons que les nôtres. En Europe, la régulation européenne s'appuie sur l'article 114 du traité sur le fonctionnement de l'Union européenne (TFUE) relatif à la création d'un marché. En Chine, l'IA est plutôt un instrument de contrôle. Quel modèle normatif émergera et sera finalement retenu ? La lutte qui a lieu dans ce domaine aura des effets sur notre souveraineté normative.
Ensuite, l'IA est un enjeu de souveraineté économique. Elle porte une promesse de croissance et de plus forte productivité. C'est pourquoi il faut soutenir l'émergence de cette technologique et prendre le train de l'IA, sans pour autant oublier ou sacrifier sur l'autel de la technologie ou de l'innovation les droits fondamentaux et les droits subjectifs pour lesquels nous nous sommes battus. Le secteur culturel représente pas moins de 2 % du PIB national ; par conséquent, il convient de le préserver.
Enfin, c'est une question de souveraineté culturelle. En France, nous ne disposons pas d'acteurs très forts dans le secteur du numérique, tels que les Google, Apple, Facebook, Amazon, Microsoft (Gafam). En revanche, nous avons des talents - les grands noms de la scène internationale de l'IA sont français - et des contenus culturels qui constituent notre richesse et dont nous pouvons nous enorgueillir.
Cela n'a pas de sens d'opposer régulation et innovation, car cela revient à postuler qu'être favorable à la régulation impliquerait d'être contre l'innovation. Or je ne crois pas que les juristes soient rétrogrades. Le règlement européen l'indique d'ailleurs : les fondements de l'action en la matière sont de favoriser l'économie et la création d'un marché unique, en supprimant les barrières douanières au sein de l'Union européenne (UE) tout en créant des frontières extérieures à l'Union pour se protéger ; cette ambition économique se complète d'une ambition en matière de droits fondamentaux. Il s'agit donc plutôt de conjuguer la régulation et l'innovation. Dans son discours de clôture du sommet pour l'action sur l'intelligence artificielle du 11 février dernier, le Président de la République indiquait d'ailleurs qu'il fallait arrêter d'opposer ces notions et plutôt créer un cadre de confiance qui favorise le développement de l'IA de manière éthique et compétitive et qui respecte la créativité et les droits d'auteur. Cet écosystème d'IA constituerait un modèle européen, qui respecterait les droits d'auteur, mais aussi le droit des données à caractère personnel ou encore le droit pénal - certaines bases de données d'entraînement comportent des images pédopornographiques. Les thèmes à traiter seront donc nombreux. On parle de la culture, car l'utilisation de l'IA dans ce domaine a suscité des inquiétudes et que des dispositions européennes ont été adoptées, mais d'autres sujets émergeront. Ce cadre de confiance respecterait les droits fondamentaux et la chaîne de valeur pour créer un marché éthique et compétitif.
En bonne professeure de droit - on ne se refait pas -, j'évoquerai le sujet de l'IA et de la création selon un plan en deux parties, qui traitera d'abord de la création par l'IA, puis de la création de l'IA.
Tout d'abord, au travers de la création par l'IA, il s'agit d'envisager comment l'IA générative produit des contenus qui concurrencent parfois les contenus culturels. (Mme Bensamoun commente une image datant des années 1920 présentant une machine broyant des documents.) Cette image résume le fonctionnement de l'IA générative. Au lieu de fournir à la machine des règles mathématiques à appliquer, celle-ci est nourrie de données qu'elle va broyer et déconstruire, dont elle déduira elle-même des règles qu'elle appliquera ensuite lorsqu'on lui posera une question, à savoir un prompt. Le contenu sortant ne ressemble en rien au contenu entrant, mais peut lui faire concurrence. Ces modèles d'IA sont probabilistes. Ce qui en sort est non pas la vérité, mais ce qui est le plus probable au regard de l'ensemble des données utilisées en amont, c'est l'entraînement ou le pré-entraînement du modèle. Pour cela, on a massivement besoin de données. Celles-ci se trouvent dans des bases de données déjà constituées, comme les bases Laion, Library Genesis (LibGen) ou BooksFree, qui contiennent des contenus parfois protégés par des droits, mais qui n'ont pas fait l'objet d'une autorisation d'utilisation de la part des titulaires de ces droits, ou encore parfois des contenus illicites ou piratés. De telles bases n'ont en quelque sorte pas d'existence juridique, mais sont librement partagées et utilisées pour entraîner ces modèles d'IA. La preuve en a été apportée lors des trente à quarante procès portant sur cette question aux États-Unis, au cours desquels certains acteurs de l'IA ont admis avoir utilisé telle ou telle base de données d'entraînement. Or ces bases comprennent des contenus culturels qui sont utilisés sans autorisation et sans rémunération. Pour entraîner les modèles d'IA, on utilise aussi les données de l'organisation Common Crawl, qui constitue une sorte de répertoire recensant tous les contenus trouvés sur internet grâce à des robots moissonneurs. Un grand nom de l'IA, très connu, m'a indiqué qu'internet avait été complètement moissonné et qu'il fallait des données fraîches pour éviter une stagnation des modèles.
Comment fait-on pour entraîner les modèles d'IA ? On procède à une opération de fouille de textes et de données ou text and data mining, à savoir la déconstruction par un processus algorithmique d'un contenu. En amont, la collecte, le nettoyage et la transformation des données peuvent être assez chronophages. Intervient ensuite l'opération de minage, c'est-à-dire de déconstruction des données. Enfin, on évalue les résultats obtenus. Ce processus existe depuis longtemps.
En 2019, dans le cadre de la directive sur le droit d'auteur et les droits voisins dans le marché unique numérique ou directive Digital Single Market (DSM), le législateur européen s'est saisi de ce sujet et a défini la fouille de textes et de données. Selon l'article 2 de la directive, l'expression désigne « toute technique d'analyse automatisée visant à analyser des textes et des données sous une forme numérique afin d'en dégager des informations, ce qui comprend, à titre non exhaustif, des constantes, des tendances et des corrélations ». Il s'agit donc d'une déconstruction totale du contenu visant à mettre en évidence, par exemple, les rapprochements possibles entre des mots, des couleurs ou des structures.
Cette directive a aussi permis de poser deux exceptions au droit d'auteur et aux droits voisins dans ce cadre. La première exception définie à l'article 3 concerne la recherche scientifique. C'était une demande très forte des chercheurs, car nous avons besoin de cette exception dans le domaine scientifique. Celle-ci n'est d'ailleurs pas contestée par les titulaires de droits. Elle a été finement rédigée et était envisagée dès le début des travaux relatifs à la directive de 2019.
La seconde exception, en revanche, concerne tous les usages, y compris les usages commerciaux, au bénéfice de tous les acteurs. Rejetée au stade de l'analyse d'impact, car considérée comme trop attentatoire au droit d'auteur et aux droits voisins, elle a finalement été introduite par voie d'amendement à l'article 4 de la directive.
Bien que des conditions aient été posées, comme le fameux opt-out, à savoir la capacité d'opposition du titulaire des droits, ainsi que l'accès licite au contenu, cette seconde exception suscite le débat, car toutes ses conséquences n'ont sans doute pas été anticipées en 2019. Personne ne savait alors véritablement à quoi cette exception allait servir. On nous expliquait que cela serait aussi utile à la recherche scientifique, ce qui est vrai, car la recherche en matière de santé est aussi privée, notamment avec le laboratoire Google DeepMind. Mais nous n'avions pas anticipé les effets de l'IA générative dans le domaine culturel, alors que des modèles étaient déjà en phase d'entraînement dès 2017. Aujourd'hui, les acteurs du numérique réclament le bénéfice de cette exception. Pour certains titulaires de droits, celle-ci ne s'applique pas à l'entraînement de l'IA générative, puisque cette situation n'avait pas été prévue lors de l'adoption de la directive. Or ce n'est pas parce qu'une situation n'a pas été anticipée par le législateur que la loi ne peut pas lui être appliquée. Au contraire, un législateur souhaite ne pas être tenu par l'évolution des usages et des techniques et éviter toute obsolescence prématurée de la loi. On ne voit pas tellement d'indices qui permettraient d'exclure l'entraînement de l'IA générative du champ d'application de la directive, d'autant que l'article 53 du RIA fait référence, par le biais de l'opt-out, à l'article 4 de la directive DSM. Il est donc difficile de contester le champ d'application de cette exception, mais peut-être le fera-t-on un jour. Seule la Cour de justice de l'Union européenne (CJUE) pourra alors donner la réponse.
En revanche, l'application de cette exception à l'IA générative pourrait être contestée d'une autre manière, sur le fondement du test en trois étapes que toutes les exceptions et limitations au droit d'auteur et aux droits voisins doivent passer depuis la directive du 22 mai 2001 sur l'harmonisation de certains aspects du droit d'auteur et des droits voisins dans la société de l'information. Le législateur européen a en effet mis en place un filtre supplémentaire composé de trois conditions pour protéger ces droits : toutes les exceptions et limitations doivent constituer un cas spécial ; celui-ci ne doit pas porter atteinte à l'exploitation normale de l'oeuvre ; et celui-ci ne doit pas causer un préjudice injustifié aux titulaires de droits. Or il n'est pas certain que l'exception relative aux fouilles de textes et de données pour entraîner les modèles d'IA passe le test en trois étapes. N'affecte-t-elle pas, notamment, l'exploitation normale de l'oeuvre ? Seul un juge pourra répondre à cette question dans le cadre d'un contentieux, qui ne serait pas uniquement national, mais européen au travers d'une question préjudicielle.
Comme je l'ai indiqué précédemment, deux conditions de validité de cette exception prévue à l'article 4 de la directive DSM ont également été posées.
La première a trait à l'accès licite au contenu, une condition bien connue du droit d'auteur - c'est le cas par exemple de la copie privée. Cette condition ne sera sans doute pas remplie si des bases de données piratées ont été utilisées pour l'entraînement des modèles.
La seconde offre au titulaire la possibilité de réserver ses droits à travers un mécanisme inédit et assez étrange d'opt-out qui lui permet, en théorie, de s'opposer à l'application de l'exception - celle-ci présentant par ailleurs un caractère obligatoire, puisqu'elle a dû être transposée dans le droit de tous les États membres. Nous ne savons toutefois pas très bien comment cette clause peut être exercée efficacement, d'autant qu'il semblerait que des robots arrivent à passer au travers de dispositifs de protection comme les paywalls. Il semble impossible pour les titulaires de droits d'exercer leur opt-out sur tous les contenus protégés mis en ligne, qui peuvent également l'avoir été par des tiers. Par ailleurs, si l'opt-out est exercé pour l'usage de métadonnées, comment vérifier que celles-ci n'ont pas été écrasées ?
Dans certaines bases de données d'entraînement figurent les numéros ISBN, à partir desquels il est possible de savoir si l'éditeur a exercé l'opt-out. Mais encore faut-il que la recherche ait été effectuée. C'est d'ailleurs la principale question posée par l'application de cette exception à l'IA : comment savoir ? Comment savoir si le fournisseur d'IA a eu un accès licite aux contenus pour entraîner son modèle ? Comment savoir s'il a respecté l'opt-out ? Plus généralement, comment connaître les milliards de contenus qu'il a utilisés ?
Cette question de la transparence et du respect du droit d'auteur et des droits voisins s'est posée aux titulaires de droits et au législateur européen lors de la discussion du RIA. Les articles 53, 1, c et 53, 1, d du RIA qui lui sont consacrés ont été adoptés dans la douleur. Certains commissaires se sont beaucoup investis sur ces questions, en particulier Thierry Breton.
Selon l'article 53, 1, c, les fournisseurs d'IA sont obligés de mettre en place une politique visant à se conformer à l'acquis communautaire en matière de droit d'auteur et de droits voisins, notamment à l'opt-out. Cela ressemble à une obligation de conformité by design, comme il en existe dans le cadre du règlement général sur la protection des données (RGPD) : dès le développement de l'architecture des systèmes, les acteurs doivent respecter les règles édictées pour limiter les atteintes aux droits des personnes. L'article 53, 1, c sera éclairé par un code de bonnes pratiques, ou code of practice, qui est en cours d'élaboration par des groupes de travail constitués au sein de la Commission.
Selon l'article 53, 1, d, les fournisseurs d'IA doivent mettre à la disposition du public un « résumé suffisamment détaillé » du contenu utilisé pour l'entraînement des modèles. L'emploi d'un tel oxymore traduit l'ampleur rarement connue des pressions qui se sont alors exercées. Il est prévu que le Bureau de l'intelligence artificielle, qui a été créé par le RIA, fournisse un template, c'est-à-dire une sorte de canevas, précisant en quoi devrait consister cette transparence sur les contenus utilisés pour l'entraînement des modèles. Vous remarquerez que c'est l'expression « contenu utilisé », et non le mot « culture », qui est employée dans cet article du RIA. Par ailleurs, dans les considérants liés à cet article, on évoque les titulaires des droits d'auteur et des droits voisins parmi d'autres titulaires ayant un intérêt légitime à défendre, preuve que d'autres enjeux que ceux du domaine culturel seront vraisemblablement concernés, demain, par ces dispositions.
Où en sommes-nous aujourd'hui ? S'agissant de l'article 53, 1, c, on attend toujours un code de bonnes pratiques. Celui-ci n'est pas contraignant et devrait être signé de manière volontaire par les acteurs de la tech. S'ils respectent son contenu, ils seront alors considérés comme remplissant l'obligation de conformité. La troisième version de ce code, diffusée en mars dernier, est loin de faire l'unanimité. Les titulaires de droits ont finalement demandé que le droit d'auteur et les droits voisins soient tout simplement retirés de ce code de bonnes pratiques. Ils préfèrent qu'il n'y ait rien plutôt que des préconisations qui, à leurs yeux, sont encore moins contraignantes que le texte de l'article 53, 1, c. Le monde de la tech dit exactement l'inverse, mais ne veut pas non plus signer ce texte qui prévoit beaucoup trop d'obligations selon eux. La Commission européenne est donc dans une situation inextricable, car elle ne parvient pas à rapprocher les points de vue.
Pour ce qui concerne l'article 53, 1, d, la situation n'est pas meilleure. Le modèle de transparence du bureau de l'IA est attendu avec intérêt, mais il n'y a aucun projet pour le moment. Voilà quelques mois, la ministre de la culture m'a demandé de rédiger un rapport précisant ce qu'est un résumé suffisamment détaillé. Il m'est apparu que, comme en cuisine, il s'agissait de révéler tous les ingrédients, mais pas la recette, qui relève du secret des affaires. De la même façon, pour les fournisseurs d'IA, leur mode de traitement des données, les méthodes de vectorisation, de tokenisation ou encore de filtrage sont des secrets qui doivent être gardés, car ils fondent l'avantage compétitif de ces entreprises sur leurs concurrents. Il est parfaitement compréhensible qu'ils n'aient pas à révéler leurs savoir-faire. En revanche, il est difficile d'entraîner les modèles d'IA sur des bases de données d'entraînement immenses, avec des données piratées ou à libre disposition, ou grâce au Common Crawl, puis de déclarer ensuite que les données relèvent du secret. C'est quelque peu contradictoire.
En la matière, je comprends qu'il soit problématique de révéler ce qui reste après les méthodes de filtrage. Or ce résumé suffisamment détaillé doit être mis à la disposition du public et, par conséquent, des concurrents. Cette difficulté résulte des luttes qui ont eu lieu entre les différents lobbys autour de ce texte. Pour les juristes que nous sommes, il est tout de même difficile de soutenir l'opacité de façon générale. La transparence est un principe matriciel sur lequel repose la démocratie. Sans transparence, l'application du droit en général est suspendue : les titulaires de droits ne pourront pas bénéficier de leurs droits, le juge ne pourra pas appliquer le droit et le régulateur ne pourra pas contrôler la conformité des acteurs au droit. Sans transparence, il sera impossible de mettre en place un marché de licences pour les contenus qui sont utilisés, marché que tout le monde appelle de ses voeux, car on ne saura pas quels contenus sont utilisés. La transparence est donc un levier important à la fois pour l'application du droit et pour la création d'un marché de l'IA éthique et compétitif.
Ces deux obligations entreront en application le 2 août 2025. Or la publication de la version définitive du code de bonnes pratiques, qui devait intervenir le 2 mai, a été reportée à la fin du mois de mai, voire peut-être au mois de juin. Si l'adhésion au code de bonnes pratiques n'est pas obligatoire, les entreprises doivent tout de même savoir comment bénéficier d'une présomption de conformité.
Alors, comment créer un marché éthique et compétitif ? C'est tout l'objet de la mission du CSPLA en cours qui comporte deux volets : un volet économique et un volet juridique, dont je m'occupe. Il s'agit d'identifier les leviers juridiques favorables à l'émergence d'un tel marché, qui est également souhaité par la Commission européenne. Sans entrer dans les détails du rapport qui sera rendu public la semaine prochaine, et dont la ministre de la culture doit avoir la primeur, je partagerai avec vous quelques constats et réflexions.
À défaut de transparence, nous aurons un problème d'effectivité des droits, une notion sur laquelle repose l'ensemble de notre ordre juridique, conformément à l'adage latin Idem est non esse non probari : quand un droit ne peut pas être prouvé, c'est comme s'il n'existait pas. Si aucune preuve ne peut être rapportée, c'est un peu comme si le droit d'auteur n'existait plus. N'oublions pas, toutefois, qu'il s'agit d'un droit fondamental, supranational et supralégislatif. Il faudra donc se poser les questions à la bonne échelle. Mais c'est aussi le droit au recours, en d'autres termes le droit d'exercer une action en justice pour faire respecter un droit, qui risque d'être confisqué, alors qu'il est protégé par l'ensemble des conventions internationales auxquelles nous avons adhéré.
Ensuite, on nous dit qu'il faut une rémunération, mais quel modèle faut-il mettre en place ? De nombreux modèles existent. La propriété intellectuelle est un droit de propriété, c'est-à-dire des droits exclusifs, qui sont exercés dans le cadre d'un contrat sous la forme de licences. Mais d'autres solutions existent : la gestion collective volontaire, la gestion collective obligatoire, des licences collectives étendues, des licences légales, des exceptions compensées comme la copie privée. Ces différentes possibilités doivent être évaluées. Aujourd'hui, la solution qui semble faire consensus est celle du marché, fondé sur le consentement des titulaires de droits. Alors que le marché est à peine émergent, il n'y a aucune raison de confisquer ce consentement aux titulaires de droits. La CJUE vient d'ailleurs de rappeler que lorsqu'on remplace un droit exclusif par un droit à rémunération, c'est le droit européen qui doit se prononcer, et non le droit national.
Il faut aussi prendre en compte les besoins des fournisseurs d'IA. Ces derniers ont besoin d'un accès facilité aux données de qualité et aux autorisations des titulaires de droits, qu'il convient d'organiser. Cela implique que les titulaires de droits puissent accorder facilement, lorsqu'ils le souhaitent, des autorisations et que les fournisseurs d'IA qui veulent adopter des comportements vertueux puissent obtenir facilement ces autorisations et accéder à des jeux de données de qualité. Ce sont des choses qui s'organisent et des politiques publiques peuvent soutenir certaines initiatives. Il faut entendre les besoins exprimés de part et d'autre : les fournisseurs d'IA ont besoin de données de qualité ; les titulaires de droits veulent préserver leur modèle économique, une question existentielle à leurs yeux. Il faut faire en sorte que l'offre et la demande puissent se rencontrer et mettre en place des leviers pour cela.
Un premier levier a d'ailleurs été actionné, puisque la ministre de la culture et la ministre déléguée chargée de l'intelligence artificielle et du numérique organisent une concertation qui s'ouvrira dans les prochains jours. Celle-ci est placée sous la responsabilité de deux personnalités qualifiées, extérieures au CSPLA, spécialement nommées pour cette concertation, qui conduiront une sorte de round de discussions entre des fournisseurs d'IA et des titulaires de droits. Je crois beaucoup à cette initiative. Certes, tout ne sera pas réglé, mais certains problèmes peuvent facilement être résolus lorsqu'on commence à se parler. J'espère que cette initiative permettra d'aboutir, à tout le moins avec certains acteurs nationaux, à des solutions.
J'en viens à ma deuxième partie, à savoir la création de l'IA. Que fait-on du contenu sortant ou output ? Est-il protégé par le droit d'auteur ? Pour que ce soit le cas, il faut une création de formes originales. En droit français, l'originalité est l'empreinte de la personnalité de l'auteur. La preuve de l'originalité est un enjeu important ; c'est une question difficile en jurisprudence. Or, dans ce cas, il n'est pas certain que les contenus sortants soient originaux et portent l'empreinte de la personnalité d'un auteur. (Mme Bensamoun projette deux images.) L'image figurant en haut de l'écran a été générée par une intelligence artificielle, pour laquelle l'US Copyright Office a refusé l'accès à la protection du droit d'auteur. Une cour de district américaine a ensuite confirmé l'absence de protection par le droit d'auteur. En dessous, figure une autre image - je vous prie de m'excuser de l'avoir reproduite - générée à la manière du Studio Ghibli. OpenIA qui permettait de réaliser de telles images a dû restreindre cette possibilité face à la vague de requêtes des utilisateurs. Que s'est-il passé ?
Un acteur de l'intelligence artificielle a absorbé, sans autorisation ni rémunération, l'intégralité des contenus du studio Ghibli. À partir de là, des millions de contenus ont été générés à la manière de ce studio.
Ces images générées ne reproduisent pas directement des éléments protégés des oeuvres originales, mais le style, lui, est entièrement repris. Pour ce type d'images, il ne s'agit pas d'une contrefaçon au sens du droit d'auteur. Mais quel parasitisme ! En amont, il y a manifestement une contrefaçon : l'utilisation non autorisée de contenus protégés. En aval, on observe, a minima, la circulation de contenus parasitaires, voire de véritables contrefaçons.
Tout cela appelle une réflexion approfondie sur les contenus dits sortants. Faut-il les protéger ?
Aux États-Unis et en Chine, quelques décisions ont déjà été rendues. De notre côté, nous disposons de quelques pistes de réflexion. Il faut rappeler ici un principe fondamental du droit d'auteur : l'outil utilisé importe peu pour la qualification juridique. Il ne saurait être question de disqualifier les créateurs au seul motif qu'ils recourent à l'intelligence artificielle, surtout à une époque où l'on incite chacun à s'en saisir. Dès lors que la personnalité de l'auteur s'exprime dans la création, l'oeuvre peut être qualifiée juridiquement comme telle.
Mais lorsque cette qualification d'oeuvre n'est pas possible, que fait-on ? Quelle est alors la nature de ce contenu ? Comment le qualifier juridiquement ?
Un second grand principe du droit d'auteur doit également nous guider : l'indifférence du mérite. Le résultat d'une création ne saurait être jugé selon son succès ou sa qualité perçue.
Un autre critère, particulièrement important en France en raison de notre tradition personnaliste du droit d'auteur - un critère que l'Union européenne a reconnu -, est le suivant : la création protégée doit émaner d'une personne humaine.
Cela signifie qu'il faut désormais distinguer clairement les créations assistées par l'intelligence artificielle des productions générées exclusivement par celle-ci.
Dans le premier cas, il s'agira de qualifier juridiquement la création assistée par l'IA. Comment reconnaître son originalité ? Il faudra ici accompagner le juge par des réflexions doctrinales. Dans le second cas, celui des productions générées sans intervention humaine, c'est la question de leur protection qui se pose. Entre les deux, bien entendu, s'étendra une zone grise, une zone de qualification complexe, qui relèvera du juge. C'est à lui qu'il appartient de trancher. Il conviendra donc de l'accompagner, notamment par des réflexions doctrinales susceptibles de s'inscrire dans les travaux du CSPLA, à la lumière du droit de l'Union européenne.
Vous le savez, la notion d'oeuvre constitue désormais une notion autonome du droit de l'UE. Nous devons donc suivre la jurisprudence de la Cour de justice de l'Union européenne.
J'ajouterai enfin quelques mots sur un point tout aussi fondamental : la transparence. Concernant les contenus générés, le règlement européen impose aux fournisseurs et aux développeurs une obligation de transparence. Cela signifie que les contenus générés doivent être signalés comme tels, et que le public doit être informé par une mention explicite.
Mme Laure Darcos, rapporteure de la mission de contrôle sur l'intelligence artificielle et la création. - Mes chers collègues, l'objectif de cette intervention pédagogique était que nous puissions disposer d'un socle commun de compréhension sur un sujet particulièrement complexe.
Merci encore, monsieur le président, de nous avoir permis de mener cette mission. Certes, celle-ci aurait pu être réalisée l'année dernière ou même l'année précédente, mais nous sommes aujourd'hui au coeur du réacteur, avec le RIA en ligne de mire. Et ce rapport, mes chers collègues, il faudra le transformer en texte législatif. Je le dis très franchement : je ne crois pas aux avancées qui viendraient de Bruxelles pour la défense des ayants droit. Il faudra donc reprendre, sur ce sujet, une forme de souveraineté nationale.
La France, historiquement, a toujours été la locomotive dans la défense de l'exception culturelle. Dans les mois et années qui viennent, notre pays devra jouer un rôle central.
Par ailleurs, les ministres de la culture européens se réuniront mardi 13 mai en conseil et il faut que, dès mardi, l'alerte soit donnée sur la situation actuelle. Les ayants droit sont sur le point de quitter la table des négociations, faute d'avoir obtenu une proposition acceptable.
Depuis le début de nos auditions, il ressort que chaque secteur culturel formule sa propre proposition de rémunération. Certains plaident pour un recours direct aux organismes de gestion collective ; d'autres évoquent la copie privée, tandis que les éditeurs de l'écrit penchent plutôt pour des accords de gré à gré. Faut-il, selon vous, laisser cette liberté de contractualisation à chaque domaine, ou bien tenter d'aboutir à une modalité unique, afin d'obtenir une force de négociation plus grande dans le cadre d'un système d'opt-in ?
Vous n'avez pas évoqué l'un des premiers contentieux en cours, à savoir celui engagé par le Syndicat national de l'édition (SNE) contre Meta. Nous en sommes au tout début, et la procédure pourrait durer plusieurs années. Il s'agit d'une véritable atteinte, caractérisée, pour contrefaçon du droit d'auteur. Les éditeurs, auteurs et compositeurs du secteur de l'écrit, se réunissent autour de cette action. Elle porte sur l'intelligence artificielle Llama, laquelle s'appuie sur une base de données de près de 200 000 livres, dont des oeuvres françaises, utilisées sans autorisation.
Enfin, je ne peux pas conclure sans évoquer Amazon. Il faut tout de même savoir qu'Amazon permet chaque jour la mise en ligne, sur sa plateforme Kindle, de trois ouvrages entièrement écrits par l'intelligence artificielle. Ces ouvrages bénéficient, bien entendu, de notes et d'avis dithyrambiques. Nombre de nos concitoyens, peu sensibilisés à la littérature en général, lisent ainsi désormais des textes produits intégralement par une intelligence artificielle, accessibles directement via Amazon.
Mme Agnès Evren, rapporteure de la mission de contrôle sur l'intelligence artificielle et la création. - Madame la professeure, je vous remercie de cette présentation éclairante. Je ne peux que recommander la lecture des rapports que vous avez produits et qui ont nourri la réflexion de nos institutions, et aujourd'hui celle du législateur.
Je souhaiterais, pour ma part, vous interroger sur l'aval. À ce jour, aucun régime juridique clair ne s'applique aux oeuvres générées par l'intelligence artificielle. Or toutes les configurations existent : de la simple assistance, par exemple pour les effets spéciaux, jusqu'à la substitution quasi totale des humains. Cela se constate déjà dans le domaine de l'édition ou des arts graphiques. Faut-il, selon vous, élaborer un cadre juridique unifié ou convient-il de laisser à la jurisprudence, essentiellement américaine à ce jour, la charge de définir le statut de ces oeuvres ?
M. Pierre Ouzoulias, rapporteur de la mission de contrôle sur l'intelligence artificielle et la création. - Madame la professeure, je tiens à vous remercier très sincèrement. Vous nous avez dit, en arrivant ici, que vous ne représentiez aucun intérêt. Si ! Vous représentez l'intérêt de la France et l'exception culturelle. Je le dis avec solennité, ce qui se joue aujourd'hui n'a rien de technique : c'est quelque chose de bien plus profond, qui touche à ce que nous sommes, à notre civilisation. Le droit d'auteur s'inscrit dans une continuité qui prolonge celle de la démocratie. À vous entendre, on comprend que ce qui est en train de se produire, c'est le remplacement des lois que nous votons ici par des règles imposées par les Gafam.
Ce combat est donc décisif, même s'il est dissimulé sous des problématiques techniques complexes, et vous l'avez parfaitement illustré. Derrière les images de Donald Trump représenté en pape, ce sont aussi des oeuvres d'art qui ont été pillées.
Les Gafam, dans le domaine de l'intelligence artificielle, commettent aujourd'hui ce que le droit qualifie de recel ; ils vendent des éléments volés, à une échelle que nous peinons à concevoir. Plusieurs acteurs de l'intelligence artificielle que nous avons auditionnés l'ont affirmé sans complexe : le droit d'auteur n'a plus de valeur. Ils sont eux-mêmes incapables d'identifier, dans leurs produits, ce qui revient à tel ou tel auteur. Comme vous l'avez souligné, une véritable fragmentation est à l'oeuvre. Voilà où nous en sommes, la perte totale du droit d'auteur.
Je me permets aussi de saluer votre présence régulière ici, au Sénat. Je le dis à l'intention de mes collègues, la participation du monde académique à nos travaux, par l'apport de compétences d'une grande qualité, constitue une richesse exceptionnelle, que l'on ne valorise pas suffisamment.
Lors de vos auditions, vous avez évoqué un mécanisme fondé sur le renversement de la charge de la preuve : il reviendrait aux Gafam de démontrer qu'ils n'ont pas utilisé, pour leurs productions fondées sur l'intelligence artificielle générative, des oeuvres protégées par le droit d'auteur. Ce système, parfaitement fondé en droit français, me paraît tout à fait pertinent. La France doit, dans ce domaine, montrer l'exemple, comme elle l'a fait pour les droits voisins. Comment imposer ce renversement en droit français ?
Mme Alexandra Bensamoun. - Effectivement, il est question ici de ce que l'on appelle l'exception culturelle, et, vous l'avez constaté, Madame la ministre de la culture est très investie sur le sujet de l'intelligence artificielle et du droit d'auteur. J'espère qu'elle pourra faire valoir une position française forte, le 13 mai à Bruxelles. Par ailleurs, le ministre de la culture espagnol a adressé voilà quelques jours une lettre officielle à plusieurs commissaires européens pour dénoncer l'insuffisante protection de la culture dans le code of practice. Une prise de conscience culturelle semble s'amorcer.
J'ai été interrogée sur la rémunération. Dans notre tradition juridique, il n'existe actuellement aucune raison de déroger à ce principe fondateur du droit français qu'est la liberté contractuelle. Le droit de propriété intellectuelle constitue un monopole d'exploitation. Il se traduit par des droits exclusifs. Toute atteinte à ce droit doit reposer sur une justification solide. Or, pour l'instant, aucune défaillance du marché, ou market failure, n'est objectivement constatée. Pour autant, la gestion individuelle peut tout à fait s'articuler avec une gestion collective volontaire, comme ce sera le cas dans de nombreux secteurs. Certains, toutefois, ne sont pas organisés collectivement. Il n'y a donc aucune légitimité à les priver de leur capacité à négocier directement leurs contrats.
Les titulaires de droits ont toute latitude pour déléguer cette compétence à leurs organismes de gestion collective. En France, ces derniers sont bien structurés, efficaces et souvent cités en exemple à l'étranger. Ces organismes sont en mesure de contracter au nom de leurs membres sur mandat. Ce modèle contractuel me paraît aujourd'hui satisfaisant.
Il faut cependant rester attentif, car nous ne raisonnons pas ici dans un cadre strictement national. Ces exploitations sont, par nature, transnationales. Il ne s'agit pas de bricoler une petite solution française. D'ailleurs, les principaux acteurs ne sont pas français. Nous n'avons pas les moyens juridiques d'imposer une solution nationale. Il faut donc privilégier la liberté contractuelle, dans une logique d'harmonisation européenne.
L'objectif est que cette liberté s'exerce dans de bonnes conditions : facilitation des autorisations, fluidité dans la fourniture des contenus. Une fois cet écosystème activé, on constatera peut-être que le système fonctionne. Si tel n'est pas le cas, alors il conviendra d'intervenir. Mais c'est bien l'échec du système qui doit justifier l'intervention, et non pas une anticipation. De toute façon, je le rappelle, nous n'avons pas la main sur ce sujet, car les décisions se prennent au niveau de l'Union.
Cependant, dès lors que le législateur intervient, il peut retirer aux titulaires de droits leur pouvoir d'autoriser ou d'interdire. Or c'est précisément cela, le coeur du droit de propriété intellectuelle.
Prenons l'exemple d'une licence légale. Celle-ci implique que l'ensemble des contenus soit accessible contre paiement, sans nécessité d'accord préalable. Le consentement est évacué. Est-ce bien cela que l'on souhaite ? J'en doute. Beaucoup de titulaires de droits, lorsqu'ils évoquent une exception compensée ou une licence légale, ne perçoivent pas toujours qu'à terme, leur consentement est confisqué.
Il faut laisser s'exprimer ce consentement. Il faut aussi, parfois, laisser du temps pour que la technique soit acceptée. Le cas du streaming en est un bon exemple. Au départ, personne n'en voulait. Aujourd'hui, tous le réclament.
Actuellement, certains titulaires de droits sont prêts à contracter avec les fournisseurs d'intelligence artificielle. Certains ont même déjà proposé des négociations, sans beaucoup de succès pour l'instant. Il faut encourager ces initiatives. D'autres, en revanche, refusent toute utilisation de leurs contenus. J'étais hier au conseil d'administration d'un organisme de gestion collective. Certains membres souhaitaient une licence légale. D'autres s'y opposaient fermement.
Voilà ce qu'est le droit de propriété : le droit d'autoriser ou d'interdire, d'inclure ou d'exclure. N'oublions pas que toutes nos propositions doivent respecter le droit de l'Union et les conventions internationales. Mais peut-être dirai-je le contraire dans quelques années... Il y a des contentieux en cours en France, en Allemagne, aux États-Unis. Nous nous nourrissons d'ailleurs des décisions rendues dans ce dernier pays. Chez nous, c'est l'exception de text and data mining qui est mise en avant, chez eux celle de fair use, ou usage loyal, qui couvre certains usages considérés comme acceptables.
Il y a eu récemment une décision intéressante dans une affaire Ross Intelligence, même si elle ne portait pas précisément sur l'IA. Le juge a estimé que l'opération en cause ne relevait pas du fair use. Cela signifie que le droit exclusif n'a pas été respecté. Or, aux États-Unis, les dommages-intérêts peuvent être punitifs. Ce n'est pas notre système. Nous avons, en principe, une réparation intégrale : rien que le préjudice, mais tout le préjudice. En propriété intellectuelle, ce principe a été légèrement infléchi, sous impulsion européenne, mais en cas de faute lucrative, notre modèle atteint ses limites. Aux États-Unis, les dommages-intérêts excèdent largement le préjudice subi et vont jusqu'au punitif. C'est pourquoi les contentieux peuvent avoir des conséquences considérables sur le marché. Aussi, il est probable que certaines procédures s'éteignent par transaction. C'est une culture que nous gagnerions à acquérir en France.
La jurisprudence évolue, aux États-Unis comme en Chine. Il manque un troisième law maker : l'Union européenne. J'espère que la France saura se montrer force de proposition, tant sur la question de l'opt-out que sur la manière dont on peut inspirer la jurisprudence, notamment sur la qualification de l'originalité lorsqu'un auteur utilise l'IA comme un outil. Il ne faudrait pas que cet usage disqualifie l'auteur. Je plaide en faveur de ceux qui s'emparent de l'outil tout en continuant à exprimer leur personnalité.
Cela me rappelle l'affaire Eva-Maria Painer, relative à Natascha Kampusch. Dans cette affaire, la Cour de justice de l'Union européenne a fourni un guide d'analyse de l'originalité pour les photographies, rappelant que l'appareil photo est un outil. L'originalité peut tenir à la mise en scène, à l'angle choisi, etc. Je me dis que nous aurions peut-être besoin, à notre tour, d'un tel guide pour les productions assistées par intelligence artificielle.
L'innovation ne nous demande pas de renoncer à nos droits. Mais comment les faire respecter ? Peut-être devons-nous réfléchir à des mécanismes de facilitation de la preuve. Certains titulaires de droits suggèrent une présomption d'utilisation, fondée sur un faisceau d'indices. Une présomption n'est pas une règle substantielle, mais une règle procédurale : elle déplace temporairement la charge de la preuve. Il faut identifier les indices déclencheurs de cette présomption. C'est difficile, mais nous y travaillons.
On peut s'interroger aussi sur nos mécanismes de recollement de la preuve, comme la saisie-contrefaçon.
À ce sujet, je vous rappelle que vous aurez bientôt à transposer la directive qui réforme le droit de la responsabilité du fait des produits défectueux : il faut savoir que cette réforme du code civil est rendue nécessaire par l'irruption de l'IA dans nos sociétés. La directive prévoit notamment des règles de facilitation de la preuve, ce qui montre que le législateur européen a conscience de ce problème.
Mme Sylvie Robert. - Vous avez beaucoup évoqué le code de bonnes pratiques ou code of practice. La Commission européenne pourrait-elle adopter un acte d'exécution précisant les modalités d'application du règlement relatif à l'intelligence artificielle en matière de droit d'auteur ? Un tel acte contraindrait, dans une certaine mesure, les acteurs de la tech à s'y conformer. Cette perspective vous semble-t-elle réaliste ? Quel niveau d'exigence pourrait être retenu ? Quelle est votre appréciation sur ce point ?
Par ailleurs, il me semble désormais indispensable d'approfondir la spécialisation des juridictions. En l'état, même les magistrats des juridictions spécialisées en propriété intellectuelle ne parlent pas le même langage que les artistes, au sens large. J'ai pu le constater avec la proposition de loi portant réforme de la preuve de l'originalité de l'oeuvre, que j'ai déposée voilà deux ans, soutenue par le ministère de la culture, mais qui s'est heurtée à une fin de non-recevoir de la chancellerie. Ce que je proposais n'allait pourtant pas jusqu'à renverser la charge de la preuve. Il s'agissait simplement d'en rééquilibrer le poids dans le cadre contentieux en précisant qu'il n'appartenait pas uniquement à l'auteur de prouver qu'il était l'auteur, mais qu'il revenait aussi au juge, en cas de doute, de demander des éléments complémentaires lorsqu'il estimait en avoir besoin. Aujourd'hui, cette perspective se heurte à une forte résistance de la chancellerie. Il faut aller plus loin. L'essor de l'intelligence artificielle impose désormais de réfléchir à une spécialisation accrue, non seulement des juridictions, mais aussi des magistrats et des avocats.
Tout le monde doit bien comprendre que l'intérêt est majeur pour notre pays.
Mme Laurence Garnier. - Je vous propose un cas pratique, madame la professeure. Vous vous souvenez sans doute du lien établi entre l'animateur Cyril Hanouna et une affiche antisémite datant de l'entre-deux-guerres. Je souhaite y revenir, car, lorsque la polémique a éclaté, certains responsables de la formation politique à l'initiative de cette affiche ont invoqué l'intelligence artificielle pour se justifier. Ma question, très concrète, porte sur la lecture que peut faire une spécialiste de l'intelligence artificielle d'un tel argument. Non pas, bien sûr, une lecture politique, mais une lecture technique de ce qui aurait pu se produire, en partant de l'hypothèse, que nul ici ne peut confirmer, selon laquelle cet argument serait exact.
Mme Monique de Marco. - Une nouvelle rémunération issue de l'utilisation de leurs oeuvres par l'intelligence artificielle permettrait-elle de financer les aides que les artistes-auteurs attendent ? Comment garantir que les droits d'auteur soient effectivement reversés aux artistes-auteurs eux-mêmes, et non à leurs diffuseurs ?
M. Bernard Fialaire. - Me voilà de nouveau complètement submergé, même après avoir eu le sentiment de sortir un peu la tête de l'eau lors de la rédaction de ma proposition de loi sur les fraudes en matière artistique.
Une question me préoccupe : comment distingue-t-on précisément la copie illégale, le plagiat et la simple source d'inspiration ? Chaque auteur, au fond, écrit avec des mots qu'il a déjà lus, des idées qui l'ont marqué, des oeuvres qui l'ont inspiré. Lorsque l'on se trouve face à une reproduction exacte et à la diffusion d'une oeuvre existante, la situation ne soulève aucune ambiguïté. En revanche, lorsqu'il ne s'agit que d'inspiration, la question devient délicate. Dans ce contexte, plus la rémunération au titre du droit d'auteur intervient en amont, au moment même de la production de l'oeuvre, plus elle apparaît comme une garantie solide, une protection indiscutable.
Avec la mondialisation, les oeuvres circulent, parfois aux confins du globe. Il devient difficile de surveiller ce qu'il advient d'une oeuvre aux antipodes, tant dans sa temporalité que dans sa géographie de diffusion. Comment faire ?
La rémunération des ayants droit, qui découle tout de même d'une forme d'héritage, varie-t-elle selon les législations nationales ?
Mme Karine Daniel. - La Commission européenne procrastine, mais la commission des affaires européennes du Sénat travaille sur le sujet et, sur l'initiative de Catherine Morin-Desailly, elle rendra un avis politique le 14 mai afin de contraindre la Commission européenne à répondre. Des auditions se tiennent en parallèle de la mission menée par notre commission.
M. Jean Hingray. - Vous avez évoqué tout à l'heure le Bureau européen de l'intelligence artificielle. Les moyens qui lui seraient attribués demeurent flous et peu déterminés. Disposez-vous de précisions à ce sujet ? Quels moyens, selon vous, conviendrait-il de lui affecter, notamment pour faire face aux enjeux relatifs aux droits d'auteur, à la propriété intellectuelle et aux biens culturels ?
Mme Alexandra Bensamoun. - En ce qui concerne l'articulation entre le code of practice et l'acte d'exécution que pourrait prendre la Commission européenne, l'article 56 du règlement sur l'intelligence artificielle prévoit la possibilité d'élaborer des codes de bonnes pratiques en matière d'intelligence artificielle. Comme je l'indiquais, ces codes ne constituent pas des instruments contraignants : leur existence suppose l'adhésion volontaire des acteurs de la tech. Toutefois, la Commission européenne dispose de la faculté, si ces acteurs refusaient d'y souscrire, de rendre le code exécutoire, c'est-à-dire de le rendre obligatoire. Il s'agit donc d'une possibilité ouverte.
Quant à ce qui se prépare actuellement au sein de la Commission, je ne suis pas en mesure de vous en dire plus. Il me semble néanmoins que celle-ci se trouve aujourd'hui dans une situation délicate, marquée par une certaine fébrilité face à la recomposition géopolitique en cours. Ce climat laisse tout le monde quelque peu désorienté.
Concernant la nécessité de rallier la chancellerie à cette cause, je vous rejoins pleinement. Je regrette que la proposition que vous évoquez n'ait pas connu de suite, car, une fois encore, nous faisons face à un véritable problème : lorsqu'il faut apporter la preuve de l'originalité de milliers d'oeuvres, la démarche devient tout simplement dissuasive. Dès lors, il devient impossible de saisir la justice et d'exercer ses droits. J'en reviens donc à la question du droit au recours, un droit fondamental qui prime sur tous les autres.
Madame la sénatrice Garnier, concernant le cas pratique que vous avez soulevé, à propos de l'affiche représentant le visage de Cyril Hanouna détourné selon les codes graphiques d'affiches antisémites, je ne me prononcerai pas sur le fond. L'intelligence artificielle constitue un outil ; c'est d'ailleurs la raison pour laquelle le règlement européen emploie désormais la notion de « système d'intelligence artificielle ». Il fut un temps où la question de reconnaître une personnalité juridique à l'intelligence artificielle s'est posée - on parlait même de la personnalité juridique des robots -, mais cette hypothèse a été écartée par l'ensemble des autorités intergouvernementales. Le règlement européen parle bien d'un système, et un système ne saurait être sujet de droit. Il s'agit d'un objet de droit, dépourvu de personnalité juridique.
Le Conseil de l'Europe a suivi la même orientation, avec l'adoption d'une convention-cadre sur les droits fondamentaux et l'intelligence artificielle. L'ensemble des acteurs ont désormais en tête que l'intelligence artificielle demeure un outil. Or, un outil ne peut, par définition, porter de responsabilité.
Dès lors, se défausser en disant « ce n'est pas moi, c'est l'outil » n'a aucun sens d'un point de vue juridique. La responsabilité reste pleine et entière, car un outil ne saurait être tenu pour responsable. Il y a toujours, derrière l'outil, des personnes identifiables. La règle est claire : qu'il s'agisse d'une responsabilité personnelle, relevant de la responsabilité civile extracontractuelle fondée sur la faute, ou d'une responsabilité du fait des choses placées sous sa garde, une personne dotée de la personnalité juridique devra répondre des actes. Le même débat a cours autour des voitures autonomes.
J'en viens à la question de la rémunération. Comment garantir qu'elle bénéficie effectivement aux auteurs, et non exclusivement aux diffuseurs ? Cette interrogation sur la chaîne de valeur dans le secteur culturel se pose en permanence, indépendamment de l'intelligence artificielle. Les auteurs et créateurs y voient régulièrement un déséquilibre dans la répartition de la valeur.
L'enjeu, ici, consiste d'abord à obtenir déjà quelque chose. À ce jour, rien n'est acquis. Il faut commencer par obtenir un cadre, une reconnaissance, puis s'assurer, dans un second temps, que le partage de la valeur s'effectue de manière équitable. Vous avez parlé des diffuseurs, mais il faut aussi mentionner tous les acteurs économiques de la culture - éditeurs, producteurs, etc. Tous ceux qui investissent dans la culture doivent pouvoir bénéficier d'une juste part. Ce partage doit s'opérer au sein même de la chaîne culturelle.
Ce n'est pas parce que la redistribution est compliquée qu'il ne faudrait pas rémunérer. Il est parfois utile de s'inspirer du fonctionnement des organismes de gestion collective : certes, ce n'est pas toujours simple, et c'est d'ailleurs pour cette raison qu'une part des sommes collectées est allouée à l'action culturelle humaine. Peut-être faudra-t-il s'inspirer de ce modèle.
Sur la différence entre plagiat et simple inspiration, la frontière est ténue. En droit d'auteur, la simple reprise d'un style ne suffit pas à caractériser une contrefaçon. Je vous renvoie à l'affaire studio Ghibli, que j'ai évoquée tout à l'heure. Cela étant, en amont, il existe bien une contrefaçon, à savoir l'utilisation de contenus protégés sans autorisation ni rémunération. Mais, en aval, le contenu généré ne constitue pas nécessairement une contrefaçon. Si seul le style est reproduit, sans reprise des éléments protégés, il ne saurait y avoir de violation du droit d'auteur. Ce qui ne veut pas dire que c'est moins grave.
Vous m'interrogiez également sur la temporalité et la géographie de l'application des règles. En effet, les systèmes de rémunération varient d'un pays à l'autre. Au niveau européen, nous sommes très attachés au principe de rémunération proportionnelle, avec comme exception possible la rémunération forfaitaire. Ce principe s'applique notamment dans les relations avec les premiers titulaires de droits, à savoir les auteurs et les artistes-interprètes. Il ne peut y être dérogé que dans les cas expressément prévus par la loi.
Sur les ayants droit et l'héritage, la situation est très disparate. En droit français, tous les droits ne se transmettent pas de la même manière. Il existe un éclatement des règles successorales en matière de droit d'auteur, sans harmonisation au niveau européen, et encore moins au niveau international. En la matière, les successions relèvent encore de la compétence exclusive des États.
J'ai connaissance de l'avis politique que doit rendre la commission des affaires européennes. Plus les initiatives se multiplient, mieux la culture sera défendue. Ces démarches sont complémentaires. Je salue la mobilisation du Sénat, qui me réjouit.
Enfin, s'agissant du Bureau européen de l'intelligence artificielle, dispose-t-il des moyens nécessaires pour couvrir les 27 États membres ? C'est précisément la question que je me suis posée en rédigeant mon rapport pour la ministre. Je me demande s'il ne serait pas souhaitable de prévoir une forme de délégation au niveau national, avec des tiers de confiance désignés dans les États membres de l'Union européenne.
M. Laurent Lafon, président. - Madame la professeure, nous vous remercions pour cette audition riche et passionnante, et nous attendons avec impatience la remise de votre rapport la semaine prochaine. Une question essentielle demeure, que je me contente pour l'heure de formuler : existe-t-il des interstices dans lesquels le droit national doit s'insérer, notamment pour renforcer la protection ou accélérer la reconnaissance du droit d'auteur et des droits voisins ?
Ce point de l'ordre du jour a fait l'objet d'une captation vidéo, disponible en ligne sur le site internet du Sénat.
Bilan annuel d'application des lois - Communication
M. Laurent Lafon, président. - Il m'appartient pour conclure cette réunion de vous présenter le bilan annuel de l'application des lois relevant de notre commission. Au cours de la dernière session, à savoir la session 2023-2024, six lois relevant de la compétence de notre commission ont été promulguées. Trois d'entre elles ne prévoyaient aucune mesure réglementaire et s'avéraient donc d'application directe. Il s'agit de :
- la loi visant à assurer la pérennité des établissements de spectacles cinématographiques et l'accès au cinéma dans les outre-mer, rapportée en juin 2023 par Sylvie Robert ;
- la loi visant à pérenniser les jardins d'enfants gérés par une collectivité publique ou bénéficiant de financements publics, rapportée en mars 2024 par Agnès Evren ;
- la loi visant la prise en charge par l'État de l'accompagnement humain des élèves en situation de handicap durant le temps de pause méridienne, rapportée en avril 2024 par Anne Ventalon.
En revanche, trois lois promulguées nécessitaient la publication de mesures réglementaires pour être pleinement applicables. Il s'agit en premier lieu de la loi relative à la restitution de restes humains appartenant aux collections publiques, rapportée par Catherine Morin-Desailly en juin 2023, désormais applicable à 100 %. Le seul décret prévu par ce texte a été publié le 28 juin dernier afin de préciser les modalités d'application de ces dispositions, notamment les conditions dans lesquelles l'identification des restes en cause est effectuée, et les modalité et délais de leur restitution à l'État demandeur après leur sortie du domaine public. Une première application de cette loi a ainsi été rendue possible : la restitution par transfert de propriété de trois crânes d'individus sakalava à la République de Madagascar a été autorisée par un décret du 2 avril 2025, ce dont nous ne pouvons que nous réjouir. Les deux autres lois adoptées au cours de la session 2023-2024 se caractérisent en revanche par des taux d'application moins satisfaisants.
Il en va ainsi de la loi visant à soutenir l'engagement bénévole et à simplifier la vie associative, rapportée par Yan Chantrel en mars 2024. Deux des quatre mesures attendues ont été prises au 31 mars, permettant d'une part de préciser les modalités de structuration par l'État de l'appui à la vie associative locale via le réseau « guid'asso », et d'autre part d'encadrer la mise en oeuvre du don de jours de repos aux associations. En revanche, les décrets d'application de l'article 8 relatif aux prêts entre associations et de l'article 9 visant à sécuriser les opérations de flux de trésorerie entre associations membres d'un groupement prévu par la loi ou entretenant des relations croisées, fréquentes et régulières sur le plan financier ou économique n'ont pas été pris. Interrogés par le rapporteur à l'automne 2024, à l'occasion de l'examen du budget 2025, les services de la direction de la jeunesse de l'éducation populaire et de la vie associative (DJEPVA) avaient indiqué une échéance prévisionnelle à l'automne 2025. Nous y serons très attentifs.
Il en va également ainsi de la loi visant à renforcer la protection des mineurs et l'honorabilité dans le sport, rapportée en juin 2023 par Jean-Jacques Lozach. L'unique décret attendu à l'article 2, relatif à l'interdiction d'exercice pour les dirigeants de club présentant un danger pour la santé des pratiquants, employant une personne frappée d'une interdiction d'exercer ou refusant d'informer le préfet du comportement à risques d'un encadrant n'a à ce jour toujours pas été pris.
J'en viens à présent aux lois examinées par notre commission et promulguées avant le 1er octobre 2023. Depuis l'an dernier, une seule d'entre elles est devenue totalement applicable. Il s'agit de la loi visant à favoriser l'accès de tous les étudiants à une offre de restauration à tarif modéré, rapportée par Jean Hingray en juin 2021. Le volet « conventionnement » de ce dispositif, applicable sans mesure réglementaire, est déjà mis en oeuvre depuis plus d'un an de manière très satisfaisante. Ce premier bilan très positif avait d'ailleurs été salué par la commission à l'occasion de l'examen des crédits budgétaires de l'enseignement supérieur. Un décret publié le 6 juillet 2024 a précisé le régime de l'aide financière accordée aux étudiants n'ayant pas accès à une offre de restauration collective à tarif modéré, permettant ainsi de rendre cette loi d'initiative sénatoriale pleinement applicable. Ce décret a par ailleurs été complété par deux arrêtés ministériels en date du 21 novembre 2024, fixant le montant de cette aide et les modalités opérationnelles de son versement. La liste des zones blanches dans lesquelles s'appliquent cette aide, identifiées par les recteurs de région académique, a en outre été publiée sur le site Internet du ministère de l'enseignement supérieur et de la recherche.
S'agissant des cinq autres lois relevant de notre commission et promulguées avant le 1er octobre 2023, aucune d'entre elles n'a vu son taux d'application progresser du fait de l'adoption d'une nouvelle mesure d'application. Il s'agit tout d'abord de la loi du 30 décembre 2021 visant à conforter l'économie du livre et à renforcer l'équité et la confiance entre ses acteurs, déposée par Laure Darcos. Le décret prévu à l'article 5 sur les modalités d'application du dépôt légal des contenus numériques est encore en cours de préparation, ce qui est regrettable. Nous comptons bien entendu sur l'auteure du texte pour suivre la publication de cette dernière mesure qui rendrait le texte complétement applicable. Tel est également le cas de la loi visant à encadrer l'exploitation commerciale de l'image d'enfants de moins de seize ans sur les plateformes en ligne. L'application de cette loi doit en effet faire l'objet d'une mesure réglementaire qui n'a toujours pas été prise. Il s'agit du décret en Conseil d'État prévu à l'article 3, qui fixe le seuil de durée cumulée ou de nombre des contenus au-dessus duquel la diffusion de l'image d'un enfant de moins de seize ans sur un service de plateforme de partage de vidéos, lorsque l'enfant en est le sujet principal, est soumise à une déclaration auprès de l'autorité compétente par ses représentants légaux. L'absence de publication de ce décret rend inopérant l'essentiel de la loi. Il en va de même pour la loi visant à instaurer une majorité numérique et à lutter contre la haine en ligne, rapportée par Alexandra Borchio Fontimp en mai 2023, puisqu'à ce jour, le seul décret prévu par cette loi continue de faire l'objet de difficultés à la fois techniques et juridiques et prive ainsi en grande partie le texte de sa substance.
Enfin, l'applicabilité de la loi de programmation de la recherche pour les années 2021 à 2030 et portant diverses dispositions relatives à la recherche et à l'enseignement supérieur, rapportée par Laure Darcos, demeure fixée à 95 %. Nous ne pouvons que regretter, cette année encore, l'absence de publication des deux dernières mesures relatives à l'application spécifique des chaires de professeur junior aux personnels enseignants et hospitaliers et à la diversification du recrutement des étudiants par les établissements d'enseignement supérieur.
Il nous faudra à nouveau interroger la ministre de l'Éducation nationale sur le sort réservé à ces mesures dont la publication est désormais attendue depuis près de six ans.
Voilà, mes chers collègues, les informations que je souhaitais vous communiquer concernant l'application des lois pour la période considérée.
La réunion est close à 11 h 35.