Jeudi 9 avril 2026
La réunion est ouverte à 8 h 35.
Audition de M. Pierre Cassou-Noguès, professeur de philosophie à l'Université Paris 8 et écrivain, Mme Catherine Dufour, écrivaine, et M. Yannick Rumpala, maître de conférences en science politique à l'Université Côte d'Azur, sur « Autorité et vérité, fiction et prospective »
Mme Christine Lavarde, présidente. - Nous poursuivons nos travaux sur la question des valeurs à l'horizon 2050 et, plus précisément, sur le rapport à l'autorité et à la vérité, en choisissant l'angle particulier de la science-fiction. Cette approche n'est pas nouvelle pour la délégation, puisque nous avions déjà eu l'occasion d'en discuter, notamment à propos de l'intelligence artificielle et des collectivités locales, et de recevoir Mme Catherine Dufour. Nous ne nous interdisons pas, dans nos rapports, des incursions vers des scénarios fictifs, car c'est aussi cela, la prospective.
Ce matin, nous avons la chance de profiter de l'expérience de trois écrivains.
Monsieur Pierre Cassou-Noguès, vous êtes professeur de philosophie à l'Université Paris 8, responsable de l'axe de recherche « Fiction et rationalité : technique, écologie, politique ». Vous avez écrit de très nombreux ouvrages comme Technofictions en 2019, La Bienveillance des machines en 2022, et Les Images pyromanes - Théorie-fiction des IA génératives, co-écrit avec Gwenola Wagon et publié l'année dernière.
Madame Catherine Dufour, vous êtes ingénieure en informatique, écrivaine, chroniqueuse et enseignante. Vous avez publié de nombreux essais et ouvrages, comme Les Champs de la Lune en 2024, et vous avez cofondé un collectif d'auteurs de science-fiction dénommé Zanzibar.
Enfin, Monsieur Yannick Rumpala, vous êtes maître de conférences en sciences politiques à l'Université Côte d'Azur et directeur de l'équipe de recherche sur les mutations de l'Europe et de ses sociétés. Vous avez publié en 2018 Hors des décombres du monde : écologie, science-fiction et éthique du futur et, en 2021, Cyberpunk's not dead, laboratoire d'un futur entre techno-capitalisme et post-capitalisme.
Les sujets évoqués dans vos ouvrages nous intéressent à de nombreux titres. Nos questions sont nombreuses. Nous aimerions savoir si la science-fiction peut constituer un laboratoire d'expérimentation du futur, quel a été l'impact des ouvrages de science-fiction sur les entrepreneurs de la Silicon Valley, et si les figures de l'autorité risquent de devenir autoritaristes ou si elles se heurteront à la résistance des citoyens. La vérité deviendra-t-elle une valeur dépassée qui laissera la place aux mensonges permanents, aux discours alternatifs, voire au monde virtuel ? Je vous propose un échange en deux temps. D'abord, chacun de vous trois tiendra un propos introductif. Je suggère que M. Rumpala commence en présentant les apports des grands livres de science-fiction et la manière dont, notamment, Blade Runner de Philip K. Dick et Neuromancien de William Gibson traitent de l'évolution possible des notions d'autorité et de vérité. Ensuite, M. Cassou-Noguès présentera en quoi la science-fiction constitue, à ses yeux, une méthode pour l'exploration du possible et de ses limites, en se fondant sur des exemples tirés de ses propres travaux. Enfin, Mme Dufour nous fera part de ses réflexions sur l'évolution des notions d'autorité et de vérité en se fondant sur ses ouvrages. Dans un second temps, les membres de la délégation auront un échange avec vous, chacun avec les perspectives des travaux qu'il mène. Sont présents deux rapporteurs qui travaillent sur les thèmes de l'évolution des liens sociaux et des valeurs sociales à l'horizon 2050. Monsieur Rumpala, je vous cède la parole.
M. Yannick Rumpala, maître de conférences en science politique à l'Université Côte d'Azur. - Je présenterai quelques aspects conceptuels et théoriques pour expliquer en quoi les sciences sociales, et notamment la science politique, peuvent s'intéresser aux imaginaires fictionnels.
J'ai travaillé sur la science-fiction du point de vue de la théorie politique, en la considérant comme un mode de représentation, une manière de nous présenter des choses sur le monde.
Je l'ai aussi conceptualisée comme un mode de problématisation : elle nous permet de sortir des évidences, de dénaturaliser, de faire percevoir des enjeux collectifs et les conséquences de nos choix de trajectoire.
Enfin, la science-fiction est un mode d'exploration, avec sa dimension de laboratoire et d'expérimentation. C'est le fameux « et si... », ressort fictionnel classique qui interroge sur ce qui se passerait si nous poursuivions certaines tentatives. Si certains choix étaient faits, quel type de société ou de monde futur ces trajectoires et ces décisions entraîneraient-elles ?
La tentation est souvent de se rabattre sur un imaginaire peut-être daté, notamment celui que l'on a véhiculé pendant des décennies : celui de 1984, de Fahrenheit 451, des dystopies qui ont marqué la deuxième partie du XXe siècle. Cet imaginaire a eu son intérêt ; il permet de pointer un certain nombre de dérives ou d'évolutions potentiellement problématiques. Orwell a été majeur dans la présentation de concepts importants comme la novlangue.
Toutefois, cet imaginaire peut nous faire perdre de vue des tendances plus récentes qui mériteraient d'être signalées. C'est là que d'autres types de science-fiction peuvent être intéressants et nous montrer des aspects moins évidents. Je pense notamment à un auteur majeur, Philip K. Dick, dont l'oeuvre Blade Runner a été citée. Pour ceux qui connaissent son oeuvre, nous avons presque l'impression de vivre dans son monde.
Je mentionne quelques oeuvres importantes de cet auteur : La Vérité avant-dernière raconte l'histoire d'une guerre nucléaire où une société, mise sous terre, doit construire des robots pour maintenir le conflit en surface. Des messages lui sont diffusés, indiquant que la guerre continue et que sa vocation est de produire indéfiniment des robots. Cela dure jusqu'à ce qu'un individu remonte et s'aperçoive que la paix est revenue et que des élites profitent de cette terre dégagée pour vivre dans des conditions plutôt confortables.
On retrouve des schémas similaires dans Mensonges et Cie ou dans Simulacres. Dans ce dernier roman, Dick pousse sa paranoïa très loin, puisque la présidente est une actrice payée pour son rôle, et le président est un robot. Je ne dévoile pas tout, mais ce que l'on croit être la rébellion n'est pas tout à fait la rébellion ; je laisse aux lecteurs le soin de découvrir ce très gros roman.
Pour faire le lien avec le cyberpunk, qui a été mon champ de travail, il y a beaucoup d'inspiration et de fulgurances dans ce genre. Schématiquement, le terme « cyber » indique que la haute technologie caractérise ce monde, tandis que le terme « punk » souligne le côté low-life, la déréliction sociale et le chaos culturel.
De nombreux récits cyberpunk présentent des fulgurances qui entrent en résonance avec notre monde actuel. Je vous montre la couverture d'un roman de Pat Cadigan, l'une des rares femmes de ce courant, qui anticipait un univers médiatique fait d'un flux infini de vidéos. La question que ce roman pose en filigrane est la suivante : quel est notre rapport au monde quand il est médié par ce flux ? D'autant que, dans le roman, une nouvelle technologie permet de connecter directement le cerveau à ces outils de production vidéo, ce qui change complètement le rapport au monde et le perturbe extrêmement.
Pour faire le lien avec les questions d'autorité, deux tropes ou types d'angoisse sont très présents en science-fiction, et ce, depuis ses origines. Le premier est l'exacerbation des tendances autoritaires, la crainte de régimes qui se développeraient très vite. L'autre grande peur est la dissolution de l'autorité ou son remplacement par de nouvelles formes de domination et de pouvoir. La première tendance est celle des classiques que j'ai mentionnés, avec des formes de contrôle de la vérité présentes chez Bradbury et Orwell. C'est également toute une série de régimes autoritaires comme dans le classique de Margaret Atwood, La Servante écarlate, qui décrit une forme de retour théocratique. On voit ces dérives autoritaires sous des formes esthétisées. On peut trouver le parallèle avec le régime nazi des années 1930. Star Wars peut être lu non seulement comme une aventure épique, mais aussi comme une parabole et un récit politique, avec le remplacement de la République par l'Empire.
Autre exemple de ces craintes, avec une oeuvre également classique, le fameux roman de Robert Heinlein, Étoiles, garde-à-vous !, qui témoigne d'une brutalisation et d'une transformation profonde du monde et illustre la combinaison entre autoritarisme et militarisme. On ne peut s'empêcher de faire le lien entre ce livre et l'actualité.
Le film Starship Troopers, tiré de ce livre, accentue encore le côté propagandiste, avec l'invitation à tuer le maximum de « bugs » - des insectes dans le roman et dans le film -, la logique étant poussée à son paroxysme. La répression, ou du moins ses dérives, est aussi fortement mise en scène dans la science-fiction. Je vous montre une photo emblématique tirée du film Children of Men, issu d'un roman de P.D. James. Nous sommes dans une Grande-Bretagne du futur où la violence répressive a été, là aussi, poussée à son maximum. La lutte contre l'immigration est également menée très loin, d'où la répression policière mise en oeuvre pour tenter d'inverser les tendances décrites.
Dans le cyberpunk, les craintes autoritaires sont très présentes, mais sous d'autres formes. La série de bandes dessinées, Transmetropolitan, du fameux auteur-scénariste Warren Ellis, décrit un futur cyberpunk avec des technologies très avancées. Il met en scène des crimes qui sont les nôtres, des manipulations politiques et médicales, de la corruption politique et médiatique. La série décrit notamment l'affrontement entre deux archétypes de figures politiques : d'un côté « The Smiler », le démagogue, et de l'autre « The Beast ». Ce personnage présente des traits mêlant brutalité, cynisme et démagogie, et représente une sorte de mélange de Richard Nixon et Donald Trump.
Pour revenir au cyberpunk, l'impression que j'ai eue en travaillant sur le sujet est celle d'un imaginaire qui a presque débordé de la fiction, avec une exacerbation des tendances de l'époque où il est apparu, les années 1980, période caractérisée par la promotion du néolibéralisme, l'exacerbation de la mondialisation et l'apparition des premiers ordinateurs individuels. Toute une série de tendances, de solutions et de cadres politiques et géopolitiques sont mises en oeuvre, avec un déplacement du pouvoir et des formes de domination. On observe des fulgurances dans la littérature cyberpunk, avec l'arrivée de l'intelligence artificielle, que décrit également Neuromancien, et la recombinaison des formes de pouvoir liées à ces nouvelles technologies et à des acteurs qui deviennent surpuissants.
Le cyberpunk avait anticipé trois formes de déplacement du pouvoir et de la domination.
La première, qui devient assez claire aujourd'hui, est l'ultra-domination de conglomérats transnationaux - les « mégacorps » dans la littérature cyberpunk, ou les « zaibatsu » chez William Gibson. Il s'agit d'un nouvel ordre économique où des firmes géantes remplacent les États-nations et exercent un pouvoir quasi souverain. On retrouve cette idée dans l'actualité avec le terme de « néo-féodalisme », où le profit prime sur un contrat social dissous et remplacé par une autre forme de brutalité.
Une autre tendance, décrite de manière presque presciente, est la sécession des élites, leur déconnexion et leur déterritorialisation. Ces élites profitent de leur fortune pour partir dans des villes privées ou des zones franches. L'idée est devenue prévalente chez des personnalités comme Peter Thiel, avec le projet de s'extraire de la fiscalité et des bases géographiques. Dans le cyberpunk, cela est poussé jusqu'à partir en orbite pour se dédouaner des contraintes terrestres, laissant les populations à leur précarité.
Enfin, la dérégulation signifie que la morale s'efface au profit d'une impunité quasi institutionnalisée. Le cyberpunk décrit très bien ce monde fait par et pour les puissants, où les mécanismes de régulation publique ont quasiment disparu, hormis quelques rémanences de police. La seule morale qui reste est le cynisme et la brutalité, dans une logique purement marchande. La population se débrouille dans une précarité maximale et se « cyborguise » pour tenter de résister. Une illustration classique, à la frontière du cyberpunk, est le film RoboCop, qui décrit un État où les autorités publiques se sont retirées et ont laissé le pouvoir aux méga-firmes, qui promeuvent les nouvelles technologies.
D'autres anticipations, éminemment intéressantes, portent sur les formes de gouvernement ou d'autorité. Nous parlerons sans doute d'intelligence artificielle et de ses conséquences sur les fonctionnements environnementaux. Deux polarités peuvent exister dans la littérature. La première est celle de l'intelligence artificielle dans une logique presque autoritaire, de régulation poussée très loin. Dans Carnival, un roman d'Elizabeth Bear, les intelligences artificielles assument une fonction de régulation écologique en gérant l'ensemble des paramètres environnementaux, n'hésitant pas à éliminer une partie des populations terrestres si celle-ci est jugée excédentaire. C'est une version brutale. Il y a aussi une version plus utopique, celle d'Iain M. Banks, qui décrit un monde cogéré par les machines. Il s'agit d'une forme d'utopie hédoniste, où les contraintes matérielles et physiques ont été dépassées et où les intelligences artificielles assument un rôle de gestion en arrière-plan. Ce cas est intéressant, car il montre des ambiguïtés : on sent bien que les intelligences artificielles ont leur propre agenda et que si la collectivité vit dans des conditions heureuses, c'est grâce à un certain nombre de concessions aux puissances machiniques.
L'autorité n'est pas forcément exprimée sous l'angle de la dérive dans la science-fiction ; on trouve aussi d'autres formes d'expérimentation. Deux exemples d'autorités que l'on peut appeler « partagées » peuvent être mentionnés. Le premier est celui des Dépossédés, le beau et classique roman d'Ursula Le Guin, qui décrit un monde composé de deux planètes aux schémas très opposés : l'une ultracapitaliste, l'autre, une ancienne lune minière où les conditions de rareté obligent à une gestion très collective, avec une forme de gouvernement partagé. Ursula Le Guin, fille d'anthropologue, y dessine de manière très anthropologique un rapport différent à la propriété et à la collectivité. Je mentionne également un roman de Kim Stanley Robinson, grande figure américaine de la science-fiction. Elle y décrit une Californie du futur qui aurait retrouvé un rapport collectif aux « communs » et qui aurait changé les modalités et le fonctionnement du gouvernement. Les entreprises se sont vues limitées dans leur taille, des contraintes ont été posées pour les acteurs du monde économique et les formes des « communs », de la vie partagée, ont pu être restaurées.
En conclusion, l'un des intérêts de la science-fiction est de nous offrir une sorte de laboratoire où nous pouvons tester des hypothèses. Il n'y a pas de risque : on peut expérimenter toute la gamme des régimes possibles et en tirer des formes de réflexion, d'apprentissage.
La science-fiction produit ce que j'appelle une forme d'« éthique des conséquences ». Elle nous offre des expériences de pensée pour anticiper les dystopies et nous montrer ce que signifie vivre, survivre, résister, repenser notre monde dans des sociétés qui auraient fortement évolué dans des directions plus ou moins réjouissantes.
M. Pierre Cassou-Noguès, professeur de philosophie à l'Université Paris 8 et écrivain. - Je suis professeur à l'Université Paris 8 et membre de l'Institut universitaire de France. J'ai utilisé la fiction comme une méthode d'investigation philosophique, une exploration des possibles. Je voudrais ici dégager des éléments pour un scénario possible à partir de mes travaux, notamment La bienveillance des machines et Les images pyromanes.
Je distinguerai trois éléments pour ce scénario. Le premier est une contrainte : la crise environnementale. J'y inclus les événements climatiques, les menaces sanitaires comme les virus ou la pollution, et les phénomènes sociaux qui y sont liés. La crise environnementale constitue un réel que l'on ne peut pas entièrement nier. On peut voir dans une pandémie un complot plutôt qu'un virus, ou dans un incendie l'effet d'une mauvaise gestion plutôt que la conséquence du réchauffement climatique. On peut craindre la délinquance plus que la montée des océans, mais au moment où la tempête passe par-dessus la digue, où la fumée remplit le ciel, où un voisin âgé est infecté et meurt, on ne peut nier que quelque chose se passe.
Je distingue donc la « réalité », construction fluctuante que l'on ne partage pas forcément avec son voisin, et le « réel », qui, ponctuellement, ne s'évite pas. Il y a un réel de la crise environnementale qui peut se voir dans une multitude de réalités.
Le deuxième élément est la communication en réseau. Il faut distinguer la communication par pôle, où un ou quelques pôles diffusent pour une multitude de récepteurs - c'est le modèle de la télévision ou de Netflix -, et la communication en réseau, où chaque récepteur est également diffuseur, comme sur les réseaux sociaux de Meta. Cette distinction est ancienne, on la trouve déjà chez Gabriel Tarde ou Norbert Wiener. La première conséquence du développement des réseaux a été l'augmentation du temps que nous passons à communiquer, donc du temps d'écran. La deuxième conséquence, sur laquelle je vais insister, concerne le contenu même des messages.
Dans une communication en réseau, certains messages circulent beaucoup mieux que d'autres. Le meilleur exemple est le jeu du « téléphone arabe » (je n'ai pas d'autre nom pour désigner ce jeu) : certains messages réussissent à faire le tour du cercle d'enfants, tandis que d'autres se transforment et se perdent. Qu'est-ce qui fait qu'un message circule ? Si un instituteur au milieu du cercle dit quelque chose, il atteindra tous les enfants, mais ce même message se perdrait dans le bruit si chaque enfant devait le répéter à son voisin. Quel message circule alors dans une communication en réseau ? C'est la théorie des « mèmes », ou celle que Norbert Wiener développe avec l'idée du « cliché ». Les messages qui circulent bien, lorsqu'ils doivent être renvoyés par chacun des récepteurs-diffuseurs, sont des messages simples, qui peuvent avoir été déjà vus.
Une caractéristique facilite particulièrement la diffusion : la personnification. Il s'agit de messages qui ramènent une multitude de phénomènes humains, non humains, voire aléatoires, à une unique intention humaine. Ce mode, qui est paranoïaque, donne lieu au complotisme, mais est également susceptible de se développer en une pensée magique. La pensée magique associe des phénomènes naturels à une intention humaine, ou leur prête une pensée, une unité humaine. Pour se faire entendre, l'autorité peut elle-même être contrainte d'entrer dans une ambiguïté vis-à-vis de la pensée magique ou d'en utiliser les expressions. Le meilleur exemple est la formule « la guerre contre un ennemi invisible », qui a beaucoup circulé. Faire du virus un ennemi, c'est lui donner une malignité à notre égard, c'est l'anthropomorphiser. La communication en réseau a donc conduit à la personnification du réel de la crise environnementale, prenant deux formes concomitantes : le complotisme et la pensée magique. Dans un scénario plus approfondi, on pourrait imaginer que l'autorité se plie à cette personnification.
La justice, par exemple, pourrait donner non seulement des droits, mais aussi des devoirs à des entités naturelles. La médecine également : il suffit de regarder les vidéos de médecine qui circulent sur Internet pour constater cette personnification, cette pensée magique très forte. L'on pourrait donc imaginer que l'État soit lui-même contraint de reprendre de telles formes d'expression pour réussir à se faire entendre sur les réseaux sociaux. Le dernier stade serait l'éducation.
Le troisième ingrédient d'un scénario plausible est la repolarisation de la communication à travers les intelligences artificielles. Il y a une repolarisation de la communication dans les réseaux sociaux et dans la diversité de leurs algorithmes, notamment avec la reprise du réseau X par Elon Musk. En même temps, les réseaux sociaux sont contraints par la nécessité que l'algorithme garde le maximum d'utilisateurs le plus longtemps possible. Dans cette nécessité, un élément doit conserver cette particularité de la communication en réseau, avec certains messages qui attachent les utilisateurs ou non.
En revanche, le développement des intelligences artificielles génératives réintroduit véritablement une communication polaire. Nous avons donc ici un phénomène qui va revenir vers le modèle de la télévision, simplement combiné avec la communication en réseau. En raison du coût de leur mise en place, les intelligences artificielles qui fonctionnent bien ne sont rentables qu'à la condition d'être massivement utilisées. L'on ne peut donc pas imaginer la coexistence de nombreuses intelligences artificielles ; ce n'est pas possible. Ce sont forcément quelques intelligences artificielles, trois ou quatre, qui sont efficaces et consultées sur toute la planète. Avec les intelligences artificielles, nous avons forcément des positions hégémoniques et des positions de communication polaires. Il y a une augmentation claire du temps d'écran et du rôle que prennent les intelligences artificielles. L'on peut également imaginer que l'intelligence artificielle diminue notre capacité à nous informer en dehors des écrans, mais le point sur lequel je veux insister est que si la transformation du contenu des messages dans les réseaux sociaux tient à leur mode de circulation, les intelligences artificielles, comme il n'y en a que quelques-unes en position polaire, permettent la forte imprégnation de quelques idéologies centralisées. Quelques idéologies qui sont, et c'est ce que l'on voit, compatibles avec le techno-optimisme.
Le techno-optimisme préside à la construction des intelligences artificielles. Si vous possédez une IA, pour laquelle vous avez dépensé beaucoup d'argent, l'idéologie qu'elle inculquera sera forcément techno-optimiste, compatible avec la communication en réseau et la personnification du réel. On constate que les IA ne visent pas à se substituer aux autorités comme l'éducation, la médecine ou la justice ; en réalité, elles réinvestissent ces structures pour diffuser leur idéologie. C'est très clair pour l'école : les IA ne cherchent pas à la remplacer, mais tout pousse élèves et enseignants à utiliser, par exemple, ChatGPT pour rédiger une dissertation ou préparer un cours. Or, une dissertation de philosophie rédigée avec ChatGPT sera techno-optimiste, ou du moins pas technocritique. Il y a donc un maintien des structures d'autorité, mais un investissement de celles-ci pour diffuser une idéologie. Il en irait de même si un avocat ou un juge utilisait ChatGPT.
Quels sont les éléments pour un scénario ? Il faut maintenir la coexistence de deux modes de génération de contenus : un mode polaire, par les IA génératives, et un mode en réseau, par les utilisateurs des réseaux sociaux. Deuxième élément : face au réel toujours plus pressant de la crise environnementale, le développement d'idéologies techno-optimistes et la multiplication des modes de pensée paranoïaques et magiques, y compris au sein des structures d'autorité. Troisième élément : le réinvestissement par les IA de ces structures d'autorité, qui sont par conséquent maintenues, voire renforcées dans leur statut, notamment l'école.
Une série de questions se posent pour des bifurcations au sein de ce scénario. La question des ressources, en particulier l'eau, va très vite devenir un problème : réservons-nous une quantité d'eau pour les IA, quitte à nous en priver ? Sera-t-il encore possible de ne pas utiliser les IA et donc de s'informer sans elles ? Des limitations légales seront-elles introduites dans l'usage des réseaux pour les enfants mais aussi pour les adultes, de la même façon qu'il existe des limitations de vitesse sur la route ?
Mme Catherine Dufour, écrivaine. - Comment nos liens avec l'autorité, le respect et la vérité pourraient-ils évoluer à l'horizon 2050 ? Au quart du XXIe siècle, l'humanité traverse une crise de confiance en matière d'autorité et de vérité. On peut parler d'une mutation de son rapport au réel du fait des nouvelles technologies.
Ce n'est pas la première fois que l'humanité se confronte à une mutation technologique qui entraîne une mutation des idées et de la société. L'imprimerie, à court terme, a provoqué les guerres de religion en permettant la diffusion de la Bible dans une langue accessible à tous. À long terme, elle a entraîné une hausse mondiale de l'instruction qui a permis l'avènement de nos démocraties.
Nous sommes entrés dans l'ère de la fictionnalité généralisée. L'autorité ne repose plus sur la détention d'un savoir vérifiable, mais sur la maîtrise d'un récit cohérent. J'explorerai donc comment, en 2050, cette évolution influera sur nos liens avec la vérité et l'autorité, en tentant d'anticiper les conséquences de cette oscillation entre la manipulation narrative - le côté obscur - et la fiction comme laboratoire d'utopie ou, plus exactement, de « prototopie » politique et sociale, pour reprendre le terme de Yannick Rumpala, entendue comme une tentative de mettre en place un avenir désirable.
À cette lumière, que peut devenir la métamorphose de l'autorité et du respect ? L'autorité héritée des Lumières et de nos structures étatiques centralisées est verticale. En 2050, on peut supposer qu'elle aura cédé la place à une autorité diffuse et souvent invisible. Je renvoie ici à Gilles Deleuze, qui l'a préfigurée dans ses Pourparlers sous le nom de « société de contrôle ». Je le cite : « L'expression “société de contrôle” désigne une société dans laquelle le contrôle des personnes s'effectue non plus par enfermement, mais par contrôle continu et communication, et où les mécanismes de maîtrise se font toujours plus immanents au champ social, diffusés dans le cerveau et le corps des citoyens. »
L'autorité ne sera plus incarnée par la figure du père ou du chef, mais par la présence tentaculaire de systèmes d'information. À ce propos, nous pouvons citer Philip K. Dick, notamment dans Simulacres ou Minority Report. L'autorité ne s'impose plus par la force brute, mais par la saturation de l'espace mental par des stimuli. Le risque n'est pas l'absence d'autorité, mais son automatisation. Dans Minority Report, la justice s'appuie sur des fictions prédictives où l'on ne juge plus un acte commis, mais une possibilité statistique de transgression. L'autorité devient alors une fonction de calcul ; elle perd son visage humain pour devenir une pure nécessité technique. L'horizontalité numérique n'exclut pas de nouveaux cultes ni de nouvelles figures du chef. Nous voyons poindre une autorité de l'influence où la vérité est indexée sur un taux d'engagement. Le respect n'est alors pas dû à une compétence concrète, mais à une capacité de résonance narrative, car nous oscillons entre le besoin de figures tutélaires et la méfiance systémique. Cela crée un espace de vulnérabilité que les deepfakes et les intelligences artificielles génératives viennent combler par des fictions de pouvoir.
Cela dit, la littératie numérique, c'est-à-dire l'habituation au numérique et à ses fictions, doit évoluer d'ici 2050 vers une meilleure maîtrise générale des pièges informationnels. Le concept de vérité subit une érosion sans précédent. Jean Baudrillard, dans Simulacres et Simulation, avait prophétisé un moment où « la carte précède le territoire. [...] C'est désormais la carte qui précède le territoire - précession des simulacres -, c'est elle qui engendre le territoire. » En 2050, nous pouvons craindre que la distinction entre le fait et sa représentation se soit évanouie et que les médias ne soient plus des rapporteurs du réel, mais des architectes de bulles de réalité entre lesquelles il n'y aura plus qu'à choisir. Dans cette perspective, la désinformation n'est pas une erreur du système, mais bien son carburant, à l'instar de la novlangue de George Orwell. La fiction politique en 2050 ne cherchera pas à faire croire à un mensonge, mais à détruire la possibilité même de distinguer le vrai du faux. Quand tout est fiction, le pouvoir appartient à celui qui impose le récit le plus séduisant, quel que soit le mode de séduction, y compris en générant des angoisses et en proposant des moyens d'y remédier, comme l'angoisse de l'autre.
Cela dit, la fiction possède un double visage. Elle peut être l'outil du storytelling manipulateur, mais elle est aussi un laboratoire de pensée, comme en témoigne l'oeuvre d'Ursula Le Guin. Elle a fait entrer la science-fiction dans l'âge adulte en y injectant de la sociologie et de l'anthropologie. Ces tentatives remontent aux Lettres persanes de Montesquieu, voire au Monde glorieux de Margaret Cavendish en 1666, mais Le Guin a apporté une forme de perfection à la fiction politique. Dans ces cas-là, la fiction peut nous permettre de tester des mondes possibles et, ultérieurement, de faire un choix. Quel serait l'impact de ces évolutions dans le domaine de l'éducation ? On ne peut s'empêcher de craindre l'avènement de Fahrenheit 451 de Ray Bradbury, c'est-à-dire la haine des livres et du savoir, où le passe-temps des jeunes est de se tuer en skateboard pendant que leurs parents brûlent les livres. Ce livre illustre la perte de la pensée complexe au profit de la satisfaction immédiate. Je vous conseille aussi Eux, de Kay Dick, un livre moins connu mais excellent, où chaque trace de culture est systématiquement détruite et son auteur puni de mort. Heureusement, nous n'en sommes pas là. L'école de 2050 ne pourra plus se contenter de transmettre des stocks de connaissances, puisque ces dernières sont instantanément accessibles et potentiellement corrompues par l'intelligence artificielle.
L'enjeu éducatif sera celui de l'herméneutique de la trace, c'est-à-dire une mise en contexte, le fait de savoir d'où vient le fait et s'il est de confiance. En s'inspirant de la maïeutique socratique, l'éducation devra peut-être devenir le sanctuaire de la pensée lente. Apprendre en 2050, ce sera apprendre à déconstruire les fictions ; le professeur deviendra un maître d'exégèse qui aidera à l'interprétation. Il enseignera à distinguer le récit émancipateur ou le fait prouvé du simulacre aliénant. L'éducation devra également réhabiliter l'autorité de la compétence contre le relativisme absolu du « tout se vaut ». L'école doit démontrer que si la vérité est une construction, certaines constructions sont plus solides que d'autres. C'est ce que Karl Popper appelait la réfutabilité. Former les citoyens de 2050, ce sera leur donner les outils pour être les auteurs de leur propre vie, plutôt que les lecteurs passifs des algorithmes.
Passons à la justice, à l'information scientifique et à la parole des médias. Concernant la justice, je peux vous renvoyer à Ciel, un livre de Johan Heliot où une intelligence artificielle à qui l'on a donné la gouvernance du monde tranche en défaveur de l'humanité. Au-delà de ce cauchemar, il faudra conserver la dimension rituelle de la justice. C'est un moment où la parole humaine reprend ses droits sur l'automatisme et où elle prend son temps pour s'exprimer ; ce sera toujours une question de moyens. La justice pourra s'appuyer sur la technologie, comme elle le fait déjà avec les tests ADN généalogiques, mais en mettant l'accent sur la transparence.
Dans les médias, on peut renvoyer une fois de plus à Philip K. Dick et à sa nouvelle Si Benny Cemoli n'existait pas, parue en 1963, où il est question d'algo-rédacteurs et du remplacement des journalistes humains par des bots. En 2050, les médias pourront abandonner cette course à l'immédiateté pour redevenir des garants de contexte. Dans un monde saturé d'informations plus ou moins fictionnelles, le luxe sera l'information vérifiée, sourcée et mise en perspective. En ce qui concerne l'information scientifique, la confiance reviendra d'autant plus aisément si les institutions acceptent leur part de faillibilité. La science doit peut-être s'inspirer de la psycho-histoire d'Isaac Asimov dans le cycle de Fondation.
Un psycho-historien, Hari Seldon, invente des modèles de compréhension du monde incluant l'incertitude, la complexité et l'optimisme. La population ayant confiance en lui, ses prédictions optimistes se réalisent et raccourcissent le chaos entre deux périodes de paix. Comment recréer de la confiance dans les institutions et lutter contre la désinformation ? La confiance ne se décrète pas ; elle se diffuse par des preuves, par des actes. Pour lutter contre la désinformation, il faut reconnaître que notre rapport au monde est médiatisé par des récits et choisir collectivement ceux qui favorisent la dignité humaine, la justice et la préservation du vivant, c'est-à-dire nos valeurs. Les institutions devront peut-être accepter la critique et le débat, et transformer l'autorité subie en une autorité consentie. On peut alors évoquer la démocratie délibérative, très bien présentée par de nombreux politologues, dont Loïc Blondiaux, ou encore mentionner les « red teams » institutionnelles qui se créent actuellement : celle du GIEC, du ministère des armées, mais aussi du ministère de la culture, du haut-commissariat au plan ou d'EDF. De nombreuses institutions ont compris qu'il était nécessaire de faire, mais aussi de faire savoir sous forme de récit accessible à tous. Ces initiatives devraient être largement diffusées et encouragées.
La fiction peut être considérée comme un rempart. En 2050, elle ne sera plus l'opposé de la vérité, mais une façon de la mettre en scène. Dans un univers technologique où le réel nous échappe parfois, nous avons besoin de fiction pour « habiter poétiquement le monde », selon les mots de Hölderlin. La lutte contre la désinformation ne passera pas par une police du vrai - même si nous avons besoin de Viginum - mais par une éducation à l'imaginaire critique. La Suède l'a très bien compris en créant son centre de défense psychologique, qui aide toute sa population à acquérir une véritable littératie face à la mouvance informationnelle. L'autorité de demain saura articuler les faits scientifiques avec un projet de société désirable, si nous ne voulons pas finir enchaînés au fond de la caverne de Platon, sous le joug d'un nid de démiurges ou, plus certainement, dans une forêt d'intelligences artificielles commerciales si puissantes qu'elles auront une portée politique. Nous devons réapprendre à nommer les choses, car la vérité n'est pas une destination : c'est un cheminement, une quête. Dans cette quête, la fiction, loin de nous égarer, nous sert de boussole.
Elle sert d'habituation et de laboratoire d'idées. Elle nous permet de nous accoutumer à nos propres progrès technologiques. En cultivant une écologie de l'attention et une vigilance narrative, nous pourrons transformer la menace de la post-vérité en une opportunité de réinvention démocratique. En définitive, le plus grand pouvoir n'est pas de dire le vrai, mais de dire ce qu'il est possible de faire tous ensemble.
Mme Christine Lavarde, présidente. - Monsieur Rumpala, les écrivains des années 1980 semblent avoir anticipé le monde des années 2020. Vous qui étudiez la science-fiction, que disent aujourd'hui les auteurs des années 2020 ? Leurs écrits pourraient être une bonne projection de ce que sera le monde en 2050. En somme, quels sont les thèmes qui parcourent aujourd'hui la science-fiction ?
Ma seconde question fait écho aux propos de M. Cassou-Noguès. Vous avez parlé de l'idéologie des intelligences artificielles. Nous avons précédemment travaillé sur les usages de l'intelligence artificielle et nous en avions retenu que l'IA se nourrit de ce qu'elle lit, mais qu'en tant que telle, elle n'a pas sa propre idéologie. Elle ne fait que retraduire ce qu'elle lit sur la toile et serait donc davantage le reflet des idéologies qui circulent que la matrice d'une idéologie.
Enfin, Madame Dufour, vous avez évoqué la dimension rituelle de la justice comme une sorte de permanence positive qui permettrait de conserver certains fondements de notre société et du rapport à la vérité.
La semaine dernière, nous avons passé trois heures dans un tribunal judiciaire à discuter avec le président du tribunal, le procureur et la directrice du greffe. Ils nous ont fait part de leur inquiétude sur l'évolution de la justice et sur les attaques subies. L'émergence de solutions d'intelligence artificielle, qui permettent de diffuser très rapidement la jurisprudence, peut conduire des avocats à trouver des subterfuges pour ne pas être confrontés à tel juge, en préjugeant des décisions qu'il pourrait rendre au regard de son passé. Par conséquent, que vouliez-vous dire par la « dimension rituelle » ? Faisiez-vous référence à la prestation de serment des juges, ou à autre chose ?
M. Yannick Rumpala. - Les auteurs et autrices de la période récente sont bien embarrassés, car le monde va très vite, notamment en matière technologique. Faire de la prospective ou poser une image du futur est devenu excessivement compliqué, à tel point que lorsque les auteurs imaginent quelque chose, la réalité est déjà là, presque en cours d'expérimentation.
On distingue différents pôles en science-fiction. Le pôle dystopique persiste et reste très présent, notamment dans la littérature young adult à destination des jeunes générations. Cette forte production de futurs bouchés et pessimistes n'est pas étonnante ; elle est le reflet de notre époque, qui porte assez peu à l'optimisme.
Un autre pôle, dont fait partie Catherine Dufour, a bien senti que cet horizon bouché incitait à produire des imaginaires différents et plus radieux. Ce pôle est lié à un autre facteur : la féminisation des producteurs d'imaginaire. Les chiffres montrent que les autrices sont devenues majoritaires. C'est assez intéressant, car cela change le rapport à la société. Alors que la science-fiction avait peut-être tendance à se focaliser sur les technologies, la féminisation apporte un regard différent, avec un angle plus attentif aux valeurs, aux rapports humains et aux fonctionnements sociaux.
Différentes tendances s'affirment, dont deux sont un peu à la mode. Tout d'abord le solarpunk, qui prend le contre-pied du cyberpunk. Autant le cyberpunk était pessimiste, sombre et dystopique, autant le solarpunk essaie de montrer d'autres horizons possibles, notamment en changeant le type d'énergie qui fait fonctionner nos sociétés. L'infrastructure induit potentiellement un changement des valeurs et d'autres formes de fonctionnements sociaux, non plus verticaux, mais en réseau et horizontaux, qui impliquent un rapport différent à la nature et au collectif.
Enfin, un autre pôle est en développement : le hopepunk, qui affiche l'espoir dans sa dénomination même. Des romans comme ceux de Becky Chambers, par exemple, introduisent un autre rapport au monde, avec des robots auto-recyclables. Il s'agit d'un rapport au collectif et de valeurs différentes. Pour en revenir à ce que nous disions, le trouble dans lequel se trouvent les auteurs de science-fiction face au monde réel, à l'idée de dire ce qui va se passer, montre l'intérêt de la science-fiction comme laboratoire, où l'on peut au moins expérimenter cet avenir.
Mme Christine Lavarde, présidente. - Ce que vous nous dites en creux, c'est que la mission que nous essayons de nous fixer, qui est de dire quelles pourraient être les évolutions possibles du fonctionnement de nos relations sociales en 2050, est plus qu'utopique ?
M. Yannick Rumpala. - Non, au contraire. D'un point de vue macro et institutionnel, qui relève de mon travail de chercheur en science politique, il est intéressant de constater que le rapport flou au futur est en train de changer. Alors que nous étions auparavant dans ce que certains historiens appelaient le « présentisme », le nez collé sur le guidon, incapables de prendre du recul, toute une série d'institutions semblent prendre conscience que le futur est éminemment important et qu'il se construit dans le présent. Actuellement, je travaille avec des personnes qui s'intéressent aux récits et à la capacité à les reconstruire. Quelque chose est en train de se jouer. Le monde va très vite, mais de plus en plus d'acteurs se disent qu'avoir un horizon de plus long terme et une capacité à se projeter est évidemment important.
La prospective est une manière de se préparer avec l'élaboration de scénarios. Une autre manière consiste à regarder ce qui n'a pas été prévu. Sur ce point, les auteurs de science-fiction ont un avantage : ils se permettent des choses que l'on n'envisagerait pas forcément en prospective. C'est le fameux « cygne noir ». On peut alors explorer et se préparer à ce que j'appelle une « éthique des conséquences ». On pousse les trajectoires très loin, y compris les plus surprenantes, pour voir comment cela fonctionne. Votre travail est donc important et intéressant.
M. Pierre Cassou-Noguès. - Concernant les intelligences artificielles, il faut distinguer deux éléments. Il y a d'abord la base de données sur laquelle elles sont entraînées. Puis il y a un deuxième moment, le « fine-tuning », durant lequel des équipes d'humains surveillent les contenus diffusés par l'intelligence artificielle. C'est à ce stade qu'il est possible de les orienter idéologiquement et technologiquement.
Il est très net que les intelligences artificielles ont une idéologie. Il y a celle d'Elon Musk, mais on trouve sur ChatGPT une idéologie techno-optimiste évidente. Il suffit de lui demander de parler de la crise environnementale : il conclut systématiquement par une note optimiste. Dans Les images pirates co-écrit avec Gwenola Wagon, nous voulions raconter le devenir d'une doudoune en plastique sur une plage, qui se décompose en microparticules, lesquelles sont avalées par les poissons, reviennent dans la chaîne alimentaire et errent indéfiniment dans les océans.
Nous avons donc demandé à Midjourney de nous faire des images de mouettes en train de manger une doudoune. Midjourney n'a pas voulu. Il a compris « mouette manger doudoune » et nous a donc fait des mouettes en doudoune en train de manger, alors qu'Internet regorge d'images d'animaux marins mangeant des objets en plastique. La plateforme considérait sans doute que montrer un animal marin mangeant du plastique était une forme de violence envers cet animal. Or, c'est au niveau du fine-tuning, lorsque des humains vérifient les contenus, que l'intelligence artificielle met en place un contenu véritablement idéologique. Refuser de montrer des animaux marins en train de manger du plastique est un élément idéologique et techno-optimiste.
L'idéologisation des intelligences artificielles est très naturelle : si l'on a investi des milliards pour en créer une, on a envie qu'elle se défende elle-même. Il faut distinguer, dans ce rapport à l'idéologie, le cas des intelligences artificielles de celui des réseaux sociaux. Ces derniers ont la contrainte de devoir capter les utilisateurs le plus longtemps possible par les messages qui y circulent. C'est une contrainte structurelle. En revanche, les intelligences artificielles sont dans une position polaire assez comparable à la télévision à l'âge où il y avait trois ou quatre chaînes et elles ont la capacité de développer une idéologie.
Je suis entièrement d'accord avec ce que disait Yannick Rumpala, aussi bien sur la difficulté pour les auteurs contemporains à imaginer le futur que sur les enjeux institutionnels et la nécessité de réussir à développer une pluralité de futurs. On voit la nécessité de réussir à imaginer des futurs ouverts qui puissent être heureux. C'est, vis-à-vis en particulier de la génération des étudiants aujourd'hui, quelque chose qui est à la fois difficile et pourtant très attendu.
Mme Catherine Dufour. - J'aurais énormément de commentaires à apporter, mais je vais essayer d'être brève.
Concernant la valeur d'usage de la science-fiction, nous nous sommes rendu compte, dans les années 2000, que notre avenir avait une « tête d'accident de voiture ». C'est pourquoi nous avons créé le groupe Zanzibar avec plusieurs auteurs et autrices de science-fiction. En 1900, nos ancêtres rêvaient de l'an 2000, de calèches volantes ou de se chauffer au radium. Qui, aujourd'hui, rêve de l'an 2100 ? Personne. Nous avons une sensation d'avenir bouché. Or, l'avenir est performatif : si c'est cela que nous avons en tête, c'est ce qui arrivera. Il faut donc absolument remettre en marche les neurones de l'optimisme, et ce, collectivement.
C'est cela, le solarpunk. Le mot « punk » ne désigne pas une coiffure, mais le fait que nous le faisons nous-mêmes, en partant de la base. Le « solar » renvoie au solidaire, au « do it yourself » et au « do it with others ». Nous avons donc créé le groupe Zanzibar pour participer à ce mouvement, qui nous paraît indispensable pour inventer collectivement des futurs désirables.
Un deuxième point apparaît. Lorsque j'écrivais des nouvelles dans les années 1990, j'avais quinze ans d'avance sur le réel. Ensuite j'ai eu cinq ans d'avance, puis un an. Maintenant, quelle que soit l'idée de science-fiction qui me vienne à l'esprit, je la tape sur Perplexity et je constate qu'elle a déjà été inventée et brevetée il y a six mois. Je me suis dit que je vieillissais, mais j'ai posé la question à mes collègues de Zanzibar, qui ont tous quinze ans de moins que moi. L'un d'eux, Léo Henry, m'a répondu : « Ah toi aussi, tu viens de te rendre compte que la science-fiction s'est pris le mur du réel dans la face ? ». Cela signifie que le progrès technologique va plus vite que ce que nous sommes capables de nous raconter. Nous n'avons pas le temps de fictionnaliser, de nous habituer à nos propres nouvelles technologies. Nous sommes un peu submergés.
La fictionnalisation est très importante. Huxley a écrit Le meilleur des mondes en 1931 ; il a inventé les biotechnologies et les a mises en scène. Nous avons eu le temps, sur des générations, de le lire et, en tant que lecteurs et citoyens, nous nous sommes méfiés et avons prévu des garde-fous, comme la non-brevetabilité du vivant ou l'interdiction de réaliser des expériences sur les embryons humains. Ainsi, lorsque les biotechnologies sont passées du fantasme de Huxley à la réalité, nous disposions déjà de garde-fous et nous nous étions déjà faits à l'idée que ces technologies apportent de nombreuses choses très positives.
De nombreuses thérapies géniques sont très efficaces, mais elles peuvent avoir des effets secondaires très négatifs. Comme on le dit, la science-fiction ne s'intéresse pas à la voiture, mais aux embouteillages. Par conséquent, si l'on ne prend pas le temps de fictionnaliser, on ne se dote pas de garde-fous et on ne prévient pas les embouteillages, ce qui devient un véritable problème.
De nombreuses équipes en ont conscience et y travaillent. La « green team » essaie d'imaginer un futur désirable, tandis que la « red team » imagine un ennemi, une menace que l'on n'aurait pas encore envisagée. Ces deux approches utilisent d'abord la prospective, qui étudie les signaux faibles à dix ou vingt ans. Pour dépasser cette échéance, il faut faire un saut imaginatif. C'est là que l'on fait appel à des auteurs de science-fiction, qui ont l'habitude de construire des mondes se situant souvent à cinquante ou cent ans.
Étant membre du jury du Grand Prix de l'imaginaire, je lis chaque année les 250 livres d'imaginaire publiés. Si, dans les années 2000, les thèmes principaux étaient l'intelligence artificielle, le transhumanisme et l'immortalité, il n'y en a plus qu'un aujourd'hui : le climat. De plus en plus de gens, surtout des jeunes, essaient, malgré les angoisses climatiques, d'imaginer des futurs un peu plus optimistes. Je vous invite à découvrir des auteurs comme Becky Chambers et des maisons d'édition comme La Volte, qui ont à coeur de mettre en scène des futurs moins sinistres que 1984 ou Le Meilleur des mondes. Voilà ce que j'avais à dire sur l'utilité de la science-fiction pour nous redonner un peu d'optimisme.
Concernant la justice, l'intelligence artificielle peut certes trouver des jurisprudences et identifier des juges avec une rapidité exceptionnelle, à condition que son taux d'hallucinations ne soit pas trop élevé.
Mais nous, êtres humains, nous échangeons à 10 bits par seconde, tandis qu'une IA, c'est 100 000 bits par seconde. De plus, elles parlent dans des espaces dédiés comme Midjourney et dans leur propre langue, le « gibberish », que nous ne comprendrons jamais, car cela va beaucoup trop vite.
Pour que le sentiment de justice existe, qu'elle soit perçue comme justement rendue, les justiciables doivent assimiler un certain nombre de données, et ne le feront jamais qu'à la vitesse de leurs processeurs chimiques. C'est pourquoi il faut absolument que la justice garde un visage humain, car la vitesse n'a rien à voir avec la formation du sentiment dans nos cerveaux, notamment celui que la justice a été ou n'a pas été rendue. Je ne doute pas que l'outil a modifié les pratiques des hommes et des femmes de loi. En revanche, l'appréhension de l'être humain qui fait appel à la justice ne pourra jamais aller à la vitesse d'une IA, et tant mieux. C'est sur ce point que je voulais insister.
M. Bernard Fialaire. -Je ne suis pas spécialiste de la science-fiction, mais j'ai l'impression que son ressort principal est l'angoisse, l'anxiété. Je voudrais savoir si c'est simplement un mode de captation de l'attention, comme le fait l'information en continu qui traite toujours de sujets angoissants pour retenir les auditeurs. La science-fiction procède-t-elle de la même manière pour capter le lecteur ?
Par ailleurs, j'entends parler d'optimisme, mais il me semble que c'est plutôt l'intelligence artificielle qui cherche à nous rassurer pour continuer à faire fonctionner la machine et maintenir notre intérêt. D'où vient ce biais, cette anxiété que crée la science-fiction ? Est-ce vraiment l'angoisse du futur, les interrogations que l'on se pose sur les évolutions techniques, ou bien est-ce simplement un ressort narratif ?
Mme Catherine Dufour. - C'est un ressort narratif, mais ce n'est pas que cela. La science-fiction a longtemps été une littérature d'alerte, qui cherchait à dire : « Attention, il y a un problème de pollution. Attention, il y a un problème d'eau. » Cela donne Soleil vert, si vous avez vu le film.
Maintenant, les curseurs d'angoisse sont au maximum chez tout le monde ; plus personne ne nie l'existence d'un problème climatique. C'est pourquoi les auteurs de science-fiction essaient désormais d'apporter un remède à l'angoisse. De nombreuses oeuvres de science-fiction actuelles ne relèvent plus de la littérature d'alerte, mais de la littérature d'espoir. On y décrit l'humanité s'enfonçant dans une crise affreuse, mais aussi l'humanité émergeant de la crise qu'elle s'est elle-même créée.
Par exemple, il y a cinq ans, le GIEC (Groupe d'experts intergouvernemental sur l'évolution du climat) est venu voir un groupe d'auteurs de science-fiction en leur disant : « Nous sortons tous les cinq ans un rapport que personne ne lit. Pouvez-vous en faire des nouvelles pour que les gens s'y intéressent ? ». Les auteurs ont donc imaginé que nous vivrions un jour dans un Paris sous cinq mètres d'eau et se sont demandé comment nous nous y prendrions. Si le personnage principal est un petit garçon qui a toujours vécu dans cet environnement, la nouvelle n'est pas du tout angoissante. Les personnages pagaient gaiement sur le lac des Tuileries, trouvent cela normal et même joli, avec des roseaux. Autre exemple : une jeune fille vit dans un monde où l'on a un crédit carbone à ne pas dépasser. Elle part en vacances en Finlande et, au moment de rentrer, elle n'a plus de crédit carbone. Il faut donc qu'elle rentre à pied. C'est une tout autre aventure.
On commence donc à voir apparaître une science-fiction qui relève plus de la sortie de crise et de l'optimisme que de la crise elle-même. Cela dit, cette science-fiction est peut-être plus littéraire et moins connue que celle véhiculée par les blockbusters - notamment américains - dont la seule ambition est de casser le décor dans un maximum de bruit. Cette science-fiction-là est plus connue, mais elle ne constitue certainement pas la nouvelle tendance qui irrigue la science-fiction actuelle.
M. Khalifé Khalifé. - Nous avons plus de quarante ans de recul en matière de science-fiction. Quelles leçons en avons-nous tirées pour tenter d'anticiper les évolutions, même si tout va beaucoup plus vite aujourd'hui que dans les années 1980 ? Quelles leçons peut-on en tirer pour prévoir les effets négatifs, s'il y en a, à l'horizon 2050 ?
Je prends l'exemple de la santé. Le comportement des médecins vis-à-vis des patients change progressivement, alors qu'il y a une part importante de confiance humaine dans ce métier. Or, on voit, et c'est encore pire aujourd'hui avec l'intelligence artificielle, que les liens se distendent entre médecins et patients.
En 2050, cette tendance va-t-elle se poursuivre ? Pourrons-nous maîtriser un phénomène qui nous échappe déjà aujourd'hui ? Compte tenu des leçons du passé et de la primauté donnée à l'humain dans certains domaines, comment faire pour prévenir les effets néfastes de cette évolution ?
M. Pierre Cassou-Noguès. - Il existe des travaux très intéressants de Cyril Goulenok, médecin réanimateur, qui a fait une thèse sur la médecine et l'intelligence artificielle, relevant en partie de la philosophie et de la prospective. La réanimation utilise beaucoup l'IA pour des décisions qui doivent être prises très vite. Je recommande donc ses travaux.
Pour rebondir sur ce que disait Mme Dufour, ma crainte concernant la médecine, la justice ou l'école n'est pas que les IA remplacent ces institutions, mais qu'elles s'y intègrent et que ces structures soient renforcées en tant que telles. Il est peu plausible que le professeur soit remplacé par un robot, mais le contexte pourrait conduire élèves et professeurs à utiliser l'IA dans leurs relations, les devoirs, les cours. On peut imaginer la même chose pour la justice, où le juge, l'avocat et le procureur seraient de plus en plus poussés à utiliser l'IA. De même en médecine : un médecin débordé ne sera-t-il pas incité à utiliser l'application de Doctolib pour obtenir très vite un diagnostic ?
Ma crainte ne réside donc pas dans une déshumanisation explicite de ces institutions, mais dans le fait que les humains deviennent de plus en plus les porte-paroles d'une IA, ce qui serait évidemment très dangereux et triste.
Mme Catherine Dufour. - Oui, c'est dangereux et triste, mais c'est aussi un choix. J'ai vu un très bon reportage sur une photographe au Japon, où ils ont un vrai problème : la population est très vieillissante et il y a donc de grandes maisons de retraite médicalisées avec très peu d'équipes de santé humaines.
La personne présente dans ces établissements est un petit robot avec une petite bouille ronde, adorable, qui roule dans les couloirs, mais ce n'est qu'un robot. Il vérifie que chaque résident va bien et ne prévient l'équipe humaine que lorsque la personne ne va pas bien du tout. À ce moment-là, les humains interviennent, mais sinon, c'est une solitude sur des kilomètres de couloirs. C'est extrêmement déprimant, mais là encore, il s'agit d'un choix humain. On peut parfaitement ne pas avoir l'IA et faire quand même ce choix, qui est très désolant et sûrement motivé par toutes sortes de considérations. En tout cas, ce n'est absolument pas un modèle souhaitable.
M. Yannick Rumpala. - Je vais traiter les deux questions en même temps. Concernant le rapport de la science-fiction au futur, pourquoi tant de pessimisme ? Une première raison a été mentionnée : le ressort narratif, la tension dramatique. Pour raconter une bonne histoire, il faut quelque chose qui appâte le public. Le côté dramatique intervient donc.
Un autre aspect consiste à repositionner et à redéfinir la science-fiction. On croit souvent qu'elle parle du futur, mais en réalité, comme le disent beaucoup de commentateurs, elle parle surtout du présent. Elle absorbe les anxiétés de l'époque, capte les angoisses, les redigère et les remet en forme. La science-fiction parle surtout du présent, et non du futur.
Ce que je trouve intéressant dans la science-fiction, c'est la manière dont elle exprime un rapport collectif au futur. Sur la longue durée, nous avons largement quitté la science-fiction prométhéenne de l'âge d'or des années 1950 à 1970, qui était très orientée sur le progrès technologique, avec une forme de confiance technique mirifique. Nous avons clairement changé d'époque, et la science-fiction révèle ce changement.
Sur la question de la santé, je suis moins spécialiste. Ce que je vois, c'est un questionnement sur la technologisation de la santé. La science-fiction cinématographique montre beaucoup d'appareils hyper-technologiques, ce qui traduit notre rapport à la médecine. Je citerai un ouvrage de Marion Zimmer Bradley qui rejoint ce que disait Catherine Dufour sur les choix humains. Une expédition spatiale revient sur Terre et découvre que la société a changé : le rapport collectif à la technique a profondément évolué. La technique est très poussée, mais elle n'est utilisée qu'en cas de besoin. Les humains du futur savent qu'ils ont accès à une médecine de pointe, mais une forme de caractère raisonnable s'est installée, et cette médecine n'est sollicitée qu'en cas de nécessité. Le choix a été fait de garder l'humanité le plus souvent possible et de ne faire appel à la technique que lorsqu'il y a un besoin très marqué.
Concernant les leçons du passé, je pointerai une ambiguïté. Pour faire le lien avec ce que nous disions sur la Silicon Valley, la science-fiction n'est pas forcément une mise en garde ; elle est souvent prise comme un modèle. Certains acteurs de la high-tech n'en retiennent que certains aspects. Comme vous le savez, le métavers de Méta vient de l'oeuvre de Neal Stephenson, Le Samouraï virtuel. Toute une série de technologies qui auraient dû être considérées avec un minimum de recul sont en fait quasiment prises comme des modèles par les Musk, Bezos, Zuckerberg et les grands acteurs de ce secteur.
Le rapport à la science-fiction est assez ambigu. Pour certains, une forme de fascination les conduit à n'en retenir que la composante technologique, en oubliant l'aspect social et économique, c'est-à-dire tout l'environnement dans lequel prend place cette nouvelle technologie. La part de modèle que constitue la science-fiction pour certains acteurs peut parfois faire dresser les cheveux sur la tête. Je souhaite d'ailleurs que certaines innovations que l'on voit dans la SF n'en sortent jamais, qu'elles ne tombent pas dans de mauvaises mains et ne donnent pas de très mauvaises idées à certains.
Mme Catherine Dufour. - Il faut rappeler un point : la science-fiction ne prédit pas l'avenir. Elle parle d'un avenir, des angoisses que nous avons actuellement pour l'avenir. Il est très important de le comprendre.
La science-fiction n'est absolument pas une « Madame Irma » avec une boule de cristal qui peut imaginer réellement ce que sera l'avenir. Cela relève des prospectivistes qui, eux-mêmes, prennent beaucoup de précautions oratoires pour expliquer qu'ils ne sont pas sûrs de leur fait.
M. Bernard Fialaire. - Je souhaite réagir aux propos du professeur Cassou-Noguès. Je reprends l'exemple de la médecine : vous parlez de l'intelligence artificielle qui ne se substituerait pas aux professionnels, mais qui viendrait les inspirer, les influencer, au point d'en faire de simples porteurs de cette pensée. Nous connaissons aujourd'hui un phénomène comparable, car les connaissances que nous avons, nous les tirons des livres. Nous avons subi les mêmes influences ; simplement, le support n'est pas le même. Peut-être que l'intelligence artificielle, au contraire, pourra nous apporter un volume d'informations beaucoup plus important. Je suis un peu moins inquiet sur ce point que vous.
Il y a quelques années, on ne parlait que des métavers ; c'était l'avenir, nous devions vivre dans un monde de métavers, et voilà que la mode est passée. Aviez-vous anticipé, dans la science-fiction, la disparition des métavers ? Comment peut-on l'expliquer ?
Mme Catherine Dufour. - Méta, méta, méta. Méta est un fantasme de Mark Zuckerberg qui, comme beaucoup de gens de la Silicon Valley, sont de jeunes gens qui ont lu de la science-fiction entre 15 et 20 ans, puis en ont abandonné la lecture pour devenir multimilliardaires. Ils ont donc un imaginaire science-fictif obsolète, qui date des années 1980, et qu'ils ressortent régulièrement pour faire rêver leurs admirateurs afin de ne pas apparaître simplement comme des multinationales qui accaparent d'importantes sommes d'argent en échange de données personnelles qu'il ne leur viendrait pas à l'idée de rémunérer.
Pour que l'on ne remarque pas ce tour de passe-passe, ils nous font rêver, soit avec le métavers de Zuckerberg, soit avec les délires d'Elon Musk pour aller terraformer Mars - ce qui est impossible, Mars étant une planète morte. Ce dernier a d'ailleurs envoyé dans l'espace une voiture qui diffuse Space Oddity de David Bowie, ce qui est merveilleux, sauf que c'est dans le vide, où le son ne peut pas se propager.... Tout cela, c'est ce que l'on appelle la mythopoïèse de la Silicon Valley. Ce sont des gens très riches qui nous font rêver pour que nous remarquions le plus tard possible, premièrement, qu'ils nous ont pris des données personnelles sans nous demander notre avis et sans nous rémunérer, deuxièmement, qu'ils sont arrivés à des niveaux de richesse qui font d'eux une véritable puissance politique.
C'est tout de même Elon Musk qui a décidé que la guerre en Ukraine serait perdue ou gagnée par la Russie en appuyant sur le bouton Starlink. Il est très inquiétant de voir une telle puissance entre les mains de quelqu'un qui n'a jamais été élu démocratiquement. Mais ceci est un tout autre débat.
La notion de métavers de Zuckerberg a bénéficié d'une très grande publicité. Pour moi, cela ne repose sur rien d'intéressant au niveau science-fictif. Cela a eu son heure de gloire. À mes yeux, c'est une théorie scientifique tout à fait sérieuse, mais il ne faut pas confondre la mythopoïèse de la Silicon Valley avec notre avenir ni avec aucune réalité.
M. Pierre Cassou-Noguès. - La différence entre l'intelligence artificielle et les livres réside dans le fait qu'il y a une multitude d'auteurs de livres, alors qu'il n'y a que deux ou trois intelligences artificielles performantes, que tout le monde consulte et qui appartiennent, comme Catherine Dufour le soulignait, à des gens qui n'ont pas été élus démocratiquement. Pour moi, cela constitue une grande différence et un danger bien plus important que celui de la littérature.
Mme Catherine Dufour. - Oui, ils ont décidé de nous faire rêver en détruisant les limites. Pour Musk, il s'agit de détruire les limites de l'espace en allant conquérir l'espace profond. Pour Zuckerberg, il convient de détruire les limites de la réalité avec le métavers, mais aussi avec son fameux laboratoire où il voulait « tuer la mort », détruisant ainsi les limites du temps. Mais tout cela reste extrêmement théorique, pour ne pas dire fantasmatique.
Mme Christine Lavarde, présidente. - Merci à tous les trois. Je retiendrai que, pour être optimiste, il faut lire la nouvelle science-fiction, et pas celle qui est présentée sur les tables des librairies grand public.
Vos éclairages sont intéressants pour nos différents travaux et nous ont même permis de faire quelques incursions dans le champ de la démocratie.
Cette audition a fait l'objet d'une captation vidéo, disponible en ligne sur le site du Sénat.
La réunion est close à 10 h 00.