Éloge de l'erreur : contre un monde post-littéraire

Supposons que l'indistinguable advienne. Ce jour est sans doute déjà derrière nous : rares sont ceux qui peuvent encore affirmer qu’un texte est le produit d’un humain ou d’une machine, lorsque celle-ci est assez compétente pour une illusion parfaite. Ce fut le cas, récemment, de l’Académie Goncourt et du comité de lecture de Grasset ; excusez du peu. A la lecture, si les deux se valent, que devient-on ? Pas seulement l’écrivain, l’éditeur ou le professeur, mais vous, moi, nous, cette civilisation qui, depuis cinq mille ans, bâtit sa mémoire, sa science et son droit sur l’écrit, comme le signifiant d’une pensée. 

Cette pente est glissante, et tellement qu’en dépit du flot récent de commentaires et débats qui l’alimentent, je ne peux m’empêcher d’entrer dans l’arène et d’exprimer mon avis sur cette question fondamentale.

La cascade

La littérature est un premier signal qui en annonce d’autres. Que Thélyson Orélien ait écrit son roman à l’aide d’une intelligence artificielle ou non n’est finalement pas la question ; le soupçon suffit, et c’est lui qui doit être analysé. Le livre est écarté du Goncourt, sa promotion suspendue (malgré des ventes stimulées par l’affaire) et, surtout, l’auteur et son éditeur sont contraints de documenter la genèse de l’écriture. Il n’en fallait pas plus pour que la profession s’organise : à la Foire du livre de Francfort, des dispositifs de certification “écrit pas un humain” sont introduits par des éditeurs britanniques, français et allemands ; les éditions de l’Observatoire annoncent opportunément un label 100% humain baptisé “Sanctuaire”. Ces initiatives sont des tentatives d’appellation d’origine contrôlée appliquée à la littérature. 

Le soupçon, nouvel anathème qui pèse désormais sur tout auteur, quel qu’il soit, dès qu’il ambitionne d’être lu.

Le même mois, c’est l’élite de la mathématique, une longue brochette de médaillés Fields, qui signe dans Le Monde une tribune évoquant l’effet destructeur de l’IA sur leur discipline. A raison : un des problèmes les plus redoutés des mathématiques (Navier-Stokes), qui occupait des générations entières de chercheurs depuis deux siècles, vient d’être résolu en moins de quatre jours par un modèle d’OpenAI. D’autres défis mathématiques ont d’ailleurs été résolus d’un claquement de doigts, parfois l’intégralité d’une vie de travail, ce qui fit dire à Hugo Duminil-Copin, médaille Fields 2022, au micro de la télévision suisse : « J'en ai pleuré. » 

Cette crise existentielle d’un pan entier de la recherche scientifique n’est certainement que le début d’un changement de paradigme civilisationnel. Être battu par une IA, soit. L’annonce de résultats nus, sans rédaction rigoureuse, ni méthodes dégagées, sans mentions ni citations d’auteurs antérieurs, sans exposé des preuves nécessaires à la compréhension, pose un problème autrement plus grave. Duminil-Copin le rappelle : comprendre, c’est parfois passer des jours sur deux lignes, vérifier des centaines de milliers de pages. L’IA, c’est l’indigestion, des preuves produites sans la lente assimilation organique, qui vaut autant que le résultat lui-même.

La noyade et le lissage

Lorsque l’intelligence artificielle atteindra le niveau d’imperfection formelle inhérent à l’écriture humaine, le texte humain sera définitivement noyé. Le coût marginal d’une production littéraire mécanique indistinguable du génie artisanal est nul ; des mois, des années au regard d’une seconde. La dilution est entière et cruelle.

Voilà la noyade par l’abondance, qui rend toute distinction impossible, vaine, donc annihile toute valeur de l’effort. 

La noyade s’accompagne d’un lissage irrémédiable. L’entraînement des modèles apprend à plaire au plus grand nombre possible d'évaluateurs ; il produit donc un texte optimisé pour l'assentiment, un centre de gravité statistique : la voix la plus probable, la plus consensuelle. À force, s’installe ce que Sadin appelle l’empire du langage automatisé, un monde où la parole circule sans auteur, où les textes prolifèrent sans intention, où les arguments se déploient sans responsabilité. Le texte généré se substitue à toute parole singulière ; et dans cet empire, personne ne dit, c’est apparu. Propos sortis de la machine, formulation par défaut, plausible, efficace. L’IA, en effet, revêt les atours de la pensée autonome, produit des formulations si convaincantes, si naturelles que l’utilisateur les reconnaît comme siennes, alors qu’elles sont produites par calcul mécanique ; voilà l’imposture ontologique. 

Il existe en effet une différence fondamentale entre penser et agencer des mots. L’IA générative simule la pensée avec une illusion formelle telle que l’humain la considère comme une intelligence à l’œuvre. Elle le trompe délibérément, au point de l’amener à lui déléguer sa propre pensée sans culpabilité, sans inquiétude, et sans la conscience de ce qu’il perd en le faisant. C’est une hypnose générale et mystérieuse, qui pousse l’utilisateur à s’y engouffrer joyeusement. Au fond de lui, il sait qu’il ne reçoit de l’IA qu’un agencement probabiliste de signes ; il devrait mesurer l’imposture du dispositif et la gravité de la délégation. Mais le résultat est formellement impeccable, cohérent ; il ressemble à une pensée humaine, il en a la syntaxe, le vocabulaire et la rhétorique. Mais il n’en a pas la substance. Il n’y a personne derrière ces mots. Nous sommes trompés par la perfection formelle du résultat. Nous croyons que l’IA générative pense, parce que sa production ressemble à une pensée. Or elle n’est que vide, car elle est désincarnée.

A force de lire les textes d’une machine, nous finirons par écrire comme elle, et par attendre qu'on écrive comme elle. Un grand lissage à l'œuvre. 

Le résultat nu

Le résultat nu est le cadavre que la tendance a laissé derrière elle. C’est du Hegel, en 1807, et ça claque. Dit autrement, une conclusion séparée du chemin qui y mène n’est qu’un corps sans vie. La vérité ne loge pas dans l'énoncé final, elle est le mouvement tout entier, avec ses détours, ses négations et ses efforts.

Le monde post-littéraire qui s’annonce est un monde de résultats nus. Nous y obtiendrons des textes sans avoir écrit, des preuves sans avoir cherché, des diagnostics sans avoir douté et des décisions sans avoir hésité. Ce monde produira des solutions impeccables, mais aucune ne sera habitée. Les mathématiciens (les véritables philosophes de notre temps) savent que leur mission n’est pas de trouver des réponses mais d’affiner, collectivement, la compréhension des questions. Prouver sans comprendre n’enrichit personne.

Dans Homo Delegatus, j'ai décrit une cascade par laquelle l'Auteur devient Consentant, puis Automate, Spectateur, et enfin Interface. Les récents signaux évoqués ci-dessus montrent une cascade similaire, à l'échelle de nos savoirs communs. Lorsque les IA s'entraînent sur des données générées par des IA, que reste-t-il de l’humain, si ce n’est un rôle d’interface ?

L'erreur 

Quand on perd le chemin, on perd la possibilité de l’erreur. C’est le grand Bachelard qui le dit. Pour lui, la vérité est une erreur rectifiée, qui vient en premier sans être un accident, et la pensée n’existe qu’à travers elle. Ainsi, chaque savoir porte en lui ses propres cicatrices, infligées par l’humain sur le chemin, et dont il se souvient.

Un monde de réponses impeccables, assénées du premier coup, c’est donc un monde sans cicatrices, et sans mémoire. Plus de précision, moins de formation. Dans nos siècles trop pressés, la nécessité de lenteur est criante ; je pense à l’Aurore de Nietzsche, professant l’art de se tenir à l’écart, de prendre son temps, de devenir lent car l’art n’est fécond que s’il va lento. La lenteur et l’erreur, cibles de nos utopies productivistes depuis un demi-siècle au moins, retrouveraient ici leurs lettres de noblesse, sans pour autant glorifier l’échec. Il est temps de s’élever, de prendre la défense du brouillon, de la rature, de l’hésitation, tout ce par quoi un esprit se forme en se trompant. Une société qui supprime l'erreur supprime l'apprentissage.

Que faire ? 

Que faire, alors ? Il ne me semble plus raisonnable d’envisager que nous puissions esquiver la déferlante de l’intelligence artificielle. A l’instar du dérèglement climatique, certains seuils sont franchis, et il faut désormais apprendre à s’adapter au monde nouveau. La délégation généralisée s’est installée dans nos vies avec notre consentement joyeux : nous ne pouvons plus la faire reculer. Voici l’ère du Délégatocène. 

Je vois deux avenirs possibles pour l’Homme : celui qui délègue sans le savoir, Homo Delegatus, et celui qui sait qu’il délègue : Homo Sapiens Delegatus. Peut-être est-ce là notre unique marge de manœuvre : s’adapter en conscience, savoir ce que nous confions à la machine et ce que nous conservons jalousement. Si chaque délégation est une décision à chaque fois renouvelée, alors nous maintiendrons intacte la différence entre choisir et être choisi, entre écrire sa vie et la faire écrire par la moyenne statistique de l’humanité. 

Car l'enjeu dépasse la sauvegarde de quelques métiers. Nous transformons le monde par notre travail, et ce faisant le monde nous transforme en retour, dans une boucle créatrice de sens.

Il est donc, à mon sens, essentiel de bâtir des sanctuaires de création humaine, des lieux où le chemin reste obligatoire, mais où le droit à l’erreur est sacré, comme l’invitation à les rectifier ; où le ralentissement est encouragé, comme la condition nécessaire à la transformation (des réunions sans prise de notes automatisées, des carnets de brouillons, de l’écriture manuscrite). La vague meurtrière de l’IA continuera de déferler, mais il subsistera des îles d’humanité.

Bâtir des sanctuaires n’est pas tout, il faut aussi placer des lampadaires sur les chemins qui y mènent : des créateurs qui déclarent leurs ratures, les traces du processus, les stigmates de la douleur féconde, avant d’offrir le raccourci. Il y a cinq cents ans, les Lumières se pensaient comme un soleil. Dans le Délégatocène, nous aurons besoin de réverbères, balises espacées dont la lumière scintillante indique où poser le pied et freine la noirceur de l’oubli

Il s’agit de rendre le chemin visible, car c’est le seul indice fiable de paternité humaine qui nous restera. Pangram n’ausculte que le résultat, donc le cadavre. Le brouillon et la retouche sont des preuves de vie. C’est absolument nécessaire, et si nous y parvenons collectivement, nous dirons à nos petits-enfants : c’était ça ou mourir.