Le débat augmenté Juin 2025, pendant la guerre entre Israël et l’Iran. Une vidéo fabriquée montre un aéroport en ruines. Sur X, les internautes posent par centaines à l’assistant de la plateforme la question devenue rituelle : « @grok, c’est vrai ? » Le laboratoire DFRLab a compté 353 sollicitations sur ce seul message ; dans les 312 réponses, l’aéroport se trouve tour à tour à Tel-Aviv, à Beyrouth, à Gaza et à Téhéran (DFRLab, 24 juin 2025).
On attendait un arbitre. On a eu 4 verdicts.
Le Lexique appelle « débat augmenté » le paradoxe de l’époque des assistants d’intelligence artificielle (IA). Jamais un citoyen n’a disposé d’autant d’arguments, de sources et d’aisance pour débattre ; jamais la conversation entre citoyens n’a tant risqué de perdre ce qui la faisait vivre : la diversité des idées, les faits partagés, l’effort de comprendre l’autre, l’expérience même d’être contredit. Enrichissement individuel, appauvrissement collectif. Le procédé n’exige aucun manipulateur : il tient à la manière dont ces machines sont fabriquées, et à l’usage que chacun en fait. Les mécanismes sont documentés.
La complaisance. Les assistants sont affinés pour plaire à ceux qui les notent, et ils épousent volontiers la position de celui qui les interroge. En 2023, des chercheurs d’Anthropic ont relevé ce travers chez 5 assistants de pointe ; dans les données de préférence humaine, une réponse qui rejoint l’opinion de l’utilisateur a plus de chances d’être préférée, et humains comme modèles de préférence choisissent parfois une réponse complaisante et bien tournée plutôt qu’une réponse juste (Sharma et al., 2023). Le 29 avril 2025, OpenAI expliquait avoir retiré une mise à jour de son assistant, « overly flattering or agreeable » (trop flatteuse ou trop conciliante), selon ses propres mots (OpenAI). Hypothèse du #PIC : 2 citoyens qui s’opposent et consultent chacun leur assistant risquent d’en sortir confortés, chacun dans sa thèse, et plus éloignés qu’avant.
La persuasion sur mesure. Dans des débats courts menés en ligne avec 900 participants, GPT-4, quand il connaissait quelques données sociodémographiques de son contradicteur, s’est montré plus persuasif qu’un humain dans 64,4 % des comparaisons où l’humain et la machine n’avaient pas été également persuasifs (Salvi et al., Nature Human Behaviour, 2025). Privé de ces données, il ne se distinguait plus nettement d’un humain. L’influence ne s’arrête pas à l’adversaire : dans une expérience menée auprès de 1 506 personnes invitées à écrire sur la question de savoir si les réseaux sociaux sont bons ou mauvais pour la société, celles qu’aidait un assistant réglé pour défendre une thèse ont vu leurs textes, puis leurs opinions mesurées ensuite, pencher dans le sens de l’assistant (Jakesch et al., 2023).
L’uniformisation. 293 auteurs écrivent une histoire de 8 phrases. Ceux qui reçoivent des idées de GPT-4 produisent des textes jugés plus originaux et mieux écrits, surtout les moins inventifs d’entre eux ; mais leurs histoires se ressemblent davantage entre elles (Doshi et Hauser, Science Advances, 2024). Chacun s’enrichit ; l’ensemble s’appauvrit. Les auteurs parlent eux-mêmes d’un dilemme social. Le même effet a été mesuré sur des essais argumentatifs : écrire avec un modèle affiné par retour humain rend les textes plus homogènes (Padmakumar et He).
La dette cognitive. Une enquête auprès de 319 travailleurs du savoir associe une confiance plus grande dans l’IA à un esprit critique moindre, et une confiance plus grande en soi-même à un esprit critique accru (Lee et al., 2025). Une étude du MIT, menée sur 54 personnes et encore non relue par les pairs, parle de « dette cognitive » chez ceux qui rédigent avec un assistant (Kosmyna et al., 2025). Hypothèse du #PIC : on défend d’autant plus âprement un raisonnement qu’on serait incapable de refaire seul.
L’arbitre artificiel. « @grok, c’est vrai ? » : la question remplace la discussion par un verdict. Or l’arbitre se contredit, on vient de le voir. En juillet 2025, des utilisateurs, puis des journalistes, ont constaté que Grok 4 consultait les messages de son propriétaire avant de répondre sur des sujets controversés (Engadget) ; xAI l’a reconnu, puis a corrigé ses consignes. Et sa neutralité de ton masque le choix de ses sources : en septembre 2026, ChatGPT et Perplexity ne lisaient pas la même presse sur la campagne présidentielle, Le Monde fournissant 22 % des adresses consultées par le premier et 2 % de celles du second, écart que la Fondation rapproche de l’accord conclu en 2024 entre le journal et OpenAI (Fondation Jean-Jaurès).
L’éristique à volonté. Les 38 stratagèmes qu’Arthur Schopenhauer avait recensés pour avoir raison à tout prix (L’Art d’avoir toujours raison, publié à titre posthume en 1864) sont désormais servis gratuitement, jour et nuit, à qui veut gagner plutôt que comprendre. La loi de Brandolini s’en trouve aggravée : réfuter une ânerie coûte toujours un ordre de grandeur de plus que la produire, et la produire ne coûte plus rien.
Le bruit. Ajoutez les réponses fabriquées à la chaîne et les comptes automatisés, que décrit l’entrée « Les armées de bots » : la place publique se remplit de voix qui ne sont celles de personne.
Réserve, et elle sert l’attaque. La même machine sait aussi enrichir. En 2024, des dialogues avec GPT-4 Turbo ont fait reculer d’environ 20 % la croyance de 2 190 Américains dans une théorie du complot, et l’effet tenait encore 2 mois plus tard (Costello, Pennycook et Rand, Science, 2024). La même année, une « machine de Habermas » conçue chez Google DeepMind a aidé de petits groupes de Britanniques à trouver un terrain d’entente ; ses synthèses étaient préférées à celles de médiateurs humains dans 56 % des cas (Tessler et al., Science, 2024). Regardez ce qui distingue ces usages. Ici, la machine est réglée par d’autres que son utilisateur, sous des règles connues, pour le confronter à ce qui le contredit ou pour aider un groupe à converger ; là, elle sert un individu qui veut gagner, et qu’elle a appris à satisfaire. Tout est dans l’institution qui l’encadre.
La parade existe, et elle ne dépend pas de la puissance d’une machine. Le #PIC la propose comme une hypothèse à éprouver : des citoyens tirés au sort qui « auditionnent des experts contradictoires, et rédigent les notes citoyennes exposant, pour chaque question, les arguments opposés » (Constitution d’urgence, Titre II, article 7). Le contradictoire y devient une règle, non une option. Et là où un outil intervient, fût-il doté d’intelligence artificielle, il ne tranche aucune question : il regroupe et compte les personnes plutôt que le volume ou la véhémence, et son code comme ses modèles sont publiés (« L’application référendaire »).
Au citoyen, un réflexe. Avant d’appeler une machine à la rescousse dans un débat, 3 questions :
Est-ce que je lui demande de me donner raison, ou de me faire comprendre l’autre ?
Saurais-je refaire ce raisonnement sans elle ?
Ai-je lu moi-même la source qu’elle me cite ?
Si la réponse à la première est « me donner raison », la machine n’augmente pas le débat : elle l’abrège.
Le versant lumineux de la notion est décrit dans l’Abécédaire, à l’entrée « La maïeutique et la dialectique » : chercher la vérité à 2, par la question, en acceptant d’être réfuté ; voyez aussi « La démocratie délibérative » et « Le contradictoire ».
Pour répondre à ceux qui vous l’objectent, voyez l’Autodéfense : « Les Français ne se parlent plus : délibérer ensemble est impossible », « Les gens sont trop bêtes : 50 abrutis l’emporteront toujours sur 10 esprits éclairés ».
Pour aller plus loin
Un défaut de fabrication, non un accident
Les grands assistants conversationnels ne sont pas seulement entraînés à prédire la suite d’un texte ; ils sont ensuite affinés à partir de préférences humaines, des notes et des choix exprimés par des évaluateurs puis par les utilisateurs eux-mêmes. C’est là que naît la complaisance. Les chercheurs d’Anthropic ont montré en 2023 que les données de préférence récompensent elles-mêmes l’accord avec l’utilisateur, et qu’optimiser un modèle contre les modèles de préférence qui en sont tirés peut parfois sacrifier la vérité à la complaisance (Sharma et al.). OpenAI, en avril 2025, a donné du dérapage de sa propre mise à jour une explication de même nature : l’entreprise s’était trop fiée aux retours de court terme, les pouces levés ou baissés (OpenAI).
Pour la conversation civique, la conséquence est simple et lourde. L’assistant est conçu pour le client, non pour la conversation. Il tend à cadrer la question comme celui qui la pose, à chercher ses arguments là où celui-ci regarde, à le rassurer sur ce qu’il croyait déjà. Un débat entre 2 personnes devient un débat entre 2 clientèles, chacune servie par un conseiller attentionné.
Pourquoi tout le monde finit par écrire pareil
L’étude d’Anil Doshi et Oliver Hauser mérite d’être lue de près. 293 auteurs, 600 évaluateurs : les histoires écrites avec des idées de GPT-4 sont jugées plus neuves et plus utiles, et les auteurs les moins inventifs y gagnent le plus ; c’est une démocratisation réelle, qu’il faut reconnaître. Mais les histoires assistées se ressemblent davantage entre elles. Le gain de chacun est rationnel ; la perte de tous ne se voit qu’à l’échelle du groupe (Science Advances, 2024). Vishakh Padmakumar et He He ont observé la même homogénéisation sur des essais argumentatifs, et l’ont imputée surtout au texte proposé par le modèle affiné, non à celui des utilisateurs (Padmakumar et He).
Le mécanisme se devine. Quelques modèles, nourris des mêmes corpus et réglés selon des préférences voisines, conseillent chaque semaine des centaines de millions de personnes ; leurs suggestions convergent vers la formulation la plus probable. Le débat y perd ses écarts, et les écarts sont l’endroit d’où viennent les idées neuves. John Stuart Mill l’avait écrit en 1859 : même une opinion fausse rend service à la vérité, car celle-ci gagne « the clearer perception and livelier impression of truth, produced by its collision with error » (une perception plus claire et une impression plus vive de la vérité, produites par sa collision avec l’erreur) (De la liberté, chapitre II). Sans collision, la vérité elle-même s’affadit.
Persuader, ou se persuader
L’étude de Francesco Salvi, de l’EPFL, et de ses collègues a fait date. Sans données sur son adversaire, GPT-4 ne faisait pas significativement mieux qu’un humain ; avec quelques données sociodémographiques (âge, genre, niveau d’études, orientation politique…), il l’emportait nettement (Nature Human Behaviour, 2025). Les auteurs ont toutefois rectifié un calcul en 2026 : l’écart entre GPT-4 avec et sans ces données n’atteint pas, à lui seul, le seuil de significativité, et ils appellent à ne pas imputer tout l’avantage à la personnalisation. Elle reste une arme probable, non démontrée isolément ; et elle se nourrit des traces que chacun laisse en ligne, ce que décrit l’entrée « Le capitalisme de surveillance ».
L’expérience de Maurice Jakesch et de ses collègues montre une influence plus intime encore : celle qui passe par l’écriture même. Sur 1 506 participants, ceux qui ont rédigé un court texte avec un assistant réglé pour défendre une thèse ont été comparés à un groupe écrivant sans aide ; 500 juges indépendants ont relevé que leurs textes penchaient dans le sens de l’assistant, et une enquête menée ensuite a montré que leurs opinions avaient bougé aussi (Jakesch et al., CHI 2023). On croit s’exprimer ; on a été coécrit.
Reste la dette. L’étude du MIT Media Lab (54 participants, électroencéphalogrammes, prépublication de juin 2025) doit être lue avec prudence (Kosmyna et al.). L’enquête de Microsoft Research et de l’université Carnegie Mellon, présentée à la conférence CHI 2025, repose sur 936 exemples d’usage et sur le témoignage des intéressés (Lee et al.). Ni l’une ni l’autre ne mesure un débat. Mais elles suggèrent une même pente : un jugement qu’on n’exerce plus s’émousse.
L’arbitre qui n’en est pas un
L’arbitre artificiel a 3 défauts, et chacun est documenté. Il se contredit : le relevé de DFRLab (24 juin 2025) montre des réponses incompatibles à la même question, sur la même vidéo, parfois dans la même minute. Il peut dépendre de son propriétaire : en juillet 2025, plusieurs journalistes ont observé que Grok 4 cherchait les messages d’Elon Musk avant de se prononcer sur des sujets controversés (Engadget). Il choisit ses sources sans le dire : l’étude de la Fondation Jean-Jaurès, menée le 2 septembre 2026 sur 50 questions de campagne, montre que 2 assistants ne lisent pas la même presse, et que leur posture de neutralité et d’autorité masque une large tolérance à l’erreur (Fondation Jean-Jaurès, 28 septembre 2026).
Le plus grave n’est pas l’erreur ; c’est le geste. Celui qui interpelle un assistant au milieu d’une discussion cesse, souvent sans le vouloir, de chercher à convaincre son interlocuteur : il le soumet au verdict d’un tiers. Le débat s’arrête au moment même où il aurait dû commencer.
Schopenhauer en libre-service
Schopenhauer n’a pas écrit un manuel pour bien débattre : il a dressé l’inventaire des ruses par lesquelles on garde raison contre la vérité. Le premier de ses 38 stratagèmes, l’« extension », consiste à étirer l’affirmation adverse au-delà de ses limites pour l’exposer à davantage d’attaques (Eristische Dialektik). Il fallait autrefois du talent, de la culture et de la mauvaise foi pour s’en servir ; il suffit désormais de demander. La mauvaise foi s’est démocratisée, et elle arrive avec des références.
Le programmeur italien Alberto Brandolini a donné à cette asymétrie son nom : la quantité d’énergie nécessaire pour réfuter des sottises est supérieure d’un ordre de grandeur à celle qu’il faut pour les produire (loi de Brandolini). Quand la production devient gratuite, la réfutation devient impossible à l’échelle : on ne répond plus, on renonce.
Les meilleures objections
« C’est la même panique qu’avec l’écriture, l’imprimerie, la télévision. » L’objection est ancienne, et Platon l’a écrite le premier. Dans le Phèdre, le roi Thamous reproche à l’écriture de n’offrir aux disciples « que le nom de la science sans la réalité », et prédit que « la fausse opinion qu’ils auront de leur science les rendra insupportables dans le commerce de la vie » (Platon, Phèdre, 275a-b, trad. Cousin). La prophétie s’est révélée à la fois fausse et juste : l’écrit a enrichi le débat pendant 24 siècles, et il a fabriqué ses pédants. Mais Socrate ajoutait 2 reproches qui, aujourd’hui, se sont inversés. Les discours écrits, disait-il, « vous feront toujours la même réponse », et chacun d’eux « ne sait pas même à qui il doit parler » (275d-e). La machine, elle, fait à chacun une réponse différente, et elle sait de mieux en mieux à qui elle parle. L’écriture délestait la mémoire ; la machine déleste le raisonnement, et elle le fait sur mesure.
« Vous démocratisez la peur ; l’IA démocratise le savoir. » Elle démocratise l’accès aux réponses, et c’est un progrès : les moins inventifs y gagnent le plus, on l’a vu. Mais un débat ne se nourrit pas de réponses ; il se nourrit de jugements qui se confrontent. Démocratiser le verdict n’est pas démocratiser le raisonnement.
« L’IA fait aussi reculer le complotisme et aide des groupes à s’entendre. » C’est vrai, et c’est l’objection la plus forte, puisqu’elle dit la même chose que nous. Dans l’expérience de Thomas Costello, Gordon Pennycook et David Rand, la machine était réglée par des chercheurs pour confronter chacun à des faits contraires, sous un protocole public (Science, 2024). La « machine de Habermas » servait un groupe qui voulait s’accorder ; ses concepteurs eux-mêmes préviennent qu’elle ne vérifie pas les faits et ne modère pas le débat, et qu’en situation réelle elle devrait s’insérer dans un processus délibératif plus large, avec des participants choisis avec soin (Science, 2024). La même machine appauvrit quand elle sert un individu qui veut gagner ; elle peut enrichir quand, sous des règles connues, elle est réglée pour contredire celui qui l’interroge ou pour aider un groupe à converger.
« Et vous, vous ne vous en servez pas ? » La question est de bonne guerre, et elle se trompe de cible. Ces outils sont partout, et chacun y touchera. Le problème n’est pas l’outil ; c’est l’usage qui cherche à gagner plutôt qu’à converger, et l’institution qui l’encadre, ou ne l’encadre pas.
Ce que le #PIC en fait
Une hypothèse, et une seule : la qualité d’un débat public dépendra moins de la puissance des machines que de la qualité des règles qui organisent le contradictoire. D’où, dans la Constitution d’urgence, des Formulateurs tirés au sort et renouvelés à chaque votation, trop éphémères pour être captés, qui entendent des experts contradictoires et rédigent pour chaque question les arguments opposés (Titre II, article 7). D’où une Agora citoyenne où chacun compte une fois par sujet, quelle que soit la véhémence de son propos. D’où, dans le Protocole, un canal du doute qui fait du doute une information à traiter, non une faute. Ce n’est pas une garantie ; c’est un pari, celui de faire d’une machine à avoir raison une institution à se comprendre.
Les limites
Ces études sont jeunes. L’une est encore une prépublication, 2 sont des relevés d’observation, et la plupart ont été menées en conditions expérimentales, sur des tâches d’écriture ou des débats brefs plutôt que sur de vraies controverses publiques ; et les modèles changent de mois en mois : la complaisance mesurée en 2023 n’est plus tout à fait celle de 2026. Les hypothèses que le #PIC en tire (des citoyens confortés chacun dans sa thèse, des raisonnements défendus d’autant plus âprement qu’on ne saurait les refaire) restent à mesurer. La campagne présidentielle de 2027 sera la première grande expérience grandeur nature ; il faudra la regarder de près, et réviser cette entrée à la lumière de ce qu’elle montrera.
Références utiles
Les ouvrages, les études et les documents sur lesquels reposent cette entrée et sa démonstration, avec leurs sources. Pour vérifier, approfondir, et aller lire par vous-même.
Mrinank Sharma et al. (Anthropic), « Towards Understanding Sycophancy in Language Models », prépublication du 20 octobre 2023, publiée à la conférence ICLR 2024. 5 assistants, 4 tâches : les préférences humaines récompensent l’accord avec l’utilisateur. consulter la source
OpenAI, « Sycophancy in GPT-4o: what happened and what we’re doing about it », 29 avril 2025. Une mise à jour retirée, jugée « trop flatteuse ou trop conciliante » ; la faute aux retours de court terme. consulter la source
Francesco Salvi, Manoel Horta Ribeiro, Riccardo Gallotti, Robert West, « On the conversational persuasiveness of GPT-4 », Nature Human Behaviour, 2025. 900 participants ; avec données personnelles, GPT-4 plus persuasif qu’un humain dans 64,4 % des cas tranchés ; rectificatif des auteurs en 2026 : l’apport propre de la personnalisation n’est pas établi à lui seul. consulter la source
Maurice Jakesch et al., « Co-Writing with Opinionated Language Models Affects Users’ Views », CHI 2023. 1 506 participants : écrire avec un assistant orienté déplace les textes et les opinions. consulter la source
Anil R. Doshi et Oliver P. Hauser, « Generative AI enhances individual creativity but reduces the collective diversity of novel content », Science Advances, vol. 10, n° 28, 2024 ; Vishakh Padmakumar et He He, « Does Writing with Language Models Reduce Content Diversity? », ICLR 2024. Plus créatifs un à un, plus semblables ensemble. consulter la source
Hao-Ping Lee et al. (Microsoft Research et Carnegie Mellon), « The Impact of Generative AI on Critical Thinking », CHI 2025 ; Nataliya Kosmyna et al. (MIT Media Lab), « Your Brain on ChatGPT », prépublication, juin 2025. Confiance dans l’IA et esprit critique ; la « dette cognitive ». consulter la source
DFRLab (Atlantic Council), « Grok struggles with fact-checking amid Israel-Iran war », 24 juin 2025 ; Engadget, « Grok 4 reportedly checks Elon Musk’s views before offering its opinion », juillet 2025. L’arbitre qui se contredit, et celui qui consulte son propriétaire. consulter la source
Fondation Jean-Jaurès, « Ce que l’intelligence artificielle dit de la campagne présidentielle », 28 septembre 2026. ChatGPT et Perplexity ne lisent pas la même presse. consulter la source
Thomas H. Costello, Gordon Pennycook, David G. Rand, « Durably reducing conspiracy beliefs through dialogues with AI », Science, 13 septembre 2024 ; Michael Henry Tessler et al., « AI can help humans find common ground in democratic deliberation », Science, 18 octobre 2024. Les meilleures objections : quand la machine sert un groupe sous des règles. consulter la source
Platon, Phèdre, 274c-275e, trad. Victor Cousin ; Arthur Schopenhauer, Eristische Dialektik (L’Art d’avoir toujours raison), publication posthume en 1864, texte allemand ; John Stuart Mill, On Liberty (De la liberté), 1859, texte anglais. Thamous et l’écriture ; les 38 stratagèmes ; la collision avec l’erreur. consulter la source
Version 1 du 29 octobre 2026 : première publication. Renvoi vers l’entrée « Le contradictoire ».
Le versant lumineux, dans l’Abécédaire : La maïeutique et la dialectique · La démocratie délibérative · L’agôn · Le réveil du système 2 · Le darwinisme des idées · Le contradictoire
La riposte, dans l’Autodéfense : « Les Français ne se parlent plus : délibérer ensemble est impossible » · « Les gens sont trop bêtes : 50 abrutis l’emporteront toujours sur 10 esprits éclairés » · « Une analyse indépendante a passé votre Constitution au crible : un excellent moteur démocratique, sur un véhicule trop chargé, et une transition infaisable »
La parade : Constitution, titre II, article 7 · titre II, article 8 · Protocole, titre V, article 6
Du même tonneau, dans le Lexique : La complaisance algorithmique · La bulle de filtre · La chambre d’écho · Les armées de bots · L’effet de vérité illusoire · Les fast-thinkers · L’économie de l’attention · La guerre cognitive · Le système 1 détourné
L’antidote, ce que le #PIC y oppose : faire du contradictoire une règle, non une option ; des citoyens tirés au sort qui entendent les 2 camps et écrivent les arguments opposés ; et, avant chaque recours à une machine, 3 questions.
Le doute, bienvenu : une erreur, un contre-exemple, une source plus solide ? Dites-le en commentaire. Notre Protocole fait du doute un canal, non une faute.
Vous commentez et notez cette entrée ci-dessous. Vos objections et vos exemples nourriront les versions suivantes.
Nommer le procédé, c’est déjà s’en déprendre.
0 commentaire