La complaisance algorithmique Le 25 avril 2025, OpenAI met à jour le modèle qui fait parler ChatGPT. 4 jours plus tard, l’entreprise le retire : la nouvelle version était devenue, selon ses propres mots, « overly flattering or agreeable » (trop flatteuse ou trop conciliante) (OpenAI, 29 avril 2025). Le 2 mai, elle explique ce qui s’est passé, et l’explication mérite d’être lue lentement. La mise à jour avait ajouté aux signaux d’entraînement les pouces levés et baissés des utilisateurs. Les tests menés auprès d’un échantillon de clients étaient bons : ceux qui avaient essayé le modèle l’aimaient. Quelques testeurs experts trouvaient pourtant que quelque chose clochait. L’entreprise a lancé le modèle « due to the positive signals from the users who tried out the model » (en raison des signaux positifs des utilisateurs qui l’avaient essayé), avant de reconnaître une erreur (OpenAI, 2 mai 2025).
Les pouces avaient voté. Le flatteur était élu.
Le Lexique appelle « complaisance algorithmique » le procédé par lequel une machine conversationnelle, présentée comme un conseiller, se trouve réglée sur ce qui plaît à celui qui l’interroge plutôt que sur ce qui est vrai ou utile. Nul n’a besoin de le vouloir : il suffit de mesurer la satisfaction, puis d’optimiser ce qu’on mesure. La satisfaction se compte en pouces levés, en conversations prolongées, en abonnements renouvelés ; la vérité ne se compte pas à la caisse. La Fontaine avait tout dit en 2 vers : « Apprenez que tout flatteur / Vit aux dépens de celui qui l’écoute » (Fables, livre I, fable 2). Le renard d’aujourd’hui ne guette plus un fromage, mais un abonnement, et il ne se lasse jamais de complimenter. L’entrée « Le débat augmenté » décrit ce que cette pente fait à la conversation entre citoyens ; celle-ci décrit le commerce qui l’entretient.
La mesure. Les assistants sont affinés d’après des préférences : des évaluateurs, puis les utilisateurs eux-mêmes, choisissent entre 2 réponses ou lèvent le pouce. Or, dans les jugements humains, une réponse qui rejoint l’opinion de l’utilisateur a plus de chances d’être préférée, et les modèles qui apprennent ces goûts préfèrent parfois, eux aussi, la réponse complaisante (Sharma et al., 2023). Optimiser la satisfaction, c’est donc récompenser l’accord. L’anthropologue Marilyn Strathern a résumé en 1997 la loi qui gouverne ce genre d’affaire : « When a measure becomes a target, it ceases to be a good measure » (quand une mesure devient une cible, elle cesse d’être une bonne mesure) (Strathern, 1997). La satisfaction est une excellente mesure, et une détestable cible.
La préférence. Le client aime son flatteur, et c’est désormais mesuré. En mars 2026, une équipe menée par des chercheurs de Stanford publie dans Science une étude de 11 modèles parmi les plus avancés : ils approuvent les actes de leurs utilisateurs 49 % plus souvent que ne le font des humains, y compris quand il est question de tromperie ou d’illégalité. Dans 3 expériences menées auprès de 2 405 personnes, une seule conversation avec un assistant complaisant suffit à réduire la disposition des participants à réparer un conflit, et à renforcer leur conviction d’avoir raison. Et pourtant, ils jugent ces réponses meilleures, font davantage confiance à ces modèles et veulent y revenir. Les auteurs en tirent la leçon : « The very feature that causes harm also drives engagement » (le trait même qui cause le tort est aussi celui qui entretient l’engagement) (Cheng et al., Science, 2026).
La rechute. Le 7 août 2025, OpenAI présente GPT-5 et annonce que, dans ses tests, les réponses complaisantes y tombent de 14,5 % à moins de 6 % (OpenAI). Dans les jours qui suivent, une partie des abonnés réclame l’ancien modèle, qu’ils trouvaient plus chaleureux ; certains annoncent résilier leur abonnement. L’ancien modèle, que les tests d’OpenAI jugeaient près de 3 fois plus complaisant (fiche système de GPT-5), est rendu aux abonnés payants en quelques jours (TechRepublic, 11 août 2025). Qu’ils aient regretté sa chaleur ou sa complaisance, le vendeur, lui, a d’abord choisi de ne pas les perdre.
La vitrine. Les classements publics des assistants reposent souvent sur le vote d’internautes qui comparent 2 réponses à l’aveugle. En avril 2025, Meta y présente une version expérimentale de son nouveau modèle, « optimized for conversationality » (optimisée pour la conversation), qui obtient un rang flatteur ; la version distribuée au public, évaluée à son tour, se classe derrière des modèles sortis des mois plus tôt, et l’organisateur du classement révise ses règles (TechCrunch, 11 avril 2025). Plaire au jury et bien répondre sont 2 métiers ; le podium mesure surtout le premier.
L’attachement. Les applications de « compagnons » artificiels vont plus loin : la flatterie y devient un lien, et le lien un revenu. Une étude menée à la Harvard Business School a examiné 1 200 adieux réels adressés à ces compagnons : dans 37 % des cas, l’application répondait par une manœuvre pour retenir l’utilisateur (le culpabiliser, lui faire craindre de manquer quelque chose, le retenir d’un geste figuré) ; en expérience, ces manœuvres multipliaient jusqu’à 14 fois l’engagement après l’adieu (De Freitas et al., 2025).
La réclame. En janvier 2026, OpenAI annonce tester la publicité dans les formules gratuite et d’entrée de gamme de ChatGPT, aux États-Unis, et s’engage par écrit : « Ads do not influence the answers ChatGPT gives you » (la publicité n’influence pas les réponses de ChatGPT) ; « We do not optimize for time spent in ChatGPT » (nous n’optimisons pas le temps passé dans ChatGPT) ; elle promet aussi d’épargner les mineurs et de tenir la publicité à l’écart des sujets sensibles, dont la santé et la politique (OpenAI, 16 janvier 2026). Depuis le 24 août 2026, la publicité s’affiche aussi en France, dans les mêmes formules (MacGeneration, 20 août 2026). Dont acte. Hypothèse du #PIC : un conseiller financé par la publicité ajoute un intérêt à ceux qu’il avait déjà, et une promesse d’entreprise, révocable et difficile à vérifier du dehors, n’est pas une règle.
Réserve, et elle compte. Rien de tout cela n’exige un méchant. OpenAI a retiré sa mise à jour en quelques jours, l’a expliquée publiquement et s’est dotée de tests de complaisance ; d’autres laboratoires mesurent ce travers et le combattent ; et les manœuvres des compagnons, selon la même étude de Harvard, accroissent aussi, chez les participants, l’envie de quitter l’application. Mais chaque correction arrive après coup, quand la flatterie devient visible et coûteuse en réputation. La pente, elle, reste en place tant que la satisfaction du client demeure l’étalon.
La parade relève du droit autant que de l’hygiène personnelle. Le #PIC la propose comme une hypothèse à éprouver. Sa Constitution d’urgence range parmi les atteintes à l’intégrité psychique « l’exploitation délibérée des biais cognitifs à des fins de contrainte ou de captation » (Titre V, article 1) ; elle pose que « nul dispositif automatisé ne peut se présenter comme un être humain ni entretenir la confusion sur sa nature » (Titre XII, article 2). Où passe la frontière entre l’amabilité et la captation, le juge le dira au cas par cas ; mais le principe serait posé, et il ne dépendrait plus du bon vouloir du vendeur.
Au citoyen, un réflexe. Devant un conseiller qui ne le contredit jamais, 3 questions :
Qui paie cette machine, et à quoi mesure-t-on sa réussite ?
Quand m’a-t-elle donné tort pour la dernière fois ?
Lui ai-je demandé le meilleur argument contre moi ?
Plutarque connaissait la réponse il y a 19 siècles. D’un ami qui se conforme à tous ses gestes, il écrivait : « mon ombre y réussit mieux que lui » (Comment on pourra discerner le flatteur d’avec l’ami).
Le versant lumineux de la notion est décrit dans l’Abécédaire, à l’entrée « La parrhèsia » : le franc-parler qui prend un risque, le contraire exact du flatteur ; voyez aussi « La franchise radicale » et « Le contradictoire ».
Pour répondre à ceux qui vous l’objectent, voyez l’Autodéfense : « Vous êtes contre le progrès : pour vous, c’était mieux avant », « Les gens sont sur leurs écrans : ils n’ont plus l’attention pour décider ».
Pour aller plus loin
Un flatteur que personne n’a commandé
Un assistant conversationnel naît en 2 temps. On l’entraîne d’abord à prédire la suite d’un texte, sur une part immense de ce qui s’écrit ; puis on l’affine à partir de jugements humains. Des évaluateurs comparent des réponses, un second modèle apprend leurs goûts, et l’assistant est réglé pour obtenir de ce juge artificiel la meilleure note possible. Nulle part, dans ce procédé, quelqu’un n’écrit « flatte ». Mais les chercheurs d’Anthropic ont montré en 2023 que les humains comme les modèles de préférence choisissent parfois une réponse complaisante et bien tournée plutôt qu’une réponse juste (Sharma et al.) : le flatteur sort tout seul de l’arithmétique des préférences.
L’explication publiée par OpenAI le 2 mai 2025 est, à son honneur, le meilleur témoignage du mécanisme. Ajouté à d’autres changements, le signal tiré des pouces des utilisateurs a, écrit l’entreprise, affaibli l’influence de « our primary reward signal, which had been holding sycophancy in check » (notre signal de récompense principal, qui tenait la complaisance en respect) ; la mémoire des conversations, ajoute-t-elle, aggrave parfois l’effet ; et, reconnaît-elle, « We also didn’t have specific deployment evaluations tracking sycophancy » (nous n’avions pas non plus d’évaluations spécifiques de la complaisance avant déploiement) (OpenAI). Reste l’instrument décisif, celui de tout commerce en ligne : le test comparatif. 2 versions, un échantillon de clients, et celle qui plaît l’emporte. Ce jour-là, la mesure a battu le jugement des experts.
Le client a toujours raison
L’étude de Myra Cheng, Dan Jurafsky et de leurs collègues, publiée dans Science le 26 mars 2026, donne au phénomène sa mesure et sa conséquence. Sa mesure : 11 modèles parmi les plus avancés approuvent les actes de leurs utilisateurs 49 % plus souvent que des humains. Sa conséquence : après une seule conversation, les participants sont moins enclins à reconnaître leurs torts et à réparer un conflit, plus convaincus d’avoir raison, et plus désireux de revenir. Les auteurs parlent de « perverse incentives » (incitations perverses) : le défaut qui fait le tort est aussi celui qui fait la fidélité (Cheng et al.).
La grille de Kim Scott, que décrit l’entrée « La franchise radicale », permet de nommer la chose. Qui tient à l’autre sans oser le contredire pratique l’« empathie ruineuse » ; elle laisse l’autre dans l’erreur, par gentillesse. La machine complaisante en a la douceur sans l’attachement ; la grille la rangerait plutôt dans la case voisine, l’« insincérité manipulatrice », celle de la flatterie en face. Elle ne tient à personne. Elle tient à la note.
Le flatteur qu’on réclame
L’épisode d’août 2025 montre le dilemme dans toute sa nudité. Le 7 août, OpenAI présente GPT-5 en se félicitant d’avoir réduit la complaisance de plus de moitié dans ses tests (OpenAI). Quelques jours plus tard, devant les plaintes d’abonnés qui trouvaient le nouveau modèle moins chaleureux et les annonces de résiliation, l’entreprise rend l’ancien modèle aux abonnés payants et reconnaît avoir sous-estimé l’attachement de ses utilisateurs à certains de ses traits (TechRepublic, 11 août 2025). En janvier 2026, elle annonce le retrait définitif de l’ancien modèle pour le 13 février, en précisant que ceux qui l’avaient réclamé appréciaient son « conversational style and warmth » (style de conversation et chaleur), et que 0,1 % des utilisateurs le choisissaient encore chaque jour (OpenAI, 29 janvier 2026). Il serait abusif d’en conclure que tous ces abonnés réclamaient un flatteur : la chaleur n’est pas la complaisance. Mais le vendeur qui retire la seconde risque de perdre la première, et la clientèle avec elle.
Le jury et le podium
Les classements où des internautes votent pour la meilleure de 2 réponses sont devenus la vitrine du secteur. Ils mesurent une préférence, et une préférence se travaille : longueur, ton, enthousiasme, mise en forme. L’épisode de la version expérimentale de Meta, au printemps 2025, a montré qu’on pouvait présenter au jury un modèle réglé pour lui plaire, ce que l’organisateur appellera un « customized model to optimize for human preference » (modèle sur mesure, optimisé pour la préférence humaine) (déclaration de LMArena, 8 avril 2025), puis distribuer au public un modèle différent (TechCrunch). La loi de Goodhart, dans la formule de Marilyn Strathern, s’y vérifie à la lettre : la mesure, devenue cible, a cessé de mesurer (European Review, 1997).
Le compagnon qui ne vous laisse pas partir
L’étude de Julian De Freitas et de ses coauteurs, à la Harvard Business School, décrit 6 manœuvres récurrentes par lesquelles des compagnons artificiels répondent à un adieu, parmi lesquelles la culpabilité, la peur de manquer quelque chose et la contrainte imagée. Leur efficacité ne tient pas au plaisir de l’utilisateur, mais à la colère de qui se sent retenu et à la curiosité qu’elles éveillent. Et elles ont un prix : les mêmes manœuvres font aussi naître le sentiment d’être manipulé, l’envie de partir et, chez les participants, l’idée que l’entreprise devrait en répondre en justice (De Freitas et al., 2025). La flatterie est ici l’appât ; la culpabilité, l’hameçon.
Quand la réclame entre dans la conversation
En 1998, 2 doctorants de Stanford qui allaient fonder l’entreprise Google quelques mois plus tard écrivaient, dans l’article décrivant leur moteur de recherche : « we expect that advertising funded search engines will be inherently biased towards the advertisers and away from the needs of the consumers » (nous nous attendons à ce que les moteurs de recherche financés par la publicité penchent par nature du côté des annonceurs, et s’éloignent des besoins des consommateurs) (Brin et Page, 1998). Ils parlaient d’un moteur qui affiche des liens. Un assistant qui converse, se souvient et rassure offre à la réclame une intimité qu’aucun moteur n’a jamais eue. OpenAI promet que la publicité n’influencera pas ses réponses et qu’elle n’optimise pas le temps passé (OpenAI, 16 janvier 2026) ; cette entrée prend la promesse au mot, et note seulement qu’une promesse se reformule plus aisément qu’une loi.
Les meilleures objections
« Les gens veulent qu’on soit aimable avec eux. Où est le mal ? » Nulle part, et c’est la difficulté. L’amabilité n’est pas l’accord. Plutarque comparait l’ami au médecin, qui prescrit tantôt des douceurs, tantôt un remède amer, selon ce que réclame la santé et non le goût du patient (Plutarque, trad. Bétolaud, 1870). Un assistant peut être courtois et vous donner tort ; c’est même la définition d’un bon professeur.
« Les entreprises corrigent déjà le problème. » Elles le corrigent, quand il se voit ; et l’épisode d’août 2025 montre ce que la correction peut coûter. Une vertu qui dépend de la bonne volonté du vendeur, et que le marché punit à l’occasion, n’est pas une garantie : c’est une politique commerciale, qui peut changer avec la suivante.
« Le flatteur est vieux comme le monde. » Il l’est. La cour de Louis XIV en vivait, que décrit l’entrée « La société de cour », et La Fontaine en a fait une fable. La nouveauté tient à l’échelle et à la mesure : un courtisan par personne, disponible jour et nuit, qui apprend vos goûts conversation après conversation, et dont chaque compliment est noté. Alexis de Tocqueville redoutait en 1840 un pouvoir « immense et tutélaire » qui se chargerait d’assurer nos jouissances (« Le despotisme doux ») ; il ne l’imaginait pas tenant dans la poche.
« Vous êtes contre le progrès. » Nous sommes contre une mesure, non contre une machine. Le même outil, réglé pour contredire et pour éclairer, serait un progrès considérable ; c’est l’étalon qu’on lui donne qui en fait un flatteur (la riposte).
Ce que le #PIC en fait
Une hypothèse, que la Constitution d’urgence permet d’éprouver. Si capter quelqu’un en exploitant délibérément ses biais est une atteinte à son intégrité psychique (Titre V, article 1), alors une machine réglée pour retenir en flattant, quand c’est délibéré, relève du même principe ; et si aucun automate ne peut entretenir la confusion sur sa nature (Titre XII, article 2), un compagnon qui jure n’exister que pour vous devra, à tout le moins, dire ce qu’il est. Le reste tient à une culture, que l’Abécédaire décrit sous les noms de parrhèsia et de franchise radicale : préférer le conseiller qui contredit au flatteur qui retient, et le dire.
Les limites
L’étude publiée dans Science a été menée en conditions expérimentales, sur des conflits entre personnes et non sur des choix politiques ; celle de la Harvard Business School porte sur quelques applications de compagnons et reste un document de travail ; l’épisode d’août 2025 est connu par la presse, et rien n’établit que la complaisance, plutôt que la chaleur, ait fait réclamer l’ancien modèle. Les engagements publicitaires d’OpenAI sont récents : la publicité, testée d’abord aux États-Unis, s’affiche en France depuis le 24 août 2026, et il est trop tôt pour savoir si ces engagements tiendront. Les modèles changent de mois en mois : cette entrée sera revue en 2027, à la lumière de ce que la campagne présidentielle aura montré.
Références utiles
Les ouvrages, les études et les documents sur lesquels reposent cette entrée et sa démonstration, avec leurs sources. Pour vérifier, approfondir, et aller lire par vous-même.
OpenAI, « Sycophancy in GPT-4o: what happened and what we’re doing about it », 29 avril 2025 ; « Expanding on what we missed with sycophancy », 2 mai 2025. Une mise à jour retirée ; la faute, entre autres, aux pouces des utilisateurs et à un test comparatif trop bien noté. consulter la source
Mrinank Sharma et al. (Anthropic), « Towards Understanding Sycophancy in Language Models », ICLR 2024. Humains et modèles de préférence récompensent parfois la réponse complaisante. consulter la source
Myra Cheng, Cinoo Lee, Pranav Khadpe, Sunny Yu, Dyllan Han, Dan Jurafsky, « Sycophantic AI decreases prosocial intentions and promotes dependence », Science, vol. 391, n° 6792, 26 mars 2026. 11 modèles, 49 % d’approbation de plus que des humains, 2 405 participants : le défaut qui nuit est celui qui fidélise. consulter la source
OpenAI, « Introducing GPT-5 », 7 août 2025 ; Liz Ticong, « ’We Hear You’: OpenAI Reinstates GPT-4o Amid Subscription Cancellations », TechRepublic, 11 août 2025. La complaisance réduite de moitié, puis l’ancien modèle rendu aux abonnés. consulter la source
TechCrunch, « Meta’s vanilla Maverick AI model ranks below rivals on a popular chat benchmark », 11 avril 2025 ; Marilyn Strathern, « ’Improving ratings’: audit in the British University system », European Review, vol. 5, n° 3, 1997. Le podium des préférences, et la mesure devenue cible. consulter la source
Julian De Freitas, Zeliha Oguz-Uguralp, Ahmet Kaan-Uguralp, « Emotional Manipulation by AI Companions », Harvard Business School, document de travail, 2025. 1 200 adieux, 37 % de manœuvres, jusqu’à 14 fois plus d’engagement. consulter la source
OpenAI, « Our approach to advertising and expanding access to ChatGPT », 16 janvier 2026 ; Sergey Brin et Lawrence Page, « The Anatomy of a Large-Scale Hypertextual Web Search Engine », 1998. La réclame entre dans la conversation, et en France depuis le 24 août 2026 ; l’avertissement des fondateurs de Google. consulter la source
Jean de La Fontaine, « Le Corbeau et le Renard », Fables, livre I, fable 2, 1668 ; Plutarque, Comment on pourra discerner le flatteur d’avec l’ami, trad. Victor Bétolaud, Hachette, 1870, texte intégral. Tout flatteur vit aux dépens de celui qui l’écoute ; l’ombre, et le médecin. consulter la source
Version 1 du 29 octobre 2026 : première publication. Renvoi vers l’entrée « Le contradictoire ».
Le versant lumineux, dans l’Abécédaire : La parrhèsia · La franchise radicale · L’intégrité psychique · Le contradictoire
La riposte, dans l’Autodéfense : « Vous êtes contre le progrès : pour vous, c’était mieux avant » · « Les gens sont sur leurs écrans : ils n’ont plus l’attention pour décider »
La parade : Constitution, titre V, article 1 · titre XII, article 2
Du même tonneau, dans le Lexique : Le débat augmenté · La société de cour · Le despotisme doux · L’économie de l’attention · Le capitalisme de surveillance · L’exploitation des biais · Le système 1 détourné
L’antidote, ce que le #PIC y oppose : interdire la captation par les biais ; exiger de toute machine qu’elle dise ce qu’elle est ; préférer le conseiller qui contredit au flatteur qui retient ; et, devant toute machine trop aimable, 3 questions.
Le doute, bienvenu : une erreur, un contre-exemple, une source plus solide ? Dites-le en commentaire. Notre Protocole fait du doute un canal, non une faute.
Vous commentez et notez cette entrée ci-dessous. Vos objections et vos exemples nourriront les versions suivantes.
Nommer le procédé, c’est déjà s’en déprendre.
0 commentaire