Le système 1 détourné Le manipulateur n’a pas besoin de lire Kahneman : Kahneman a écrit pour lui la notice.
Dans Système 1 / Système 2, le psychologue note que la répétition fréquente est un moyen fiable de faire accepter des mensonges, parce que la familiarité se distingue mal de la vérité, et il ajoute, sans la moindre ironie : « Les institutions autoritaires et les spécialistes du marketing l’ont toujours su. »
Il précise aussi que, « quand le Système 2 est occupé ailleurs, nous sommes prêts à croire presque n’importe quoi ».
Voilà le mode d’emploi : occuper ou court-circuiter le système 2 par l’urgence, le flot, la fatigue ; nourrir le système 1 d’émotion, d’images et de redites. Les plateformes l’ont industrialisé.
Pendant une semaine de janvier 2012, Facebook trie à leur insu le fil d’actualité de 689 003 utilisateurs pour vérifier que les émotions se propagent ; elles se propagent, publie en 2014 la revue PNAS, qui assortit l’article d’une « expression de préoccupation » sur le consentement des cobayes.
À partir de 2017, révèlent en octobre 2021 les documents de la lanceuse d’alerte Frances Haugen, l’algorithme du réseau compte chaque réaction émotive, colère comprise, 5 fois plus qu’un simple « j’aime » ; en 2019, ses propres chercheurs constatent que les publications qui suscitent la colère charrient de manière disproportionnée désinformation et toxicité ; le poids de la colère n’est ramené à zéro qu’en septembre 2020.
Une étude de 2017 sur plus d’un demi-million de tweets politiques mesure que chaque mot à la fois moral et émotionnel accroît la diffusion d’environ 20 %.
Nul besoin d’un complot : l’indignation retient l’utilisateur, et sa rétention rapporte. Réserve loyale : le détournement n’a rien de magique.
Le fameux message subliminal glissé dans un film, « Mangez du pop-corn », était une supercherie, avouée en 1962 par son auteur, James Vicary, et les expériences d’amorçage que Kahneman citait n’ont pas résisté à la réplication.
Le danger n’est pas dans l’invisible ; il est en pleine lumière, dans une architecture qui récompense le réflexe et pénalise la réflexion.
L’Europe commence à le nommer : depuis le 2 février 2025, le règlement sur l’intelligence artificielle interdit les systèmes qui recourent à des techniques subliminales ou délibérément manipulatrices, mais seulement s’ils causent un « préjudice important », seuil qui laisse de la marge. La Constitution du #PIC n’attend pas le préjudice : elle range parmi les atteintes à l’intégrité psychique « les procédés subliminaux et infraliminaires » et « les techniques d’hypnose collective et de manipulation des foules », et exige que le code des algorithmes qui décident de la visibilité des contenus soit rendu public.
Au citoyen, un réflexe : quand un message vous met en colère, attendez avant de le partager. Votre colère est précisément ce qu’on vend. Le versant lumineux de la notion est décrit dans l’Abécédaire, à l’entrée « Les deux systèmes de pensée ».
Pour aller plus loin
Le vocabulaire est récent, le constat est ancien. Les étiquettes « Système 1 » et « Système 2 » viennent des psychologues Keith Stanovich et Richard West, en 2000, avant que Daniel Kahneman ne les popularise en 2011.
Mais dès 1895, dans Psychologie des foules, Gustave Le Bon décrivait les 3 procédés des meneurs : « l’affirmation, la répétition, la contagion ».
Il notait que « la chose affirmée arrive, par la répétition, à s’établir dans les esprits au point qu’ils finissent par l’accepter comme une vérité démontrée », et ajoutait ce détail que la psychologie expérimentale mettra 80 ans à mesurer : « au bout de quelque temps, nous ne savons plus quel est l’auteur de l’assertion répétée, et nous finissons par y croire ».
En 1977, Lynn Hasher, David Goldstein et Thomas Toppino établissent en laboratoire que la simple répétition d’une affirmation accroît le crédit qu’on lui accorde ; l’effet de vérité illusoire a été régulièrement retrouvé depuis.
Le Bon écrivait en homme qui redoutait les foules, non en démocrate. C’est une raison de plus pour le lire : il décrit la machine du point de vue de ceux qui veulent la conduire.
La meilleure objection vient d’un chercheur français, Hugo Mercier.
Dans Not Born Yesterday (Princeton University Press, 2020), il soutient que nous sommes bien moins crédules qu’on ne le dit, et que presque toutes les tentatives de persuasion de masse, qu’elles viennent des chefs religieux, des politiques ou des publicitaires, « échouent lamentablement » (notre traduction).
L’argument doit être pris au sérieux, d’autant que la psychologie des biais a connu ses propres revers : le 14 février 2017, Kahneman reconnaissait publiquement avoir accordé « trop de confiance à des études de trop faible puissance » (notre traduction) sur l’amorçage.
Mais l’objection de Mercier vise la persuasion, et le détournement du système 1 n’a pas besoin de persuader.
L’étude publiée en 2017 dans les PNAS sur plus d’un demi-million de tweets le montre sans l’avoir cherché : la contagion morale et émotionnelle « était bornée par l’appartenance de groupe » (notre traduction), elle circule davantage à l’intérieur des camps qu’entre eux.
La colère ne convertit personne ; elle soude chacun à son camp et le retient devant l’écran. Ce qu’on fabrique ainsi n’est pas une croyance, c’est une polarisation, et l’attention qui va avec.
La France a mis des mots officiels sur ce constat. En janvier 2022, la commission présidée par le sociologue Gérald Bronner, installée à la demande du président de la République, rend son rapport, Les Lumières à l’ère numérique.
Elle y décrit une « dérégulation massive du marché de l’information » et pose la question sans détour : « Est-il tolérable que certains de nos biais cognitifs soient instrumentalisés pour capter notre attention et dégager un profit ? »
Elle recommande de lutter contre le biais de popularité des algorithmes et de développer la formation à l’esprit critique. La réponse reste prudente : elle mise sur l’éducation et sur la régulation des plateformes, sans toucher au modèle économique qui rémunère le réflexe.
Le règlement européen sur l’intelligence artificielle, lui, n’interdit la manipulation qu’au-delà d’un préjudice important. Entre la pédagogie et le seuil, l’architecture demeure.
La notion a ses limites, et il faut les dire pour s’en servir. Elle peut nourrir un mépris du peuple symétrique de celui qu’elle dénonce : si le citoyen n’est qu’un système 1 à la merci des plateformes, pourquoi lui confier la décision ?
C’est, à un siècle de distance, l’argument de Walter Lippmann contre l’opinion publique, celui qui fonde la fabrique du consentement, et c’est celui qu’on oppose aujourd’hui au référendum d’initiative citoyenne.
La réponse du #PIC tient dans une distinction : le système 2 n’est pas un privilège de naissance, c’est une affaire de conditions. Il lui faut du temps, une information contradictoire, un rythme qui ne soit pas celui de l’alerte.
Les résultats de Mercier et ceux de l’étude de 2017 se concilient ici : l’esprit humain sait trier quand on lui en laisse le loisir, et c’est précisément ce loisir que les plateformes lui retirent.
La Constitution d’urgence organise ces conditions plutôt qu’elle ne célèbre la sagesse des foules.
La note citoyenne rédigée par les Formulateurs, qui expose les arguments opposés, parvient à chaque électeur 4 semaines au moins avant le vote : c’est un délai, et un délai est ce que le système 1 supporte le moins.
Le code des algorithmes qui décident de la visibilité des contenus doit être rendu public, et leurs usages manipulatoires sont réprimés. Que ces dispositifs suffisent à rendre au jugement sa lenteur, c’est une hypothèse, que le premier référendum mettra à l’épreuve.
Mais elle vise juste : on ne protège pas le citoyen de son système 1 en le privant de la décision, on le protège en ralentissant la machine qui l’y enferme, celle que décrit l’entrée sur l’économie de l’attention.
Références utiles
Les ouvrages, les études et les documents sur lesquels reposent cette entrée et sa démonstration, avec leurs sources. Pour vérifier, approfondir, et aller lire par vous-même.
Gustave Le Bon, Psychologie des foules, Félix Alcan, 1895, livre II, chapitre III : « La chose affirmée arrive, par la répétition, à s’établir dans les esprits au point qu’ils finissent par l’accepter comme une vérité démontrée. ». consulter la source
William J. Brady, Julian A. Wills, John T. Jost, Joshua A. Tucker et Jay J. Van Bavel, « Emotion shapes the diffusion of moralized content in social networks », PNAS, vol. 114, 2017, p. 7313 et suiv. : « the presence of moral-emotional words in messages increased their diffusion by a factor of 20% for each additional word. Furthermore, we found that moral contagion was bounded by group membership » (la présence de mots à la fois moraux et émotionnels dans les messages a accru leur diffusion de 20 % par mot supplémentaire. Nous avons en outre constaté que la contagion morale était bornée par l’appartenance de groupe ; notre traduction). consulter la source
Daniel Kahneman, réponse publiée le 14 février 2017 sous le billet « Reconstruction of a Train Wreck: How Priming Research Went off the Rails », Replicability-Index : « What the blog gets absolutely right is that I placed too much faith in underpowered studies. » (Ce que le billet voit parfaitement juste, c’est que j’ai accordé trop de confiance à des études de trop faible puissance ; notre traduction). consulter la source
Hugo Mercier, Not Born Yesterday. The Science of Who We Trust and What We Believe, Princeton University Press, 2020 (présentation de l’éditeur) : « Hugo Mercier demonstrates how virtually all attempts at mass persuasion—whether by religious leaders, politicians, or advertisers—fail miserably. » (Hugo Mercier montre comment presque toutes les tentatives de persuasion de masse, qu’elles viennent des chefs religieux, des politiques ou des publicitaires, échouent lamentablement ; notre traduction). consulter la source
Commission « Les Lumières à l’ère numérique », présidée par Gérald Bronner, rapport remis au président de la République, janvier 2022 : « Est-il tolérable que certains de nos biais cognitifs soient instrumentalisés pour capter notre attention et dégager un profit ? ». consulter la source
#PIC, Constitution d’urgence, Titre VIII, article 3 : « Le code source des algorithmes des grandes plateformes déterminant la visibilité, la diffusion ou la modération des contenus est rendu public et ouvert, afin que tout citoyen puisse comprendre comment ses données, sa visibilité et son information sont traitées. ». consulter la source
Version 1 du 25 septembre 2026 — première publication. Le 25 septembre 2026 : ajout de la démonstration « Pour aller plus loin » et des « Références utiles ». Les versions antérieures de cette entrée seront accessibles ici dès la première modification.
Le versant lumineux, dans l’Abécédaire : Les deux systèmes de pensée · La désaliénation et l’éveil critique
La riposte, dans l’Autodéfense : Les réseaux sociaux et les médias manipuleront les votes · Budget, nucléaire, géopolitique : c’est trop complexe pour le peuple
L’antidote, ce que le #PIC y oppose : l’Université populaire de l’intelligence collective, où l’on s’exerce à ralentir le jugement · la Constitution, titre V, article 1 : l’intégrité psychique
Le doute, bienvenu : une erreur, un contre-exemple, une source plus solide ? Dites-le en commentaire. Notre Protocole fait du doute un canal, non une faute.
Vous commentez et notez cette entrée ci-dessous. Vos objections et vos exemples nourriront les versions suivantes.
Nommer le procédé, c’est déjà s’en déprendre.
0 commentaire