La société de contrôle En mai 1990, dans le premier numéro de L’Autre Journal, Gilles Deleuze publie quelques pages qui ont moins vieilli que presque tout ce qui s’est écrit depuis : le « Post-scriptum sur les sociétés de contrôle ». Il part de Michel Foucault.
Les sociétés disciplinaires, que Surveiller et punir décrivait en 1975, enferment : la famille, l’école, la caserne, l’usine, l’hôpital, la prison, autant de milieux clos où l’on passe de l’un à l’autre en recommençant chaque fois à zéro.
Deleuze annonce leur relève, et la décrit d’une image : « Les enfermements sont des moules, des moulages distincts, mais les contrôles sont une modulation », comme un tamis dont les mailles changeraient d’un point à un autre.
Dans la discipline, on n’arrêtait pas de recommencer ; dans le contrôle, « on n’en finit jamais avec rien » : formation permanente, évaluation continue, entreprise qui module chaque salaire à coups de primes et de challenges.
L’individu se défait en « dividuel », une série de données, et les masses deviennent des échantillons, des marchés, des « banques ». Une phrase résume 30 ans d’économie : « L’homme n’est plus l’homme enfermé, mais l’homme endetté. »
Deleuze prête enfin à Félix Guattari l’image d’une ville où une carte électronique fait lever les barrières, mais peut être refusée tel jour ou à telle heure : « ce qui compte n’est pas la barrière, mais l’ordinateur qui repère la position de chacun ». En 1990, c’était de la philosophie.
Une illustration depuis, retenue parce qu’elle est documentée, et non parce qu’elle trahirait un plan : à l’été 2021, un passe sanitaire, validé pour l’essentiel par le Conseil constitutionnel le 5 août, conditionne l’accès aux restaurants, aux lieux de loisirs et à certains trains à un code lu à l’entrée ; qu’on ait approuvé ou non la mesure, la ville imaginée par Guattari a eu, quelques mois, une existence légale.
Quant au score dont une caisse d’allocations note chaque mois ses allocataires pour choisir qui contrôler, l’entrée « Le crédit social et l’identité numérique » en fait le compte ; retenons-en seulement la forme : nul n’est enfermé ; chacun est noté, trié, et convoqué quand sa courbe monte.
Réserve loyale : le texte de Deleuze est bref et prophétique, il n’enquête pas ; le passe était temporaire et répondait à une épidémie réelle. Deleuze lui-même refusait la déploration : « Il n’y a pas lieu de craindre ou d’espérer, mais de chercher de nouvelles armes. »
Le #PIC en a écrit deux dans sa Constitution. Contre le dividuel sanctionné en bloc : une sanction « ne peut porter que sur un contenu déterminé, jamais sur un profil dans son ensemble » (titre VIII, article 4).
Contre l’ordinateur qui trie : nul citoyen ne peut voir sa demande, sa réclamation ou son recours traités exclusivement par un dispositif automatisé, « sans qu’un être humain puisse, à sa requête, réexaminer et trancher » (titre XII, article premier).
Le réflexe, devant toute décision qui vous concerne : demander si une machine y a pris part, et exiger qu’un humain la signe.
Pour aller plus loin
Le mot n’est pas de Deleuze, et il le dit : « “Contrôle”, c’est le nom que Burroughs propose pour désigner le nouveau monstre, et que Foucault reconnaît comme notre proche avenir. » Foucault, lui, en avait posé les prémisses dès 1975.
Car Surveiller et punir ne décrit pas seulement des murs. Il décrit une technique qui survit aux murs : « En un sens le pouvoir de normalisation contraint à l’homogénéité ; mais il individualise en permettant de mesurer des écarts, de déterminer les niveaux, de fixer les spécialités et de rendre les différences utiles en les ajustant les unes aux autres. »
Mesurer l’écart, fixer le niveau, ajuster : la société de contrôle garde cette moitié de la discipline et se passe de l’autre.
Deleuze en désigne l’opérateur principal avec une brutalité rare chez un philosophe : « Le marketing est maintenant l’instrument du contrôle social, et forme la race impudente de nos maîtres. »
L’objection la plus forte vient de 2 côtés à la fois. D’abord, la discipline n’a pas disparu : la prison, l’école et la caserne existent toujours, et l’on peut tenir le texte de Deleuze pour une prophétie démentie par les faits.
Ensuite, et c’est plus gênant, le contrôle se désire. Deleuze l’avait noté lui-même : « Beaucoup de jeunes gens réclament étrangement d’être “motivés”, ils redemandent des stages et de la formation permanente. »
On ne parle pas d’oppression quand l’intéressé réclame le dispositif. L’objection est juste ; elle se tranche par la précision. Le contrôle ne remplace pas la discipline, il s’y superpose : on peut être enfermé et noté, libre et noté.
Et le consentement donné à un outil, une carte, une application, un formulaire en ligne, n’est pas un consentement donné à tous ses usages. Le contrôle ne naît pas de ce qu’on accepte de livrer, mais de ce qu’on n’a jamais vu calculer.
C’est bien là que le droit a dû intervenir, en France d’abord.
Le 12 juin 2018, saisi de la loi qui ouvre à l’administration les décisions individuelles fondées sur des algorithmes, le Conseil constitutionnel pose une limite : le responsable du traitement doit s’assurer de sa maîtrise « afin de pouvoir expliquer, en détail et sous une forme intelligible, à la personne concernée la manière dont le traitement a été mis en œuvre à son égard », et un algorithme susceptible de réviser lui-même les règles qu’il applique ne peut servir de fondement exclusif à une décision administrative individuelle.
Le 3 avril 2020, à propos de Parcoursup, il impose aux établissements de publier, à l’issue de la procédure, les critères d’examen des candidatures, en précisant « dans quelle mesure des traitements algorithmiques ont été utilisés ».
Aux Pays-Bas, le tribunal de La Haye a jugé le 5 février 2020 que la législation sur SyRI, un système qui croisait les fichiers de l’État pour produire des « rapports de risque », c’est-à-dire désigner une personne comme digne d’une enquête pour fraude, violait le droit au respect de la vie privée garanti par la Convention européenne des droits de l’homme, son usage étant « insuffisamment transparent et vérifiable » (notre traduction).
Le dividuel de Deleuze avait trouvé son greffe.
La notion a ses limites, et elles ne sont pas mineures. Elle est si vaste qu’elle absorbe tout : la recommandation d’une plateforme de films et le score d’un organisme social y deviennent la même chose, alors que l’un propose et que l’autre convoque.
Un concept qui ne distingue pas le désagrément de la sanction sert mal ceux qu’il prétend armer.
3 critères permettent de faire le tri : le calcul produit-il une décision qui a des effets ; ses règles sont-elles connaissables par la personne visée ; un humain peut-il être saisi pour trancher ?
Le règlement européen sur la protection des données a posé le principe dès 2016, le droit de « ne pas faire l’objet d’une décision fondée exclusivement sur un traitement automatisé », mais il l’assortit d’exceptions, dont celle d’une décision autorisée par la loi.
Le 13 novembre 2024, la Défenseure des droits s’inquiétait encore de « cette algorithmisation des services publics ». Le principe existe ; son usage reste à conquérir, et c’est le crédit social à la française qui en fournit l’épreuve.
Le #PIC ne prétend pas abolir le calcul. Il fait l’hypothèse que le contrôle devient domination quand il est opaque, et sa Constitution d’urgence reprend les 3 critères.
Le Titre VIII, article 3 rend « public et ouvert » le code des grandes plateformes ; il oblige surtout l’administration à mentionner tout traitement algorithmique qui fonde, même en partie, une décision individuelle, à en communiquer à l’intéressé les règles, les données et le poids, et à publier le code source de ses traitements.
L’agent qui réexamine dispose de ces éléments, et « aucun contrôle ni aucune sanction ne peut être fondé sur le seul résultat d’un score » : c’est la réponse exacte à SyRI.
2 réserves demeurent : la publication du code cède devant le secret de la défense nationale, et le juge devra distinguer le score qui fonde un contrôle de celui qui l’oriente.
Le capitalisme de surveillance et la vidéosurveillance algorithmique décrivent les moyens ; la société de contrôle en décrit la forme. Deleuze demandait de « chercher de nouvelles armes » ; la première est de savoir ce qui a été calculé sur soi.
Références utiles
Les ouvrages, les études et les documents sur lesquels reposent cette entrée et sa démonstration, avec leurs sources. Pour vérifier, approfondir, et aller lire par vous-même.
Michel Foucault, Surveiller et punir. Naissance de la prison, Gallimard, 1975, p. 216 ; passage reproduit par Wikiquote : « En un sens le pouvoir de normalisation contraint à l’homogénéité ; mais il individualise en permettant de mesurer des écarts, de déterminer les niveaux, de fixer les spécialités et de rendre les différences utiles en les ajustant les unes aux autres. ». consulter la source
Gilles Deleuze, « Post-scriptum sur les sociétés de contrôle », L’Autre Journal, n° 1, mai 1990, repris dans Pourparlers, Minuit, 1990 ; texte reproduit par infokiosques.net : « Ce sont les sociétés de contrôle qui sont en train de remplacer les sociétés disciplinaires. » ; « Le marketing est maintenant l’instrument du contrôle social, et forme la race impudente de nos maîtres. ». consulter la source
Règlement (UE) 2016/679 du 27 avril 2016 (règlement général sur la protection des données), article 22 ; texte publié par la CNIL : « La personne concernée a le droit de ne pas faire l’objet d’une décision fondée exclusivement sur un traitement automatisé, y compris le profilage, produisant des effets juridiques la concernant ou l’affectant de manière significative de façon similaire. ». consulter la source
Conseil constitutionnel, décision n° 2018-765 DC du 12 juin 2018, loi relative à la protection des données personnelles, paragraphe 71 : « le responsable du traitement doit s’assurer de la maîtrise du traitement algorithmique et de ses évolutions afin de pouvoir expliquer, en détail et sous une forme intelligible, à la personne concernée la manière dont le traitement a été mis en œuvre à son égard. Il en résulte que ne peuvent être utilisés, comme fondement exclusif d’une décision administrative individuelle, des algorithmes susceptibles de réviser eux-mêmes les règles qu’ils appliquent ». consulter la source
Rechtbank Den Haag (tribunal de La Haye), jugement du 5 février 2020, ECLI:NL:RBDHA:2020:1878 (SyRI), version anglaise officielle : « A risk report means that a legal or natural person is deemed worthy of investigating with regard to possible fraud, unlawful use and non-compliance with legislation. » (Un rapport de risque signifie qu’une personne morale ou physique est jugée digne d’une enquête pour fraude, usage illicite ou non-respect de la législation possibles ; notre traduction) ; « In that respect, the application of SyRI is insufficiently transparent and verifiable. » (À cet égard, l’application de SyRI est insuffisamment transparente et vérifiable ; notre traduction). consulter la source
Conseil constitutionnel, décision n° 2020-834 QPC du 3 avril 2020, Union nationale des étudiants de France (Parcoursup), paragraphe 17 : « les dispositions contestées ne sauraient, sans méconnaître le droit d’accès aux documents administratifs, être interprétées comme dispensant chaque établissement de publier, à l’issue de la procédure nationale de préinscription et dans le respect de la vie privée des candidats, le cas échéant sous la forme d’un rapport, les critères en fonction desquels les candidatures ont été examinées et précisant, le cas échéant, dans quelle mesure des traitements algorithmiques ont été utilisés pour procéder à cet examen. ». consulter la source
Défenseur des droits, Algorithmes, systèmes d’IA et services publics : quels droits pour les usagers ? Points de vigilance et recommandations, rapport, 13 novembre 2024 : « Face au nombre croissant de décisions administratives individuelles prises sur la base de résultats livrés par des algorithmes ou systèmes d’intelligence artificielle, la Défenseure des droits s’inquiète des risques qu’induit cette algorithmisation des services publics pour les droits des usagers. ». consulter la source
#PIC, Constitution d’urgence, Titre VIII, article 3 : « Le code source des traitements algorithmiques mis en œuvre par les autorités publiques est publié, sous la seule réserve de l’article 4 du Titre XI. L’agent qui réexamine une telle décision dispose de ces éléments, et aucun contrôle ni aucune sanction ne peut être fondé sur le seul résultat d’un score. ». consulter la source
Version 1 du 25 septembre 2026 — première publication. Le 25 septembre 2026 : ajout de la démonstration « Pour aller plus loin » et des « Références utiles ». Les versions antérieures de cette entrée seront accessibles ici dès la première modification. Le 26 septembre 2026 : démonstration et références révisées et contre-vérifiées.
Le versant lumineux, dans l’Abécédaire : Les neurodroits · Les deux libertés
La parade : Constitution, titre VIII, article 4 · Constitution, titre XII, article premier
Du même tonneau, dans le Lexique : Le capitalisme de surveillance · Le crédit social et l’identité numérique · La dette comme discipline · La surveillance de masse · Le nudge · L’état d’urgence permanent
L’antidote, ce que le #PIC y oppose : notre stratégie pour rendre le pouvoir aux citoyens
Le doute, bienvenu : une erreur, un contre-exemple, une source plus solide ? Dites-le en commentaire. Notre Protocole fait du doute un canal, non une faute.
Vous commentez et notez cette entrée ci-dessous. Vos objections et vos exemples nourriront les versions suivantes.
Nommer le procédé, c’est déjà s’en déprendre.
0 commentaire