Pour aller plus loin

L’expression circulait avant le livre de Shoshana Zuboff.

Dès juillet 2014, dans la Monthly Review, revue marxiste new-yorkaise, John Bellamy Foster et Robert McChesney publient « Surveillance Capitalism », qui rattache la collecte massive des données à la concentration du capital financier et au complexe militaro-industriel américain.

Zuboff, professeure à la Harvard Business School, reprend le mot et en change le centre de gravité.

Le 5 mars 2016, dans la Frankfurter Allgemeine Zeitung, elle désigne Google comme le « point zéro d’une sous-espèce entièrement nouvelle de capitalisme, dont les profits proviennent de la surveillance et de la modification unilatérales du comportement humain » (notre traduction).

Derrière ces deux lectures se tient une généalogie française : le panoptique de Michel Foucault (Surveiller et punir, 1975), qui décrivait un pouvoir qui voit sans être vu, puis le « Post-scriptum sur les sociétés de contrôle » de Gilles Deleuze (1990), qui annonçait la relève de l’enfermement par la modulation continue.

Zuboff ajoute un troisième temps : la surveillance ne sert plus seulement à discipliner, elle sert à vendre.

La controverse la plus féconde ne vient pas des défenseurs de la Silicon Valley mais de ses critiques.

En août 2020, l’essayiste Cory Doctorow publie How to Destroy Surveillance Capitalism et prend Zuboff à revers : « je n’adhère pas à la thèse selon laquelle les géants de la tech auraient utilisé le Big Data pour créer un rayon de contrôle mental » (notre traduction).

Selon lui, la puissance prédictive est surtout un argument commercial, vendu aux annonceurs par ceux qui en vivent ; le vrai pouvoir tient au monopole et à l’enfermement des utilisateurs.

Doctorow a raison de se méfier des prophéties que l’industrie fait sur elle-même ; mais son diagnostic et celui de Zuboff convergent sur un point : que la machine prédise bien ou mal, elle tient sa rente de ce qu’on ne peut pas la quitter en emportant ce qu’on y a déposé.

Les procédures engagées depuis 2018 disent ce que le droit sanctionne, et surtout ce qu’il ne sanctionne pas.

Le 17 mars 2018, The Guardian écrit que Cambridge Analytica a « récolté des millions de profils Facebook d’électeurs américains » pour construire un logiciel destiné à « prédire et influencer les choix dans l’isoloir » (notre traduction).

Le 24 juillet 2019, la Commission fédérale du commerce américaine inflige à Facebook son amende record, mais pour avoir violé une ordonnance de 2012 en trompant ses utilisateurs sur leur capacité à contrôler leurs informations : c’est le mensonge sur l’extraction qui est puni, non l’extraction. Le droit européen va plus loin.

Le 4 juillet 2023 (affaire C-252/21), la Cour de justice de l’Union juge que la personnalisation de la publicité ne peut justifier, au titre de l’intérêt légitime, le traitement des données sans consentement, et qu’une position dominante est « susceptible d’affecter la liberté de choix » des utilisateurs.

La Cour touche ici le nerf du problème : un consentement donné à un monopole est-il encore un consentement ?

La notion a ses limites, qu’il faut dire pour s’en servir.

Elle laisse d’abord dans l’ombre l’État, qui puise dans les mêmes gisements : les documents révélés en juin 2013 par Edward Snowden décrivaient un programme de la NSA revendiquant un accès direct aux systèmes des grandes plateformes, qui ont nié en avoir connaissance, et Zuboff elle-même écrivait en 2016 que les capacités des capitalistes de surveillance faisaient « l’envie de toutes les agences de sécurité d’État » (notre traduction).

Le filet de la surveillance de masse et le marché des comportements futurs sont 2 usages d’une même infrastructure. Elle bute ensuite sur une question juridique précise : à qui appartient une prédiction ?

Le règlement européen de 2016 n’accorde la portabilité que pour les données que la personne « a fournies » ; les inférences calculées sur elle, qui sont le produit véritable, lui échappent.

C’est sur ce point que la Constitution d’urgence du #PIC se sépare le plus nettement du droit européen.

Son Titre VIII, article 2 tient pour données personnelles toutes les informations se rapportant à une personne, « qu’elle les ait fournies elle-même, qu’elles aient été générées par son activité, par ses échanges ou par l’usage de ses biens et services, ou qu’elles aient été déduites à son sujet », et fait de ce droit un droit inaliénable : la personne « peut en autoriser l’usage, elle ne peut s’en dessaisir ».

La prédiction calculée sur moi est donc à moi. Le même article répond à la Cour de Luxembourg : le consentement « n’est pas libre » lorsque l’accès à un service est subordonné à un traitement qui n’est pas nécessaire à sa fourniture ; et chacun peut obtenir la communication de ses données, « y compris celles qui ont été déduites à son sujet ».

Une question demeure, que nous posons en hypothèse : cette portabilité ne vise que les données fournies et celles que l’activité a générées ; la prédiction, que l’on peut connaître et refuser, ne se transporte pas chez le concurrent.

Pour les données tirées du cerveau lui-même, la règle est plus radicale : elles ne peuvent faire l’objet d’aucune cession, ni servir à la publicité, même avec le consentement de la personne (Titre V, article 7).

Le gisement le plus intime est mis hors commerce ; les autres sont rendus à leur propriétaire.