Pour aller plus loin

Le mécanisme qu’exploitent les armées de bots a été décrit bien avant l’informatique.

En 1856, dans L’Ancien Régime et la Révolution, Alexis de Tocqueville explique comment l’Église de France s’est retrouvée isolée à la veille de 1789 : les incroyants parlaient haut, les croyants se taisaient, et ceux qui gardaient la foi, « redoutant plus l’isolement que l’erreur, […] se joignirent à la foule sans penser comme elle ».

Conclusion : « ce qui n’était encore que le sentiment d’une partie de la nation parut ainsi l’opinion de tous ».

En 1974, la politiste allemande Elisabeth Noelle-Neumann bâtit sur cette page sa théorie de la « spirale du silence » : chacun scrute le climat d’opinion, et se tait quand il se croit minoritaire.

Le bot n’a donc pas à convaincre. Il lui suffit de fausser le thermomètre que chacun consulte avant de parler. C’est une contrefaçon de climat, parente de l’astroturfing, dont elle est la version industrielle.

Combien sont-ils ? En mars 2017, une équipe de l’université de l’Indiana, emmenée par Onur Varol, estime qu’entre 9 et 15 % des comptes Twitter actifs sont des bots. Le chiffre a fait le tour des rédactions, pas ses fondements.

En octobre 2020, dans PLOS ONE, Adrian Rauchfleisch et Jonas Kaiser éprouvent l’outil de détection le plus employé par les chercheurs, Botometer, sur des comptes dont la nature est connue, et concluent que la plupart des études qui s’en servent « compteront sans le savoir un nombre élevé d’utilisateurs humains comme des bots, et inversement » (notre traduction).

L’objection est sérieuse, et elle porte dans les deux sens. D’abord, les chiffres alarmants sont fragiles. Ensuite, et surtout, l’étiquette « bot » est devenue elle-même une arme : traiter de robots des contradicteurs bien réels permet de ne pas leur répondre.

Tranchons : l’incertitude de la mesure n’interdit pas de conclure, elle déplace la question. Ce qui est établi n’est pas le nombre des faux comptes, mais l’existence d’acheteurs et de vendeurs.

Or le marché est documenté. En septembre 2019, l’Oxford Internet Institute recense des campagnes organisées de manipulation sur les réseaux sociaux dans 70 pays, contre 48 l’année précédente, et note que dans chacun d’eux au moins un parti politique ou une agence gouvernementale s’en sert pour façonner l’opinion « sur le plan intérieur » (notre traduction).

L’ennemi n’est donc pas toujours à l’extérieur.

Le 15 février 2023, le consortium Forbidden Stories, auquel participe Radio France, publie l’enquête « Story Killers » sur une officine israélienne surnommée « Team Jorge », qui propose à ses clients une plateforme pilotant plus de 30 000 profils fictifs et se vante d’avoir mené « 33 campagnes présidentielles, dont 27 victorieuses » (notre traduction), vantardise que les journalistes jugent eux-mêmes difficile à vérifier.

L’exemple qu’elle exhibait pour démontrer son savoir-faire touchait une chaîne d’information française.

Du côté de l’État, Viginum décrit le 13 juin 2023 la campagne prorusse RRN, qui usurpe l’identité de sites de médias et de sites gouvernementaux européens par des noms de domaine imités, puis les fait relayer par de faux comptes.

La notion a ses limites. Le mot « armée » suggère un état-major ; on trouve souvent un prestataire, qui vend indifféremment à un parti, à un industriel ou à un gouvernement.

La frontière entre l’automate et l’humain s’efface : une ferme de comptes pilotés à la main n’est pas un bot, et un modèle de langage produit désormais des messages que rien ne distingue d’une prose humaine.

Surtout, la riposte officielle a ses propres dangers : quand l’État décide seul de ce qui est « inauthentique », il détient un pouvoir de tri sur le débat que la démocratie n’a jamais accordé à personne.

Le remède ne peut pas être une police du vrai ; ce doit être une règle sur la nature de celui qui parle et sur l’argent qui le paie.

C’est la voie que prend la Constitution d’urgence du #PIC. Elle n’interdit pas une opinion, elle interdit un déguisement : nul dispositif automatisé ne peut se présenter comme un être humain (Titre XII, article 2), et nul financement occulte ne peut soutenir une entreprise d’influence sur le débat public (Titre XVI, article 2).

Elle vise aussi l’État, que l’étude d’Oxford compte parmi les acheteurs : aucune autorité publique ne peut recourir à des « comptes, personnages et foules fictifs destinés à simuler une adhésion, une opposition ou un témoignage » (Titre XII, article 3).

Mais sa parade la plus profonde est architecturale. Un bot peut simuler une foule ; il ne peut pas être tiré au sort.

Là où la décision procède de citoyens désignés par le hasard et d’un vote où chaque voix a un visage, le climat fabriqué perd sa prise : on peut truquer la température d’une conversation, pas la composition d’une assemblée.

C’est une hypothèse, qui suppose un scrutin lui-même inviolable.

Le texte en pose les conditions, une infrastructure de vote sous maîtrise publique, fermée à tout contrôle privé et dont le code est audité publiquement avant chaque scrutin (Titre II, article 8) ; reste à en apporter la preuve technique, comme l’y oblige l’objection du vote numérique piraté.

Elle a du moins le mérite de répondre à Tocqueville : celui qui sait que la décision ne se prend pas au bruit n’a plus de raison de redouter l’isolement.