↑ Thème IV. La personneQuestion 99 →
Travaux préparatoires · Année ZéroCette fiche n’a aucune valeur légale, ni même scientifique. C’est un exercice : en la lisant, en la contredisant, nous apprenons ensemble le travail de base du citoyen d’une démocratie référendaire, et nous préparons le terrain des travaux dont l’Année Zéro aura besoin, le jour où ils deviendront officiels et constitutionnels.
Question 98 : La décision médicale et l’intelligence artificielle
Votation · question n° 98
La validation par un professionnel de santé de toute décision médicale issue d’un algorithme
Approuvez-vous qu’aucune décision médicale concernant un patient ne puisse être prise par un système d’intelligence artificielle sans avoir été validée par un médecin ou par un autre professionnel de santé habilité à la prendre ?
Si le oui l’emporte
Toute décision de diagnostic, de traitement ou d’orientation issue d’un système d’intelligence artificielle est validée, pour chaque patient, par un professionnel de santé habilité.
Si le non l’emporte
Le droit actuel demeure : la décision entièrement automatisée est interdite par principe, sauf exceptions ; le patient est informé ; le règlement européen exige un contrôle humain.
En bref
L’intelligence artificielle s’installe dans les soins : lecture d’images, aide au diagnostic, tri des patients. Le droit actuel ne l’interdit pas et ne la laisse pas seule : le règlement européen sur la protection des données écarte par principe la décision entièrement automatisée, mais admet des exceptions, dont le consentement explicite ; le code de la santé publique impose d’informer le patient ; le règlement européen sur l’intelligence artificielle exige un contrôle humain, dont les obligations ont été repoussées à 2027 et 2028. La question propose une règle plus simple et sans exception : aucune décision médicale sans la validation d’un professionnel de santé. Ses adversaires y voient une perte de temps médical et une garantie de façade.
Ce que la question ne fait pas
- Elle n’interdit pas l’intelligence artificielle en médecine : aide au diagnostic, lecture d’images, rédaction de comptes rendus restent permises.
- Elle ne vise ni l’administration des soins, ni la prise de rendez-vous, ni la recherche : seulement la décision qui concerne un patient, diagnostic, traitement ou orientation.
- Elle ne dit pas qui répond d’une erreur : la responsabilité du professionnel, de l’établissement et du fabricant relève d’autres règles.
- Elle ne garantit pas la qualité du contrôle : valider n’est pas vérifier, et la fiche laisse ouverte la façon de s’assurer que la validation est réelle.
- Elle ne touche pas au droit du patient d’être informé qu’un algorithme a été utilisé, déjà inscrit dans la loi.
Version 1 du 11 novembre 2026 : première rédaction de la fiche.
L’Agora : la doléance
Laboratoire · simulation
Exercice à blanc. Les citoyens que vous allez entendre n’ont jamais siégé, et pour cause : l’Agora qui les aurait réunis reste à instituer. Leurs phrases sont fabriquées, à partir de ce qui se dit dans les couloirs d’hôpital et les cabinets de ville. Ce que vous ferez de cette page n’alimente aucune statistique d’opinion : c’est un banc d’essai pour apprendre à poser une question. Et le recrutement est faussé, disons-le : vient ici qui s’intéresse aux machines, pour les craindre ou pour les vendre. Le sort irait chercher, lui, le patient qui n’a jamais su qu’un logiciel avait lu sa radio.
Longtemps, on a su qui décidait : celui qui portait la blouse. Il regardait, palpait, se trompait parfois, signait toujours. La blouse est encore là. Mais sur l’écran qu’elle consulte, quelque chose a déjà conclu avant elle, et la question est de savoir ce que vaut alors sa signature.
Dans le couloir, 8 façons de regarder l’écran
« Le radiologue m’a dit : la machine n’a rien vu, et moi non plus. J’aurais préféré l’entendre dans l’autre ordre. »
groupe 0329 · en début de session
« Chez nous, le médecin passe le jeudi. Si un logiciel peut lire ma rétine le mardi, je signe tout de suite. »
groupe 0974 · en début de session
« Je suis interne. À 4 heures du matin, quand l’outil propose, je valide. Je ne suis pas sûr que cela s’appelle décider. »
groupe 0188 · deuxième soirée
« Si l’algorithme se trompe, qui paie ? Le médecin qui a cliqué, ou la société qui l’a vendu ? »
groupe 0540 · deuxième soirée
« Ma pompe à insuline ajuste la dose toute seule depuis 3 ans. Ne me la retirez pas au nom d’un principe. »
groupe 0715 · à mi-parcours
« On parle des machines parce qu’on n’a plus de soignants. Le sujet, c’est l’hôpital, pas le logiciel. »
groupe 1090 · à mi-parcours
« Qui décide de ce qu’une machine a le droit de décider ? Bruxelles, une agence, l’hôpital, moi ? »
groupe 0061 · quatrième soirée
« Mon dépistage, c’est mon corps en chiffres. Je veux savoir quelle personne l’a regardé. »
groupe 0422 · dernier jour
Ces 8 répliques sortent de notre atelier, non d’une Agora. Le jour où elle existera, ses doléances seront lues de tous et signées de personne : l’anonymat des membres est de droit (Titre II, article 8).
Ce que la blouse couvre, ce qu’elle ne couvre plus
L’habitant du groupe 0974 et la patiente du groupe 0422 ne veulent pas la même chose. L’un échangerait volontiers une signature contre un rendez-vous ; l’autre tient à un regard humain plus qu’à la vitesse. Dans un débat ordinaire, on les ferait s’affronter. L’Agora procède autrement : elle note qu’ils ont parlé du même objet, et s’en tient là. Ce qu’ils en pensent ne se compte pas encore. Seul compte qu’ils y pensent.
D’où une hiérarchie que personne n’a votée. Un sujet monte quand beaucoup de membres l’ont abordé, chacun pesant le même poids quel que soit le volume de ses messages, et il monte davantage s’il est apparu dans beaucoup de groupes (Titre II, article 8, 4°). La machine qui regroupe les doléances est elle-même sous contrôle : son code est publié, ses résultats peuvent être recalculés. On remarquera l’ironie : pour trier des doléances sur les algorithmes, l’Agora emploie un algorithme. Mais celui-là ne décide de rien, et tout le monde peut le lire.
Le membre du groupe 0540 demandait qui paie en cas d’erreur. C’est un sujet voisin, la responsabilité, et sa contribution pourrait y être versée ; il le saura, et pourra s’y opposer dans le délai prévu. Le groupe 1090, lui, récuse le sujet au profit d’un autre, l’état de l’hôpital. Sa phrase compte 2 fois : pour le sujet qu’il réclame, et pour celui qu’il rejette, puisqu’il en a parlé.
Simulation · sujet classé 9e
La place de l’humain dans la décision médicale, quand un système d’intelligence artificielle y prend part.
Évoqué par 1 187 membres dans 590 groupes : comptes fictifs, forgés pour la démonstration. L’ensemble des contributions accompagne le sujet chez les Formulateurs.
Pour s’y préparer
- Les 7 777, dans l’Abécédaire
- L’intégrité numérique, dans l’Abécédaire : le corps de données que chacun traîne désormais avec lui
- Dans l’Autodéfense : « Vous êtes contre le progrès : pour vous, c’était mieux avant »
Les Formulateurs : la question
Chez les Formulateurs, le travail commence par un mot à remplacer. La liste disait « médecin ». Une sage-femme, tirée au sort comme les autres, a levé la main.
Elle a fait observer qu’elle décide chaque jour, dans son champ, sans médecin : un dentiste aussi, un infirmier, un pharmacien. Écrire « médecin » aurait exigé d’eux une signature que la loi ne leur demande pour rien d’autre. La formation a donc retenu « un médecin ou un autre professionnel de santé habilité à la prendre ». Le sens ne bouge pas ; le périmètre devient exact. C’est un bon exemple de ce qu’apporte un corps renouvelé à chaque votation (Titre II, article 7) : le métier de chacun entre dans la salle avec lui.
Le deuxième obstacle est plus retors. La Constitution d’urgence interdit déjà qu’une décision qui affecte une personne soit prise sur le seul fondement d’un traitement automatisé, et prévoit qu’un humain la réexamine si la personne le demande (Titre V, article 3-1, 2°). La question est-elle alors déjà tranchée ? La formation en a débattu, puis conclu que non : le texte ne dit pas qui est cet humain, ni qu’il doit intervenir avant, pour chaque décision. La fiche reste donc ouverte, et le dit dès son premier paragraphe.
Restait la tentation de tout régler d’un coup : la validation, la responsabilité du fabricant, l’information du patient. 3 matières, 3 questions possibles. Un seul objet par question, dit la règle de l’unité de la matière (Titre I, article 6). Les 2 autres figurent dans ce que la question ne tranche pas.
3 rédactions qui n’ont pas passé la visite
- « Approuvez-vous qu’aucune décision médicale concernant un patient ne puisse être prise par un système d’intelligence artificielle sans la validation d’un médecin ? » Écartée : rédaction de départ (liste du 5 octobre 2026) : « un médecin » écartait les sages-femmes, les chirurgiens-dentistes, les infirmiers et les pharmaciens, qui prennent chaque jour des décisions de soin dans leur champ ; la loi parle d’ailleurs du « professionnel de santé ». Le sens est inchangé.
- « Approuvez-vous l’interdiction de l’intelligence artificielle en médecine ? » Écartée : une autre question, bien plus large : celle-ci n’interdit aucun outil, elle exige qu’un humain décide.
- « Voulez-vous que votre santé reste entre des mains humaines plutôt que livrée aux algorithmes ? » Écartée : « livrée » plaide pour le oui, et l’alternative est fausse : dans les 2 cas, des humains soignent.
3 blouses, dont une sans stéthoscope
Auditions fictives. La règle, elle, est écrite : 2 comités, l’un pour, l’autre contre, déposent des noms, et le hasard en retient un nombre identique dans chaque liste ; un registre public complète, où toute personne compétente peut s’inscrire et d’où l’on tire par spécialité. En pratique, on y croiserait des praticiens et des chercheurs qui ont pris parti publiquement depuis longtemps, et dont on aurait lu le parcours. Déclaration d’intérêts pour tous, pronostics publiés avec le nom de leur auteur (Titre II, article 7, 3°). Ceux que vous allez lire sont inventés ; leurs données viennent de la fiche.
Liste des partisans · droit du numérique en santé
Une juriste, qui conseille des associations de patients
« On vous dira que tout est déjà prévu. Regardez de près. Le règlement européen sur les données écarte la décision entièrement automatisée, mais il admet des exceptions, dont le consentement explicite du patient. La loi de 2021 oblige à informer, pas à valider, et ses textes d’application n’étaient pas pris en février 2026. Quant aux obligations européennes sur les systèmes à haut risque, elles viennent d’être repoussées à décembre 2027 et août 2028. »
« Il y a donc une fenêtre de plusieurs années pendant laquelle l’usage s’installe plus vite que la règle. La question propose de la fermer par une phrase que tout le monde comprend. »
Pour creuser : une entrée du Lexique à garder sous la main, le technocratisme : quand la décision glisse hors de portée de ceux qu’elle concerne
Liste des adversaires · radiologie
Un radiologue, chef de service dans un hôpital qui manque de bras
« L’essai suédois, je le connais par cœur : 105 934 femmes. L’algorithme oriente chaque mammographie vers 1 ou 2 lecteurs. Résultat : une sensibilité de 80,5 % contre 73,8 %, la même spécificité, et 44 % de lecture en moins pour les radiologues. Ces 44 %, c’est du temps rendu aux malades. Vous ne les obtenez que si la machine décide du niveau de contrôle. »
« Je signe ceci : si l’on exige une validation ligne à ligne, dans 5 ans les médecins signeront sans lire. Le règlement européen a un nom pour cela, le biais d’automatisation. Vous aurez la signature, pas le contrôle. »
Pour creuser : ce que le Lexique du Pouvoir nomme l’état « agentique » : obéir en se croyant simple instrument
Registre public · génie biomédical
Une ingénieure hospitalière, que le tirage a prise sur le registre
« Les faits d’abord. En juillet 2025, 65 % des établissements publics de santé interrogés par leur fédération, 110 au total, utilisaient déjà ces outils en production. Une enquête en ligne de 2025, non représentative, place l’aide au diagnostic à 25 % des usages déclarés et l’aide à la décision à 23 %, loin derrière les tâches administratives. Et le projet de guide des autorités sanitaires, en 2026, tient pour contraire à la réglementation qu’aucun professionnel ne revoie les examens classés normaux par la machine. »
« Ce que personne ne sait dire : où commence une décision. Une alarme, une pompe qui corrige une dose, un tri de dossiers ? Tant que ce mot n’est pas défini, vous votez sur une frontière que chacun trace à sa façon. »
Pour creuser : la complaisance algorithmique, entrée du Lexique du Pouvoir sur les machines qui donnent raison
La note citoyenne garde la trace de ces 3 voix. Elle range d’un côté les mesures, de l’autre les paris, reproduit le droit en vigueur, et doit avoir atteint chaque électeur 4 semaines avant le dimanche du vote. Son brouillon se lit ici même, sous Le dossier et sous Le débat.
Les 7 épreuves de loyauté
Base juridique Satisfaite
Une loi suffit : elle compléterait le code de la santé publique, et le référendum d’initiative citoyenne peut l’adopter. Elle prolonge un principe que la Constitution d’urgence pose pour toute décision (Titre V, article 3-1, 2°). Le règlement européen sur l’intelligence artificielle encadre la mise sur le marché des systèmes ; les règles d’exercice des professions de santé restent nationales.
Unité de la matière Satisfaite
Un seul objet : la validation humaine de la décision médicale. L’information du patient, la responsabilité en cas d’erreur et la certification des outils sont d’autres matières.
Clarté En délibération
3 mots demandent une définition : « décision médicale » (un tri, une alerte, un ajustement de dose en sont-ils ?), « validée » (avant chaque décision, ou par un protocole qui en couvre plusieurs ?), et « système d’intelligence artificielle », que le règlement européen définit. L’électeur peut se méprendre sur les automatismes déjà en service.
Libellé inversé Satisfaite
Écrite à l’envers : « Approuvez-vous qu’une décision médicale puisse être prise par un système d’intelligence artificielle sans validation d’un professionnel de santé, dans les cas et avec les garanties que le droit actuel prévoit ? » Elle reste aussi neutre.
Aucune conséquence présumée Satisfaite
La question ne promet ni une médecine plus sûre ni des soins plus lents ; les effets juridiques sont exposés à part.
Noyau intangible Sans objet
Sans objet : aucun des droits du noyau intangible n’est en jeu (Titre XVIII, article 3).
Contrôle préalable de la question Sans objet
Sans objet aujourd’hui : aucune Cour ne contrôle cette fiche tant que la Constitution d’urgence n’est pas adoptée (Titre XIX, article 3).
Ce qui reste ouvert : votre aide est demandée
- Faut-il une liste d’automatismes exemptés (pompe à insuline, défibrillateur, alarmes de surveillance), et qui la tiendrait : la loi, ou la Haute Autorité de santé ?
- Faut-il laisser au patient le droit de renoncer à la validation humaine, par un consentement explicite, pour des actes simples ?
- Comment s’assurer que la validation est un contrôle et non une signature : un temps minimal, une trace écrite du raisonnement, une vérification régulière d’une partie des dossiers validés ?
Pour s’y préparer
- Les 777, dans l’Abécédaire
- Dans l’Autodéfense : « Vos Formulateurs changent à chaque votation : des amateurs sans expérience écriront les questions du pays »
- Le jugement, faculté politique, dans l’Abécédaire
Le Contrôle : les gardiens
Dans un hôpital, la contre-signature existe pour une raison simple : celui qui a fait n’est pas le mieux placé pour vérifier. Les 77 sont la contre-signature du chemin.
Personne ne dépose de candidature pour entrer au Collège : on y est appelé. Les électeurs citent, sans qu’elle l’ait sollicité, une personne dont ils estiment la droiture ; parmi les noms les plus souvent cités, le sort compose le Collège, et quiconque fait campagne en est écarté (Titre II, article 6). Leur office est étroit, et ils y tiennent : pas un mot du libellé ne leur appartient. Ils regardent si les étapes ont été franchies dans les règles, et consignent leurs réserves.
La contre-signature des 77
La clarté des mots Réserve
« Décision médicale » et « validée » n’ont pas de définition dans le libellé. Le Collège ne les définit pas lui-même, ce n’est pas son rôle ; il constate que la note citoyenne devra dire si une alarme, un tri ou un ajustement de dose sont des décisions, et si un protocole peut valoir validation pour plusieurs patients. Tout électeur peut porter ce grief devant la Cour dans les 10 jours qui suivent la publication du libellé (Titre II, article 7, 4°).
L’accord avec le principe déjà posé Constaté
La question ne contredit pas le droit de ne pas être jugé par une machine (Titre V, article 3-1, 2°) ni le droit à l’interlocuteur humain (Titre XII, article premier) : elle les applique à la médecine, et les durcit. Une loi y suffit, sans révision de la Constitution.
Le droit de l’Union À surveiller
Tant qu’elle est liée par les traités européens, la France doit les exécuter loyalement (Titre XVIII, article 7, 5°). Le règlement européen encadre la mise sur le marché des systèmes ; l’exercice des professions de santé relève de chaque État. La loi devra rester de ce côté de la ligne : régler ce que fait le soignant, non ce que doit être le produit.
L’égalité des experts Constatée
Les 2 listes ont fourni chacune sa voix, le registre la troisième ; les intérêts sont déclarés. Le Collège note que l’industrie des logiciels médicaux n’a pas été entendue en tant que telle : elle pouvait figurer sur la liste des adversaires, qui a choisi un praticien.
Le noyau intangible et le contrôle préalable Sans objet
Rien, dans cette question, n’approche le noyau intangible. Quant au contrôle de la Cour, il attend que la Cour existe ; les commentaires en tiennent lieu.
Ce que le peuple peut prescrire aux machines, et à ceux qui les achètent
Un vote sur la validation n’est qu’une ordonnance parmi d’autres. Le référendum se décline en 4 formes, sans matière réservée, auxquelles s’ajoute la révision de la Constitution (Titre I, article 6). De quoi écrire, par exemple :
- Une loi nouvelle (référendum propositif) : un registre public des algorithmes utilisés dans chaque hôpital, avec leurs performances mesurées et leurs erreurs déclarées.
- Une loi corrigée (référendum modificatif) : compléter l’article du code de la santé publique sur l’information du patient, pour qu’il sache aussi quel professionnel a validé.
- Une loi retirée (référendum abrogatoire) : défaire toute loi future qui autoriserait, par exception, une décision médicale entièrement automatisée.
- La Constitution précisée (révision) : écrire, au 2° de l’article 3-1 du Titre V, que l’humain qui réexamine est compétent dans la matière en cause ; cet article suit la voie ordinaire de la révision (Titre XVIII, article premier).
- Un mandat repris (référendum révocatoire) ? Il ne s’applique qu’à un délégué du peuple. Aucun directeur d’hôpital, aucun éditeur de logiciel, aucun algorithme n’en relève.
À vous la relecture
Prenez 3 situations : une pompe à insuline qui corrige la dose, un logiciel qui classe 1 000 mammographies, un outil qui propose un traitement à un interne à 4 heures du matin. Pour chacune, dites si la question s’applique, et réécrivez le libellé jusqu’à ce que votre réponse ne dépende plus de celui qui lit.
Un rappel pour finir, sans solennité : cette page est un atelier ouvert à ceux qui poussent la porte, ce qui en fait un échantillon de curieux et non du pays. La vraie délibération commencera avec des citoyens que le sort aura tirés de leur quotidien, soignés bien plus souvent que soignants.
Pour s’y préparer
- Les 77, dans l’Abécédaire
- Les articles : Titre V, article 3-1, l’intégrité numérique et Titre XII, article premier, le droit à l’interlocuteur humain
- Les biais cognitifs, dans l’Abécédaire
Le dossier
Avant de peser, vérifier : ce que dit le droit aujourd’hui, le texte exact soumis au vote, les faits sur lesquels chacun peut s’appuyer, quel que soit son camp, et ce que l’on sait du coût.
Ce que dit le droit aujourd’hui
Le règlement général sur la protection des données reconnaît à toute personne le droit de ne pas faire l’objet d’une décision fondée exclusivement sur un traitement automatisé qui l’affecte de manière significative (règlement (UE) 2016/679, article 22). Il admet des exceptions, dont le consentement explicite de la personne. Dans leur projet de guide commun, soumis à consultation en février 2026, la Haute Autorité de santé et la Commission nationale de l’informatique et des libertés en concluent que ces conditions ne sont pas remplies à ce jour dans les soins, ce qui « interdit par principe toute prise de décision entièrement automatisée ».
Depuis la loi de bioéthique du 2 août 2021, le code de la santé publique dispose : « Le professionnel de santé qui décide d’utiliser, pour un acte de prévention, de diagnostic ou de soin, un dispositif médical comportant un traitement de données algorithmique dont l’apprentissage a été réalisé à partir de données massives s’assure que la personne concernée en a été informée et qu’elle est, le cas échéant, avertie de l’interprétation qui en résulte » (article L. 4001-3). La loi impose donc d’informer ; elle n’écrit pas qu’un professionnel doit valider chaque décision. Ses textes d’application étaient encore en cours d’élaboration en février 2026.
Le règlement européen sur l’intelligence artificielle classe à haut risque les logiciels médicaux fondés sur cette technique. Ils doivent être conçus pour permettre « un contrôle effectif par des personnes physiques pendant leur période d’utilisation », par des personnes capables « de décider, dans une situation particulière, de ne pas utiliser le système d’IA à haut risque » (règlement (UE) 2024/1689, article 14). Le règlement (UE) 2026/1744 du 8 juillet 2026 a repoussé ces obligations au 2 décembre 2027 pour les systèmes autonomes et au 2 août 2028 pour ceux qui sont intégrés à des produits, dont les dispositifs médicaux.
Le code de déontologie médicale pose que « le médecin ne peut aliéner son indépendance professionnelle sous quelque forme que ce soit » (code de la santé publique, article R. 4127-5). Pour l’Académie nationale de médecine, le médecin doit valider les données produites par la machine, sans être tenu de la suivre.
La question ajouterait 3 choses à ce droit : une règle écrite pour la décision médicale elle-même, et non seulement pour l’information du patient ; l’absence d’exception, y compris par consentement ; la désignation de celui qui valide. Les règles d’exercice des professions de santé relèvent de chaque État : une loi suffirait.
Sources : règlement (UE) 2016/679, article 22 (EUR-Lex) ; Haute Autorité de santé et CNIL, « Accompagner le bon usage des systèmes d’intelligence artificielle en contexte de soins », version du 16 février 2026 soumise à consultation ; Conseil national de l’Ordre des médecins, « Principaux textes réglementant l’intelligence artificielle » (article L. 4001-3) ; règlement (UE) 2024/1689, article 14 (EUR-Lex) ; Lexis Veille, règlement (UE) 2026/1744, juillet 2026 ; Académie nationale de médecine, communiqué du 3 décembre 2025.
Le texte soumis au vote
Aucun texte n’est encore rédigé : la question appelle une loi, qui compléterait le code de la santé publique. La Constitution d’urgence fixe déjà 2 garanties générales, dont la question serait l’application renforcée à la médecine :
2° le droit de ne pas être jugé par une machine : aucune décision produisant des effets juridiques à l’égard d’une personne, ou l’affectant de manière significative, ne peut être prise sur le seul fondement d’un traitement automatisé ; à la demande de la personne, un être humain la réexamine et tranche ;
[…]
Aucun citoyen ne peut être contraint de voir sa demande, sa réclamation ou son recours traités exclusivement par un dispositif automatisé, sans qu’un être humain puisse, à sa requête, réexaminer et trancher.
Constitution d’urgence, Titre V, article 3-1, 2°, et Titre XII, article premier (extraits)
Dispositions liées : le refus de la substitution trompeuse de la machine à l’humain (Titre XII, article 2), la transparence des algorithmes (Titre VIII, article 3), le consentement à tout acte médical (Titre V, article 3).
Les faits, chacun avec sa source
- En juillet 2025, 65 % des établissements publics de santé qui ont répondu à une enquête de la Fédération hospitalière de France (110 établissements) utilisaient déjà des outils d’intelligence artificielle en production. Source : Haute Autorité de santé et CNIL, projet de guide du 16 février 2026, qui cite cette enquête.
- Dans une enquête en ligne menée de février à mai 2025 (1 097 réponses, non représentatives), les professionnels utilisateurs citent d’abord l’aide administrative (51 %), puis l’aide au diagnostic (25 %) et l’aide à la décision médicale ou thérapeutique (23 %) ; parmi les freins, la fiabilité des outils (57 %) et l’absence de régulation claire (50 %). Source : Hub France IA, enquête sur l’adoption de l’intelligence artificielle en santé, rapport de janvier 2026.
- Dans un essai mené en Suède sur 105 934 femmes, le dépistage du cancer du sein assisté par un algorithme, qui oriente chaque examen vers la lecture d’un ou de 2 radiologues, a obtenu une sensibilité de 80,5 % contre 73,8 % pour la double lecture classique, pour une spécificité égale (98,5 %) ; le taux de cancers découverts entre 2 dépistages a été de 1,55 pour 1 000 contre 1,76, écart non significatif ; la charge de lecture des radiologues a baissé de 44 %. Chaque examen a été lu par un radiologue au moins. Source : essai MASAI, publié dans The Lancet, présenté par The ASCO Post, 2 février 2026.
- Pour la Haute Autorité de santé et la CNIL, les organisations où aucun professionnel ne revoit les examens que la machine a classés sans anomalie « apparaissent contraires à la réglementation » ; le projet de guide reconnaît l’intérêt de tels systèmes pour des dépistages à grande échelle, mais juge qu’il suppose un débat démocratique et éthique préalable. Source : Haute Autorité de santé et CNIL, projet de guide du 16 février 2026.
- Pour l’Académie nationale de médecine, « le médecin n’est pas tenu à suivre strictement les propositions de l’IA » ; elle ajoute que ne pas utiliser un tel outil pourrait être « considérée comme une faute par perte de chance pour le patient ». Source : Académie nationale de médecine, communiqué du 3 décembre 2025.
- Les obligations du règlement européen sur l’intelligence artificielle pour les systèmes à haut risque, attendues le 2 août 2026, ont été repoussées au 2 décembre 2027, et du 2 août 2027 au 2 août 2028 pour les systèmes intégrés à des produits comme les dispositifs médicaux. Source : Lexis Veille, règlement (UE) 2026/1744 du 8 juillet 2026, publié le 24 juillet 2026.
Le coût et les effets estimés
Non chiffré. Le coût de la règle est du temps médical : celui que demande la validation de chaque décision. Aucune estimation publique n’en existe. Pour mesurer l’enjeu : dans l’essai suédois sur le dépistage du cancer du sein, l’algorithme a réduit de 44 % la charge de lecture des radiologues, alors même qu’un radiologue au moins lisait chaque examen (essai MASAI).
Le débat
Les 2 camps, à force égale. Vous connaissez un argument plus fort que l’un de ceux-ci ? Proposez-le en commentaire : s’il est retenu, il remplace le plus faible, et votre nom figure dans la genèse de la fiche.
Les meilleures raisons de voter oui
- Une décision qui engage un corps doit avoir un auteur qui en réponde. Un algorithme ne répond de rien : il n’a ni serment, ni déontologie, ni responsabilité. Le patient a le droit de savoir quelle personne a décidé pour lui, et de lui demander pourquoi.
- Ces systèmes se trompent à leur manière : ils reproduisent les biais de leurs données et répètent la même erreur sur des milliers de patients. Le professionnel connaît ce que la machine ignore : l’histoire du malade, son contexte, ce qu’il veut. Le règlement européen lui-même exige un contrôle humain.
- Le droit actuel est poreux : le règlement sur la protection des données admet la décision automatisée avec le consentement explicite du patient ; les textes d’application de la loi de 2021 n’étaient pas encore pris en février 2026 ; les obligations européennes sont repoussées à 2027 et 2028. Une règle claire ferme la porte avant que l’usage ne s’installe.
- Sans cette règle, une médecine à 2 vitesses menace : un professionnel pour ceux qui peuvent l’obtenir, une machine pour les autres, d’abord là où les soignants manquent. La validation humaine pour tous est une garantie d’égalité.
- La règle ne prive d’aucun progrès : dans l’essai suédois, l’algorithme a amélioré le dépistage alors qu’un radiologue lisait chaque examen. C’est ce modèle, la machine qui assiste et l’humain qui décide, que la question inscrit dans la loi.
Les meilleures raisons de voter non
- Le temps médical manque. Si chaque sortie d’un algorithme doit être validée une à une, le gain disparaît : les 44 % de lecture économisés en Suède viennent de ce que la machine décide du niveau de contrôle. Là où il n’y a plus de médecin, un dépistage automatisé vaut mieux que pas de dépistage.
- Une validation obligatoire devient vite une signature. Le professionnel pressé qui approuve des centaines de propositions par jour ne contrôle rien : le règlement européen nomme ce biais d’automatisation. La règle donnerait l’illusion d’une garantie, et ferait porter au soignant la faute du fabricant.
- Le droit existant suffit et s’adapte : interdiction de principe de la décision automatisée, contrôle humain, déontologie, recommandations de la Haute Autorité de santé. Une règle rigide fige une technique qui change chaque année ; le jour où la machine sera plus sûre que l’homme pour une tâche, la loi imposerait le moins bon soin.
- « Décision médicale » n’a pas de frontière nette. Une pompe à insuline qui ajuste seule la dose, un défibrillateur qui décide de délivrer un choc, une alarme de surveillance décident déjà sans validation à chaque fois. La règle les rendrait illégaux, ou appellerait des exceptions sans fin.
- Le patient perdrait un choix : aujourd’hui, il peut consentir explicitement à une décision automatisée, par exemple pour obtenir un résultat sans attendre. Une règle sans exception décide à sa place qu’il ne le peut pas.
La position du #PIC, à part
Le #PIC, le Pari de l’Intelligence Collective, ne tranche pas cette question : il la pose, et la pose loyalement, pour qu’elle soit enfin décidée par le peuple. C’est à vous de trancher.
La genèse
D’où vient la question, comment elle a changé, et qui l’a fait changer.
Origine
Proposition de la rédaction du #PIC (liste des 100 questions du 5 octobre 2026). En 2026, les hôpitaux publics utilisent déjà ces outils, la Haute Autorité de santé et la CNIL préparent un guide commun, et l’Union européenne vient de repousser à 2027 et 2028 les obligations qu’elle impose aux systèmes à haut risque.
Versions
- Version 111 novembre 2026
Première rédaction de la fiche.
Formulations écartées, et pourquoi
Elles sont dans l’onglet des Formulateurs, avec les raisons de leur chute.
Prévisions datées
Aucune prévision chiffrée n’a encore été avancée sur cette question. Toute prévision formulée en commentaire sera consignée ici, datée et sous le nom de son auteur, pour être un jour confrontée à l’événement, comme la Constitution d’urgence l’exige des experts (Titre II, article 7).
Contributeurs
Les commentaires qui feront évoluer cette fiche seront cités ici, avec le nom de leur auteur.
Ce que nous instituons, dans la Constitution d’urgence : l’intégrité numérique et le droit de ne pas être jugé par une machine · le droit à l’interlocuteur humain · le refus de la substitution trompeuse de la machine à l’humain · la transparence algorithmique
La riposte, dans l’Autodéfense : « Vous êtes contre le progrès : pour vous, c’était mieux avant » · « Vous méprisez les experts : la science ne se vote pas »
Le versant sombre, dans le Lexique du Pouvoir : L’état « agentique » · La complaisance algorithmique · Le technocratisme
Pour comprendre, dans l’Abécédaire : L’intégrité numérique · Les biais cognitifs · Le jugement, faculté politique
Le kit de débat
Emportez la question !
Ce n’est pas au #PIC de lancer tous les débats : c’est à vous, pourvu que le débat reste loyal. Prenez cette question, son image et ses messages, et débattez-en où vous voulez, dans votre groupe, sur votre réseau, dans votre direct. La méthode, en 7 temps.
L’image, en 3 formats
3 messages prêts à copier
La question qui pique pour X
En Suède, un algorithme a réduit de 44 % le travail de lecture des radiologues au dépistage du cancer du sein, sans dépister moins bien. Chaque examen a pourtant été lu par un humain. Faut-il en faire une règle, ou une étape ? https://pari-intelligence-collective.org/ric/question-98/
La question ouverte pour un réseau ou un fil
Faut-il qu’aucune décision médicale ne puisse être prise par un système d’intelligence artificielle sans avoir été validée par un médecin ou par un autre professionnel de santé habilité ? Pour : une décision qui engage un corps doit avoir un auteur qui en réponde, et un algorithme ne répond de rien. Contre : une validation obligatoire devient vite une simple signature, et le temps médical manque déjà. Règle proposée : chacun donne un cas concret où sa propre position le gêne. Ce fil est un atelier de questions, pas un baromètre. https://pari-intelligence-collective.org/ric/question-98/
L’invitation à un direct à compléter entre crochets
Qui signe quand la machine a déjà conclu ? Débat loyal en 7 temps, le [jour] à [heure], [lien ou lieu]. 2 invités aux positions connues et contraires : une juriste du numérique en santé, qui conseille des associations de patients ; un radiologue chef de service, qui manque de bras et compte sur ses logiciels. Le même temps de parole pour chacun, des questions du public tirées au sort. On termine par un vote d’entraînement, qui n’a de valeur que pédagogique. La fiche : https://pari-intelligence-collective.org/ric/question-98/ La méthode : https://pari-intelligence-collective.org/ric/emporter-la-question/
Vos invités
Un de chaque camp au moins, qui défend sa position depuis longtemps : repérez-les sur les réseaux, retenez sur leur parcours ceux qui se proposent, accueillez ceux que vos participants suggèrent. Pour cette question, par exemple :
- Côté oui : une juriste, qui conseille des associations de patients (droit du numérique en santé)
- Côté non : un radiologue, chef de service dans un hôpital qui manque de bras (radiologie)
- Pour éclairer les 2 camps : une ingénieure hospitalière (génie biomédical)
Revenez avec ce que vous aurez trouvé : la meilleure formulation, l’argument qui manquait, la source qui tranche. Déposez-les en commentaire ; celui dont la remarque change la fiche est cité, avec son nom, dans sa genèse.
Ci-dessous, le débat sur cette question : un vote pour vous exercer, puis la discussion, regroupée ici pour ne pas alourdir la lecture de la fiche.
Et vous, que répondriez-vous ?
Ce vote n’a aucune valeur légale ni scientifique : c’est un apprentissage collectif. Il ne recueille que l’avis des visiteurs de ce site qui ont choisi de répondre : ce n’est en aucune manière une mesure de l’opinion, et il ne saurait être présenté comme tel. Le #PIC prépare une application de vote citoyen, libre (open source), conçue pour vérifier que chaque votant remplit les conditions pour voter, garantir le secret de son vote et rendre le décompte vérifiable par tous. Jusqu’à l’adoption de la Constitution d’urgence, elle fera entendre la voix du peuple sans force contraignante : elle prouvera, elle ne décidera pas. Une fois adoptée dans les conditions que fixe cette Constitution, dès l’Année Zéro, c’est elle qui fera foi.
0 commentaire