Cet article est né d’un post LinkedIn. Un format court, trois leviers, une question finale. Ce que je n’attendais pas, c’est l’ampleur des réactions. Médecins, infirmiers, avocats, DPO, entrepreneurs du numérique en santé. Chacun a apporté un angle que je n’avais pas anticipé. Certains ont confirmé. D’autres ont contredit. Quelques-uns ont ouvert des brèches que je n’avais pas vues. J’ai décidé de creuser. Ce texte est le résultat de ce travail collectif, involontaire et précieux.
L’intelligence artificielle n’est plus une promesse lointaine dans le soin. Elle est déjà là, dans les urgences, les blocs opératoires, les services de radiologie. Elle analyse, classe, suggère, parfois oriente une décision, en silence.
Le problème n’est pas son existence. Le problème, c’est l’absence de cadre clair autour d’elle. Sans supervision structurée, sans traçabilité rigoureuse, sans gouvernance ancrée dans le quotidien des équipes, on ne parle plus de médecine augmentée. On frôle la médecine-fiction.
Mais avant de parler de cadre, il faut parler de sol. Et le sol, en France, est souvent instable.
Ce que le terrain dit avant tout le reste
Jean-Marc Pocard, infirmier et référent DPI, pose un problème que les débats théoriques occultent trop souvent. Si un soignant administre un médicament à 11h30 mais ne peut le saisir dans le système qu’à 12h15, comment l’algorithme interprète-t-il correctement les interactions médicamenteuses ? La donnée est décalée. L’IA lit une réalité qui n’est pas celle du soin réel.
Avant d’imaginer une IA au service du soin, il faut des infrastructures numériques fiables. Reconnaissance vocale, intégration dans les DPI, saisie en temps réel. Ces basiques manquent encore dans de nombreux établissements. Une IA bâtie sur des données mal saisies n’augmente pas le soin. Elle amplifie l’erreur.
Ce n’est pas un problème de volonté. C’est un problème de budget, de culture institutionnelle, de lenteur des déploiements. Tant que cette réalité n’est pas adressée, les trois leviers qui suivent restent théoriques.
Superviser pour ne pas subir
Un modèle d’IA performant aujourd’hui peut dériver demain. Les données changent, les populations évoluent, les pratiques bougent. Un algorithme entraîné sur les données d’un bassin minier ne lira pas les mêmes signaux qu’un outil calibré sur une population côtière. Bertrand Spilthooren, spécialiste de la souveraineté des données de santé, le rappelle : ancrer une IA sur un entrepôt de données local, c’est tenir compte des spécificités réelles de la population soignée, pas d’une moyenne abstraite.
Sans recalibrage régulier ni monitoring actif, on laisse l’aléatoire dicter le soin. La supervision doit être planifiée, assignée, documentée, comme n’importe quel acte de contrôle qualité.
Tracer pour pouvoir répondre
Provenance des données, version du modèle, contexte de décision au moment T. En cas de contentieux, vous devrez tout rejouer. Pouvez-vous le faire aujourd’hui ?
La traçabilité n’est pas une formalité administrative. C’est la mémoire de l’outil. Sans cette mémoire, la responsabilité devient introuvable, diluée entre personne, donc portée par tous sans que personne ne réponde vraiment.
Pierre Desmarais, avocat spécialisé en données personnelles, dessine la répartition logique : le fournisseur répond des dysfonctionnements du système, le déployeur et l’utilisateur de la mauvaise utilisation. Cette répartition reste à construire juridiquement. Elle trace néanmoins la bonne direction, à condition que la traçabilité existe pour l’alimenter.
Gouverner au quotidien, pas en comité
La gouvernance de l’IA médicale échoue souvent non par manque de volonté, mais par excès d’abstraction. Des comités produisent des documents. La réalité terrain continue sans eux.
Une gouvernance efficace s’intègre aux outils que les soignants utilisent déjà. Fiches modèles, protocoles intégrés au DPI, langage commun entre technique, soin et conformité. Marlène Denis, DPO, ancre cette réalité : le choix des outils IA et les processus de contrôle qualité s’intègrent désormais dans les référentiels de certification des établissements de santé. La gouvernance n’est plus optionnelle. Elle est évaluée.
L’AI Act européen, entré en vigueur en août 2024, renforce cette logique avec une application progressive des obligations pour les systèmes à haut risque jusqu’en 2026-2027. Les outils d’aide à la décision clinique en font partie.
Qui tient le stéthoscope, qui tient la responsabilité ?
Le Dr Jacques Lucas, ancien président de l’Agence du Numérique en Santé, désamorce la panique avec une analogie limpide. Quand un électrocardiographe proposait une analyse, la responsabilité ne reposait pas sur la machine. Elle reposait sur le médecin qui interprétait et décidait. L’IA fonctionne selon le même principe.
La décision finale reste médicale, donc humaine, donc responsable.
La Commission européenne avait proposé une directive sur la responsabilité civile de l’IA. Elle l’a retirée en 2025 pour s’appuyer sur l’AI Act et le droit commun. Ce repositionnement laisse les établissements dans une zone grise réelle : les usages avancent plus vite que la doctrine juridique. Les établissements utilisent des outils dont le régime de responsabilité reste partiellement indéterminé.
La question que personne ne pose encore assez
Marie Pages, médecin et fondatrice de Mediia, retourne le raisonnement : qui sera responsable de ne pas avoir utilisé l’IA, quand il sera prouvé qu’on est meilleur avec elle ?
Ce n’est pas rhétorique. En droit médical français, l’article R4127-32 du Code de la santé publique impose au médecin d’utiliser les données acquises de la science. Si une IA d’aide au diagnostic devient l’état de l’art, ne pas l’utiliser pourrait constituer une faute par perte de chance pour le patient. Des tribunaux ont déjà condamné des praticiens pour ne pas avoir prescrit des examens d’imagerie imposés par les sociétés savantes. L’IA suivra ce chemin jurisprudentiel. L’enjeu bascule alors :
le problème ne sera plus seulement l’erreur algorithmique, mais aussi le refus d’utiliser un outil devenu standard.
Ce moment n’est pas encore là. Mais il approche.
Le patient, le grand oublié du débat
David Beausire, médecin en soins palliatifs, identifie l’impensé central : qui informe le patient qu’une IA a orienté la décision sur son cas ?
Jean-Marc Pocard va plus loin. Si le patient dispose de droits croissants sur ses données de santé, ne pourrait-il pas demander à une IA d’analyser son propre parcours ? L’EHDS, adopté en avril 2024 et entré en vigueur le 26 mars 2025, ouvre cette perspective avec une application progressive jusqu’en 2029. Mais le droit du patient à piloter activement cet usage reste à définir. Il le sera. La question est de savoir si les établissements seront prêts.
Une technologie capable d’influencer une décision médicale ne peut pas rester juridiquement orpheline.
Sources
Réglementation européenne
AI Act. Règlement (UE) 2024/1689 du 13 juin 2024 établissant des règles harmonisées concernant l’intelligence artificielle. EUR-Lex, Journal officiel de l’UE, 12 juillet 2024. Entrée en vigueur le 1er août 2024, application progressive des obligations pour les systèmes à haut risque jusqu’en 2026-2027.
EHDS. Règlement (UE) 2025/327 du 11 février 2025 relatif à l’Espace européen des données de santé. EUR-Lex, Journal officiel de l’UE, 5 mars 2025. Entrée en vigueur le 26 mars 2025, application progressive jusqu’en 2029.
Droit médical français
Article R4127-32 du Code de la santé publique. Légifrance. Obligation pour le médecin d’assurer des soins fondés sur les données acquises de la science.
Haute Autorité de Santé
Technologies numériques et systèmes d’IA à usage professionnel. HAS, mis à jour mars 2026. Cadre de confiance et critères IA intégrés au 6e cycle de certification des établissements de santé.
Premières clefs d’usage de l’IA générative en santé. HAS, octobre 2025. Guide A.V.E.C. à destination des professionnels de santé.
Accompagner le bon usage des systèmes d’IA en contexte de soins. HAS/CNIL, février 2026. Référence française la plus complète sur la gouvernance et les bonnes pratiques IA en établissements de santé.
Post LinkedIn d’origine
L’IA entre à l’hôpital. Qui garde le stéthoscope, qui tient la responsabilité ?. Chanfi Maoulida, LinkedIn.
