Henri Bergeron, Louison Carroué, Enjeux de l'intelligence artificielle en santé, 2023, 108 p.

1. Contexte et auteurs

Ce document collectif, à la fois analytique et prospectif, vise à comprendre les conditions sociales et politiques de déploiement des nouvelles technologies, en soulignant que l’intelligence artificielle en santé ne peut être réduite à une innovation technique. Elle redéfinit des rapports humains, organisationnels et institutionnels profonds au sein du système de santé. Publié à la sortie de la crise COVID-19, il intervient à un moment où la place réelle de l’IA est développée, entre pénurie de personnel et multiplication d’outils technologiques.

2. 4 vérités surprenantes sur l'IA et la santé

Les vrais défis sur l'application de l'IA en santé sont techniques mais également sociaux, économiques et profondément éthiques. Cet article dévoile quatre des aspects les plus inattendus et fondamentaux de cette transformation silencieuse.

2. 1. L'IA ne remplacera pas votre médecin, elle peut le rendre (encore) plus humain.

L’idée la plus répandue, et souvent la plus anxiogène, est celle d’une machine qui se substituerait au praticien. Pourtant, la réalité est bien différente. L’IA n’a pas vocation à remplacer le médecin ; elle vise à l'épauler. Plus concrètement, elle prend en charge des tâches répétitives et chronophages, là où l’humain peut être moins précis ou moins performant.

Par exemple, dans l’analyse d’images médicales, une IA peut, selon le Dr Olivier Vire, détecter des cancers de la prostate « de moins d’un millimètre de large » qui passeraient autrement inaperçus. Elle peut aussi gérer des opérations de quantification fastidieuses. Ainsi, lorsqu’un anatomopathologiste doit « compter les lymphocytes à la main », la machine s'avère particulièrement adaptée. Grâce à cette automatisation, les professionnels gagnent un temps précieux.

Ce temps libéré permet aux soignants de se recentrer sur ce que la technologie ne fera jamais : l’écoute active, l’empathie, l’accompagnement psychologique et la prise de décision complexe intégrant des dimensions humaines subtiles. De plus, comme le rappelle le Dr Jean-Paul Ortiz, l’enjeu est de construire une véritable complémentarité entre le praticien et son outil numérique. Cette approche réaffirme la place centrale de la relation humaine dans le soin.

« N’oublions pas que le meilleur système de soins consiste en un humain qui soigne un autre humain. » - Dr Jean-Baptiste Maldent.

In fine, dans un système de santé de plus en plus technique, l’IA pourrait paradoxalement favoriser un retour à une médecine recentrée sur la personne.  

2. 2. Le plus grand frein n'est pas la technologie, mais nos modèles économiques obsolètes.

Le premier défi est celui de l'infrastructure des données elle-même. La France, avec son Health Data Hub, a privilégié une approche centralisée, visant à regrouper les données. Or, comme le souligne la professeure Anita Burgun, de nombreux pays optent pour des modèles fédérés, où les données restent là où elles sont produites. Ce modèle décentralisé est souvent perçu comme plus respectueux de la souveraineté locale et plus apte à bâtir la confiance nécessaire à la coopération internationale.

À ces enjeux de structure s'ajoutent deux blocages économiques majeurs :

• Une évaluation inadaptée : Les modèles d'évaluation médico-économiques actuels, conçus pour des technologies statiques, sont jugés « obsolètes » pour des systèmes d'IA qui s'améliorent constamment avec les données. Comme le note l'économiste Thomas Rapp, le « niveau de preuve actuel assez bas sur l’efficience de l’IA » crée un cercle vicieux : sans preuve de valeur, pas de financement ; sans financement, difficile de générer les données nécessaires à la preuve.

• Un financement inexistant : Il n'existe pas de « voies d’accès au marché spécifiques et pérennes pour l’IA ». Les startups innovantes, faute de modèles de financement clairs, sont souvent « contraintes de nouer des partenariats avec de plus grandes entreprises ou de se faire racheter, y compris à l’international, ce qui pose des enjeux de souveraineté ».

Sans une refonte profonde de ces modèles d'évaluation et de financement, même les intelligences artificielles les plus prometteuses risquent de rester cantonnées au stade de l'expérimentation, incapables de franchir le cap d'une intégration durable dans notre système de soins.

2. 3. Votre assurance santé est sur le point de tout repenser.

Alors que ces freins économiques et réglementaires ralentissent l'adoption de l'IA dans la pratique clinique, une autre révolution, plus silencieuse, est déjà en marche dans un secteur mû par le calcul économique : l'assurance santé. L'IA y provoque un changement de paradigme fondamental dans la manière de gérer et de concevoir le risque.

Traditionnellement, les assureurs s'appuient sur des modèles basés sur de « grands agrégats sociodémographiques ». L'IA, elle, permet une analyse extrêmement fine à l'échelle de l'individu. La conséquence est majeure : cette nouvelle approche cherche à « cerner le prix exact du risque », ce qui, selon les experts, « renverse les théories classiques sur l’assurabilité du risque et de sa mutualisation ». À terme, cela pourrait conduire à une individualisation complète des primes d'assurance, où chacun paierait en fonction de son profil de risque personnel détaillé.

Cette évolution pourrait également transformer le rôle même des assureurs. Au lieu d'être de simples organismes de remboursement pour une médecine curative, ils pourraient devenir des acteurs proactifs de la prévention. En incitant leurs assurés à adopter des comportements plus sains pour faire baisser les risques, ils pourraient réduire leurs coûts. Cette logique, si elle se généralise, interroge directement les fondements de notre modèle de solidarité en matière de santé.

2. 4. La « garantie humaine » : le paradoxe éthique au cœur de l'IA.

Ce basculement potentiel vers un risque individualisé dans l’assurance révèle une tension fondamentale au cœur de l’IA en santé : la friction entre l’efficacité algorithmique et les valeurs humaines de solidarité et de responsabilité. Cette contradiction se manifeste particulièrement dans le concept de « garantie humaine ». Ce principe éthique, inscrit dans la réglementation européenne, impose qu’une supervision humaine soit maintenue pour toute décision médicale assistée par un algorithme.

Pourtant, comme le souligne la chercheuse Catherine Tessier, ce principe recèle un paradoxe : le contrôle humain est exigé pour compenser les limites humaines elles-mêmes, telles que la fatigue, les biais cognitifs ou le volume de données ingérable. Cela soulève plusieurs questions pratiques et éthiques pour les médecins :

• Comment un praticien peut-il justifier de passer outre la recommandation d’un système numérique conçu pour l’assister ?

• Si l’humain, par nature faillible, vérifie une machine censée être plus fiable, cela constitue-t-il réellement une garantie de sécurité pour le patient ?

Ce débat sur la responsabilité, la supervision humaine et la confiance reste largement ouvert. Il montre que l’intégration de l’IA en santé dépasse la simple dimension technique. Elle soulève aussi des enjeux philosophiques, éthiques et organisationnels. Ainsi, toute réflexion sur la « garantie humaine » doit s’accompagner d’une attention particulière à la formation des professionnels, à la transparence des algorithmes et à la définition claire des responsabilités.

Conclusion 

En définitive, l’intégration de l’IA dans le domaine de la santé est un exercice d’équilibre entre innovation, contraintes de terrain, gouvernance et éthique. L’IA devient pertinente lorsqu’elle s’inscrit dans les usages réels, les capacités organisationnelles et les conditions matérielles du quotidien. Autrement dit, elle ne prend tout son sens qu’à travers la logique de la « technologie située » : une innovation n’existe qu’à travers celles et ceux qui la mettent en œuvre.

Cette perspective rejoint les analyses d’Antonio A. Casilli sur le travail invisible de la donnée (« Digital Labor : travail, technologies et conflictualités. Qu’est-ce que le digital labor ? », Éditions de l’INA, p. 10-42, 2015). Elle recoupe aussi les positions de Luc Julia (« L’intelligence artificielle n’existe pas », J’ai lu, 2019, 224 p.), qui insiste sur la nécessité de démystifier l’IA pour mieux la gouverner.  

Par ailleurs, Bergeron et Carroué apportent un éclairage sociologique essentiel pour compléter les rapports institutionnels, comme le rapport Villani (2018) ou celui de l’OMS sur l’éthique et la gouvernance de l’IA en santé (2021). Alors que ces documents mettent surtout en avant les opportunités, ce policy brief interrogent davantage les fragilités du secteur. Ils soulignent, entre autres, les difficultés de régulation, les tensions organisationnelles et les risques de déconnexion avec les besoins réels du terrain.  

Enfin, cette analyse rappelle que l’avenir de l’IA en santé repose moins sur la performance technologique que sur notre capacité à repenser nos modèles économiques, nos cadres éthiques et notre pacte de solidarité. Aujourd’hui, l’IA redessine déjà les contours de la santé. La question centrale n’est donc plus « que peut faire la technologie ? », mais « que voulons-nous en exiger ? ». En d’autres termes : comment protéger la relation soignant-patient, soutenir l’innovation souveraine, préserver la solidarité et définir un partenariat homme-machine qui serve réellement le patient et non uniquement l’efficacité technique.