http://www.mbadmb.com/wp-content/uploads/2019/05/DG_MMM-189×300.jpg
Zoom sur La Machine le Médecin et Moi. L’intelligence artificielle nous soigne déjà
Un ouvrage de David GRUSON
Editions de l’Observatoire/Humensis – 2018
Dans son ouvrage La Machine, le Médecin et Moi, David Gruson nous livre une vision non partisane de l’état des lieux du champ de la santé et de son évolution grâce à l’IA, offrant une bulle d’oxygène entre discours « technolâtres et technophobes ».
Son livre s’ouvre sur ces mots : « pour une régulation positive de l’intelligence artificielle en santé », fil rouge et conclusion de son analyse.
Il est convaincu qu’il n’est pas trop tard mais que le temps est compté pour fixer un « nouveau cadre acclimatant la réalité de l’intelligence artificielle aux exigences éthiques et juridiques de nos sociétés démocratiques avancées ».
Pourquoi/comment une régulation positive de l’intelligence artificielle en santé ? De quoi s’agit-il ? Quels enjeux et défis du point de vue de David Gruson ?
http://www.mbadmb.com/wp-content/uploads/2019/05/DG_Portrait.jpg
David GRUSON
Membre du comité de direction de la Chaire Santé de ScPo Paris
Fondateur de l’initiative académique et citoyenne
Ethik-IA
La santé, son domaine d’expertise
- Docteur en droit de la santé
- DEA technologies de l’information et de la communication
- ENA, promotion Simone Veil
- Enseignant à ScPo Paris
- Conseiller auprès de François Fillon, Premier Ministre, sur les problématiques « Tech en santé »
Il est intervenu auprès de deux ministres en charge de la santé, Xavier Bertrand et Roselyne Bachelot-Narquin - Fondateur de l’initiative académique et citoyenne Ethik-IA
- Délégué général de la Fédération hospitalière de France
- Directeur général du CHU de la Réunion
- Il a participé à l’élaboration du régime juridique de la télémédecine
- Il a été et reste activement engagé sur le volet numérique du processus de révision de la loi de bioéthique
- Membre du comité de direction de la Chaire Santé de ScPo Paris.
Un parcours pour le moins riche, incarné par un « pas même quadra » qui est venu à la rencontre de son lectorat le 4 avril dernier à l’Hôtel de l’Industrie (Paris). L’occasion de découvrir l’auteur de La Machine, le Médecin et Moi sous le jour d’un homme souriant, pétri d’humour, fier père de famille, qui souligne que c’est précisément cette expérience professionnelle plurielle qui est « à la genèse de sa force de conviction, laquelle l’a conduit à ce projet de livre, puis à son écriture ».
Au gré de quelque 150 pages, David Gruson nous entraîne donc avec lui dans l’univers de la santé, en conscience que « la technologie peut produire le meilleur comme le pire ». Et que dans un cas comme dans l’autre ce n’est « pas la technologie qui doit être louée ou blâmée », mais l’Homme.
« Tout dépend de notre capacité en tant qu’humanité à tracer un chemin éthique, à définir les voies des usages utiles et raisonnables ».
http://www.mbadmb.com/wp-content/uploads/2019/05/DG_MMM-189×300.jpg
Dans son ouvrage, l’auteur en appelle :
- Au retour aux sources de la santé publique, dont l’IA constituerait le prolongement naturel. En effet, les objectifs restent inchangés : prévention des maladies, prolongement de la vie, amélioration de la santé à un niveau individuel et collectif (source : OMS).
- A notre prise de conscience. Car si le rythme comme le large spectre de la révolution technologique semblent à même de nous déborder, David Gruson nous rappelle que nous sommes et restons acteurs et décisionnaires.
- A l’élaboration « d’outils pragmatiques de régulation de l’IA », hors application trop stricte du principe de précaution.
- A une action rapide. Le cas échéant, nous assisterions d’une part à un phénomène d’importation de technologies qui échapperaient en grande partie à notre contrôle éthique, et d’autre part à un « scénario de la fuite du système de santé français » face aux GAFA et BATX, alors même que notre sol abrite des pépites d’innovation.
David Gruson décline son analyse en trois chapitres dont voici quelques points saillants.
IA : des enjeux et des gains majeurs pour notre santé
- Quadrature de la France entre dynamique d’innovation en santé combinée à la qualité de la donnée collectée, et le frein issu de la « zone grise » liée aux aspects juridiques et éthiques .
- Risque majeur d’accentuation de l’inégalité d’accès aux soins. Le principe de précaution menant à une surrèglementation face à l’IA accentuerait mécaniquement ce risque.
- Au cœur de cette mécanique : la data et son partage.
« Les avancées potentielles associées à l’IA sont donc majeures et il ne serait pas éthique de les repousser tant les problématiques associées à l’absence de partage des données de santé sont devenues inacceptables ».
Et si l’IA en santé n’était pas régulée…
- Risque de marginalisation du corps humain.
- Risque de marginalisation du droit de la personnalité juridique.
- Prévalence de la santé publique collective au cas individuel. Délégation de consentement aux soins et renoncement éthique de l’être humain qui s’en remettrait à la décision de la machine ?
- David Gruson plaide en faveur d’une acceptation mesurée d’un degré de risque afin d’accueillir les bénéfices de l‘IA ; et ce, sans ignorer que :
« Les nouvelles techniques provenant de l’entrée du numérique soulèvent cependant des risques éthiques qui apparaissent tout aussi vertigineux que l’avancée technologique et thérapeutique obtenue ».
IA et génétique : quels enseignements dégager pour la régulation positive de l’IA en santé ?
- Perspectives pour le parcours de santé du patient si, aux données cliniques, pouvaient être « pluggées » les données génétiques.
- David Gruson propose une gradation de la protection des données selon leur niveau de sensibilité.
- Un objectif : concilier innovation technologique et maîtrise des risques éthiques associés.
- Pour David Gruson, génétique et IA, par la sensibilité du sujet, est un exemple qui illustre la possibilité d’une régulation positive sur la base d’outils pratiques, « leviers relativement souples permettant de répondre à une large partie des enjeux éthiques ».
L’auteur ne promet pas une protection absolue en matière de génétique, mais il pointe la quête de cette dernière comme étant « le plus grand risque éthique à courir ».
http://www.mbadmb.com/wp-content/uploads/2019/05/DG_Génétique-300×145.jpg
Dans son ouvrage, David Gruson pose l’alternative qui s’offre à nous en des termes parfaitement audibles.
Céderons-nous à une tentation protectionniste face à l’intelligence artificielle en santé au risque de se laisser dépasser par l’innovation venant de puissances et acteurs moins « regardants » ?
Ou assumerons-nous une part de risque afin de faire évoluer notre système de soins, de conserver un contrôle juridique et éthique sur les innovations que nous souhaitons intégrer, et pour rester dans la course ?
Son choix est sans appel : option deux.
Sa proposition tient en ce qu’il nomme une « régulation positive de l’IA ». Proposition porteuse de solutions concrètes pour agir rapidement face à « l’état d’urgence » qui s’est installé.
Etat d’urgence créé par la rapidité d’évolution des technologies, par l’enjeu de souveraineté associé à la capacité d’innovation qui entraîne des puissances comme la Chine ou les Etats-Unis dans « une course à l’IA », ou encore par le « noyautage » du socle technologique nécessaire au développement de l’IA par des acteurs désormais incontournables (GAFA-BATX).
http://www.mbadmb.com/wp-content/uploads/2019/05/DG_EthikIA.png
Ethik IA, initiative citoyenne et académique
Par la voix d’Ethik IA, initiative citoyenne et académique impulsée et animée par David Gruson, les « cinq clés de régulation » de l’IA et de la robotisation en santé avancées en conclusion du livre, ont été prises en compte dans le cadre de la mission Villani.
Le principe fondamental de « garantie humaine » de l’IA (vérifications humaines des prises en charge proposées par les technologies) porté par David Gruson, a été soutenu par le comité consultatif national d’éthique (CCNE) et débattu au sein de la mission bioéthique en vue de son intégration aux termes du projet de révision de la loi de bioéthique qui sera présenté en juillet 2019.
Un livre accessible
David Gruson rend accessible ces sujets débattus au plus haut niveau dans le cadre de la régulation d’une IA en santé efficace et responsable.
En effet, La Machine, le Médecin et Moi est un ouvrage à mettre entre les mains de toute personne qui s’intéresse à la santé d’aujourd’hui et de demain. L’auteur n’use pas d’un langage de praticien qui échapperait au lecteur. Il apporte les éléments de contexte et des exemples éclairants. Il n’instille ni crainte, ni prosélytisme envers l’IA. Il porte sa vision et ses propositions selon une analyse bâtie sur un état des lieux, des écueils et/ou problématiques rencontrées et prévisibles, des enjeux et des freins actuels.
En cela, La Machine, le Médecin et Moi participe également à la boucle vertueuse d’acceptation et de confiance en l’IA, laquelle nécessite information et acculturation aux sujets de fond tels que la santé, laquelle concerne tout un chacun.