Intervention de Pr Serge Uzan

Je suis vice-président de l'Ordre des médecins, chargé des questions de recherche, d'enseignement et d'intelligence artificielle, mais je dirige aussi la stratégie de l'Institut universitaire de cancérologie. Aujourd'hui, j'exprimerai ma position personnelle, la position de l'Ordre des médecins n'ayant pas encore été arrêtée. Cette précaution énoncée, l'Ordre des médecins s'est intéressé depuis longtemps au sujet puisque début 2018, sous la direction du Pr Jacques Lucas, il a produit un document qui s'appelle Médecins et patients dans le monde des data, des algorithmes et de l'intelligence artificielle.

Chaque fois que j'interviens sur ce sujet, que ce soit auprès de médecins ou de patients, le sentiment qui domine est l'inquiétude sur le caractère disruptif de l'intelligence artificielle dans la relation médecin-patient. Chaque fois, j'essaie d'expliquer que nous n'allons pas passer brutalement de l'ancienne à la nouvelle médecine. Nous allons conserver ce qui est excellent dans notre système de santé, en particulier sur le plan humain et social, et l'améliorer grâce à l'IA. Quels sont les domaines où l'IA va impacter la santé ? Je récuse le document provocateur d'un de nos ex-confrères ou confrères qui disait : « demain, il n'y aura plus que la médecine générale qui résistera à l'intelligence artificielle ». C'est faux. En revanche, tous les domaines vont utiliser l'IA, que ce soit la prédiction, le dépistage, bien sûr l'imagerie, mais également le choix de la stratégie thérapeutique, la qualité et la pertinence des soins et puis aussi beaucoup la formation des soignants. Nous utilisons beaucoup d'IA pour la simulation, mais également pour le traitement des patients. Demain, quand nous opérerons un patient – je l'ai vu et nous le testons par exemple chez Dassault Systèmes – on aura une espèce de clone du patient issu de l'imagerie sur lequel on pourra tester certaines hypothèses de traitement chirurgical ; l'IA aura donc un impact sur tout le soin impliquant un choix. Je dis aux médecins que l'IA va libérer du temps médical pour mettre à profit l'intelligence émotionnelle qui est essentielle dans la relation médecin patient.

Un point sur le contexte général : pendant longtemps, il y avait des médecins à « bac plus 12 » qui travaillaient avec des personnels paramédicaux ou non médicaux à « bac plus 3 ». Le fossé entre les deux types de formation suffisait à stratifier le mode d'exercice. Aujourd'hui, il y a des formations intermédiaires, il y a de nouveaux métiers, il y a des formations de cinq ou six ans, il y a des compétences qui sont en voie d'extension. Le risque est dans les dysfonctionnements liés à des problèmes de cohabitation à l'intérieur d'une équipe. C'est pourquoi je dis à tous les médecins que s'ils veulent garder une place spécifique, elle ne peut être liée qu'à la responsabilité qu'ils devront assumer dans la décision et la synthèse de la décision. Le panorama est rendu encore plus complexe en raison du rôle croissant des patients : les associations, ce qui est parfaitement normal, mais aussi les patients qui font des études. Sorbonne Université accueille une université des patients, des patients accompagnateurs, des patients experts, etc. Pour résumer, j'aime bien utiliser deux termes anglais : ne va-t-on pas passer d'une médecine aidée par les données, data assisted, à une médecine guidée exclusivement par les données, data driven ? Si nous formons bien les médecins, il n'y a aucun risque que cela advienne.

Je voudrais d'emblée insister sur les dangers de l'IA. J'ai la chance de participer à un groupe de travail de l'Institut Montaigne sur les biais algorithmiques. C'est un sujet majeur. Les algorithmes seront considérés comme des espèces d'oracles, de grands vaudous, mais ils sont parfois truffés de biais, d'autant que beaucoup fonctionnent sur le modèle de la boîte noire, c'est-à-dire que nous ne savons pas ce qui se passe à l'intérieur. Il faudra faire très attention. Nous devons former les médecins à l'IA. Actuellement les doyens réforment le deuxième cycle des études médicales. C'est le moment de l'y intégrer ainsi que, bien sûr, dans le troisième cycle. J'ai insisté sur ce point auprès des instances décisionnaires – vous savez que j'ai été à l'origine d'un rapport sur la recertification des médecins.

L'IA est absolument essentielle à la recherche. Il faut aller vers un partage facilité des données de santé et des données nécessaires à la recherche. La France a créé un Health Data Hub, et tout le système doit être parfaitement organisé. On peut nourrir beaucoup d'espoir, mais il faut d'abord apprendre aux médecins qu'un résultat surprenant obtenu grâce à un algorithme peut être l'occasion d'une découverte médicale. Par exemple, une étude algorithmique sur le risque de cancer du sein a conduit à découvrir que certaines femmes ont moins de risques, parce qu'elles ont un taux de cholestérol un peu élevé. C'est le traitement anticholestérol qui agit sur un des facteurs de risque de cancer du sein. L'utilisation des données massives par l'IA permettra donc peut-être de faire avancer la recherche. N'oublions pas que Claude Bernard, qui avait créé la méthode expérimentale, a passé vingt ans de sa vie à essayer de savoir si le curare agissait sur le nerf ou sur le muscle. Il ignorait l'existence de la jonction neuromusculaire. On peut raisonnablement penser que l'IA aurait suggéré l'existence possible de cette étape.

Avant de conclure, je voudrais évoquer deux points. Aujourd'hui, il faut amener des éléments de garantie sur les algorithmes, au même titre qu'il faut avoir des éléments de garantie sur le médicament. Certification ou labellisation des algorithmes, nous ne pouvons pas les laisser en l'état. Le projet de loi prévoit que les médecins devront expliquer aux patients comment fonctionne l'algorithme ; l'immense majorité en sera incapable, parce qu'ils n'ont pas été formés à cela. Quelqu'un devra avoir fait en amont le travail de sécurisation, et les notices qui accompagnent les algorithmes devront être améliorées. En conclusion, un médecin doit être formé à savoir ce qu'il peut attendre de l'IA. Il doit être capable de rejeter un résultat qui n'est pas compatible avec ce qu'il a appris et les données dont il a connaissance. N'oublions pas que la compréhension de ce qu'est un algorithme commence à l'école.

L'IA devra donc nous aider tout en restant un outil au service d'une relation humaine et humaniste. Ainsi, la confiance réciproque entre le médecin et son patient – c'est très important, les patients attendent qu'on les traite comme on traiterait quelqu'un de notre famille –, renforcée par les données de la science et de l'IA, leur permettra d'avoir une conscience commune de leur objectif.