Intervention de Pr Serge Uzan

Vous avez parlé du problème du consentement éclairé. Je suis entièrement d'accord. Quand nous faisions un essai clinique, je montrais souvent à mes étudiants un dessin qui me plaisait beaucoup en disant : « attention, le consentement éclairé ce n'est pas ça » ; le dessin montrait un patient avec une lampe dans la figure – comme dans un commissariat – à qui l'on disait : « tu es d'accord ou pas pour l'essai ? ». Le consentement doit être éclairé, mais la lumière ne doit pas être trop forte. Je vais être franc : c'est très difficile. Il faut quand même compter sur l'honnêteté individuelle, sur le fait que le travail se fait en équipe et qu'aujourd'hui, quelqu'un qui n'a pas une démarche éthique se remarque assez vite. Les patients ont tendance à le faire…

Je conviens tout à fait que l'IA a un rôle essentiel en matière de diagnostic, notamment pour les diagnostics infracliniques. Je voudrais quand même lever un petit doute. On parle souvent de chirurgie « robot assistée ». Certains chirurgiens, toujours en avance parce que peut-être eux-mêmes un peu en retard, disent : « demain, ce sont les robots qui vont opérer ». Non, les robots aujourd'hui n'opèrent pas : ils aident les chirurgiens à opérer, mais à la fin, c'est le chirurgien qui a toujours la main, comme le pilote. Et heureusement, car les patients veulent bien de l'IA, mais ils conservent une certaine méfiance quant à l'absence de garantie humaine. Pour nous, médecins, la plupart des consultations se terminent sur la question : « qu'est-ce que vous feriez si j'étais votre mère ? » – puisque je voyais essentiellement des patientes. Les patients veulent que nous soyons aidés et que nous utilisions le maximum de données. Vous avez à cet égard abordé la question de l'égalité et de l'équité d'accès à la santé et aux technologies de santé. Nous sommes dans un pays où l'égalité et l'équité d'accès aux soins les plus basiques ne sont pas forcément bien garanties. Il va falloir changer de paradigme. Ceci passera par des médecins mieux répartis, le développement des professions intermédiaires, du fonctionnements en équipe, etc.

Les biais de population, liés à l'origine des patients, sont l'un des biais les plus lourds. On vous amène un algorithme de l'autre côté de l'Atlantique : il a été testé sur une population de femmes américaines qui ne mangent pas la même chose que les femmes européennes, qui n'ont pas reçu les mêmes traitements, etc. Si nous voulons avoir des algorithmes pertinents, il va falloir recueillir des informations sur l'origine des patients qui ont alimenté la base de données ayant servi à les construire. C'est une décision importante. Il est très heureux que nous ayons un système de protection des données personnelles, mais il ne faut pas que cela devienne une espèce de ligne Maginot de l'accès aux données.

Vous trouviez que le projet de loi était « trop court » sur l'IA. Je suis entièrement d'accord. J'ai trouvé qu'il y avait une sorte de désinvolture sur ce sujet. De nombreuses questions devront être complétées par le décret d'application qui, lui, sera long. Sinon tout ce qu'aura fait la loi aura été de dire : « donnez une information au patient sur l'algorithme ». Le médecin n'a pas forcément cette information, il ne l'a pas forcément comprise et à la fin, il va devoir assumer la responsabilité de la décision. Je n'ai rien contre les responsabilités, j'ai passé ma vie à en assumer, j'ai été chef d'un service où exerçaient 80 médecins, mais je veux avoir les moyens de l'assumer. Et je trouve que cette garantie, en l'état, n'existe pas.

Pour finir, bien sûr, nous avons peur que les machines aillent beaucoup trop loin et qu'elles se mettent à faire des choses que nous n'attendions pas forcément. Je vous conseille la lecture du livre La Singularité n'existe pas écrit Jean-Gabriel Ganascia, qui est professeur d'intelligence artificielle à Sorbonne Université. Elle n'existe pas en l'état – n'oubliez pas qu'une voiture autonome, c'est de l'intelligence artificielle faible. Peut-être existera-t-elle dans trente, ou quarante, ou cinquante ans. Aujourd'hui nous sommes très loin de la singularité, c'est-à-dire l'IA qui va plus loin et plus vite que nous.