Intervention de Cédric Villani

Avons-nous les moyens ? Il est certain que nous ne parviendrons pas à mettre autant d'argent sur la table que la Chine, à moins d'une révolution politique européenne d'ampleur inouïe. Cela étant, quel est le risque majeur en la matière ? Il serait de ne pas développer d'outils ad hoc, auquel cas la pression qui s'exercera sur nos médecins et nos hôpitaux pour s'équiper de tels outils développés ailleurs sera énorme. Nous perdrons alors une bataille économique. Le secteur de la santé en lien avec l'intelligence artificielle est occupé par les grands acteurs américains, mais voit aussi émerger de nouveaux pays, comme Israël ou le Canada, où la société Element AI commence à travailler avec des hôpitaux, en particulier sur la question de la simplification logistique. Il nous faut de tels outils pour équiper nos hôpitaux et nos médecins, et si nous ne les produisons pas, nous les achèterons. Il importe donc, pour des raisons de souveraineté, de développer ces outils. Peut-être le développement de tels algorithmes n'est-il d'ailleurs pas uniquement lié au niveau des montants investis : il n'est pas exclu que 10 millions d'euros investis puissent conduire, en fin de compte, au même résultat qu'un investissement d'un milliard d'euros. Il convient de trouver un bon équilibre et de voir l'extérieur comme nous posant un défi, tout en nous concentrant sur ce que nous pouvons faire. Il faut également avoir conscience du fait qu'il existe une grande volonté de certains acteurs, tant du côté de l'algorithmique que du côté médical, de mettre en place des coopérations et d'exploiter les bases de données évoquées précédemment.

Le risque de voir se mettre en place une société à deux vitesses rejoint la question relative aux hypocondriaques numériques. Il existe déjà des personnes qui écument les forums sur internet pour expliquer leurs symptômes par le menu, tandis que d'autres ne souhaitent parler qu'à des spécialistes en qui ils ont confiance. La présence de circuits parallèles doit motiver les voies officielles pour être à l'écoute, expliquer, accompagner. Je ne vois pas se profiler de changement fondamental en la matière. On voit seulement s'accentuer certaines tendances qui existent déjà. Il faut juste être averti.

En ce qui concerne le virage de la médecine en lien avec le développement du numérique, il m'apparaît que le premier problème majeur qui va se poser est celui de la transformation de la formation des médecins. Passer d'un statut où la force du médecin réside en partie dans sa gigantesque mémoire et son extraordinaire expérience à un stade où il faudra arbitrer avec discernement entre plusieurs possibilités et cas repérés, et obtenus automatiquement, par la machine ne va pas de soi. Cela conduira assurément à un débat sur la perte de savoir-faire comparable à celui qui s'est produit lorsque l'écriture est apparue ou lorsque la numérisation a commencé. Il convient là aussi d'identifier clairement le risque principal, qui serait selon moi de ne rien faire, de laisser les formations dans leur état actuel et de ne changer que par petites doses. Dans ce cas, en effet, nos médecins ne seront pas au rendez-vous. S'ils ne savent pas bien utiliser les algorithmes, la pression exercée sur les hôpitaux sera importante pour faire venir de l'étranger des médecins formés à ces techniques et dont les compétences dans ce domaine rassureront les patients. Il est donc très important de se mettre à niveau, faute de quoi la maîtrise viendra de l'extérieur, avec un déficit économique à la clé, dans la mesure où il nous faudra importer le savoir-faire.

Le fait que la responsabilité revienne à l'humain est un principe sur lequel nous avons insisté dans le rapport et sur lequel, pour l'instant, les différents acteurs étatiques s'accordent. Il s'agit à mon sens d'un principe sain, qui évite de se défausser sur une entité non identifiée. Je suis donc opposé au concept de personnalité morale et juridique pour les algorithmes, même s'il est défendu avec panache et intelligence par des gens comme Alain Bensoussan.

Il ne faut pas imaginer qu'à cet égard une rupture va se produire par rapport à l'existant. Aujourd'hui, lorsqu'une faute médicale est constatée, on en recherche la raison : un appareil a-t-il été défectueux ? Un médecin a-t-il mal agi ? Les questions des assurances des médecins et des actions en justice se posent déjà. Elles continueront à se poser demain, avec un outil supplémentaire, l'outil algorithmique. En cas de défaillance, la responsabilité incombera-t-elle au directeur de la firme qui a vendu l'algorithme ? Au chef du département algorithmique ? Au médecin ? Il reviendra aux services juridiques et à la jurisprudence de se prononcer sur le partage des responsabilités.