Intervention de Cédric Villani

– Cette audition publique s'insère en effet parfaitement dans l'actualité parlementaire puisque le projet de loi santé est en train d'être défendu à l'Assemblée nationale par la ministre, Mme Agnès Buzyn. Les débats sont d'ailleurs intenses, puisqu'ils viennent juste de dépasser l'article 5…

La mise en oeuvre de la stratégie nationale pour l'intelligence artificielle dans le domaine de la santé passe par la collecte des données, leur organisation et la régulation de leurs modalités d'accès et d'utilisation – la question de leur transformation en nouvel algorithme, en systèmes diagnostics ou en nouvelles thérapies, ne se posant qu'ensuite. Tous ces aspects, sur notre continent, relèvent de la puissance publique. Ils font l'objet d'un titre entier au sein du projet de loi sur la transformation de notre système de santé.

L'article 11, en particulier, prévoit la création d'une plateforme des données de santé (PDS), succédant à l'actuel Institut national des données de santé (INDS), et l'article 12 celle d'un espace numérique de santé, succédant au dossier médical personnalisé (DMP). La plateforme aura pour but de collecter des informations en provenance de divers acteurs – bases de données administratives, cliniques, etc. ; l'espace numérique de santé servira, lui, à accompagner les consultations et à suivre les diagnostics. Production, partage et protection des données comptent parmi les enjeux essentiels de la bonne utilisation de ces données à des fins diagnostiques et thérapeutiques, dans une relation de confiance avec les individus, sans laquelle rien n'est possible.

Deux tables rondes ont été organisées, représentant l'essentiel des parties prenantes et des enjeux, pour des auditions qui ont duré de quatre à cinq heures.

En l'état actuel de la législation et du cadre de contrôle par la CNIL, le risque majeur serait de ne pas s'ouvrir suffisamment à l'intelligence artificielle, au numérique et au pilotage des données. Le représentant de l'initiative Ethik IA nous a bien dit, comme le représentant des associations de patients, que la collecte et l'utilisation des données de santé seront essentielles à l'évolution de notre système de santé ; en cas d'excès de protection, rien ne se fera et nous irons à l'encontre de l'intérêt du patient.

De multiples illustrations médicales nous ont été données, soit diagnostiques soit thérapeutiques, en cancérologie et analyse des tumeurs, anatomopathologie, dermatologie, chirurgie, ophtalmologie, radiologie et imagerie médicale, etc. Dans certains domaines, comme le diagnostic du cancer du sein, les logiciels d'apprentissage peuvent se comparer aux meilleurs spécialistes, et la combinaison logiciel-humain fait mieux que les meilleurs spécialistes. L'intelligence artificielle permettra également d'accompagner le développement de la télémédecine et du télédiagnostic, sous réserve qu'elle ne soit qu'une aide pour le médecin – c'est souhaitable pour des questions d'efficacité et important pour la confiance et l'organisation de notre société.

Avec l'analyse de données massives de santé et le développement de la notion de patient numérique, on peut intégrer les images anatomiques et fonctionnelles, mais aussi les données biologiques – génétiques, métabolomiques, etc. – et les données comportementales ou environnementales, qui permettent d'affiner les diagnostics. Nous discutions récemment, ici même, à propos de l'évolution des lois bioéthiques, des questions relatives à la communication des risques aux patients : ces enjeux d'information des patients sont majeurs.

Second risque : si nous ne développons pas suffisamment ces algorithmes, ils seront, dans un marché mondialisé, développés à l'étranger. Mieux vaudrait utiliser des algorithmes correspondant à nos règles et à nos habitudes, plutôt que ceux conçus aux États-Unis ou en Chine – pour ne citer que les acteurs les mieux identifiés dans ce domaine.

La future plateforme des données de santé et l'espace numérique de santé seront tous deux des outils très importants pour compléter les données, les rassembler et permettre de développer de nouvelles solutions. Il faudra de bonnes capacités de collecte et la confiance des individus dans le système. En règle générale, lorsqu'on leur pose la question dans les formes, les gens sont massivement d'accord pour que leurs données soient collectées. L'enjeu est davantage de systématiser la demande que d'ajouter des protections, même s'il faudra naturellement des garanties de protection, préserver le rôle de la CNIL et mieux informer les personnes.

Pour relever ce défi, nos tables rondes ont d'abord identifié un enjeu technique à relever : l'organisation informatique n'est pas encore au niveau. La plus célèbre de nos bases de données en la matière, le Système national d'information inter-régimes de l'assurance maladie (Sniiram) est vieillissante. De même, l'interopérabilité des systèmes d'informations est un axe essentiel, ainsi que la capacité à disposer des bons formats et de bons matériels. L'utilisation maintenant permise, sinon obligatoire, du numéro de sécurité sociale, l'INS, est un élément majeur dans cette perspective. L'impossibilité, naguère, de l'utiliser comme identifiant universel a été un frein puissant au développement des systèmes d'information.

L'enjeu est également financier. Le coût du système national des données de santé a été chiffré à plusieurs dizaines de millions d'euros, en raison du sous-investissement historique de notre pays ; il faudra s'assurer de ce financement. Plus globalement, nous aurons besoin de ressources humaines, sachant que ces ressources sont très convoitées : il faudra une grande force de persuasion pour convaincre les ingénieurs de travailler dans ces institutions plutôt que dans le secteur privé, où les salaires peuvent être quatre ou cinq fois plus élevés. Il leur faudra en particulier la garantie que leur action aura de l'impact, c'est-à-dire qu'ils ne s'acharnent pas à développer un projet mort-né.

Plusieurs intervenants se sont interrogés sur le choix du statut juridique de cet outil. Le ministère a choisi le statut de groupement d'intérêt public (GIP) pour ce Health data hub. Le représentant de la ministre a indiqué que celle-ci avait privilégié cette formule pour garantir à nos concitoyens que le statut public resterait majoritaire dans cette structure et que l'État serait bien garant de la protection et du traitement des données de santé. Le GIP-INDS est actuellement constitué entre l'État et des organismes représentant des patients et des usagers du système de santé, des producteurs de données de santé et des utilisateurs publics et privés de données de santé – y compris des organismes de recherche en santé.

Jeanne Bossi-Malafosse, faisant référence aux GIP existants, tels le GIP-CPS, le GIP-DMP ou encore le GIP Asip-Santé – à la création duquel elle a participé –, a souligné que la création d'un GIP a été chaque fois choisie pour gérer des sujets particuliers, mais que cette forme de gouvernance était source de complexité et allongeait les délais de mise en oeuvre. En clair, un GIP est lourd et lent : chaque modification requiert un certain nombre d'accords ; la seule mise en place du GIP-INDS a nécessité dix-huit mois… Dans le climat d'urgence actuel, nous ne voulons surtout pas attendre autant !

Un consensus s'est clairement dégagé parmi les intervenants – chercheurs, juristes ou représentants de l'administration –, pour souligner l'importance d'une structure agile pour assurer le succès de la plateforme des données de santé. Il est certain que le nombre important d'acteurs représentés dans la gouvernance des GIP, chaque membre étant représenté et pouvant s'opposer à des élargissements, constitue une source de blocages récurrents qu'il faut éviter de transmettre à la future plateforme des données de santé.

La comparaison des avantages et inconvénients des différentes formules a conduit à préconiser que la plateforme des données de santé prenne plutôt la forme d'une société par actions simplifiée (SAS), plutôt que celle d'un GIP comme le prévoit le projet de loi, à la condition que la loi impose que cette SAS demeure majoritairement détenue par l'État ou par ses établissements publics. Les avantages de cette formule sont multiples. D'abord, la gouvernance d'une SAS est beaucoup plus flexible que celle d'un GIP et pourra évoluer de manière souple au regard des enjeux. Ensuite, l'adaptation à des projets développant une activité commerciale et visant à attirer des compétences plus généralement trouvées dans le secteur privé – ingénieurs, développeurs, data scientists… – sera facilitée. La forme SAS facilitera d'éventuels partenariats avec l'écosystème privé, tout en assurant la poursuite d'une mission d'intérêt général – nous en débattions déjà lors de l'examen de la loi sur la protection des données personnelles. Le conseil d'administration et le capital devraient en tout état de cause demeurer majoritairement publics. Sur le plan stratégique, une forme souple, réactive, serait un signal fort de modernité et d'attractivité à l'international, mais aussi pour nos entrepreneurs, qui ont pour l'heure le sentiment d'être plus souvent présentés comme des assoiffés de bénéfice plutôt que comme des preneurs de risques pour la médecine du futur.

J'en viens aux recommandations de l'Office. Dans un contexte dans lequel tant la position des patients que les réflexions sur l'éthique mettent l'accent sur le fait que le risque principal serait de ne pas s'ouvrir à l'intelligence artificielle, il faudrait d'abord élaborer une doctrine pour la future plateforme des données de santé qui s'inscrive pleinement dans la concurrence et l'exigence d'attractivité internationales.

Nous proposons également de réguler l'utilisation des données de santé pour des algorithmes et des applications d'intelligence artificielle en s'appuyant sur deux dispositifs : d'une part, sur la CNIL, d'autre part, sur un comité consultatif national d'éthique pour les technologies numériques et l'intelligence artificielle, que le professeur Delfraissy est en train de mettre sur pied, sur le modèle de l'actuel Comité consultatif national d'éthique pour les sciences de la vie et de la santé.

Nous recommandons en outre de garantir dans la loi le contrôle de la future plateforme de données de santé par l'État et plus généralement les organismes publics, et de retenir une formule de gouvernance aussi souple que possible, la formule la plus adaptée étant celle du statut de SAS.

Concernant plus spécifiquement les projets de recherche sur les personnes, nous préconisons, à la suite des observations de Jeanne Bossi-Malafosse, de réexaminer l'ordonnance du 16 juin 2016 relative aux recherches impliquant la personne humaine, pour supprimer ou limiter les difficultés juridiques résultant de la définition des recherches non interventionnelles dans la loi Jardé de 2012 et de leur modification par l'ordonnance précitée. Mme Procaccia nous dira peut-être où en sont les travaux de la commission des affaires sociales du Sénat sur ce point.

J'ai déposé un amendement en commission des affaires sociales pour transformer le GIP envisagé par le Gouvernement en SAS ; il a été battu d'une courte majorité, la plupart des collègues préférant s'abstenir... Nous sommes convenus avec le cabinet de la ministre que les débats se poursuivraient ; ils n'ont pas encore abouti. Un malentendu subsiste sur la rédaction de l'amendement, la ministre n'étant pas persuadée que la SAS que nous proposons resterait éternellement sous capital et gouvernance majoritairement publics ; nous nous employons à la rassurer sur ce point.

Souplesse, travail avec tout le monde, urgence à mettre les choses en place : voilà en tout cas les mots d'ordre issus des deux tables rondes.