Intervention de David Gruson

Je m'inscris complètement dans la lignée de ce qui a été dit. En me situant par rapport au texte que vous allez avoir à examiner, je vais partager avec vous une réflexion sur le rôle du Parlement sur ce sujet. Il est pour moi est fondamental, mais circonscrit, sur la partie production normative par rapport à ce qui existe déjà ; il est également fondamental, mais très étendu, sur ce qu'il faut développer en termes de contrôle et d'évaluation du développement de l'IA en santé.

Sur la partie production normative, j'ai déjà dit que le dispositif me semble équilibré. J'entendais des observations ou des questionnements. Si vous vouliez aller plus loin que le texte proposé pour ajouter un degré de protection, ou de sécurité supplémentaire – il faut bien en mesurer la portée, parce que chaque durcissement apporté à un texte à réduit la capacité d'innovation des acteurs de terrain – il conviendrait de rendre plus explicite le principe de garantie humaine en introduisant l'expression dans la loi car que dans le texte actuel, le principe est réduit à sa fonctionnalité. Le professeur Uzan parlait d'instruments réglementaires ou de textes d'application. La substance d'un texte d'application pourrait consister à demander au gouvernement d'encourager le développement dans le système de santé d'outils de garantie humaine de l'intelligence artificielle, dont le Parlement assure le suivi de la mise en œuvre à l'occasion d'un point annuel ou d'un rapport annuel qui lui serait présenté, permettant de regarder les conditions pratiques dans lesquelles le ministère de la Santé et le ministère de la Recherche encouragent les acteurs à déployer ces outils de supervision.

J'aborde ainsi le sujet de l'évaluation : il y aurait donc un rendez-vous annuel. Nous voyons bien que la bioéthique place la France dans une situation un peu pionnière dans la construction du cadre juridique de l'IA appliquée à la santé. Cela a ses avantages : ce qui a été construit dans la phase préparatoire se diffuse ailleurs. Cela a aussi ses limites : l'IA en santé se développe tellement rapidement que le rythme actuel de révision tous les sept ans de la loi de bioéthique est incommensurablement lent par rapport au rythme de déploiement de l'IA en santé. L'idée n'est pas forcément d'avoir un rendez-vous législatif tous les ans, mais un point d'évaluation sur les conditions de mise en œuvre du principe de garantie humaine. Y a-t-il des collèges de garantie humaine ? Les outils de formation se développent-ils ? Le ministère met-il les moyens permettant de développer des programmes de recherche sur la supervision de l'IA en santé ? Ce serait un réel apport par rapport à la rédaction actuelle du texte.