Intervention de Pr. Jacques Lagarrigue

Je n'ai aucune compétence particulière parce que je n'étais pas dans les réseaux neuronaux, mais plutôt dans les neurones par mon activité professionnelle. Finalement, cela n'a rien à voir. Je dirais simplement qu'il est peut-être dommage que dans le texte de loi, on se limite ou on attire trop précisément l'attention sur le mot « algorithme » comme vous le soulignez. La demande du public de contrôle humain, telle que nous l'avons ressentie, concerne tous les processus faisant intervenir de l'intelligence artificielle, qu'il s'agisse d'algorithme, de chatbot, de robot, de systèmes à venir non encore existants ou pas encore très bien définis, y compris les appareils dont vous avez parlé. Il serait donc prudent de trouver, si c'est possible, un mot qui inclut les algorithmes, mais aussi les autres formes d'IA.

En tout cas, nous avons appris avec beaucoup de satisfaction que cela figurait dans le projet de loi parce que c'était une demande très forte de la population, exprimée dans tous les débats que nous avons eus sur ce sujet : ne pas laisser la machine nous informer et décider pour nous sans qu'un professionnel de santé soit à la manœuvre. Je ne sais pas l'exprimer en termes juridiques, mais je pense que vous avez tout à fait compris notre objectif. J'ajoute qu'il y a quand même aussi dans le règlement général sur la protection des données (RGPD) des précautions qui vont dans le sens de la protection des citoyens. Il est tout à fait utile que cela soit souligné, voire étendu dans le projet de loi. Nous vous remercions d'avoir attiré l'attention de tout le monde sur ce sujet.

À propos de la voix des citoyens, Monsieur Eliaou a raison : nous avons été impressionnés du bon sens des participants à nos ateliers parce qu'en trois ou quatre heures de travail, on a le temps de voir les problèmes qu'ils posent bien plus que dans une conférence-débat. Ces personnes ont effectivement leur mot à dire, elles ont été très sensibles, très satisfaites de pouvoir s'exprimer sur certains sujets, y compris sur des sujets qui pouvaient nécessiter a priori des connaissances techniques particulières comme la génétique et l'intelligence artificielle. Même si la population n'a pas ces bases techniques et scientifiques, elle sait développer une réflexion qui mérite d'être entendue et je crois que c'est un point positif des débats citoyens que nous avons pu mener.

Vous avez également insisté sur le suivi et l'application de la loi. Dans notre note liminaire, nous avons fait un paragraphe un peu plus long, à propos de l'article 29, sur le fait qu'il est heureux que l'on se soucie de la qualité de l'application et du suivi de la loi. Nous avons vu par le passé que des lois en santé n'étaient pas toujours bien connues ni bien comprises du public, et même des professionnels de santé dans certains cas. Si l'on veut éviter cet écueil pour la loi en cours de préparation, il nous semble qu'au-delà de la sensibilisation que doivent faire les espaces de réflexion éthique auprès du grand public, il serait bon que soient ajoutées quelques lignes sur le besoin de formation initiale et permanente des professionnels de santé quant aux évolutions qui se préparent actuellement.