Intervention de Jean-Louis Touraine

Nous sommes bien d'accord, la machine doit demeurer au service de l'homme et non pas le contraire ; nous voyons bien les dérives qui pourraient exister. D'ailleurs, il existe déjà des situations pour lesquelles le diagnostic est effectué seulement par des ordinateurs et une intelligence artificielle, sans contrôle humain, notamment aux États-Unis.

Le président du CCNE, M. Jean-François Delfraissy, un excellent immunologue, a été confronté, à Boston, à des ordinateurs ; statistiquement, il faisait moins bien que la machine, qui peut assembler un nombre de données plus important que le cerveau humain. Cependant, en dernier ressort, le contrôle et la responsabilité doivent appartenir à un humain.

Comment s'assurer de cet objectif ? D'abord, en ne laissant aucune indépendance juridique à la machine, par une supervision humaine : un peu comme en chirurgie, où les robots font mieux que la main humaine mais doivent être conduits, orientés, par le chirurgien – et si des complications surviennent, c'est le chirurgien qui les assume. Nous sommes d'accord sur cette question. Mais comment atteindre cet objectif ?

Vous avez indiqué que le rapport Villani était un peu faible sur le plan de la bioéthique. Pouvez-vous développer votre réflexion ? Car même s'il évoque la création d'un comité d'éthique du numérique, ce n'est pas, selon vous, suffisant pour contrer les dérives. Quelle place attribueriez-vous à ce comité d'éthique ? Quels compléments seraient nécessaires, qui n'ont pas été étudiés dans les rapports existants ?

S'agissant des objets connectés, non seulement nous assistons à une inflation, mais ils sont entre les mains du secteur marchand. La fuite des données est grande, aussi bien à partir du secteur public que du secteur privé, de sorte que les malades se voient abreuver de propositions, parfois utiles, d'autres fois superflues. Ces fuites démontrent que notre système de contrôle n'est pas efficace. Comment les empêcher ? Faut-il renoncer, les hackers étant trop forts ? Faut-il essayer de les dissuader en sanctionnant sévèrement ceux qui se procurent des données de santé confidentielles et ceux qui les utilisent ? Certains pays ont édicté des pénalités très lourdes ; est-ce le modèle que vous préconisez ?

Par ailleurs, que pensez-vous de la création d'un observatoire qui pourrait, non seulement exercer une forme de contrôle, mais aussi détecter et suivre toutes les innovations, mondiales, qui véhiculent des risques ? Le filtre pourrait ainsi être mis en place très rapidement.