Intervention de Claude Kirchner

Je vous présenterai les points de vue développés dans le cadre d'INRIA et dans celui du Comité consultatif national d'éthique (CCNE), car j'ai travaillé avec David Gruson à l'élaboration d'un rapport pour le CCNE visant à mieux comprendre les interactions entre numérique et santé.

Il faut bien comprendre que l'expression « intelligence artificielle » est un buzzword qui appartient au développement d'une thématique scientifique et technologique qui est le numérique. Dans le numérique, sont développés un certain nombre de corpus qui vont de l'informatique à l'automatique, la robotique, les mathématiques, l'électronique, etc. Dans ce cadre-là apparaissent un certain nombre de processus que, depuis les années 1950, nous avons qualifiés d'intelligence artificielle et qui aujourd'hui, prennent une visibilité beaucoup plus grande. Mon propos portera sur l'ensemble du numérique et pas uniquement sur une certaine classe d'objets qui sont qualifiés d'intelligence artificielle.

Il nous faut d'abord comprendre pourquoi les sciences et technologies du numérique ont un tel impact sur l'humain et sur la société. L'introduction de l'électricité, de la mécanique a eu un impact fort, mais l'impact que nous voyons aujourd'hui sur l'ensemble de la société est bien plus profond. À mon sens, cela vient du fait que les systèmes de traitement de l'information numérique travaillent avec les systèmes d'information biologique que nous sommes. Nous sommes chacun d'entre nous, ici, des systèmes d'information biologique qui vont capter de l'information, des images, du son. Vous êtes en train de traiter cette information en essayant de la comprendre, de lui donner un sens, etc. La combinaison entre les systèmes de traitement des informations numérique et biologique conduit à une transformation majeure de la société. Le professeur Uzan a bien décrits ces impacts dans tout ce qui concerne la santé et le système de santé, que ce soit pour la télémédecine ou en salle d'opération. Cette transformation intervient partout : les associations de patients, les réseaux sociaux qui vont permettre aux patients de s'éclairer mutuellement, mais aussi de donner leur avis sur les médecins ou sur le système de santé. Cette dynamique change profondément la relation entre le patient, les médecins et l'ensemble de l'environnement. La numérisation globale va toucher l'ensemble de la société et l'ensemble du système de santé – la recherche clinique, la recherche en santé publique, la gestion des établissements, l'aide au diagnostic, etc. Dans ce contexte, les compétences demandées aux médecins et à l'ensemble des personnels de santé sont obligées d'évoluer. Le professeur Uzan l'a très bien dit : il est fondamental de former l'ensemble de la population, depuis la maternelle, à comprendre les concepts fondamentaux de l'informatique et du numérique, mais il faut aussi faire en sorte que dans le système de santé les professionnels maîtrisent les compétences qui leur permettront de comprendre ce qu'il est en train de se passer et comment ils peuvent l'utiliser.

Des situations totalement nouvelles apparaissent. La télémédecine permet d'accéder à des informations qui étaient inaccessibles auparavant. Ceci va modifier profondément la manière dont on va consulter en France ou dans le monde, d'ailleurs dans les deux sens : des patients étrangers pourront consultent la médecine de très bonne qualité dont nous bénéficions en France et, réciproquement, des patients français pourront consulter à l'étranger et, d'une certaine façon, modifieront la façon dont fonctionne le système français de santé, qui est unique au monde avec une forte mutualisation et un accès aux soins particulièrement égalitaire, ce qui ne se retrouve pas nécessairement partout.

Nous allons être sollicités sur les enjeux éthiques qui se posent dans ce contexte-là, notamment autour du consentement. Comment gère-t-on le consentement quand les données sont persistantes ? Cette persistance et la capacité à pouvoir accéder à des données que nous n'avions pas auparavant sont un vrai progrès, mais il faut savoir le gérer sur le long terme – et par « long terme », je veux dire ici « l'éternité ». C'est particulièrement important pour la gestion des données génétiques ou d'autres données par nature très confidentielles.

Tout médecin a accès aujourd'hui aux outils numériques qui sont offerts à l'ensemble de la population, notamment les réseaux sociaux ou les outils qui permettent d'échanger du courrier de façon soi-disant gratuite. En fait, ce type d'outil ne préserve pas l'anonymisation ou la confidentialité des échanges. Il faut que les médecins sachent se positionner pour faire en sorte qu'ils utilisent des outils qui leur permettent d'agir de façon éthique, y compris de ce point de vue-là.

Le rapport co-écrit avec David Gruson comme l'avis n° 129 du CCNE évoquent les questionnements éthiques liés à l'« augmentation » de la personne humaine. Certains seront bien sûr portés par le système de santé, mais la société sera confrontée à la tentation du contournement de l'interdit : « je veux me faire augmenter ; c'est possible en France, je le fais, ce n'est pas possible en France, je vais chercher ailleurs ». Nous ne pouvons plus réfléchir comme si les frontières étaient étanches.