Intervention de Jean-Gabriel Ganascia

La question des inégalités est très importante. J'ai omis de l'aborder, mais elle figurait dans mes notes. On peut craindre en effet que les applications de l'intelligence artificielle au secteur médical, en particulier lorsqu'il s'agit d'applications coûteuses comme les prothèses, ne bénéficient qu'à une partie de la population. Il sera important de veiller à ne pas creuser la fracture sociale. Il s'agit d'un enjeu majeur de cohésion sociale.

Il faut toutefois considérer aussi les bénéfices que nous pourrons tirer de ces techniques, notamment en termes de médecine prédictive. On peut espérer que l'intelligence artificielle permette d'anticiper les maladies et, avant même que les symptômes n'apparaissent, de prévenir leur survenue. Ce sont là des aspects tout à fait nouveaux, qui sont en train de se développer. Indépendamment de la fracture sociale, on peut donc escompter, en matière de politique générale de santé, des bénéfices tout à fait considérables liés à l'utilisation de l'intelligence artificielle.

La question du consentement éclairé est extrêmement problématique. Les dossiers de consentement que les patients sont invités à lire et à signer, avant une intervention chirurgicale ou parce qu'ils vont participer à une expérimentation médicale, comptent souvent plusieurs dizaines de pages, écrites en petits caractères, dans des termes incompréhensibles, y compris par des spécialistes. J'avais échangé à ce sujet avec M. Hervé Chneiweiss, président du comité d'éthique de l'Institut national de la santé et de la recherche médicale (INSERM), qui partage l'idée selon laquelle il s'agit là d'une question très importante. Si l'on veut que le consentement soit véritablement éclairé, il faut, lorsqu'est élaborée la description du protocole destinée à permettre le recueil du consentement des personnes, prendre en compte les capacités cognitives moyennes de la population et avoir conscience que l'on ne s'adresse pas à des experts. Il faut que ces textes aient une visée explicative et ne soient pas seulement des documents juridiques permettant de se couvrir vis-à-vis de tous les risques. Si vous pouviez avoir une action en ce sens, celle-ci serait vraiment la bienvenue, car l'enjeu est essentiel.

Concernant les algorithmes proprement dits, il importe, me semble-t-il, de rappeler ce dont il s'agit. Ce mot suscite en effet des frayeurs qui, à mon sens, ne sont pas justifiées. Un algorithme est une méthode de résolution d'équations. Ce terme vient du nom du mathématicien persan al-Khawarizmi, qui a vécu au IXe siècle après Jésus-Christ, époque où, bien évidemment, les ordinateurs n'existaient pas. Je me souviens avoir participé à une table ronde au ministère de l'économie et des finances, sur le thème « Gouverner par l'algorithme ; gouvernés par l'algorithme ». Il faut tout d'abord savoir qu'il n'existe pas un, mais des algorithmes. Cet intitulé laissait par ailleurs entendre que les algorithmes allaient nous dominer. Or je crois qu'il faut renverser la question : heureusement qu'il existe des algorithmes. Une constitution est un algorithme, c'est-à-dire une séquence d'opérations logiques qui indiquent, dans chaque situation, ce qu'il convient de faire. Les algorithmes en tant que tels sont très positifs. L'aspect problématique réside dans l'utilisation de machines se servant de très grandes masses de données de façon opaque, sans être en capacité de fournir des explications. Il faut faire en sorte que la machine soit un partenaire, capable d'expliciter les critères pris en compte pour chacune des décisions, afin que l'homme puisse ensuite faire des choix. Il faut vraiment insister sur ce point, qui est vrai dans le domaine médical, mais aussi dans de nombreux autres secteurs. On peut par exemple imaginer qu'un banquier refuse de vous accorder un prêt au motif que votre score est inférieur à 0,75 : il faut alors qu'il soit en mesure de vous expliquer les raisons de ce refus. Êtes-vous trop âgé ? Avez-vous des revenus insuffisants ? Il est essentiel de mettre cela en oeuvre pour le futur.