Intervention de Claude Kirchner

S'agissant de la définition de l'IA, elle est juste un élément du numérique et c'est le numérique qui nous environne globalement. Donc nous savons le définir. Dans le rapport co-écrit avec David Gruson, nous avons défini un certain nombre de domaines, allant des techniques d'apprentissage machine jusqu'aux techniques de résolution de contraintes, d'optimisation, et de modélisation du raisonnement. Tout cela fait partie de ce que nous appelons depuis plus de 50 ans, l'intelligence artificielle. En revanche, jusqu'où ce périmètre s'étend-il ? Un certain nombre d'algorithmes peuvent modifier leur comportement en acquérant de l'information sur ce qui se passe à l'extérieur. Nous l'expérimentons tous les jours : si un avion n'avait pas de capteurs, il ne volerait pas. L'humain construit des environnements en utilisant des capacités algorithmiques qu'il a développées, aussi bien au niveau des algorithmes eux-mêmes que des machines, de la communication, etc. Ce cadre crée le contexte d'évolutions extrêmement rapides, d'où l'importance de ne pas trop légiférer. Une législation trop stricte bloquerait le système et empêcherait la France d'innover. Cependant, cela ne signifie pas qu'il ne faut pas comprendre ce que nous sommes en train de faire en innovation : il faut se donner des institutions telles que le CCNE, les comités opérationnels d'éthique, les comités de protection des personnes, la HAS, etc., pour nous donner la capacité de comprendre dynamiquement comment nous avançons et pas seulement mettre des barrières. C'est nous qui sommes les concepteurs de ces systèmes et qui avons la capacité à les maîtriser. Mais nous n'avons pas toujours la capacité de le faire de façon souveraine parce que nous sommes dans un contexte international qui fait que l'humain va développer un certain nombre de capacités au niveau mondial, mais que les différentes cultures ou les différentes façons d'apprécier les moyens d'interagir entre ces systèmes d'information biologiques qui sont nous-mêmes – entre autres – et les systèmes d'information numérique ne sont pas les mêmes selon les différents pays. Le problème géopolitique, le problème de la souveraineté, ici, est fondamental.

Je réponds ainsi à votre question sur la complémentarité homme-machine. Imaginez qu'on ôte le numérique pendant cinq minutes de notre univers. Ce serait le chaos : il n'y aurait plus d'électricité, plus d'eau, etc. La complémentarité est extrêmement forte entre ces deux systèmes d'information, même si celui que nous avons construit a aujourd'hui une certaine autonomie au sens où il a pris une importance telle qu'il est difficile d'imaginer que nous puissions nous en passer.

Nous arrivons à faire des choses formidables autour de l'impression 3D : on peut prendre la photo en 3D d'un os cassé et le reconstruire assez facilement. Comment l'utilise-t-on dans la clinique et comment développe-t-on la recherche autour de cela ? Cela doit être supervisé, contrôlé, non pas par la loi, mais par des entités qui auront la capacité de mettre au point des régulations à partir du moment où nous considérerons que cela sera nécessaire.

Le travail autour de la transparence des algorithmes est fondamental : qu'est-ce qu'un algorithme ? Comment est-il construit ? Qui le construit ? Qui le maintient ? Quelle est sa vie globale ? Ce n'est pas propre à la santé : il n'y a qu'à voir ce qui se passe aujourd'hui chez Boeing. Ce type d'environnement algorithmique est très complexe et nous devons nous donner les moyens de mieux le maîtriser. C'est un sujet de recherche technique, mais cela relève aussi de notre capacité à porter un regard humain sur la façon dont nous mettons au point ces innovations, par exemple à travers des comités d'éthique. J'aime bien l'argument selon lequel l'éthique est un argument de compétitivité. Il faut que nous sachions valoriser cet argument dans le cadre du développement de l'innovation, en France et en Europe.

Pour ce qui concerne le consentement, l'importance croissante des données dans la décision médicale fait qu'il est peut-être éclairé mais peut-être aussi pas tout à fait libre. Aujourd'hui, je vais voir le docteur Uzan et je lui dis : « voilà, j'ai une maladie très grave. Est-ce que je dois vraiment vous donner toutes mes données parce que si vous ne les avez pas, vous ne pourrez pas établir un bon diagnostic ? » Lorsqu'on a besoin d'accéder à la médecine, la liberté du consentement ne va pas de soi. Or l'enjeu est bien plus important aujourd'hui, car les données que nous allons délivrer vont être diffusées de façon bien plus large que dans le cabinet d'un médecin. Comment arrive-t-on à maîtriser cela ? Cela relève, naturellement, d'une collaboration internationale, mais surtout de la façon dont nous souhaitons organiser le lien entre la dimension sanitaire et la dimension économique, avec toute l'innovation qui va derrière. Pour avancer sur la question du consentement, il faut se la reposer souvent et se donner la capacité d'auditer les systèmes, de les qualifier puis de les certifier, et, tout en amont, de décrire l'ensemble des propriétés que nous souhaitons leur donner, en particulier pour des systèmes médicaux, comme nous avons su le faire et comme nous savons le faire de mieux en mieux pour les systèmes aéronautiques. En matière de véhicule autonome, nous en sommes encore loin. Je rappelle qu'aujourd'hui, nous savons faire atterrir et décoller un avion sans intervention humaine directe. Il peut y avoir des erreurs humaines ou au niveau des logiciels mis en œuvre, mais les progrès que nous avons faits, en particulier en numérique, nous permettent à la fois de certifier une transparence – on comprend ce qu'il se passe – et d'auditer les choses. Un exemple intéressant est l'ANSSI : l'Agence nationale pour la sécurité des systèmes d'information a montré sa capacité à analyser un certain nombre de situations permettant de comprendre si tel ou tel système est cybersecure ou pas. C'est l'occasion de dire que dans les systèmes médicaux, il y a aussi des questions de cybersécurité qui sont difficiles, mais pour lesquelles il est intéressant de garder ces considérations présentes à l'esprit.