Intervention de Alain Bensoussan

Il s'agit d'abord d'une problématique mondiale. Les robots sortent des laboratoires ; ils sont dans les hôpitaux, dans les usines, dans les entreprises, dans les domiciles. Cela signifie que nous sommes aujourd'hui dans un régime de liberté. Toute personne qui a envie de faire de l'algorithmie d'intelligence artificielle peut le faire en toute liberté, c'est-à-dire sans conscience, sans contrôle, sans responsabilité, sans assureur et sans dignité. Voilà la situation exacte. Nous sommes poussés, et si nous n'intervenons pas, nous nous trouverons demain face à un marécage.

Soit nous considérons que nous sommes dans un régime de liberté, que tout est permis, et que nous verrons ce que l'avenir nous réserve ; soit nous décidons de légiférer, de manière expérimentale, à petits pas.

Sur quoi faut-il légiférer ? J'aurais tendance à dire qu'inscrire dans la Constitution la primauté de la personne humaine est nécessaire et suffisant. Juridiquement, cela n'apportera pas grand-chose – encore que… –, mais pédagogiquement, en termes d'acceptabilité sociale, cela évitera le conflit des espèces, le conflit de la personne. Car lorsque l'on discute de la personne-robot, on ne discute pas des avantages du robot sur la personne. Oublions les mots, dépassons ce clivage ! Le droit n'est que l'écume des valeurs, ce sont les valeurs qui importent.

La loi « Informatique et libertés », qui est devenue un standard mondial – alors que l'on pensait qu'il était impossible d'instaurer un standard mondial dans ce domaine – commence par une déclaration de principe : l'informatique doit être au service de chaque citoyen. De la même manière, il s'agirait d'écrire que l'intelligence artificielle doit être au service de l'humain, dans une approche humaniste et universelle. Voilà la première règle. Et si, demain, elle se trouvait dans la Constitution, ce serait merveilleux, car ce sont d'abord des valeurs que le droit traduit.

Au-delà, comment peut-on encadrer les algorithmes ? Il s'agit clairement et avant tout de poser le principe de dignité humaine, pour éviter des algorithmes malfaisants, pour éviter de tromper les gens, pour dire l'état des connaissances. Lorsque vous êtes opéré, vous recevez un document qui vous présente les risques. Il faudra y inclure un paragraphe sur l'intelligence artificielle, sur l'outil qui aura une emprise sur votre corps, sur le positionnement du médecin par rapport à l'intelligence artificielle dans l'acte médical.

Il s'agit ensuite d'une question de transparence : il est nécessaire d'informer sur les risques. Il faut aussi dire que l'on ne trompe pas, c'est le principe de loyauté. Je vous propose, dans ce cadre, de souligner un droit pénal spécial : il s'agit de dire que l'intelligence artificielle ne doit pas trahir les humains. Enfin, il faut prévoir la certification.

Vous avez évoqué la fracture intelligente. Non, le monde de demain ne sera pas un monde de robots remplaçant des humains, mais un monde d'humains augmentés remplaçant des humains. Le risque que la fracture de l'intelligence artificielle accentue la différenciation entre les humains est réel. Le problème n'est pas entre robots et humains, il est entre humains et humains.

Je veux aussi vous dire que le monde entier est en train de légiférer. Je pensais avoir inventé le système de cascade de responsabilités : pas du tout, une loi du Nevada a déjà posé la responsabilité de la plateforme d'intelligence artificielle et celle des fabricants ! À ce sujet, savez-vous pourquoi l'on parle de voiture autonome ? Tout simplement parce que le législateur avait inscrit dans la loi les mots artificial intelligence platform, avant de considérer que c'était trop dangereux en termes d'acceptabilité sociale. Il a alors choisi de remplacer les termes par autonomous vehicle. Vous voyez que derrière les mots, il y a du droit, et derrière le droit, des valeurs.

Exportons nos valeurs par une règle de droit qui se veuille humble. Cela permettra de baisser le niveau d'anxiété, d'augmenter le niveau pédagogique et de libérer l'intelligence artificielle dans la santé pour le bien du monde. Ce sera un grand pas pour tous.