Intervention de Grégoire Loiseau

En ce qui concerne l'appréhension de l'intelligence artificielle par le droit, je souhaite attirer votre attention sur deux points.

Tout d'abord, rien n'existe pour l'instant, car il s'agit d'un phénomène émergent. Les questions sont surtout posées sous un angle économique ou du point de vue du droit social, qui n'est pas l'objet de cette table ronde. Les évolutions qui sont attendues dans le domaine de l'intelligence artificielle doivent nous conduire à adopter un certain nombre de mesures relevant de l'éthique et, peut-être, de la loi de bioéthique.

J'en viens maintenant aux risques de dérive. À titre personnel – je sais que ce point de vue n'est pas partagé par tous –, j'en vois deux.

Le premier risque de dérive est la personnification des « robots » – c'est le terme usuel, même s'il est souvent inapproprié, car l'intelligence artificielle peut prendre une forme immatérielle. On assiste déjà à une telle personnification pour certaines utilisations : les robots d'assistance à la personne et ceux de compagnie, qui suscitent une relation émotionnelle. Le pas suivant est la personnification juridique : on le voit bien avec le débat qui concerne les animaux. La personnification de certaines machines intelligentes, les plus sophistiquées, risque de donner lieu à la revendication d'une personnalité juridique, que l'on présente comme fonctionnelle ou technique, à l'image de celle des personnes morales. Or on sait très bien, en tout cas chez les juristes, que la reconnaissance de la personnalité juridique des personnes morales leur a permis d'accéder aux mêmes droits que les êtres humains, sur le terrain de l'égalité – Ripert le soulignait déjà au milieu du XXe siècle. La reconnaissance d'une personnalité juridique, même technique, aboutirait à la revendication de droits pour certaines utilisations de l'intelligence artificielle.

Vous savez sans doute qu'une résolution adoptée l'an dernier par le Parlement européen demande notamment la reconnaissance, à terme, d'une personnalité électronique pour les robots. C'est un sujet qu'il faut prendre au sérieux. Un certain nombre de chercheurs – 150, me semble-t-il – ont adressé le mois dernier une lettre à la Commission européenne afin de l'alerter.

On ne peut pas traiter cette question en droit national, en faisant abstraction des autres droits : on ne peut agir utilement qu'au niveau de l'Union européenne. Néanmoins, la France a un rôle à jouer, ne serait-ce que parce qu'elle a été un des premiers pays européens à reconnaître la primauté de la personne humaine en adoptant la loi du 29 juillet 1994 relative à la bioéthique, qui n'a absolument pas vieilli, même s'il faut l'adapter, ce qui est bien différent. Il me semble que cette sensibilité historique à l'humain donne à la France une voix au chapitre sur ces questions.

Un deuxième risque de dérive est lié au développement d'un discours utopiste, qui est soutenu par des firmes, notamment américaines, sur l'utilisation des biotechnologies, des nanotechnologies et de l'intelligence artificielle pour augmenter la résilience de l'être humain, en créant un être humain « augmenté » sur le plan de ses capacités cognitives et physiques, jusqu'à l'immortalité. Même si on ne va pas jusque-là, l'idée est de perfectionner l'être humain. À titre individuel, qui serait contre la possibilité de vivre plus longtemps sans être affecté par les tourments de l'âge, comme la maladie d'Alzheimer ? Il faut néanmoins raisonner à l'échelle collective : c'est la conception même de l'être humain, de l'espèce humaine, qui est en jeu. Selon les tenants du courant le plus radical du transhumanisme, il faudrait transmettre génétiquement l'amélioration de l'être humain, ce que l'on est d'ailleurs en passe de faire.

Le droit européen et le droit français doivent se positionner. Depuis 1994, l'article 16-4 du code civil pose le principe de l'intégrité de l'espèce humaine. Je suggère, très modestement, d'y ajouter un principe d'intangibilité. Cela signifie que notre espèce doit connaître une évolution naturelle, et non pas une évolution artificielle reposant sur les nano-biotechnologies et l'intelligence artificielle, créature qui pourrait très facilement échapper à son créateur.

Je ne cherche pas à tenir des propos inquiétants, mais à faire prendre conscience des enjeux, à un moment où rien n'est encore fait, et où tout reste à faire. Le risque, me semble-t-il, est de se laisser dépasser par les évolutions en se disant qu'elles sont pour plus tard et que l'on va donc se limiter, dans un premier temps, aux apports en matière médicale et dans le domaine du transport, ou bien aux risques de suppression d'emplois : les aspects relevant du droit des personnes me paraissent aussi extrêmement importants.