Intervention de Raja Chatila

Ces questions sont effectivement fondamentales.

S'agissant de la personnalité juridique et de la façon de se prémunir d'une initiative inopportune, je pense que l'Europe est suffisamment puissante et écoutée pour ne pas craindre ce qui vient d'ailleurs. Par ailleurs, elle donne l'exemple, en particulier à travers des réglementations protectrices du citoyen européen, comme le règlement général sur la protection des données (RGPD). En ce sens, il convient de continuer de considérer qu'une machine est une machine, donc un objet, et de ne pas tomber dans le piège qui consiste à dire que, puisqu'il y a un ordinateur derrière, cette machine a des capacités de prise de décisions...

Et dans la mesure où une machine est une machine, son exportation doit respecter un certain nombre de normes et de critères, qui la ramènent à sa qualité de machine. Il faudra donc ne pas reconnaître des appellations, des nominations, des caractérisations qui seraient données dans d'autres pays à des machines pour les assimiler à des humains. Rien ni personne ne peut obliger l'Europe à le faire.

Par ailleurs, si l'industrie européenne se trouvait impactée par un tel dispositif, elle serait, de fait, protégée et les pays européens ne pourraient pas tomber dans les mêmes travers, c'est-à-dire développer des systèmes de ce type.

Concernant la manière dont des malades sont approchés, sur la base d'informations confidentielles, par des commerciaux vendant des objets connectés, la confidentialité des données est un sujet extrêmement important et difficile à traiter. Il n'y a pas de code qu'on ne puisse « craquer ». Protéger les données collectées ou stockées par ces objets connectés est d'une grande importance. Je n'ai pas de proposition concrète à formuler, mais il convient de protéger le citoyen européen contre ces éventualités, de même que contre les produits pouvant être développés ou présents sur le marché dans d'autres domaines, et qui impactent ou dérangent la vie dudit citoyen. Car, au fond, il s'agit de cela : protéger les personnes vulnérables susceptibles d'être démarchées. La vulnérabilité peut être un critère de protection.

Il est certes possible de traiter la question de la protection des données personnelles acquises par objets connectés en programmant ces objets : par exemple, réaliser des machines dont l'utilisateur pourrait déterminer ce qui doit être oublié, ce qui doit être protégé, etc. Mais il s'agirait là d'une démarche relativement limitée, puisqu'une machine n'oublie rien, tout étant mis dans une case-mémoire qui n'est plus accessible à l'utilisateur, mais qui peut l'être à un spécialiste, notamment à un spécialiste malveillant.

Enfin, je suis plutôt favorable à la création d'un comité d'éthique du numérique et d'un observatoire, étant donné ce qui se passe au plan international.

Un observatoire nous permettrait d'obtenir une source d'informations fiables et évaluables quant aux développements qui sont cours à l'étranger. Un observatoire européen me paraît plus pertinent, même s'il n'est pas toujours facile de réaliser une structure européenne. Les valeurs et les critères peuvent être différents selon les pays, alors même que ces sujets sont discutés au sein du groupe de haut niveau sur l'IA, dont je fais partie. Cinquante-deux experts conseillent l'Union européenne dans sa politique, à la fois éthique et d'investissement.

Un comité français d'éthique du numérique serait également utile, car il s'agit d'un domaine vierge de toute évaluation éthique : en d'autres termes, tout est permis. En effet, dès lors qu'il n'y a pas d'expérimentation humaine, il n'y a pas de comité de protection des personnes (CPP) ni de CCNE à consulter. Tout devient possible et des prototypes, des systèmes peuvent être développés, qui aient un impact sur les êtres humains. C'est pourquoi un comité d'éthique du numérique serait pertinent.