Intervention de Jean-Gabriel Ganascia

Comment concilier progrès et humanité ? Mon domaine de recherche concerne précisément la simulation des raisonnements éthiques sur les machines et la manière de mettre de l'humain dans les décisions automatiques. Il est tout à fait possible d'introduire des critères en référence à des valeurs humaines dans la prise de décision des machines. Je travaille également sur les « humanités numériques », c'est-à-dire sur le fait d'essayer d'utiliser l'intelligence artificielle pour construire de nouveaux opérateurs d'interprétation, permettant de mieux comprendre les oeuvres humaines. Cela peut, d'une certaine façon, donner naissance à un nouvel humanisme, faisant écho à la capacité, qui était apparue à la fin du Moyen Âge, de relire les oeuvres des Anciens. Nous avons par exemple développé un laboratoire d'excellence avec les équipes de littérature de la Sorbonne, dans lequel nous essayons de relire les oeuvres de façon différente, en repérant les influences sur de très grands corpus de textes, en lien avec la Bibliothèque nationale de France. L'intelligence artificielle permet des travaux passionnants et ne conduit pas nécessairement à une déshumanisation.

Il ne faut toutefois pas nier les risques que vous évoquez. La mondialisation est souvent un argument que l'on nous oppose, en soulignant que les limites que nous nous imposons dans nos travaux n'existent pas nécessairement ailleurs et que, dans d'autres pays, les équipes ne prennent pas autant de précautions et feront ainsi ce que nous refusons de faire. Je crois qu'il est important de bien comprendre le contexte actuel. L'établissement de normes ne me semble pas nécessairement positif, mais si l'on parvient à construire une demande sociale forte en Europe, se traduisant par le développement de labellisations, alors les populations des autres pays du monde pourront s'y intéresser. Nous aurions alors un rôle d'exemplarité. On peut faire de l'éthique un avantage concurrentiel.

La question d'un nouvel illettrisme et l'introduction de concepts faux est aussi un vrai problème. Nous vivons dans une société de l'information. Or cette dernière est toujours susceptible d'être détournée ; des rumeurs et toutes sortes de fausses nouvelles peuvent circuler. Il est important d'essayer de lutter contre cette tendance. C'est toutefois très difficile, dans la mesure où il faut veiller à ne pas entraver la liberté d'expression, tout en caractérisant ce que seraient des attaques informationnelles injustifiées. Il s'agit d'une question majeure. Quinze prix Nobel ont signé la semaine dernière, à l'initiative de Reporters sans frontières, un appel invitant à prêter une attention toute particulière aux problèmes de diffusion de l'information. Dans le monde passé, les limitations étaient celles imposées par un État autoritaire, qui gommait certaines informations et empêchait leur diffusion. Aujourd'hui, la situation est différente, car nous sommes confrontés à la propagation d'informations fausses, qui contribuent à noyer l'information en créant une surabondance de données.

Je pense que la question essentielle en matière de consentement est celle du consentement non éclairé. Ce risque est grand aujourd'hui, car tous les individus ne sont pas en capacité de comprendre et de tirer les conséquences de ce qu'ils sont invités à signer. Je suis tout à fait d'accord avec vous sur le fait que le consentement ne justifie pas l'acte ; mais quand bien même il le justifierait, cela n'irait pas sans soulever de questionnements.

Relever les défis liés à l'intelligence artificielle implique, comme vous le soulignez, une prise de conscience de l'ensemble de la société, à l'école notamment. Nous avons ainsi commencé à tisser quelques liens avec l'Éducation nationale. Un programme d'informatique, à l'élaboration duquel j'ai quelque peu participé, est en train de se mettre en place à l'attention des élèves de seconde, afin de leur expliquer ce que sont les réseaux sociaux, les moteurs de recherche, l'intelligence artificielle. Je crois que l'éducation a un rôle important à jouer, à l'échelle de l'ensemble de la société. Il faut développer une formation permettant à nos concitoyens de comprendre les enjeux du numérique, de s'en saisir, d'en débattre. Cette réflexion appartient à tous. Il n'existe pas de déterminisme technologique. Il faut veiller à construire une société à notre mesure et être en capacité, collectivement, de faire des choix pour l'avenir. Je pense qu'il faut que des formations soient proposées à tout âge de la vie, car les compétences requises pour exercer la plupart des métiers sont en constante évolution. On ne peut imaginer que les études initiales fournissent le seul et unique bagage disponible pour effectuer la totalité d'un parcours professionnel. Il est important d'actualiser ses connaissances, de développer ses compétences tout au long de la vie. Je suis universitaire et je pense que l'université a un rôle majeur à jouer dans ces transformations de la société pour le futur.