Nous avons le plaisir d'auditionner Mme Françoise Mercadal-Delassales, directrice générale du Crédit du Nord et co-présidente du conseil national du numérique (CNNUM) et M. Gilles Babinet, également co-président du CNNUM et digital champion auprès de la Commission européenne.

Le CNNUM est une commission consultative indépendante, créée en 2011, chargée de conduire une réflexion ouverte sur la relation des humains au numérique. Son collège pluridisciplinaire se compose de dix-sept membres nommés pour deux ans par le Premier ministre, ainsi que de quatre parlementaires nommés par les présidents de l'Assemblée nationale et du Sénat. Le CNNUM est placé auprès du secrétaire d'État chargé de la transition du numérique et des communications électroniques.

Le CNNUM ne s'est pas encore saisi du sujet de la souveraineté numérique dans sa mandature actuelle, puisque ses membres ont été renouvelés au début de 2021. Nous vous remercions tous les deux pour cet échange qui ne préjugera évidemment pas du contenu de vos travaux à venir.

A titre liminaire, je souhaite vous interroger sur trois points.

Premièrement, quelle est votre approche de la souveraineté numérique et comment la définissez-vous ? Cette question est récurrente au cours de nos auditions, du fait de la grande diversité d'approches à cet égard. Comment jugez-vous la montée en puissance de la notion de souveraineté numérique dans le débat public ? Enfin, quel regard portez-vous sur le rôle qu'a joué le numérique durant la crise sanitaire, par exemple avec l'application TousAntiCovid ou l'éventualité d'un pass sanitaire ?

Deuxièmement, au cours des auditions, nous avons relevé que le fait pour l'État de rester souverain dans le numérique implique, à la fois, de conserver une indépendance vis-à-vis des choix technologiques et de réguler l'activité des acteurs du numérique. De quelle manière peuvent cohabiter les trois rouages de la souveraineté numérique, à savoir l'État, les entreprises et les citoyens ? Quel jugement portez-vous sur les initiatives européennes visant à réguler le service numérique, le marché de la donnée ou encore l'Intelligence artificielle (IA) ?

Troisièmement, je souhaite vous entendre au sujet du développement d'une culture du numérique dans la société. Quel est selon vous le degré d'intention des entreprises, même non spécialisées, à s'approprier la matière du numérique ? Comment jugez-vous la capacité à former les plus jeunes au numérique, en France comme en Europe ?

Le CNNUM n'a pas encore abordé le sujet de la souveraineté numérique. Avant de répondre, je souhaite préciser les missions et le fonctionnement du CNNUM, tout en montrant comment les sujets que vous introduisez sont traités et quel est notre niveau de réflexion.

Depuis une quinzaine d'années, les membres qui composent actuellement le CNNUM participent au déploiement du numérique dans leurs entreprises respectives. Comme au sein de l'État, les outils numériques y ont été déployés très rapidement, sur la base de ce qu'a observé et conseillé le CNNUM.

Pour cette période de deux ans, nous souhaitons faire un « pas de côté » dans cette course effrénée au déploiement du numérique, alors que nous avons plongé dans la grande transition anthropologique – pour citer Michel Serres – qui modifie considérablement nos comportements individuels, sociaux et économiques. Nous chercherons à déterminer les impacts de cette grande transition sur les humains et le fonctionnement du monde.

Je vous avertis d'ores et déjà que les productions et informations que le CNNUM diffusera ne répondront pas frontalement au fait de déterminer ce qu'est la souveraineté numérique et sur la manière de réguler les plateformes. L'État dispose déjà d'experts tout à fait à même de mener ces réflexions.

Le collège du CNNUM se compose de quatre parlementaires et dix-sept membres, qu'ils soient philosophes, sociologues, anthropologues, psychologues, économistes, journalistes, dirigeants d'entreprise, juristes, linguistes ou informaticiens. Cette composition vise à modeler une pensée interdisciplinaire sur cinq grands thèmes, à savoir la relation des humains au savoir, la relation à la vérité, la relation aux institutions – où la souveraineté pourrait être abordée sous un angle sociologique ou philosophique – la relation au collectif social et la relation avec l'ensemble du vivant.

À mon sens, cet échange, ce matin, autour de la souveraineté, pourrait être fidèle à la démarche du « pas de côté » voulue par le CNNUM et chercher à préciser comment être souverain de soi-même au cœur de la civilisation numérique, tout en en restant acteur et en donnant au citoyen la capacité d'opérer ses choix propres, alors même que tout un chacun est assailli par les informations et les outils que le monde actuel impose. En résumé, la question de la souveraineté numérique ne se limite pas à l'État, mais tient aussi au fait de savoir comment être souverain de soi-même.

Je souscris pleinement à ce propos liminaire et propose donc de passer aux questions de la mission d'information.

Comment donner une perspective commune aux trois entités de la souveraineté numérique, c'est-à-dire l'État, les entreprises et les citoyens, qui sont aussi des usagers ?

En écho aux propos de Mme Françoise Mercadal-Delassales, j'affirme que nous devons recréer un projet collectif et politique. Cette question a d'ailleurs nourri l'orientation des travaux du CNNUM. Nous sommes tous conscients des menaces géopolitiques que peut véhiculer le numérique et, en ce sens, nous devons faire des choix. En effet, les natures des projets numériques diffèrent dans le monde, avec un axe économique aux États-Unis, une vision militaire en Israël et une visée expansionniste pour la Chine. L'Europe cherche, quant à elle, à développer un projet numérique davantage inclusif, bien que ce point demande à être détaillé.

Pour répondre à votre question à propos de la souveraineté, il y a quatre ans, j'ai rédigé à ce sujet un dossier pour l'Institut Montaigne. Aussi, le CNNUM ne s'étant pas encore positionné sur ce point, je propose de m'exprimer à titre personnel.

D'une part, il existe, à mon sens, un enjeu de court terme, avec la proportionnalité de l'usage du numérique et la mise en balance des avantages et des risques à y recourir. Dans votre propos liminaire, vous évoquiez les sujets de santé, comme le Health Data Hub, et je me déclare en désaccord avec les positions communément adoptées, par exemple, par la commission nationale de l'informatique et des libertés (CNIL) et le Conseil d'État. En effet, le risque doit être pesé, mais tout un chacun doit pouvoir utiliser les outils appartenant à l' hyperscale. Cependant, les données pourraient être utilisées, y compris à des fins de renseignement, et ces problèmes doivent être abordés.

D'autre part, il existe les enjeux de long terme, imposant de posséder une vision forte du numérique, pour la politique industrielle, la cybersécurité, les microprocesseurs ou encore les enjeux d'éducation. La Chine est un pays dont nous parlons peu en la matière, mais elle mène une politique spécifique au numérique pour l'éducation, notamment pour l'IA, employant des logiques de « silo » difficiles à mettre en place. À l'inverse, il est complexe de percevoir les effets consécutifs aux déclarations de nos autorités en la matière. L'organisation structurelle de nos institutions est-elle compatible avec le monde numérique ? Poser la question est commencer d'y répondre.

L'Union européenne cherche actuellement à règlementer le numérique, s'étant aperçue, après le Règlement général sur la protection des sonnées (RGPD), qu'il fallait réguler davantage comme avec les projets Digital Services Act (DSA) et Digital Market Act (DMA). Cette méthode est-elle efficace ou devrions-nous plutôt entrer dans la compétition du numérique pour imposer nos standards sur le marché, sans passer par la règlementation ?

Nombreux sont ceux, et j'en fais partie comme le Commissaire européen, M. Thierry Breton, à constater que les outils institutionnels européens sont insuffisants. Ce problème s'accentue dès lors qu'il faut parvenir à un consensus recueillant l'unanimité pour mettre en œuvre des budgets européens d'investissement.

Dans le plan de relance, je déplore que des affectations de budget préexistantes à la crise ont été remises en cause en matière d'innovation ou de numérique.

Je m'exprime encore une fois à titre personnel, pour affirmer que nous devons nous doter d'un outil de défense européen, indépendant de l'OTAN, comprenant une forte part cyber. Ce projet n'a pas encore pris corps. Pour le reste, nous devons adopter une logique applicative de recherche et de transfert, comme le fait l'agence américaine Defense Advanced Research Projects Agency (DARPA). Comme tout le monde, j'ai entendu parler d'un budget de dix milliards d'euros en faveur du numérique, portant sur une durée inconnue, dont il faudrait dans tous les cas que la gouvernance soit dotée d'agilité.

En somme, la logique européenne devrait se tisser autour d'axes tels que ceux définis par le processus de Bologne. De même, l'Union européenne devrait consacrer une part importante du plan de relance au programme Erasmus, l'un de ceux ayant connu le plus de succès, et tendre à un Erasmus digital. Une telle dynamique ferait probablement montre de son efficacité, et produirait un effet très positif du point de vue du sentiment européen.

La nécessité de réguler est une évidence absolue, mais réguler ne sera jamais suffisant, car les modes de régulation traditionnels, hérités du XIXe siècle, n'interviennent plus dans un monde pyramidal, et se heurtent à des résistances sociales et sociétales.

Il convient de réaliser que nous serons bientôt huit milliards d'individus sur la planète, ayant tous l'information à portée de main. L'absence de traitement de l'information peut avoir des effets délétères mais, à l'inverse, il est possible de produire des effets fabuleux, en se dotant effectivement d'une vision politique dans l'utilisation de ces outils, à des fins collectives.

En marge de la règlementation, il nous semble nécessaire de développer une culture du numérique. Il y a longtemps maintenant que les entreprises en France, y compris les PME, se sont lancées dans la compétition du numérique, mais nous n'y avançons qu'à l'aveugle, car les individus qui mettent en place ces systèmes, au sein des entreprises, n'ont pas reçu d'éducation à l'école, quant à l'influence de ces outils sur l'humanité. À titre personnel, je considère que cette éducation numérique manque au secteur public comme au secteur privé, pour opérer les choix allant dans le sens de l'intérêt général.

La culture du numérique constitue un enjeu politique et social majeur et elle inclut la compréhension ou l'apprentissage des aspects techniques de l'outil, des algorithmes, de la signification d'une donnée, et du point de savoir où ces données sont stockées, ou encore du fonctionnement du pagerank de Google.

D'un point de vue politique et civique, il est important de comprendre les enjeux de la collecte des données, en matière de surveillance, de libertés et de protection de la vie privée. L'aspect économique s'ajoute à ces enjeux, mais également un aspect psychosocial avec l'impact des écrans sur le développement cérébral, le changement des rapports intergénérationnels, la communication et le collectif. Nous pouvons regretter que l'histoire des sciences ne soit pas enseignée à l'école, car ne pas comprendre comment une révolution technologique transforme l'humanité mène à être utilisé, soi-même, par les outils.

Nous comprenons cette course au développement du numérique et que l'Europe, face aux États-Unis, à la Chine, se trouve saisie d'un sentiment d'urgence l'incitant à réguler. En ce sens, un malaise profond se déploie dans notre société, et un décalage très important apparaît entre la vitesse de développement de la société du numérique et la compréhension que nous en avons.

Peut-être ces sujets s'éloignent-ils du thème de la mission d'information, mais pour avoir évolué au sein d'une grande entreprise bancaire dix ans durant, en tant que dirigeante des services informatiques, je sais que les choix technologiques que nous opérions étaient guidés par l'efficacité économique et l'immédiateté. Cette efficacité était évidemment une réponse à la puissance des majors états-uniennes, auxquelles, demain, s'ajouteront des majors chinoises. Mais j'affirme que dépendre complètement des outils fabriqués par ces acteurs ne traduirait qu'une vision de court de terme de notre part, quant à la viabilité de nos entreprises. Il est nécessaire d'amener les citoyens à vivre la transition digitale de manière positive, en leur donnant les moyens de la comprendre. Atteindre cet état de compréhension relève de la souveraineté individuelle et collective, et amène à prendre des décisions différentes, selon qu'il s'agit d'un acteur public ou privé.

Vos développements correspondent tout à fait au volet de la formation, enjeu de souveraineté, de notre mission et il est bon que vous l'ayez abordé.

À propos de la culture du numérique, le thème de la fracture numérique apparaît récurrent. Cette fracture est-elle désormais autant sociologique que physique, c'est-à-dire que les territoires ruraux et éloignés des réseaux à haut débit ne sont plus les seuls à être concernés par le problème ? Je suis bien conscient que votre mandature du CNNUM n'a pas encore travaillé sur ces sujets, mais, selon vous, comment pourrions-nous amener ces citoyens à ne plus être effrayés ou subir la transformation numérique ? L'exemple de la digitalisation des services publics peut être pertinent.

J'appuie les propos de Mme Françoise Mercadal-Delassales et tiens à signaler que la création d'un imaginaire collectif est déterminante pour effectuer la transition du numérique. C'est notamment ce qui ressort de l'ouvrage The Code de Margaret O'Mara à propos de l'émergence de la Silicon Valley aux États-Unis. L'environnement s'y est imprégné de littérature, de cursus universitaires, ayant amené à faire émerger la puissance de cet écosystème. En somme, nous devons bâtir une culture qui nous soit propre, et non pas importée, afin d'être maîtres de notre destin.

Concernant la fracture numérique, je me souviens d'un débat à propos des populations migrantes, au cours duquel il était expliqué que la capacité d'intégration dépendait du fait de posséder un référentiel culturel permettant d'avoir un sentiment d'appartenance à l'ensemble. Au même titre que ces mouvements dans l'espace, l'accélération technologique a produit un sentiment de déracinement dans le temps. C'est alors qu'intervient le besoin de posséder une culture collective nous portant au changement, plutôt que de nous en rendre victime.

À de nombreuses reprises, j'ai encore été surpris qu'il faille convaincre des journalistes, chercheurs et politiciens du fait que mettre en œuvre la technologie ne revient pas à se soumettre à des modèles importés. Nous pouvons imprimer de fortes inflexions, tant sur la technologie pure qu'au sein des humanités numériques et faire prévaloir nos façons de penser ou de réguler la technologie.

La fracture numérique n'est pas seulement territoriale, d'autant que les pouvoirs publics, centraux ou locaux, déploient des dispositifs afin d'atteindre les populations les plus isolées.

À mon sens, la fracture numérique est essentiellement sociale. Le fait que les outils en soient massivement utilisés, et par toutes les tranches d'âge, amène à reproduire, tant le négatif que le positif de nos vies hors du numérique. L'outil numérique ne fait alors qu'accentuer les tendances préexistantes. Au sein du CNNUM, nous comptons Mme Dominique Pasquier, sociologue, dont les travaux démontrent que l'usage de l'outil digital diffère d'une classe sociale à l'autre. Quand les enfants des cadres l'utiliseront afin d'apprendre et se renforcer, les enfants de classes plus défavorisées en useront d'une manière non enrichissante, voire appauvrissante et amenant à désapprendre. Les pouvoirs publics se doivent d'être extrêmement vigilants à cet égard.

Dès l'école primaire, l'enfant doit commencer à comprendre la portée de l'utilisation de l'outil digital, et cet apprentissage importe autant que le fait de lire, écrire ou compter. Dans le cas contraire, la société ne s'en fragmentera que davantage, exposée en permanence aux bulles des réseaux, qui nous diviseront. Cet apprentissage correspond au travail sur la vérité qu'ambitionne de mener le CNNUM.

Dans la mesure où les outils numériques existent et que nous devons composer avec eux, le CNNUM souhaite suggérer des pistes afin de lutter contre leurs effets négatifs. Par exemple, il s'agirait de déterminer comment utiliser l'IA pour nous protéger des bulles informationnelles et des fake news. À ce sujet, le CNRS compte en son sein l'institut des systèmes complexes, qui a mis en place un politoscope visant, par exemple en période d'élections, à apurer l'information des manipulations malveillantes. En d'autres termes, il faut utiliser la technologie pour protéger notre capacité de choix, c'est-à-dire notre souveraineté.

Cette transition numérique équivaut à l'invention des premiers outils ou à la découverte de l'atome. Pour ma part, j'ai été pionnière et chantre du digital au moment où nos entreprises se devaient d'effectuer cette évolution. Pour autant, l'année écoulée de crise sanitaire nous a montré que seuls, face à nos ordinateurs, nous avions besoin de contact social, d'échanger et d'être ensemble. De ce point de vue, l'école doit jouer un rôle fondamental.

Le CNNUM désire contribuer à ce débat et fournir des éléments et ressources afin d'affiner la pensée au sujet du numérique. D'ailleurs, au-delà de nos productions écrites, nous avons commencé d'interviewer des chercheurs et penseurs sur notre plateforme en vue d'amener à réfléchir et pourquoi pas, s'il le faut, susciter des controverses constructives.

La crise sanitaire a eu pour conséquence de lever le voile sur de nombreux effets, positifs comme négatifs, du numérique. L'école, à titre d'illustration, s'est beaucoup numérisée du fait des circonstances. Comment mettez-vous en balance la nécessité d'enseigner le numérique à l'école, et le fait que l'école a été dispensée à distance pendant la période ? Quelles conclusions tirez-vous de cette phase pour la dimension éducative ?

L'école est un bon exemple d'une institution lourde, qui a « subi » le numérique du fait, d'une part, de son impréparation, et, d'autre part, d'une opportunité non saisie de repenser le projet pédagogique. Je n'ai pas connaissance d'un débat autour du protocole pédagogique, alors même qu'injecter le numérique de cette manière aurait présenté des vertus éducatives, mais également celle de permettre la réappropriation de la technologie, que je mentionnais plus tôt. L'une des dernières enquêtes PISA montre que la France est l'un des pays ayant le plus faible taux de mobilité sociale par le biais de l'éducation. Je considère vraiment dommageable que nous n'ayons pas mené d'action en vue de repenser la dimension pédagogique.

En résumé, la crise du Covid-19 n'a fait qu'exacerber les disparités sociales, puisque selon les foyers il était, ou non, possible de s'isoler chez soi ou d'accéder aux supports et plateformes adéquats. L'analyse post-crise pourrait être sévère à ce titre, et elle souligne une difficulté à prendre du recul et à considérer le numérique autrement que comme un outil strictement technique.

Le système scolaire français recueille en effet de nombreuses critiques, mais je ne souhaite pas ajouter de commentaire à ce sujet, même si d'autres pays ont su mieux tirer parti de la crise de ce point de vue.

Le CNNUM, par son groupe de travail portant sur le savoir, introduit l'idée de la complémentarité entre l'enseignement physique dit classique, et l'utilisation des outils numériques. Nous avons récemment interviewé Mme Daphné Bavelier, neuroscientifique, qui étudie l'influence des jeux vidéo. Elle met en avant le fait que les jeux vidéo ou certains supports peuvent permettre un renouveau du plaisir d'apprendre pour certains élèves ne pouvant plus être ramenés au système scolaire classique. De même, l'outil digital pourrait être utilisé face à la dyslexie et aux troubles de l'attention.

Je rejoins M. Gilles Babinet sur le fait que, tant que les enseignants n'auront pas également fait un « pas de côté » dans leur cheminement à propos des outils numériques, et qu'ils n'auront pas abandonné une vision manichéenne pour une approche rationnelle du numérique, le débat demeurera stérile. Nous maintenons qu'il faut jouer de cette complémentarité entre les deux modèles d'éducation.

D'ailleurs, l'un des membres du CNNUM, M. Alexandre Lacroix, philosophe et directeur de la revue Philosophie magazine, évoquait avec nous la nécessité de faire jouer la pensée complexe, prenant en compte les oppositions comme le yin et le yang, le blanc et le noir. Il convient de dépasser le bien et le mal vis-à-vis de l'usage du numérique et de se pencher sur l'usage que chacun en fait.

Le monde du numérique est encore majoritairement masculin. L'outil numérique peut-il promouvoir la diversité des sexes ?

Tout dépendra de l'usage qui sera fait de l'outil numérique.

Que devons-nous faire pour que le numérique produise des effets vertueux, et non pas destructeurs, au sein de la société ? Comment pouvons-nous mobiliser les citoyens, autrement que par l'action publique ?

Les débuts d'Internet promettaient des effets vertueux, par exemple via l' open source, l' open data ou des plateformes comme Wikipédia avec une massification du savoir. Puis les méta-plateformes sont apparues, débordant les vues préexistantes.

Lors de chaque élection présidentielle, je déplore le fait que, dans des échanges avec les personnalités politiques, lorsque nous mentionnons l'existence d'une révolution technologique, le scepticisme prévale et que l'idée selon laquelle nous vivons une accélération notable ne soit pas comprise. Le numérique permettrait pourtant de refonder un projet collectif, et de travailler sur des enjeux d'« encapacitation » et d'éducation.

De même, je n'apprécie pas du tout le terme de dématérialisation, qui donne la sensation qu'il ne s'agit que de transposer les outils d'avant dans une version digitalisée. Sans repenser les pratiques sociales et économiques, nous n'adoptons qu'une vision très partielle de la situation.

De nombreux exemples de projets politiques existent, à l'international avec les écrits de M. Salman Kahn ou l'université de Bologne, et au niveau national avec les expérimentations en réseau d'éducation prioritaire (REP) que mène le mouvement Agir pour l'école. Intégrer le numérique ne constitue pas une lubie, mais bien une idée concrète pouvant déboucher sur des succès. Cependant, même si j'interviens à ce sujet depuis des années et dans différentes sphères, jusqu'à la sphère politique, je constate qu'il est encore difficile de faire « bouger les lignes ».

C'est la raison pour laquelle le CNNUM adopte la stratégie du « pas de côté », pour poser des questions de fond et interroger le sens que nous voulons donner à la société, car nous n'en sommes pas encore à la situation où un véritable projet collectif émerge et grandit de manière exponentielle.

Comment percevez-vous le rôle du CNNUM dans la situation globale que nous décrivons ?

D'abord, le numérique ne doit pas être perçu comme un simple fait technique mais comme un fait social et total.

Ensuite, notre humble ambition consiste à donner matière à penser sur les grandes questions que pose le déploiement massif du numérique. Ces questions rejoignent celles que je mentionnais en début d'audition, sur lesquelles le CNNUM a l'intention de se pencher, et qui pourraient être amenées à évoluer.

Enfin, nous souhaitons faire du CNNUM un lieu riche en ressources, où échanger des points de vue et construire une pensée collective. Pour y parvenir, nous souhaitons partager la pensée que nous produirons sur la plateforme du CNNUM et au-delà, éventuellement publier un ouvrage pour porter notre vision. Dans cette optique, nous espérons susciter l'intérêt des médias, des parlementaires et nous envisageons également de nous rendre dans les régions pour présenter nos réflexions, et jusque dans les écoles. En conclusion, notre intention est d'allumer une mèche dans la réflexion publique, en commençant par pointer le fait que le numérique ne doit pas se limiter à l'usage d'un outil.

De vos développements, nous comprenons que les chantiers que vous listez porteront sur des réflexions longues. Cette stratégie du « pas de côté » vous mènera-t-elle à participer à des débats pouvant survenir ponctuellement, comme la reconnaissance faciale dans l'espace public, ou bien vous abstiendrez-vous d'intervenir ?

Dans son agenda, le CNNUM n'a pas prévu de répondre ponctuellement aux sujets mais, dans la mesure où nous sommes au service de l'État, si le gouvernement nous le demande, nous aborderons certains sujets en particulier.

Aussi, bien que nous abordions des réflexions de fond, nous avons l'intention de « produire de la pensée » de manière régulière et continue. En ce sens, faire part de nos travaux à l'orée d'une élection présidentielle ou de la présidence française de l'Union européenne nous apparaît potentiellement très profitable.

Considérant la trajectoire actuelle du numérique, quelle place lui attribuez-vous à moyen et long terme ?

Cette question est très ouverte. Toutefois, je considère que le numérique aura une place équivalente, si ce n'est supérieure, à celle de l'électricité. Michel Serres parlait à juste titre d'une révolution anthropologique, qui nous amènera à penser différemment, à avoir d'autres connexions avec nos amis, nos familles, la transmission aux enfants. Le numérique relève d'un modèle productif et d'enjeux de souveraineté. En réalité, cette révolution totale me semble être de première importance et unique.

Michel Serres déclarait également que pour trouver trace d'un événement modifiant notre psyché autant que le fait le numérique, il fallait remonter à la civilisation de Sumer et le passage d'un vocabulaire de quelques centaines à plusieurs milliers de mots. Le numérique modifiera notre rapport à la connaissance, davantage encore que l'imprimerie de Johannes Gutenberg.

Parler de moyen ou de long terme est dépassé, puisque le numérique produit déjà pleinement ses effets et l'entrée dans cette nouvelle ère a eu lieu, peut-être même si rapidement que nous ne nous en sommes pas tout à fait rendu compte. L'année écoulée de crise sanitaire nous a peut-être ouvert les yeux sur cette fulgurance, mais les effets surviennent déjà et nous devons nous emparer des réflexions et les porter dans le débat public.

Quel usage de l'IA projetez-vous à l'échelle de la société ? Est-ce que le CNNUM interviendra sur des débats, comme celui, apparu il y a quelques années, d'une personnalité juridique de l'IA ?

Si nous possédions une véritable culture collective de l'IA, ce débat serait déjà dépassé. Pour le reste, j'avais suivi cette question et m'en étais agacé, car selon moi, doter l'IA d'une personnalité juridique n'est qu'un débat propre aux juristes, faisant état d'un transfert. Cette réflexion révèle en fait une peur du potentiel de la technologie, et était d'ailleurs portée par des futurologues dystopiques n'ayant jamais pris la peine de pratiquer le code.

Pour autant, le débat sur l'IA est passionnant et nous cherchons les points d'appui pour le généraliser.

Pour ma part, je ne vois qu'une déresponsabilisation totale des humains dans ce débat, comme si nous parlions des machines envisagées par Aldous Huxley ou dans le film Matrix. Alors qu'en réalité, derrière chaque machine, chaque algorithme, chaque IA de nos entreprises, il existe des hommes qui cherchent à s'enrichir. Les robots ne peuvent pas être tenus responsables de nos actions et de l'univers que nous avons fabriqué de bout en bout, quand bien même certaines IA mimeraient approximativement nos comportements.

En réponse, le sujet de l'IA fera partie des réflexions du CNNUM, mais au même degré et suivant la même méthodologie que les autres sujets que nous envisageons d'aborder.

Je citais l'exemple de l'IA car il revêt une forte dimension sociologique et psychologique, jusque dans les biais qu'il génère et les reflets de la diversité des sexes, par exemple entre les manières féminines et masculines de penser. Ce sujet fait-il partie des réflexions que le CNNUM souhaite amener dans le débat public ?

L'institut des systèmes complexes, dépendant du CNRS, que je mentionnais plus tôt, travaille sur ces sujets.

Concernant le CNNUM, notre premier livret évoquera la manière d'utiliser l'IA, non pas contre elle-même, mais afin de débusquer en son sein les biais de genre, les biais sociaux ou éducatifs.

Je répète que nous sommes absolument responsables des systèmes que nous créons, et des algorithmes que nous bâtissons. Parfois, je crains que certains ne cherchent à se cacher derrière les machines pour agir. Mais ce point nous fait revenir au projet politique et social.

Ne pensez-vous pas justement qu'il existe, comme il y en a eu un avec le green washing, un phénomène de « sovereignty washing » sans que le terme de souveraineté n'ait véritablement été défini, et qu'il soit ensuite utilisé comme slogan ? Au-delà du numérique, le terme de souveraineté revient dans de nombreux discours. Aussi, comment le définiriez-vous ?

Je vous remercie pour cette question à laquelle j'apprécie répondre car la souveraineté se trouve souvent associée à des pensées antimondialistes ou anti-atlantistes.

À mon sens, la souveraineté ne peut découler que d'un projet politique, et passe désormais par la technologie. Dans ce monde où l'ubiquité numérique remet partiellement en cause les frontières géographiques, nous devons définir ce qui nous lie et nous permet d'exister ensemble. Pour autant, il est difficile de parvenir à une définition claire, y compris dans les discours politiques, dont le contenu est souvent incomplet ou discutable, car mal précisé vis-à-vis de la révolution technologique que nous traversons.

Pour ma part, je lie les sujets de la souveraineté et de la durabilité. La souveraineté tient dans notre désir de faire survivre des valeurs, qu'à certains égards il faudrait encore définir. Un parallèle peut être effectué avec une entreprise qui, par les décisions qu'elle prend, cherche à faire perdurer ses valeurs managériales, éthiques et, de manière générale, ses codes.

Il semble évident qu'un acteur économique qui sous-traite une partie de ses activités vitales à d'autres entreprises ou entités étatiques se place dans une situation de dépendance vis-à-vis de ces dernières. Je considère que la souveraineté relève de la limite en-dessous de laquelle un acteur ne confie pas à d'autres les éléments vitaux qui le caractérise. Or, désormais, le numérique et la donnée sont devenus des éléments vitaux du corps social que nous formons. Dans le domaine bancaire, nous avons pour habitude de conseiller de diversifier les placements et de même, un acteur du numérique doit diversifier les entreprises ou entités étatiques auxquelles il confie ses éléments vitaux.

Le paramètre qui me semble fondamental est de conserver la capacité, l'intelligence et la compréhension des systèmes que nous utilisons, pour préserver la possibilité de fabriquer nous-mêmes par la suite. Si nous perdions cette faculté de compréhension, nous nous exposerions aux caprices d'entités ne partageant pas nos valeurs et nos façons de penser.

En conclusion, la souveraineté est un terme dépassant la matière économique, qui doit être combiné avec la durabilité et la survie de nos valeurs.

Voyez-vous, dans l'émergence de la notion de souveraineté au sein du débat public, une opportunité de développer la pensée et la réflexion, ou plutôt à l'inverse, un faux-semblant ne pouvant que parasiter les échanges et réflexions que vous pourriez formuler dans le domaine numérique ?

Nous sommes bien conscients des distorsions qui peuvent s'opérer dans les discours incluant la notion de souveraineté. Notre intention consiste à poursuivre nos réflexions, alimenter le débat et les controverses constructives avec des arguments de tous les horizons, afin de permettre aux citoyens de se forger leurs propres opinions.

Quant à moi, je regrette qu'en France, le monde de la recherche ne fasse pas partie du débat public. Je compare cette situation à celles de pays que je connais bien également, comme les États-Unis ou le Royaume-Uni, l'Irlande et les pays scandinaves, où le débat public se nourrit des informations provenant du monde de la recherche.

J'estime qu'une démocratie en bonne santé inclut ses chercheurs dans le débat public. C'est d'ailleurs précisément ce que nous essayons de faire au sein du CNNUM, en ayant intégré des membres ayant un parcours académique. Rendre au monde de la recherche la part qui lui est due dans le débat public fait aussi partie du travail que le CNNUM a l'intention d'effectuer.

J'entends que vous citiez des pays anglo-saxons mais, en Europe continentale, voyez-vous émerger des réflexions identiques à celles que vous ambitionnez pour le CNNUM ? Avez-vous des homologues en Europe ?

Bien qu'ayant voyagé dans de nombreux pays d'Europe par le passé, je ne les connais pas tous. Pour autant, je sais que l'Allemagne s'appuie beaucoup sur la science dans ses prises de décision, portant la participation du corps scientifique aux institutions administratives et politique à un degré bien supérieur à celui qui est le nôtre en France. D'ailleurs, la chancelière, Mme Angela Merkel, est elle-même une scientifique et le rappelle régulièrement. Aussi, la crise sanitaire a illustré cet état de fait en Allemagne, où l'institut Robert Koch a fréquemment été associé aux décisions prises.

En Suisse, je connais l'excellence du domaine universitaire et son importante capacité à nourrir le débat public. De ce que je sais, la Pologne ou l'Autriche sont également dans la ligne de l'Allemagne et de la Suisse pour cette manière de procéder, incluant le monde des sciences.

La France, qui possède pourtant une grande culture et une grande histoire scientifiques, est en train de décrocher. Je ne peux pas utiliser un autre terme, car telle est la réalité des indicateurs. Des conséquences apparaissent sur le plan de la compétitivité, la qualité de la pensée et du débat. Une nouvelle fois, je considère qu'il faut replacer le travail scientifique et la recherche académique au centre du débat public.

Reste-t-il des points que nous n'avons pas abordé au cours de cet échange ?

Nous avons développé de nombreux sujets et le travail du CNNUM ne fait que commencer.

C'est la raison pour laquelle je vous posais la question, car le rapport de la mission d'information doit être remis d'ici un mois et demi. En ce sens, il est important que nous ayons l'ensemble de vos réflexions, afin de ne pas occulter des sujets d'importance.

Je pense également être intervenu sur les éléments que nous souhaitions développer.

Sachez que je lirai avec intérêt les écrits émanant du CNNUM.