Intervention de le général Patrick Perrot

Je vous suis très reconnaissant pour les remerciements que vous nous avez adressés. Sachez que c'est tout à fait réciproque, ayant rencontré récemment sur le terrain des élus ouverts au numérique.

En prospective, la démarche est souvent incrémentale, c'est-à-dire que l'on part de l'existant en essayant d'anticiper les scénarios probables. L'intérêt d'associer des auteurs de science-fiction dans le cadre de la Red Team réside dans la démarche de rupture proposée par ces derniers. À mon sens, le XXIe siècle, plus que les précédents, s'inscrira dans la rupture.

Nos adversaires montent effectivement en gamme. L'IA doit nous apporter des aptitudes de transformation proactive. Au sein du ministère de l'Intérieur, nous disposons d'une réelle capacité de réaction mais notre ancrage au ministère des Armées nous rappelle aussi la nécessité d'anticiper et de se projeter afin de devancer nos adversaires. Ceux-ci ne sont pas forcément plus intelligents que les précédents mais ils ont toutes les ressources à disposition. De nos jours, tout un chacun peut apprendre à réaliser en une demi-journée des vidéos compromettantes de type deepfake. Les outils disponibles étant croissants, la menace à ce niveau le sera aussi. Il a beaucoup été question de fracture numérique, mais il me semble que le numérique est plutôt inclusif. Il permet la persistance des services.

Nous entretenons une forte synergie avec le secteur privé. Nous sommes sollicités au quotidien par des startups et entreprises diverses et nous tentons de promouvoir l'écosystème français et européen, ce qui constitue à nos yeux une vraie plus-value. C'est d'ailleurs l'un des objectifs de notre partenariat au sein du hub France IA.

Le risque d'amoindrissement des compétences cognitives et de perte du libre arbitre dans la capacité de décision existe bel et bien. Nous y ferons face par la formation. L'IA apporte les solutions les plus probables et nous devons enseigner à nos officiers à s'ouvrir à ce qui n'est pas nécessairement probable. En dehors du risque lié à l'utilisation du GPS, on peut citer l'exemple des applications de traduction. Si l'on poursuit sur cette voie, nos connexions neuronales ne se feront plus. Sur le plan professionnel, la situation est identique : nous devons nous entraîner.

Il existe trois types de gouvernance. La première, qui pourrait paraître séduisante à certains, serait une gouvernance citoyenne reposant sur l' open data et l' open source et dans laquelle chacun s'autogèrerait. Cette situation serait à mon sens inégalitaire puisque tout le monde ne disposerait pas de capacités identiques à exploiter les données. La seconde est celle des GAFA actuelles et futures. Aujourd'hui, ces entités sont en mesure de fixer les règles grâce à leurs capacités de calcul et de stockage et à la data que nous leur procurons au quotidien. Cela représente un vrai risque et nous devons veiller de notre côté à monter en compétence pour ne pas céder de terrain, dans le but de protéger les libertés individuelles. Le mode de gouvernance que je privilégierais est celui de l'État, parce que j'ai confiance en la façon dont nous traitons les données à caractère personnel dans le cadre des contrôles auxquels nous sommes soumis. La gouvernance de l'État est aussi la promesse d'une égalité optimale des services rendus aux citoyens.