Intervention de Louis Gautier

Notre REVUE, Monsieur Trompille, aborde la question de l'intelligence artificielle et des automates, mais il renvoie aussi au rapport Villani ; nous ne pouvions pas tout traiter, tant cet horizon est immense. Nous décrivons un scénario d'attaque bien connu, partant de caméras de vidéosurveillance. En clair, le constat est fait. En revanche, il sera très difficile pour nos sociétés de déterminer comment marier la sécurité par domaine et par métier, d'une part, et la cybersécurité, d'autre part. En ce qui me concerne, je pense que c'est la sécurité par domaine et par métier qui doit l'emporter en matière de direction et de conception. Dès lors, les métiers concernés doivent acculturer la problématique cyber.

Je m'explique : lorsque circuleront des voitures autonomes et interconnectées, la priorité à droite demeurera. Dans le domaine de la santé où se multiplient les sondes et autres pacemakers, régulés à distance, c'est évidemment la connaissance biologique de l'organisme qui dirige et qui permet de décrire le moment de dangerosité, voire de rupture, contre lequel il faut à tout prix se protéger. C'est la principale difficulté : on a l'impression que le cyber est projeté de l'extérieur par des spécialistes de la question, qui ajoutent une couche supplémentaire de sécurité à la problématique numérique – c'est ainsi que l'on pensait autrefois. Aujourd'hui, il faut, dès leur conception, penser l'intégration de la sécurité dans le développement de ces multiples artefacts connectés. C'est dès le départ, dès l'étape de leur invention que la sécurité doit être prise en compte dans l'architecture des systèmes. Or, ces métiers, qui reposent de hautes compétences scientifiques et technologiques, sont très en retard dans la prise en compte de la sécurité : le numérique ne représente souvent pour eux qu'une fonctionnalité parmi d'autres, qui les aide dans leur travail. La fonctionnalité, la sûreté priment. La sécurité qui implique la prise en compte des risques extérieurs à et liés à son environnement est une dimension encore assez mal prise en compte.

De ce fait, généraliser l'intelligence artificielle sans avoir complètement saisi les logiques de sécurité à l'oeuvre dans la société nécessite une profonde évolution du dialogue avec les utilisateurs, qui comptent sur des agences et autres prestataires pour sécuriser leur environnement cyber, et à qui nous devrons dire qu'il nous faut travailler d'emblée avec eux et qu'il leur faut pour ce faire intégrer la problématique cyber, car elle est au coeur de l'automate, de la puce, de la sonde d'insuline, mais aussi de la transmission de l'information, des bases de données, etc.

J'en viens à la question de l'autonomie de l'armée cyber, Monsieur Ferrara. Il faut en effet développer les moyens militaires, mais j'ai essayé de montrer que si toutes les missions doivent être coordonnées, elles ne peuvent pas être superposées ni intégrées. En particulier, le modèle français et européen diffère du modèle américain où la National Security Administration (NSA) fait office de grande agence technique pour l'ensemble des services de renseignement, à quoi s'ajoutent d'innombrables doublons. En France, tout ne sera pas fait par le ministère des Armées et, à l'évidence, tout ne doit pas être fait par lui. Qu'il s'agisse des entreprises ou de l'intelligence artificielle, ce sont des problématiques qui ne peuvent pas être intégrées au sein d'un seul ministère selon l'idée quelque peu fantasmatique d'une armée cyber qui ferait tout ; ce n'est pas la bonne approche. Il n'empêche qu'une armée cyber est nécessaire pour sécuriser nos dispositifs militaires et pour trouver les failles de nos adversaires.

Le rapport que nous avons produit au printemps dernier, Chocs futurs, aborde la question de l'ordinateur quantique, Monsieur Gassilloud, mais avec précaution : nous y évoquons l'exemple canadien dans ce domaine et d'autre cas « disruptifs » où il est impossible de prévoir s'ils se réaliseront à court terme. Il existe en revanche des changements certains mais progressifs : on sait par exemple que le processus de robotisation du champ de bataille est enclenché, et il ne fait aucun doute qu'il faut déjà se préoccuper de cette évolution en cours. Le quantique, en revanche, progresse à coup de sauts technologiques dont on ne peut pas prouver qu'ils se produiront à tel ou tel moment ; c'est pourquoi nous estimons qu'ils pourront avoir lieu d'ici à 2030. L'exemple canadien existe certes, mais nous restons prudents et ne sommes pas certains d'avoir fait ce saut d'ici à une quinzaine d'années. Cependant, ce saut représentera à l'évidence une révolution, comme vous l'avez dit. Le rapport ajoute d'ailleurs que des révolutions ont été faites dans d'autres domaines sans pour autant que l'on y prête une grande attention : les ciseaux génétiques CRISPR-Cas9, une biologie de garage qui permet à n'importe qui de faire du génie génétique, susciteront l'émergence de hackers biologiques comme il existe aujourd'hui des hackers informatiques. De même, l'imprimante 3D permettrait d'obtenir des résultats formidables, mais notre pays est très en retard par rapport à l'Allemagne, par exemple. Autrement dit, des révolutions technologiques existent et vont produire des effets sociétaux, économiques et stratégiques majeurs, et l'on n'y prête pas ou peu attention. Quoi qu'il en soit, vous avez raison, Monsieur Gassilloud : nous nous dirigeons vers la révolution quantique, mais j'ignore quand exactement.