Intervention de Didier Baichère

- Vous avez sans doute remarqué que la note scientifique sur la reconnaissance faciale, présentée le 18 juillet 2019, a suscité énormément d'intérêt. Il ne se passe pas une journée sans un article dans la presse sur le sujet, et je mets l'Office systématiquement au coeur des réflexions afin de valoriser son travail. J'ai souhaité faire aujourd'hui un point sur la situation actuelle et les étapes franchies.

Tout d'abord, suite à la publication de la note, une connexion immédiate s'est assez naturellement établie avec la Commission européenne. En effet, comme vous l'avez certainement noté, sa nouvelle présidente a inscrit dans les priorités de l'agenda des cent premiers jours de la nouvelle commission le sujet de l'intelligence artificielle, en mentionnant le cadre opérationnel de la reconnaissance faciale comme l'un des usages existant dans la vie quotidienne nécessitant des recommandations, sachant que ces cent jours devaient commencer au premier novembre et à présent peut-être au premier décembre.

Aussi, lors d'une récente rencontre à Bruxelles avec la DG Connect (Directorate-General for Communications Networks, Content and Technology), en charge des aspects numériques au sein de la commission, et avec la direction générale des droits humains, nos interlocuteurs se sont-ils montrés très intéressés par nos recommandations, ainsi que par la méthodologie que je propose. Celle-ci comprend deux axes : d'une part, la création d'un cadre d'expérimentation avec des industriels, des scientifiques et des politiques, pour déterminer si, en France et en Europe, la reconnaissance faciale dispose bien des bons algorithmes, à même de traiter des données françaises et européennes, d'autre part, une consultation citoyenne effective.

Nous avons rappelé qu'existe déjà une méthodologie éprouvée pour cette dernière, avec l'expérience récente de la procédure de révision des lois de bioéthique. Pour la consultation citoyenne que j'évoquais, nous pouvons recommander de suivre la même démarche que pour la préparation de la révision de la loi de bioéthique de 2011, avec un dispositif de type « entonnoir », comprenant une consultation en ligne, des réunions physiques – le Comité consultatif national d'éthique (CCNE) et les comités éthiques régionaux ont organisé 250 réunions physiques – et le tirage au sort de vingt-cinq personnes qui, pendant quelques week-ends, ont été formées par des spécialistes pour apprendre tout ce qu'elles ignoraient du sujet. Ensuite, le résultat de ces consultations serait adressé à l'Office, qui formulerait des recommandations.

Le secrétariat d'État au numérique a également montré un intérêt assez fort pour cette double démarche d'expérimentation et de consultation, complétée par la proposition issue du rapport de Cédric Villani sur l'intelligence artificielle, mentionnée dans ma note, de créer un comité d'audit constitué de spécialistes en capacité d'auditer les algorithmes de reconnaissance faciale pour vérifier le respect des critères de transparence et d'éthique. Il s'agit d'un enjeu important. Dans la presse, tous les jours les activistes véhiculent des informations parfois imprécises sur la reconnaissance faciale ou nos recommandations. Il est donc important de créer ce comité d'experts qui inclurait aussi la Commission nationale de l'informatique et des libertés (CNIL).

Je vous encourage à faire preuve de pédagogie sur ce sujet, les médias ayant tendance à mettre tous les pays sur le même plan que les États-Unis et la Chine. Aux États-Unis, en l'absence de l'équivalent de notre règlement général sur la protection des données (RGPD), l'État fédéral peut capter la photographie d'une personne de quinze ans passant son permis de conduire sans demander son autorisation. En France, la même chose ne peut arriver. Il faut donc toujours rappeler qu'en France existe un cadre protégeant les libertés individuelles. On s'est battu pour le mettre en place, avec la loi relative à l'informatique, aux fichiers et aux libertés, ou par la suite avec le RGPD. Le cadre français n'est pas le même qu'aux États-Unis où en Chine, il faut y insister. Il est évidemment facile d'évoquer une surveillance généralisée, mais aujourd'hui personne n'a recommandé de tels usages de la reconnaissance faciale en France.

Par ailleurs, nous avons également rencontré à Bruxelles nos collègues du STOA (Science and Technology Options Assessment), équivalant de l'Office au sein du Parlement européen, qui est une véritable mine d'informations.

En parallèle, j'ai intégré un groupe de travail sur la reconnaissance faciale créé à l'origine par le World Economic Forum et le Conseil national du numérique (CNNum). Dans ce cadre, nous souhaitons montrer la possibilité de travailler sur un tel sujet avec des représentants des mondes politique, industriel, et universitaire. Conformément aux recommandations de la note de l'Office, nous avons défini trois cas d'usage à expérimenter pour avancer sur la reconnaissance faciale.

Le premier, la sécurité, le plus connu avec des applications telles que Paraphe, s'avère essentiel, parce qu'il touche très directement les collectivités territoriales. Expérimenter de manière beaucoup plus encadrée permettrait à celles-ci de ne pas devoir agir seules, comme cela a été le cas pour la ville de Nice, avec laquelle j'ai longuement échangé et qui s'est montrée très ouverte au dialogue, ce dont je lui suis reconnaissant, ou pour deux lycées de Marseille. Cette dernière expérimentation vient d'ailleurs d'être invalidée par la CNIL. De fait, expérimenter sans cadre prédéfini et sans la participation de scientifiques, conduit à faire des erreurs de méthode, donc à s'exposer aux détracteurs.

La gestion de flux de personnes constitue un deuxième cas d'usage, avec le sujet spécifique des Jeux olympiques, exemple d'application qui va se concrétiser rapidement. En effet, le Japon va utiliser dès 2020 la reconnaissance faciale pour la gestion des flux, afin que les sportifs et leurs accompagnateurs accèdent plus vite aux installations. Bien entendu, pour les Jeux olympiques de 2024 à Paris, il convient de se demander si la France disposera du même niveau technologique, ou sera en-deçà de ce qui aura été mis en oeuvre à Tokyo. Il ne s'agit pas d'un jugement de valeur, mais il faut qu'une expérimentation permette de tester cet usage en France.

Le troisième cas, probablement le plus discutable pour l'opinion publique, concerne les usages commerciaux, par exemple si une personne un peu âgée se voit, sans l'avoir sollicité, proposer une crème antirides en entrant dans un magasin de cosmétiques, ou une personne un peu en surpoids un menu XXL plutôt que standard en entrant dans un établissement de restauration rapide. Si lors des auditions nous avons constaté que les industriels y sont tout à fait préparés, il faudra s'assurer dans la consultation citoyenne que la maturité permet une compréhension de ce qu'il faut ou pas autoriser. Je souhaite que le travail réalisé par l'Office puisse déboucher sur la mise en oeuvre de ses recommandations, peut-être via une loi d'expérimentation, objet de la discussion en cours avec le cabinet de Cédric Ô, secrétaire d numérique.