Intervention de Mounir Mahjoubi

Madame la présidente, madame la rapporteure, mesdames et messieurs les députés, je souhaite répondre à cette question, car il se trouve que les administrations placées sous mon autorité sont chargées de la mise en oeuvre de ce dispositif et qu'il s'agit là d'un sujet sur lequel je me suis beaucoup engagé au cours des dernières années. Il me semble donc important de rappeler quelques engagements du Gouvernement.

Pour ce qui est d'abord de la maîtrise et de la transparence, que vous avez évoquées, nous partageons les mêmes objectifs. Le droit existant y répond du reste en partie, et cet article permettra d'aller encore plus loin.

Soyons précis. Madame la rapporteure, votre analyse a été très complète : vous avez rappelé les éléments existants, soulignant que le droit actuel satisfaisait déjà largement les demandes formulées. Je rappellerai néanmoins dans le détail, sur le plan opérationnel, comment les choses se passeront et comment elles se passent aujourd'hui, afin d'apporter à vos questions, sinon toutes les réponses, au moins quelques-unes.

L'article L. 312-1-3 du code des relations entre le public et l'administration, qui met à disposition en open data, comme vous l'avez rappelé, les règles des algorithmes, doit entrer en vigueur à partir d'octobre 2018 : il s'agit d'un article jeune, récent, auquel les administrations ont dû s'adapter et se préparer. Les services de la direction interministérielle du numérique et du système d'information et de communication de l'État – DINSIC – sont mobilisés à cette fin.

Vous avez également rappelé que, pour les algorithmes qui ont des conséquences sociales, sanitaires ou économiques, les articles L. 300-2 et L. 312-1-2 prévoient une redevabilité complète de l'intégralité du code source, qui sera fourni afin que l'on puisse l'analyser en détail, voire rejouer des scénarios individuels, et vérifier que la procédure s'est déroulée correctement. Cela ne concernera cependant que des utilisateurs très avertis – dont vous faites et dont j'ai fait partie – , qui sont aussi ceux qui permettent d'éclairer le monde en disant qu'ils ont pu tester et pousser jusqu'au bout l'analyse de cette transparence.

Vous avez enfin rappelé quelles seront les informations qui seront systématiquement données au public. N'oublions pas qu'à partir de l'entrée en vigueur de ces dispositions, toutes les décisions algorithmiques signaleront que la décision comportait une composante algorithmique : vous saurez donc que le document que vous recevez aura fait l'objet d'un traitement algorithmique, et les droits qui y sont associés seront rappelés. Une information systématiquement fournie avec le document signalant un traitement par algorithme vous indiquera à chaque fois, sous la forme d'une mention bien visible dans la décision, les droits de communication dont vous disposez.

Vous avez rappelé, ensuite, quelles informations l'usager a le droit d'obtenir sur demande : il s'agit d'informations personnelles, délivrées sur demande, individualisées et détaillées. Elles doivent comprendre l'intégralité des données ayant servi à faire fonctionner l'algorithme. Toutes ces caractéristiques font l'intérêt du dispositif, mais en font aussi la limite : aujourd'hui, la seule façon de répondre à ces demandes individuelles, c'est de recourir à un traitement humain.

C'est pour cette raison d'organisation que l'on ne peut, comme vous le proposez, généraliser la transmission des données utilisées dans ces décisions administratives. Mais vous verrez qu'à l'usage, toutes les personnes concernées par des décisions impliquant un traitement automatique de données pourront demander ces informations – je fais tout à fait confiance à la société civile, aux utilisateurs avancés, à cet égard. Pour toutes ces raisons, il ne nous paraît pas nécessaire d'intervenir par décret : l'article de loi apportera lui-même les informations suffisantes.

Vous avez enfin demandé, de façon plus opérationnelle, quel serait le contenu de ces informations. Avant de vous répondre, je tiens à vous dire que nous travaillons sur ce décret, sur ces questions. Pour déterminer les informations qui seront transmises, il faut se demander lesquelles seront compréhensibles et utilisables par les usagers.

Nous travaillons actuellement à tirer toutes les conséquences de ces principes. Nous pourrons, lors de l'examen de ce texte en deuxième lecture, apporter plus de précisions, mais je rappelle encore une fois les deux enjeux : la transparence et la maîtrise. Les algorithmes ne font pas ce qu'ils veulent, mais ce qu'on leur dit de faire. L'État et le Gouvernement prennent leurs responsabilités sur ce sujet. Nous analyserons plus en détail, à l'occasion de l'examen d'un deuxième amendement, les dispositifs qui permettront de maintenir à la fois cette maîtrise et cette expertise au sujet des traitements algorithmiques.