Intervention de Jean-Paul Dufrègne

Nous demandons nous aussi la suppression de cet article qui ouvre plus largement la possibilité, pour l'administration, de recourir à des décisions automatisées prises sur le fondement d'un algorithme, dans le champ des décisions administratives individuelles. Les garanties offertes en contrepartie en matière d'information pleine et entière des personnes, de maîtrise des traitements, de droit au recours et de données traitées – à l'exception, dans ce cadre, des données dites « sensibles » – ne sont pas suffisantes au regard des risques qui pèsent sur les droits et libertés des personnes concernées.

L'étude d'impact du projet de loi justifie cette évolution en ces termes : « Le maintien de l'interdiction absolue ne permet pas de répondre aux évolutions de l'activité administrative qui a de plus en plus recours à des traitements algorithmiques, notamment pour les décisions de masse que la réglementation encadre précisément et dont l'édiction rapide permet la bonne délivrance du service public. »

L'objectif visé est clairement le développement d'une administration numérique, voire d'une administration totalement dématérialisée, qui ne requerra plus une intervention humaine. Or la CNIL regrette le manque de garanties précises lors de l'utilisation de traitements algorithmiques débouchant sur l'adoption de décisions administratives et appelle à l'approfondissement de la réflexion sur ces différents points. De son côté, le Conseil d'État estime qu'« alors même qu'il n'est plus nécessaire que l'action humaine s'interpose entre le traitement et la prise de décision », il est essentiel « de garantir à tout instant une maîtrise humaine complète des algorithmes, comportant notamment la capacité d'interrompre le fonctionnement du traitement, notamment lorsque ceux-ci sont dotés de capacités d'apprentissage leur permettant de modifier leur logique de fonctionnement sans une démarche humaine préalable de validation. »

Pour notre part, nous considérons qu'il convient de maintenir l'article 10 de la loi de 1978 dans sa version actuelle, qui interdit de prendre des décisions administratives individuelles sur le seul fondement d'un traitement automatisé de données. Nous considérons que les enjeux juridiques et éthiques fondamentaux de cette question méritent d'être analysés de façon plus approfondie avant tout élargissement du recours aux décisions administratives automatisées.