Intervention de Ugo Bernalicis

Cet amendement prolonge la discussion que nous venons d'avoir et vise un contrôle plus large des algorithmes utilisés sur les internets, que ce soit sur les réseaux sociaux ou dans d'autres domaines. Je rappelle en effet que les algorithmes ne sont pas réservés à Facebook, Twitter ou YouTube mais qu'ils sont aussi employés par les services de l'État – c'est même de plus en plus fréquent – et par des services privés. À cet égard, vous avez instauré la loi de programmation 2018-2022 et de réforme pour la justice, à laquelle je m'étais opposé, qui autorise les legaltech, c'est-à-dire les cabinets de conseils en droit, à réaliser des expertises juridiques en ligne pour la conciliation préalable obligatoire en matière de litiges civils d'un montant inférieur à 1 500 euros. Mais nous ne nous sommes pas donné les moyens de déterminer si l'analyse algorithmique des données produirait un biais indésirable.

Il en est de même du décret portant création d'un traitement automatisé de données à caractère personnel, dit DataJust, qui a été fortement contesté par les syndicats de magistrats administratifs et judiciaires et qui suscite des interrogations quant à l'interprétation des informations qui pourraient ne pas toujours être utilisées en vue d'une meilleure organisation administrative ou à des fins bienveillantes.

Cessons de penser que puisqu'une technologie existe, il faut absolument l'employer. Nous pouvons aussi lui fixer des limites, prévoir des contrôles ou décider de ne pas y recourir parce que son usage serait attentatoire aux droits fondamentaux inclus dans le bloc de constitutionnalité.

Le présent amendement vise donc à réaffirmer la nécessité de décortiquer les algorithmes utilisés par les opérateurs de plateformes, de manière à en identifier les effets pervers et à obliger les plateformes en question à les corriger, parce que ce sont souvent des biais de discrimination qui n'ont pas grand-chose à voir avec le terrorisme mais qui polluent la vie en collectivité.