Intervention de Frédérique Dumas

L'augmentation exponentielle de la diffusion des contenus dits « haineux » sur les grandes plateformes et les réseaux sociaux, qui entraîne une propagation inquiétante de toutes sortes de messages racistes, antisémites ou discriminatoires, heurte frontalement la dignité humaine.

Chacun s'accorde sur ce constat : la situation actuelle n'est plus acceptable. Favorisés par l'anonymat, certains comportements sont désinhibés, l'utilisateur ayant l'impression de se trouver à l'abri de la loi. C'est ainsi que sont tenus en ligne des propos qui ne le seraient jamais dans la vie quotidienne.

Internet, lorsqu'il est utilisé comme un support de communication de contenus haineux, permet au plus grand nombre d'accéder à ces messages et potentiellement de participer à leur diffusion, même involontairement.

Les contenus haineux, comme les fausses informations, font partie des contenus qui font le plus réagir, ce qui accélère leur diffusion. Obéissant à la programmation algorithmique induite par cette viralité, les plateformes sont alors amenées à proposer elles-mêmes de partager des contenus de ce type.

Ce qui est frappant, c'est notre impuissance à endiguer ce phénomène et à y apporter des réponses concrètes et rapides. Pourquoi ? Un constat partagé est qu'il est difficile d'y apporter une réponse judiciaire rapide, du fait de la vitesse de propagation des contenus. Il existe toutefois deux autres raisons de fond, qui ont malheureusement été balayées d'un revers de la main.

Première raison : il peut être difficile de qualifier juridiquement certains signalements. Si 80 % à 90 % des contenus incriminés peuvent être considérés comme manifestement illicites et sont retirés en vingt-quatre heures grâce à des algorithmes et à des équipes de modération, 10 % à 20 % appartiennent à la zone dite grise, et requièrent une interprétation.

Deuxième raison : la facilitation et l'accélération de la production et de la diffusion des contenus haineux sur internet sont la conséquence d'une stratégie qui est intrinsèquement liée au modèle d'affaires, au business model, des géants du numérique. Comme l'analyse parfaitement Bruno Patino dans son livre La civilisation du poisson rouge, l'accélération a remplacé l'habitude par l'attention, et la satisfaction par l'addiction. Elle détruit, peu à peu, tous nos repères. Nos rapports aux médias, à l'espace public, au savoir, à la vérité, à l'information : rien ne lui échappe. Au coeur du réacteur se trouve l'économie de l'attention, la captation de cette dernière. Cette économie repose sur l'étude et l'exploitation de nos données et de nos propres biais cognitifs et comportementaux.

Or que proposez-vous pour répondre à ces trois enjeux majeurs ? Vous ne proposez pas de questionner le coeur du modèle économique de ces nouveaux empires. Vous ne proposez aucun investissement majeur dans l'éducation en vue de développer l'esprit critique, ni aucune forme de régulation des modèles qui dessinent le monde de demain. Non : vous nous proposez tout simplement, à travers l'article 1er de la présente proposition de loi, de démissionner, et de confier aux plateformes numériques et aux moteurs de recherche encore plus de pouvoirs qu'ils n'en ont aujourd'hui.

D'un côté, vous ne cessez de dénoncer le pouvoir grandissant des GAFAM, vous vous inquiétez parce que Facebook veut créer Libra, une cryptomonnaie qui pourrait mettre à mal la souveraineté des États en concurrençant les monnaies nationales, mais, de l'autre côté, vous vous targuez de proposer de transférer aux moteurs de recherche et aux plateformes le pouvoir du juge – pouvoir qui comprend notamment une faculté d'appréciation, laquelle participe de l'élaboration de la jurisprudence – , et vous mettez entre leurs mains des outils qui sont presque des pouvoirs de police.