Intervention de Danièle Obono

Enfin, la souffrance psychologique que subissent les personnes harcelées, victimes par exemple de raids organisés, n'est pas du tout prise en considération. Or, encore une fois, la proposition de loi devrait s'attacher à la protection des victimes avant tout. Notre amendement sur l'interopérabilité, que j'ai déjà évoqué et qui rejoint ceux de plusieurs députés d'autres groupes, visait justement à permettre la constitution d'espaces protégés sur internet.

En multipliant les cas où la justice devra se prononcer, vous affaiblissez encore plus la justice et la police. Or la question des discriminations sur internet ne se limite pas à leurs expressions violentes. Comme dans la société hors ligne, ces discriminations revêtent également une dimension systémique : elles servent des intérêts, elles sont une question de domination et de pouvoir.

La proposition de loi s'emploie beaucoup à cacher la haine, mais peu à la combattre. Or ce n'est pas parce que l'on masque les contenus haineux que les discriminations disparaissent. L'un des enjeux actuels en la matière est, en réalité, le contrôle des algorithmes, plus particulièrement des biais discriminants qu'ils produisent ou reproduisent. Voilà un objectif d'encadrement, de responsabilisation des plateformes. Or c'est à des plateformes qui discriminent parfois que vous demandez de lutter contre des agressions discriminantes.

Ces biais ont des conséquences concrètes sur le quotidien. Dans la recherche d'emploi, il a été révélé, par exemple, qu'Amazon utilisait un système de tri qui pénalisait les CV contenant le mot « femme », soit en les mettant de côté, soit en proposant des salaires inférieurs. Ce système s'appuyait sur des données relatives au recrutement par les entreprises sur dix ans. De même, LinkedIn, Indeed ou Monster proposeraient plus d'annonces aux hommes qu'aux femmes, notamment dans les métiers de l'ingénierie et des mathématiques. À cela s'ajoutent les associations négatives liées au lieu de domiciliation, qui peuvent croiser d'autres discriminations liées au racisme ou au validisme, par exemple. Ces biais algorithmiques peuvent également créer des difficultés lorsqu'une personne souhaite contracter un prêt, louer ou acheter un logement, et que les entreprises utilisent un système de traitement automatisé de données afin de classifier et de hiérarchiser les demandes.

Les discriminations sur internet et la haine qui les suscite ou en découle sont donc également produites par les algorithmes de grandes plateformes de mise en réseau ou de recherche. Elles affectent la vie quotidienne des personnes qui en sont victimes. Les biais algorithmiques renforcent et perpétuent les discriminations systémiques de la société ; ils posent des problèmes d'autant plus importants que leur impact est massif, puisque Google, LinkedIn et Amazon font partie du quotidien de la majorité de nos concitoyens.

Nous avons déposé un amendement visant à réguler ces biais algorithmiques : une fois par an, les plateformes visées par la proposition de loi devraient communiquer les garanties instaurées afin de prévenir et d'éradiquer ces travers. Madame la rapporteure, vous nous avez répondu en commission que cela n'avait rien à voir avec la proposition de loi. Mais de quoi ce texte traite-t-il vraiment, si ce n'est de l'effet des discriminations, dans leurs aspects verbaux les plus virulents, sur nos vies ? Admettez-vous donc qu'il s'agit en réalité d'une externalisation des pouvoirs des juges à des plateformes privées, qui jugeront désormais de la bienséance de nos propos ?

Vous avez également affirmé en commission que le droit français prévoyait déjà des moyens de lutter contre ces biais. Pourtant, les exemples cités sont actuels. Aujourd'hui encore, si vous tapez « lesbienne » sur Google, les résultats affichés renvoient exclusivement à des sites pornographiques. Il en est de même pour « jeune Noire » ou « jeune Asiatique ». Les mesures existantes ne sont donc pas efficaces.

Le droit actuel n'impose aucune sorte de transparence des algorithmes en matière de lutte contre les discriminations. Or la puissance d'internet doit servir à trouver, à examiner, à améliorer les données mises à disposition afin de régler des problèmes. Si chacun pouvait contrôler cet aspect fondamental du réseau, les entreprises concernées pourraient constater et corriger leurs biais inconscients. Car lorsque nos pensées, nos associations d'idées ou nos comportements sont sexistes, racistes, homophobes, validistes ou xénophobes, nous ne nous en rendons pas toujours compte.

Vous affirmez vouloir lutter contre les propos discriminants violents sur internet. Pour cela, vous externalisez le travail à des plateformes dont les biais discriminants ont été maintes fois démontrés. Quelle est la logique ?

Comment leur confier le contrôle des propos discriminants lorsqu'ils sont eux-mêmes coupables d'organiser des discriminations en ligne ? La différence entre les insultes proférées par un individu et les GAFA tient, là encore, au pouvoir.

Madame la rapporteure, vous nous dites que vous êtes obsédée par l'efficacité de cette loi, mais ne l'êtes-vous pas par la volonté de faire en sorte que l'on soit plus discriminé par les plateformes internet que l'on utilise dans sa recherche d'emploi, de logement ou d'études en fonction de critères raciaux, de genre, de classe ou de validisme ?

En réalité, avec cette proposition de loi, vous demandez à ceux qui discriminent de lutter contre les discriminations : vous confiez au loup les clefs de la bergerie. Or, en matière de lutte contre les discriminations comme pour tout autre sujet, nous n'avons pas besoin de plus de GAFA dans nos vies, mais de plus de relations non biaisées.

« Si un homme blanc veut me lyncher, c'est son problème. S'il a le pouvoir de me lyncher, c'est mon problème. Le racisme n'est pas une question d'attitude, c'est une question de pouvoir. » Ces propos du militant états-unien Stokely Carmichael – Kwame Ture – , membre du Black Panther Party, pourraient s'appliquer à toutes les formes d'oppression. La lutte contre les discriminations est une lutte d'émancipation, non de concentration des pouvoirs et de lissage de la parole par le capital. C'est une lutte contre un système, celui dans lequel nous vivons – le système capitaliste – , et l'ordre politique, économique, social et culturel qui est à sa source.