Intervention de François Ruffin

Je me suis fait expliquer les enjeux de ces algorithmes, dont je ne suis pas spécialiste, et qui ne visent au fond qu'à renforcer des discriminations qui existent déjà. En effet, si l'on constate plus de fraudes auprès de la caisse d'allocations familiales parmi les gens qui habitent en banlieue, on peut craindre qu'un algorithme ne systématise les contrôles dans cette population. De même, si l'on observe plus de retards parmi les personnes qui habitent loin de leur lieu de travail, un algorithme pourra sélectionner les candidats à un poste en fonction de leur adresse.

C'est pourquoi nous soutenons toute mesure qui irait dans le sens d'une plus grande transparence de l'utilisation des algorithmes. Nous souhaitons donc que la CNIL puisse enquêter sur ceux-ci comme sur le reste, ce qui pourrait être fait avec la participation des citoyens et à titre expérimental.

Notre demande s'inspire des conclusions du rapport intitulé Modalité de régulation des algorithmes de traitement des contenus, remis à la secrétaire d'État chargée du numérique en mai 2016 – ce qui prouve son sérieux.