Amendement N° 120 (Irrecevable)

Cet amendement reprend la Charte des droits et libertés numériques que nous avons défendu en 2018.

A cette époque, Richard Ferrand a reconnu qu'il y avait un travail à « engager » sur cette charte. Celui-ci « pourra (...) déboucher sur une proposition de loi à portée constitutionnelle consacrée à cette seule thématique. Mais mieux vaut ne pas agir dans la précipitation ». 3 ans plus tard, rien n'a été fait.

Nous proposons donc d'inscrire enfin dans la loi l'obligation de transparence des algorithmes grâce à cet amendement. Le 31 mai 2020, le Défenseur des droit nous alertait : "derrière l'apparente neutralité des algorithmes, des recherches ont mis à jour l'ampleur des biais qui peuvent intervenir lors de leur conception et leur déploiement. Tout comme les bases de données qui les alimentent, ils sont conçus et générés par des humains dont les stéréotypes, en se répétant automatiquement, peuvent engendrer des discriminations. (...) Tous les experts ont pointé les risques considérables de discrimination que leur usage exponentiel peut faire peser sur chacun et chacune d'entre nous, dans toutes les sphères de notre vie. Pour prévenir ces discriminations, les corriger et sanctionner leurs auteurs, le Défenseur des droits appelle à une prise de conscience collective et engage les pouvoirs publics et les acteurs concernés à prendre des mesures pour éviter que les discriminations soient reproduites et amplifiées par ces technologies." Il préconise ainsi de "renforcer les obligations légales en matière d’information, de transparence et d’applicabilité des algorithmes à l’égard des usagers et personnes concernées, mais également des tiers et des professionnels utilisateurs de ces systèmes, au nom de l'intérêt général, comme en témoignent par exemple les questions suscitées par Parcoursup."

Nous vous proposons d'inscrire dans la loi que l'Autorité "veille à ce que toute personne a le droit de connaître le principe de fonctionnement et la finalité des algorithmes qui traitent des informations la concernant. Les algorithmes ne doivent pas discriminer les personnes en fonction de leur genre, opinions politiques, couleur de peau, orientation sexuelle. L'Autorité peut auditer tout algorithme qu’il considère comme pouvant potentiellement contrevenir à ces principes."