2 interventions trouvées.
...ont ainsi classifiées car elles sont habitées de significations sociales particulières et qu'elles peuvent entraîner un traitement différencié défavorable. En cela, le monde numérique est un miroir, un prolongement de notre réalité physique. Les recherches récentes montrent que les algorithmes peuvent produire ou reproduire certaines associations discriminantes. Cet amendement vise à faire de la CNIL une force d'impulsion dans l'information et la formation, afin de lutter contre ce phénomène pouvant avoir des conséquences graves pour les individus dans leurs recherches d'emploi ou d'appartement, ou encore leur demande de crédit, alors même que les informations sont erronées. Cela vient, dans de nombreux cas, renforcer les difficultés pour des personnes se trouvant déjà, de manière structurell...
Avis défavorable. Je partage votre préoccupation, monsieur Prud'homme, s'agissant des possibles biais discriminatoires des algorithmes, un sujet que j'étudie car il m'intéresse beaucoup. Cependant, la CNIL fait déjà beaucoup d'efforts dans ce sens : elle travaille sur le sujet et rédige des rapports. Le contrôle social sur les algorithmes devra être assuré par plusieurs acteurs, non seulement la CNIL, mais aussi le Conservatoire numérique des arts et métiers – CNUM – , l'Institut national de recherche en informatique et en automatique – INRIA – , diverses associations et les citoyens eux-mêmes. La ...