Interventions sur "CNIL"

...es droits et libertés numériques. Aussi estimons-nous que les algorithmes utilisés dans la prise de décision publique doivent être soumis à un contrôle citoyen. Pour éviter les biais discriminants que peuvent introduire de nombreux algorithmes utilisés par les pouvoirs publics, nous considérons qu'un contrôle citoyen des algorithmes eux-mêmes doit être organisé avec les équipes d'inspection de la CNIL. Nous nous inspirons notamment des constats et conclusions du rapport sur les modalités de régulation des algorithmes de traitement des contenus remis à la secrétaire d'État chargée du numérique en mai 2016. L'introduction de ce contrôle permettrait de compléter une première ouverture importante introduite par la loi pour une République numérique, qui a conféré un droit d'accès et d'information ...

Madame Obono, comme souvent, je suis d'accord avec une grande partie de votre argumentaire, mais pas avec votre conclusion ; en l'occurrence, il ne me paraît pas utile d'inscrire ce dispositif dans la loi. Les personnes intéressées peuvent déjà accéder aux codes sources, aux algorithmes et étudier ces derniers dans différents cadres. Par exemple, la CNIL avait réalisé une étude sur APB – admission post-bac. Il serait intéressant que d'autres institutions, comme l'INRIA – Institut national de recherche en informatique et en automatique – , le CNNUM ou des associations le fassent également. Il n'est pas nécessaire, en tout état de cause, d'inscrire cette disposition dans la loi. Avis défavorable.

...uveau de la relative à l'orientation et à la réussite des étudiants. Il n'en demeure pas moins qu'elle a constitué une percée majeure et historique en matière de transparence. Avant, avec APB, l'algorithme et le code source n'étaient pas publiés, alors que les associations le réclamaient. Les pouvoirs publics ont été pressés par la commission d'accès aux documents administratifs – la CADA – et la CNIL de les publier, ce qu'ils avaient finalement fait, mais en version papier. Cela montre quel était alors l'engagement des pouvoirs publics pour la transparence des algorithmes. La nouvelle loi prévoit la transparence totale des critères d'affectation, puisqu'ils sont tous publics et consultables par tout un chacun sur la plateforme Parcoursup, filière par filière. Un amendement de notre collègue ...

...de plus en plus recours à des traitements algorithmiques, notamment pour les décisions de masse que la réglementation encadre précisément et dont l'édiction rapide permet la bonne délivrance du service public. » L'objectif visé est clairement le développement d'une administration numérique, voire d'une administration totalement dématérialisée, qui ne requerra plus une intervention humaine. Or la CNIL regrette le manque de garanties précises lors de l'utilisation de traitements algorithmiques débouchant sur l'adoption de décisions administratives et appelle à l'approfondissement de la réflexion sur ces différents points. De son côté, le Conseil d'État estime qu'« alors même qu'il n'est plus nécessaire que l'action humaine s'interpose entre le traitement et la prise de décision », il est essent...

...sier de Sécurité sociale, obtenir un permis de conduire ou une carte grise sans passer par une borne ; il n'y a plus d'agents dans les préfectures. Tous ceux que je rencontre demandent qu'on réintroduise de l'humain dans les relations entre les administrations et les administrés ; j'entends davantage cela qu'une aspiration à l'automatisation. Il aurait été utile de suivre la recommandation de la CNIL, qui nous appelle à pousser plus loin la réflexion sur ce sujet avant de légiférer. Je pense à certain algorithme : j'ignore s'il s'agissait d'un algorithme boîte noire ou sous maîtrise humaine, mais ce que je sais, c'est qu'à cause de lui, des milliers de lycéens sont restés sans affectation à la rentrée universitaire. Il s'agit de l'algorithme qui a fait APB