Interventions sur "recours"

...uparavant, définir un profil était interdit. Aux termes de ce projet de loi, c'est seulement « prévoir » un profil qui sera interdit. Mais vous conviendrez que la frontière juridique entre « définir » et « prévoir » est assez mince ! Il faut se méfier de cette possibilité, dont les conséquences sur notre société risquent d'être sans précédent. Souhaitez-vous réellement instaurer, par exemple, le recours à la justice prédictive, méthode très décriée – j'en veux pour preuve le logiciel américain Compas, logiciel commercial largement utilisé pour prédire la récidive dans certains États. Or ses prédictions ne sont ni plus pertinentes ni plus justes que celles de personnes n'ayant aucune expertise judiciaire, ou très peu. Le profilage est-il envisagé pour la délivrance des titres de séjour aux étran...

Nous demandons nous aussi la suppression de cet article qui ouvre plus largement la possibilité, pour l'administration, de recourir à des décisions automatisées prises sur le fondement d'un algorithme, dans le champ des décisions administratives individuelles. Les garanties offertes en contrepartie en matière d'information pleine et entière des personnes, de maîtrise des traitements, de droit au recours et de données traitées – à l'exception, dans ce cadre, des données dites « sensibles » – ne sont pas suffisantes au regard des risques qui pèsent sur les droits et libertés des personnes concernées. L'étude d'impact du projet de loi justifie cette évolution en ces termes : « Le maintien de l'interdiction absolue ne permet pas de répondre aux évolutions de l'activité administrative qui a de plus ...

Or nous avons besoin pour cela de pouvoir utiliser des algorithmes. Ceci dit, des garanties suffisantes sont mises en place. Nous avons déjà parlé des garanties d'information, de transparence, de communication ; le RGPD prévoit aussi des voies de recours. Enfin, il est prévu que les algorithmes doivent rester maîtrisables par des humains. Ces algorithmes ne seront pas des boîtes noires : ce n'est pas de l'intelligence artificielle. Nous saurons toujours comment fonctionnent ces algorithmes, nous pourrons toujours comprendre comment les décisions sont prises. Je laisse M. le secrétaire d'État chargé du numérique compléter ces éléments. L'avis de ...

...mence et où finit l'application du dispositif. Ce flou, l'absence de lisibilité quant à son champ d'application, suscitent chez moi un certain nombre d'interrogations, même si je n'ai pas de religion particulière en la matière. On parle là de décisions individuelles qui peuvent changer la vie des gens, or on ne connaît ni l'ampleur ni la profondeur du dispositif. Vous dites qu'il y a des voies de recours, mais jusqu'où ? Quel est le champ d'application de cette mesure ? Vous ne l'avez pas indiqué avec précision, laissant ouvertes toute une série de questions. Nous sommes face à un texte formidablement mal écrit et mal expliqué. Nous n'avons pas d'hostilité de principe à l'égard de ce dispositif, mais nous ne comprenons pas jusqu'où il est possible d'aller avec une telle rédaction. J'aimerais que...