Interventions sur "algorithme"

Nous demandons nous aussi la suppression de cet article qui ouvre plus largement la possibilité, pour l'administration, de recourir à des décisions automatisées prises sur le fondement d'un algorithme, dans le champ des décisions administratives individuelles. Les garanties offertes en contrepartie en matière d'information pleine et entière des personnes, de maîtrise des traitements, de droit au recours et de données traitées – à l'exception, dans ce cadre, des données dites « sensibles » – ne sont pas suffisantes au regard des risques qui pèsent sur les droits et libertés des personnes concer...

Je rappelle tout d'abord qu'il est interdit de fonder des décisions de justice sur l'utilisation d'un algorithme ; cela était vrai avant le RGPD, cela sera toujours vrai après. Il me semble que la suppression complète des décisions administratives individuelles automatisées serait un peu excessive. Nous devons aussi travailler sur la simplification et la modernisation de l'administration. Les citoyens ont de grandes attentes en la matière, ils sont de plus en plus exigeants : ils veulent des services publi...

Or nous avons besoin pour cela de pouvoir utiliser des algorithmes. Ceci dit, des garanties suffisantes sont mises en place. Nous avons déjà parlé des garanties d'information, de transparence, de communication ; le RGPD prévoit aussi des voies de recours. Enfin, il est prévu que les algorithmes doivent rester maîtrisables par des humains. Ces algorithmes ne seront pas des boîtes noires : ce n'est pas de l'intelligence artificielle. Nous saurons toujours commen...

Vous nous dites que la manière dont sont construits les algorithmes est publique et que la « société civile des experts » va pouvoir regarder cela de plus près, et pourquoi pas lancer l'alerte. Ce serait merveilleux s'il existait un statut du lanceur d'alerte – je vous renvoie ici aux amendements que La France insoumise a déposés et qui ont été rejetés. Ce n'est donc pas à l'ordre du jour. Il faudrait aussi que les gens qui détecteraient un problème aient la ca...

...y a plus d'agents dans les préfectures. Tous ceux que je rencontre demandent qu'on réintroduise de l'humain dans les relations entre les administrations et les administrés ; j'entends davantage cela qu'une aspiration à l'automatisation. Il aurait été utile de suivre la recommandation de la CNIL, qui nous appelle à pousser plus loin la réflexion sur ce sujet avant de légiférer. Je pense à certain algorithme : j'ignore s'il s'agissait d'un algorithme boîte noire ou sous maîtrise humaine, mais ce que je sais, c'est qu'à cause de lui, des milliers de lycéens sont restés sans affectation à la rentrée universitaire. Il s'agit de l'algorithme qui a fait APB

Par ailleurs, l'ouverture du code source du calculateur des impôts a été une expérience très positive, à laquelle la société civile a participé. Elle a vu dans le détail comment les impôts dus par chaque citoyen étaient calculés. Il est donc possible d'auditer ces algorithmes.

Ce débat montre bien à la fois l'inquiétude de certaines populations de nos territoires et la volonté d'aller plus loin de ceux qui se sentent à l'aise avec tout cela. Il faut arriver à concilier ces divers besoins. L'exemple de l'algorithme qui a été utilisé pour l'orientation des étudiants illustre le besoin de transparence, et celle-ci devrait être systématique, avant même qu'on demande quelque explication que ce soit. C'est ainsi qu'on accompagnera et qu'on éduquera la population.

Je viens de comprendre que cette assemblée est un algorithme, puisque tous les amendements des groupes FI ou GDR ont automatiquement droit à un avis défavorable ! Puisque vous dites que les algorithmes vont libérer du temps, monsieur le secrétaire d'État, je propose qu'on vous remplace par un algorithme. Cela nous permettra de gagner du temps dans les débats et cela vous permettra de consacrer du temps à faire de la pédagogie auprès des personnes qui sera...

Si certains amendements ont été rejetés en commission, ce n'est pas la faute d'un algorithme, mais c'est parce que ceux qui devaient les défendre étaient absents.

...lage, sauf dans trois cas : dans le cadre d'un consentement, d'un contrat ou d'une décision administrative individuelle automatisée, que nous venons d'évoquer. Dans les deux premiers cas, je souhaite ouvrir la possibilité d'appliquer les règles de transparence qui définissent le traitement automatisé, ainsi que les principales caractéristiques de sa mise en oeuvre. La décision s'appliquerait aux algorithmes traitant le taux de solvabilité quand on veut contracter une assurance ou un crédit, à ceux utilisés sur les plates-formes ou les réseaux sociaux afin de lutter contre les fake news, ou qui permettent de fermer les comptes diffusant des propos considérés comme déviants. Dans ce cas, les personnes pourraient demander aux plates-formes comment et selon quels critères les décisions ont été prises. ...

Je me suis fait expliquer les enjeux de ces algorithmes, dont je ne suis pas spécialiste, et qui ne visent au fond qu'à renforcer des discriminations qui existent déjà. En effet, si l'on constate plus de fraudes auprès de la caisse d'allocations familiales parmi les gens qui habitent en banlieue, on peut craindre qu'un algorithme ne systématise les contrôles dans cette population. De même, si l'on observe plus de retards parmi les personnes qui habit...

Avis défavorable. Je suis d'accord avec l'esprit dans lequel a été rédigé l'amendement, mais le contrôle des algorithmes ne me semble pas devoir être confié à une entité particulière. Toutes les associations, tous les citoyens, toute la société civile doivent pouvoir y contribuer. C'est ce à quoi tendait l'amendement précédent, qui visait à accroître la transparence et l'accès aux ressources, et à permettre à la société civile de travailler sur ce contrôle.

... qu'il y ait un véritable gendarme, qui ne se réduise pas à quelques vagues associations et à la société civile. Selon Mme Belloubet, ce contrôle figure potentiellement dans les missions de la CNIL, pourvu que celle-ci en fasse la demande. Si tel est le cas, j'aimerais autant que le texte le mentionne explicitement. Pourquoi ne pas indiquer que la CNIL doit se préoccuper de manière active de ces algorithmes, qui posent quelques problèmes ?

J'ai l'impression que nous passons trop rapidement sur certaines questions que posent les algorithmes. Je l'ai dit tout à l'heure : nous ne réfléchissons pas en profondeur, nous ne savons pas jusqu'où l'on va, alors que nous ouvrons des champs de droit intéressants. Nous venons de dire que les algorithmes rendront des décisions individuelles. Tout acte administratif peut faire l'objet d'un recours, à travers la saisine du tribunal administratif. Nous sommes donc dans un champ relativement clair...

Loin de moi l'idée de contredire Mme la rapporteure et Mme la garde des sceaux, mais je voudrais apporter, sur le fond, de l'eau au moulin de notre collègue Éric Bothorel. Ces problèmes sont essentiels. Les moteurs de recherche constituent un sujet particulièrement sensible, parce qu'ils donnent accès à l'information. Le très intelligent algorithme pagerank, qui a permis l'essor de Google, appartient à l'histoire des sciences et des technologies. Il faut rappeler aussi que la concurrence, en ce domaine, peut être rude. Je vais vous raconter une petite mésaventure qui m'est arrivée, comme à d'autres sans doute. Il y a deux ans peut-être, j'utilisais un moteur de recherche non majoritaire – pour participer, à ma modeste échelle, à nourrir la...

...e du monde où, au-delà du corps et de l'esprit, les femmes et les hommes, qui utilisent désormais des outils interactifs et intelligents, génèrent des informations, numérisent leur quotidien, enregistrent sous forme numérique les détails de leur vie, qu'ils concernent la santé, les transports, des activités, des échanges ou des transactions. Ces informations sont compilées et interprétées par des algorithmes élaborés par des gestionnaires, souvent des GAFAM américains – Google, Apple, Facebook, Amazon et Microsoft – ou des BATX asiatiques – Alibaba, Tencent, Huawei et Xiaomi – , qui les utilisent à des fins commerciales, en propriétaires de fait, pour cibler les publicités. S'il existe un droit des brevets ou des droits d'auteur, il n'y a aucun droit attaché aux données numériques personnelles. Ce...