Interventions sur "algorithme"

...l de révélations multiples sur des utilisations détournées de données personnelles concernant des centaines de milliers, voire des millions de personnes, les restrictions apportées par le Sénat à l'extension de l'action de groupe en matière de protection des données personnelles n'étaient pas acceptables. Nous avions également longuement travaillé à une rédaction satisfaisante sur le recours aux algorithmes dans le cadre des décisions administratives, rédaction qui apportait notamment les garanties nécessaires au respect des droits des personnes concernées ainsi qu'un renforcement de leur droit d'information sur les règles ou les critères applicables. Sur ce sujet, le Sénat a eu une position conservatrice peu compréhensible, visant à restreindre considérablement, souvent en contradiction avec le rè...

...ut en effet pas laisser le choix entre profit et éthique. Il faudrait soulager par avance la conscience de ceux qui se sentent prêts à faillir ou pas assez forts pour se donner d'eux-mêmes un code de conduite. Il est vrai que la philosophie de votre projet de loi est d'accompagner la collecte et l'exploitation des données plutôt que d'y mettre un coup d'arrêt net. L'idée de faire suer de l'or aux algorithmes suscite trop de fascination pour décider d'y renoncer, même partiellement. Mais, a contrario, les aspects les plus ambitieux de ce projet de loi mettent en lumière son caractère inabouti. En outre, le recours à la procédure accélérée est un accroc de plus à la pratique normale du débat parlementaire. La CNIL avait d'ailleurs souligné le caractère hâtif du procédé, en regrettant de n'avoir pas ...

...ontrées par nos compatriotes compte tenu de cette dématérialisation et le recul de l'humain dans les procédures administratives. Or l'une de ces impasses faites dans ce projet de loi concerne l'application de ses dispositions aux administrations : elle n'est en effet traitée que par le biais d'une simple exception, d'une simple dérogation, ce qui aura pour conséquence de laisser libre cours à des algorithmes qui présideront à toute une série de mesures administratives, sans contrôle, sans intervention humaine. Tout cela a fait l'objet d'amendements, qui ont été rejetés. Par conséquent, un réexamen du projet de loi en commission serait pour le moins nécessaire. Nous voterons donc ce renvoi en commission.

...érations en formation restreinte, notamment en ce qui concerne les sanctions ; un strict encadrement du pouvoir de sanction de la CNIL, afin d'en consolider le bien-fondé ; la possibilité de renchérir les amendes, en utilisant la marge de liberté laissée au législateur par la Commission européenne ; l'interdiction du profilage privé à des fins lucratives ; la possibilité d'un contrôle citoyen des algorithmes. Notre groupe continue d'apprécier le potentiel extraordinaire de progrès sociaux, démocratiques, environnementaux et scientifiques attaché à une collecte de données à but non premièrement lucratif et correctement anonymisée. Nous appelons de nos voeux la réalisation d'une révolution numérique pour tous et toutes, au service de l'intérêt général. Il est impératif d'investir ce terrain législati...

...rme l'interdiction de principe des décisions produisant des effets juridiques et fondées exclusivement sur des traitements automatisés de données personnelles, il tend à instituer une dérogation pour les décisions administratives individuelles. Sur ce point, nous regrettons que la majorité n'ait pas accepté les amendements adoptés par le Sénat, qui visaient à encadrer plus strictement l'usage des algorithmes par l'administration – hormis, bien entendu, s'agissant des sujets dits « sensibles ». En outre, l'encadrement du profilage et les clarifications actuelles ne sont absolument pas suffisants. Le Conseil d'État estime, à ce propos, qu'il est essentiel « de garantir à tout instant une maîtrise humaine complète des algorithmes, comportant notamment la capacité d'interrompre le fonctionnement du tra...

...lainte vers la CNIL. Cette possibilité de saisine du médiateur a été confirmée. Une réunion sera donc organisée prochainement entre celui-ci et la CNIL afin de mettre en place le plus rapidement possible leur cadre de collaboration. On le voit, le nombre de demandes envers la CNIL augmente considérablement avec le développement des technologies numériques : objets connectés, assistants vocaux ou algorithmes. Nous souhaitons aussi que le législateur, par le truchement des présidents des groupes politiques, puisse saisir la CNIL pour avis. Au début de cette année, la CNIL a publié son premier rapport sur l'intelligence artificielle : elle y montre l'importance d'une démarche éthique et responsable qui, en ligne avec nos valeurs européennes, doit nous différencier de nos concurrents chinois et américa...

... scandale Facebook, nous en apporte une nouvelle preuve. Notre pays, avec la CNIL, a été l'un des premiers à se donner les moyens de protéger ses citoyens d'une trop grande intrusion dans ce qui doit demeurer leur domaine privé. Mais c'était en 1978 : nous sommes quarante ans plus tard. Depuis lors, l'omniprésence d'Internet, le règne pratiquement sans partage des réseaux sociaux, l'apparition d'algorithmes toujours plus performants ont bouleversé le paysage numérique et, avec lui, bien des aspects de notre vie quotidienne. Les données personnelles ne sont plus collectées seulement par l'État et ses administrations, mais aussi par bien d'autres acteurs publics et privés dont la puissance semble ne plus avoir de limite – une puissance construite, justement, sur la collecte de données, véritables ma...

...citoyens face aux atteintes à la protection des données personnelles, avec l'extension de l'action de groupe à la réparation des préjudices matériels et moraux. Le Sénat a souhaité limiter la portée de cette évolution en la différant de deux ans, ce que nous ne pouvions accepter. Le texte initial prévoyait également la protection des personnes face au profilage, qui passe par la transparence des algorithmes ; là, encore, le Sénat a modifié ce dispositif dans son ensemble. D'autres aspects ont pu susciter un blocage, notamment la volonté du Sénat d'exempter les collectivités territoriales des amendes relatives au traitement des données personnelles, ce qui me paraît incompatible avec le principe d'égalité. Je rappelle que l'esprit du RGPD et du projet de loi est d'instaurer de nouvelles règles pour...

...ontre aucune forme de régulation, comme c'est le cas aux États-Unis. Mark Zuckerberg a affirmé cette semaine, devant le Congrès américain : « Nous traversons un grand changement philosophique au sein de la société. » Je le crois bien volontiers, d'autant que les bouleversements technologiques qui nous attendent vont être toujours plus intenses et rapides. Car, dans un monde hyperconnecté, où les algorithmes seront aussi bien logés dans nos poches qu'au milieu de notre salon, et où assistants vocaux et voitures autonomes seront pensés pour nous faciliter la vie, les volumes de données en circulation iront toujours croissant. Face à cette perspective, les attentes de nos concitoyens nous obligent. Or le constat est sans appel : ils demandent le maximum de transparence et de souveraineté sur l'usage q...

Nous ne sommes pas favorables à l'interdiction des algorithmes. En revanche, nous souhaitons rendre leur utilisation plus transparente et offrir toute l'information aux utilisateurs, afin qu'ils puissent donner leur consentement et le retirer si nécessaire. Le cadre proposé par le RGPD va dans le bon sens. Avis défavorable.

L'article 14 autorise un recours accru au profilage administratif et à l'utilisation d'algorithmes, notamment par les autorités publiques. Il s'agit de thématiques fondamentales pour les droits et libertés numériques. Aussi estimons-nous que les algorithmes utilisés dans la prise de décision publique doivent être soumis à un contrôle citoyen. Pour éviter les biais discriminants que peuvent introduire de nombreux algorithmes utilisés par les pouvoirs publics, nous considérons qu'un contrôle ci...

Madame Obono, comme souvent, je suis d'accord avec une grande partie de votre argumentaire, mais pas avec votre conclusion ; en l'occurrence, il ne me paraît pas utile d'inscrire ce dispositif dans la loi. Les personnes intéressées peuvent déjà accéder aux codes sources, aux algorithmes et étudier ces derniers dans différents cadres. Par exemple, la CNIL avait réalisé une étude sur APB – admission post-bac. Il serait intéressant que d'autres institutions, comme l'INRIA – Institut national de recherche en informatique et en automatique – , le CNNUM ou des associations le fassent également. Il n'est pas nécessaire, en tout état de cause, d'inscrire cette disposition dans la loi. ...

...eilleures conditions possibles dans l'enseignement supérieur, l'an prochain, les bacheliers qui ont formulé leurs voeux sur la plateforme Parcoursup. Nous ne sommes pas ici aujourd'hui pour débattre de nouveau de la relative à l'orientation et à la réussite des étudiants. Il n'en demeure pas moins qu'elle a constitué une percée majeure et historique en matière de transparence. Avant, avec APB, l'algorithme et le code source n'étaient pas publiés, alors que les associations le réclamaient. Les pouvoirs publics ont été pressés par la commission d'accès aux documents administratifs – la CADA – et la CNIL de les publier, ce qu'ils avaient finalement fait, mais en version papier. Cela montre quel était alors l'engagement des pouvoirs publics pour la transparence des algorithmes. La nouvelle loi prévoit...

...effectuer cette sélection pose question et suscite la contestation, n'en déplaise à M. Gosselin. Ce n'est pas une minorité d'ultra-gauchistes, ou que sais-je encore : ce sont des étudiants, des jeunes gens qui s'inscrivent dans une démarche de compréhension technique, mais aussi d'apprentissage politique de la citoyenneté. Ne vous en déplaise, ils ont très bien compris ce qu'il y avait derrière l'algorithme et ce projet de loi.

Cet amendement, que nous avons déjà évoqué en commission des lois, est important et je tiens à saluer la discussion que nous avons eue avec Mme la rapporteure et Mme la ministre sur ce texte très important, sur lequel nous avons beaucoup avancé dans le cadre des négociations au niveau européen. L'amendement concerne l'utilisation des algorithmes. C'est un point sur lequel je tiens à insister car, si un peu plus de 80 % des Français ont déjà entendu ce terme, à peine un peu plus de la moitié d'entre eux savent ce dont il s'agit. Selon un scientifique interrogé récemment dans la presse dans une perspective de vulgarisation, un algorithme est une séquence d'instructions utilisée pour résoudre un problème. L'arrivée et le développement des...

...des règles définissant les principaux traitements algorithmiques utilisés dans l'accomplissement de leurs missions lorsqu'ils fondent des décisions individuelles : c'est donc un premier niveau d'information a priori. Il existe par ailleurs un droit d'information au niveau individuel : lorsque la décision est transmise, la personne concernée reçoit l'information sur la finalité poursuivie par cet algorithme et a le droit d'obtenir en outre une communication sur les règles et leur application dans son cas particulier, ainsi que sur les modalités d'exercice de son droit à la communication et à la saisine. Lorsque la personne demande plus d'informations, ces informations, précisées au niveau réglementaire, sont au nombre de quatre : le degré et le mode de contribution du traitement algorithmique à la ...

...madame la rapporteure, pour votre volonté de compléter le dispositif. Je vous remercie aussi, monsieur le secrétaire d'État, pour les éléments que vous avez évoqués. Cependant, un élément vous a manqué pour être vraiment complet : c'est que la majeure partie des personnes concernées par de telles décisions ne demandent pas ces informations, parce qu'elles ne connaissent pas ou comprennent mal les algorithmes. Ce que nous proposons par cet amendement, finalement, c'est donc de faire oeuvre de pédagogie : il est logique que les personnes à l'encontre desquelles une décision automatisée est prise aient systématiquement accès aux éléments de l'algorithme sur lequel cette décision se fonde afin de mieux la comprendre. Vous avez dit, monsieur le secrétaire d'État, que nous reviendrions sur cette questio...

Je ne sais pas si c'est un service que je rends à Mme Karamanli, mais je tiens à lui apporter tout mon soutien. Nous avons nous aussi déposé des amendements allant dans ce sens, afin d'être plus attentifs à ce qui se passe au niveau des algorithmes, en rendant publiques au maximum les informations qui fondent la décision. Nous appuyons donc cet amendement de Mme Karamanli.

L'intelligence artificielle s'invite depuis quelques mois dans les débats, et pour cause : elle est révolutionnaire, car elle est aujourd'hui capable de simuler des décisions de justice. C'est ce qui s'appelle la justice prédictive. Pour y parvenir, des algorithmes permettent d'analyser une très importante quantité de données, qui sont croisées pour apporter des réponses juridiques. L'objectif affiché est simple : désengorger les tribunaux et soulager les magistrats débordés par un nombre d'affaires en constante augmentation, alors que le nombre de juges est insuffisant. D'autres vont même jusqu'à dire que la justice artificielle permet de répondre aux in...

...lles de personnes n'ayant aucune expertise judiciaire, ou très peu. Le profilage est-il envisagé pour la délivrance des titres de séjour aux étrangers ? Pour les demandes d'emploi formulées par des chômeurs ? Pour une demande de permis de construire déposée par un riverain de l'océan ? Les demandeurs seront-ils classés selon leur pays d'origine, leur âge, leur adresse, leur cursus scolaire ? Les algorithmes autorisés par cet article ne permettront-ils de présélectionner – c'est-à-dire de discriminer, ou de renforcer des discriminations ? Attention à ne pas ouvrir la boîte de Pandore : les dossiers doivent être analysés de façon individuelle par des êtres humains. Rappelons qu'à l'heure actuelle, le défaut d'examen individuel et personnalisé est considéré par les juges comme une erreur de droit. Le...