Nous avons le plaisir d'accueillir M. Cédric O, secrétaire d'État chargé du numérique.

Parmi vos attributions figurent de nombreuses questions relevant de la compétence de la commission des Lois qui a déjà examiné par le passé plusieurs projets de loi en lien avec le numérique : la loi du 5 octobre 2007 pour une République numérique ; la loi du 20 juin 2018 pour la protection des données personnelles dont la rapporteure était une commissaire aux lois, Mme Paula Forteza, et qui a permis d'adapter notre droit au nouveau cadre européen posé notamment par le règlement général sur la protection des données (RGPD) ; la loi du 22 décembre 2018 relative à la lutte contre la manipulation de l'information dont nous avons eu à débattre sur le rapport de Mme Naïma Moutchou avec la commission des Affaires culturelles.

Nous avons également auditionné Mme Marie-Laure Denis avant sa nomination en qualité de présidente de la Commission nationale de l'informatique et des libertés (CNIL) par le Président de la République, en vertu de l'article 13 de la Constitution.

Le numérique a changé les conditions d'exercice de plusieurs droits fondamentaux, notamment la liberté d'expression, la liberté d'entreprendre et la liberté d'association, mais il a également pour effet de modifier l'équilibre entre les libertés individuelles et la sauvegarde de l'ordre public.

S'il existe un point commun à l'ensemble de ces sujets et aux problématiques concrètes auxquelles sont confrontés nos concitoyens, il réside sans doute dans la question du rôle des grandes plateformes. Comment ne pas voir que les réseaux sociaux, les moteurs de recherche, les places de marché, les sites de partage de contenus jouent aujourd'hui un rôle d'intermédiation majeur qui leur confère un pouvoir important, à la fois économique et prescriptif ? Ce pouvoir nous conduit à interroger le modèle économique de ces plateformes et le cadre de régulation qui leur est applicable. C'est à l'ensemble de ces questions que vous êtes confronté, et c'est également à une partie d'entre elles que notre Commission aura à répondre lorsqu'elle examinera la proposition de loi de notre collègue Laëtitia Avia visant à lutter contre la haine sur internet, sur ces plateformes sont devenus des accélérateurs de contenus odieux ou offensants. Votre audition sera l'occasion d'aborder ce sujet et d'autres, si vous le souhaitez.

Je vous propose de centrer la discussion sur la proposition de loi relative à la lutte contre la haine sur internet.

Permettez-moi de partager avec vous l'une de mes convictions : si les seuls pays efficaces pour réguler les grandes plateformes numériques sont les pays autoritaires, ce n'est pas une bonne nouvelle pour les démocraties. Tous les pays du monde sont confrontés au problème de la régulation des grandes plateformes numériques. Nous exposons régulièrement l'impuissance des États et des autorités publiques face à ces grandes plateformes, pour des raisons qui tiennent à des difficultés techniques, au droit international, au droit communautaire et à la rapidité d'intervention.

Aucun pays développé n'a réussi à régler cette question au bon niveau. Cependant nous avons une obligation de résultat. Nous allons poser les bases d'un système efficace qui pourra ensuite être étendu au niveau européen, qui est l'échelon pertinent pour réguler dans ce domaine. Nous devons trouver un équilibre entre liberté d'expression et protection des citoyens. Or les différents pays du monde, et en particulier les pays européens, n'ont pas la même sensibilité sur ce sujet.

Il faut envisager la question de la régulation des contenus en ligne de manière holistique. Si certaines dispositions doivent être prises au niveau législatif, pour d'autres ce niveau n'est pas pertinent. Quelles dispositions légales pouvons-nous prendre ? Parmi celles-ci, lesquelles doivent être prises dans le cadre de la proposition de loi présentée par Mme Laëtitia Avia et dans le projet de loi sur l'audiovisuel ? La question du régulateur sera examinée dans le projet de loi sur l'audiovisuel avant la fin de l'année. Nous devons en effet réfléchir aux rôles respectifs de l'Autorité de régulation des communications électroniques et des postes (ARCEP), du Conseil supérieur de l'audiovisuel (CSA) et de la Haute Autorité pour la diffusion des oeuvres et la protection des droits sur internet (HADOPI).

En revanche, la question de la régulation sera définie dans la proposition de loi de Mme Avia. Notre politique repose sur quatre piliers : punir les auteurs ; responsabiliser les plateformes ; accompagner les victimes ; sensibiliser et éduquer les Français.

Premièrement, aujourd'hui, celui qui insulte ou menace une personne en ligne bénéficie d'une quasi-impunité, pour diverses raisons. En effet, il est techniquement difficile d'identifier les auteurs. En outre, certaines actions ne relèvent pas de ce qui est juridiquement qualifié d'infraction. Nous sommes également contraints par des accords avec les États-Unis, car la plupart de ces grandes plateformes sont américaines. Enfin, nous avons un problème de réactivité : un raid diffuse des milliers d'insultes à caractère illicite en quelques secondes, tandis que la justice est lente à réagir. Nous devons trouver un moyen de transférer au numérique la peur du gendarme qui retient chacun de menacer ou d'insulter quelqu'un dans la rue. C'est d'abord un problème d'organisation et d'efficacité de la justice, qui doit améliorer la gestion de la temporalité et la masse. Les textes actuels permettent d'obtenir l'identité de quelqu'un qui passe les bornes, mais les délais sont trop longs et les plateformes ne sont pas toutes coopératives.

En ne considérant que le retrait des contenus publiés, on met la poussière sous le tapis. En effet, 90 % des contenus homophobes ou racistes sur Facebook sont retirés par les modérateurs. Nous nous trouvons dans la situation paradoxale d'essayer de punir ceux qui publient des contenus qui n'ont pas été retirés par les plateformes, sans punir les pires contenus, tels que des images d'égorgement ou des menaces de mort, qui ont été retirés par la modération.

Nous examinons actuellement quelles mesures peuvent être prises par la loi et quelles dispositions doivent être prises à un autre niveau, car la plupart des dispositions pour punir les auteurs ne sont pas de nature législative.

Si on veut faire en sorte que le niveau de violence sur internet et, in fine, dans la société, diminue, il faut en appeler à la responsabilité individuelle des personnes. Il faut donc que celles-ci sachent qu'elles courent un risque sérieux de se retrouver devant la justice si elles vont trop loin. La comparution en justice permet de trouver un équilibre avec les droits de la défense. En effet, renvoyer la responsabilité aux grandes plateformes peut donner l'impression de privatiser une partie de ce qui relève de la responsabilité de l'État.

Deuxièmement, il faut responsabiliser les plateformes. Les grandes plateformes sont actuellement responsables à deux titres des contenus qu'elles diffusent. D'abord, elles permettent une diffusion extrêmement rapide des contenus : des contenus racistes, antisémites ou homophobes peuvent être diffusés à plusieurs dizaines de milliers de personnes en quelques heures. Nous devons pouvoir les retirer. Ensuite, elles accélèrent leur diffusion puisqu'elles proposent elles-mêmes des contenus, dont certains contenus violents, car ce sont ceux qui « marchent » le mieux. Un certain nombre d'initiatives ont été prises, mais ce problème n'a encore été résolu par personne.

En particulier, le système allemand n'a pas fait la preuve de son efficacité. Il impose des amendes extrêmement élevées — de l'ordre de 50 millions d'euros — aux plateformes qui ont diffusé un contenu illicite. Cependant, le filtrage de la totalité des contenus est techniquement impossible. En outre, cette disposition conduit les plateformes à retirer trop de contenus et porte par conséquent atteinte à la liberté d'expression et à la démocratie : tous les contenus « gris » sont retirés par avance par les plateformes. Par exemple, Charlie Hebdo ne passe jamais la barre. On peut penser que le degré de violence sur internet justifie de telles mesures, mais en réalité ces dispositions risquent en outre d'être inapplicables. En effet, le juge sanctionnera le retrait illégitime de certains contenus. Les grandes plateformes seront alors prises en tenaille entre une loi qui sanctionne très sévèrement les contenus illégaux et une jurisprudence qui sanctionne le retrait de contenus licites. Les compliance departments des plateformes américaines ne peuvent pas gérer une telle situation.

L'approche qui consiste à sanctionner uniquement les contenus individuels rencontre donc des limites. C'est pourquoi nous souhaitons développer une régulation systémique. Nous demandons aux grandes plateformes d'avoir un mécanisme de modération automatique et humain « au bon niveau ». Le régulateur devra déterminer ce qu'il faut entendre par cette expression, car le fixer dans la loi ne permet pas de s'adapter aux évolutions rapides de l'économie de l'internet.

La situation est analogue à celle de la régulation bancaire. Une banque n'est pas tenue pour responsable de chaque virement frauduleux, mais elle doit mettre en oeuvre un mécanisme de supervision qui détecte efficacement de tels virements. Si elle ne le fait pas, elle est sévèrement sanctionnée. De même, l'ARCEP et la CNIL ne se prononcent pas sur des cas individuels mais sur les défaillances systémiques des grands opérateurs. Ces dispositions, couplées avec celles qui renforcent la responsabilité individuelle, constitueront un système efficace.

Troisièmement, nous devons accompagner les victimes. Aujourd'hui, le moins que l'on puisse dire est que le parcours des victimes de harcèlement sur internet n'est pas linéaire. Là encore, des dispositions doivent être prises à d'autres niveaux qu'au niveau législatif. La proposition de loi de Mme Avia et le discours du Président de la République au Conseil représentatif des institutions juives de France (CRIF) sont importants, car ce sujet doit être inscrit dans l'agenda politique et médiatique. Des débats publics doivent se tenir pour que les gens sachent que l'on n'a pas le droit d'insulter en ligne. En effet, nous constatons que les quelques personnes qui ont été poursuivies, par exemple celles qui ont harcelé Nadia Daam, sont très étonnées de l'être. Il faut que les Français prennent conscience qu'il est interdit de menacer et d'insulter quelqu'un en ligne, comme c'est interdit dans la rue.

Quatrièmement, il y a un volet éducatif. Il faut introduire des informations sur ces sujets dans la réforme sur l'informatique à l'école présentée en début d'année ou éventuellement dans le service national universel, mais là encore, cela ne relève pas nécessairement du niveau législatif.

Le champ couvert par la loi sera nécessairement assez restreint, suite à l'avis du Conseil d'État. En effet, par souci de cohérence avec le droit européen, il convient de ne légiférer que sur les injures portant atteinte à la dignité humaine. C'est pourquoi le cyber-harcèlement ne fait pas partie du champ de la loi.

Enfin, cette proposition de loi est une base, une étape, et non une norme définitive. Nous ne sommes qu'au début du processus de régulation.

Je donne la parole à Mme Laetitia Avia, après quoi je la donnerai à ceux de nos collègues qui souhaitent intervenir.

Je vous remercie, monsieur le secrétaire d'État, pour vos propos qui témoignent de la hauteur de nos exigences. Comme vous l'avez dit, la proposition de loi que nous examinerons en commission des Lois le 19 juin prochain a pour objet d'obliger les plateformes à retirer les contenus haineux, sans qu'elles portent atteinte à la liberté d'expression.

Cette proposition de loi vise à protéger les droits fondamentaux. Au-delà de l'argument juridique, la notion de dignité humaine est l'âme de ce texte. Il s'agit en effet de protéger les personnes pour ce qu'elles sont et non pas pour ce qu'elles peuvent dire ou penser. Le texte devra être étendu au harcèlement sexuel en ligne.

Les attentats de Christchurch ont rappelé, de manière horrible, le problème posé par les contenus diffusés en direct. C'est une réalité quotidienne. La plateforme Periscope, par exemple, diffuse très régulièrement des agressions homophobes. Personnellement, je n'ai utilisé Facebook Live que deux fois, parce qu'à chaque fois j'ai reçu un torrent de commentaires haineux en direct — je considère que je suis, d'une certaine manière, bridée dans ma liberté d'expression et d'utilisation de Facebook Live par ces commentaires. Comment pensez-vous qu'il convient de réguler les contenus diffusés en direct ?

Nous n'avons pas de contrôle sur les contenus qui sont retirés par la modération des plateformes. Nous ne savons pas s'il y a des atteintes aux droits et comment poursuivre les auteurs. Comment pensez-vous que nous pouvons avancer sur ce sujet ?

On dit souvent qu'il existe déjà une régulation contre la haine en ligne. Pourriez-vous faire le point sur la loi existante sur l'économie numérique ? Pourquoi, de votre point de vue, est-elle inefficace ?

S'agissant de la situation allemande, ne pourrait-on pas envisager que les plateformes retirent des contenus de manière conservatoire qui serait ensuite confirmée ou infirmée par le juge ? Quels problèmes poserait un tel dispositif ?

Vous avez abordé la suppression par anticipation de contenus par les plateformes au titre de leurs conditions générales d'utilisation. En France, Facebook a censuré la diffusion de tableaux célèbres. Le tribunal a considéré que la rédaction des conditions générales d'utilisation de Facebook posait problème, mais il ne s'est pas prononcé sur la possibilité de diffuser des oeuvres artistiques. Vous l'avez évoqué à travers Charlie Hebdo : la régulation interdira-t-elle les caricatures de Mahomet ? La régulation de ce domaine pose un vrai problème de libertés publiques. Il faut se demander si les conditions générales d'utilisation doivent continuer d'être la base de la modération ou de la censure par les plateformes. Comment ce système peut-il fonctionner ?

La proposition de loi a fait l'objet d'un avis du Conseil d'État. Serait-il possible de demander l'avis préalable de la CNIL ? En effet, cette proposition de loi touche à la question de la protection des données, notamment à l'automatisation des systèmes de retrait. Le retrait automatique peut entrer en contradiction avec le RGPD tel que nous l'avons adopté l'an dernier.

Pouvez-vous nous expliquer quel est le pouvoir du juge des référés en matière de numérique ?

Je redonne la parole à Laëtitia Avia, qui souhaite intervenir sur la saisine de la CNIL.

La CNIL a été entendue deux fois dans le cadre des travaux parlementaires et elle a indiqué que le texte n'entrait pas dans son champ de compétences.

Sur la question des juges des référés, j'avoue ne pas pouvoir apporter une réponse suffisamment précise d'un point de vue juridique.

Il me semble prématuré de légiférer sur le contenu diffusé en direct, pour deux raisons. D'abord, le problème ne réside pas tant dans la diffusion en direct que dans le caractère viral du contenu. À Christchurch, l'assassin a diffusé la tuerie pendant quatorze minutes, vidéo qui a été vue en direct par 4 000 personnes ; mais le problème principal tient au fait que, dans les 24 heures suivantes, Facebook a dû retirer 1,5 million de copies de cette vidéo. Cependant il est vrai que la conservation des contenus pose un véritable problème, car certains peuvent disparaître sans avoir été sanctionnés. Les contenus, qu'ils aient été refusés par la modération ou publiés, doivent être conservés par les plateformes pour permettre à la justice de faire son travail, sous la supervision du régulateur et de la CNIL pour que l'on ne porte pas atteinte à la vie privée.

La modération préalable par les plateformes fera l'objet de la supervision par le régulateur dans le cadre de la proposition de loi de Mme Avia. Le régulateur jugera du bon équilibre de la politique de la modération de la plateforme. Tout le problème est de mettre en place un régulateur qui soit techniquement compétent et juridiquement habilité.

Madame Pau-Langevin, la loi du 7 octobre 2016 pour une République numérique dispose que la plateforme a l'obligation de retirer promptement des contenus manifestement illicites. Ce qu'il faut entendre par « promptement » n'est pas précisé, et la loi ne définit aucune obligation de moyens. Les sanctions ne sont pas dissuasives et elles ne sont pas appliquées. Dans les faits, la loi existante n'a aucun effet sur la publication des contenus.

La loi allemande oblige les plateformes à retirer en un temps très court les contenus, sous peine de sanctions pour chaque contenu diffusé. Les départements juridiques américains refusent alors de prendre le moindre risque d'être condamnés et pratiquent des retraits massifs. Les délais pour que soit rendue une décision de justice sont tels que les contenus qui sont finalement publiés le sont à contretemps. Il faut trouver le chemin de crête qui assure l'équilibre entre liberté d'expression et protection des citoyens.

Monsieur Latombe, ce sont effectivement les conditions générales d'utilisation qui priment aujourd'hui. Il est vrai que L'Origine du monde a été retirée parce qu'elle ne correspondait pas à ces conditions ; je ne pense pas que les caricatures de Charlie Hebdo le soient pour les mêmes raisons, mais je suis certain qu'elles seraient censurées si nous mettions en place un système comparable au système allemand.

Il est difficile de modifier ces conditions en fonction des différentes cultures nationales, car on considère aux États-Unis, entre autres, que, puisque ces plateformes appartiennent à la sphère privée, personne n'est obligé de les utiliser, et que si quelqu'un choisit de le faire, il doit respecter les conditions générales d'utilisation .

Nous sommes tous confrontés à de très grandes difficultés de jugement sur des contenus particuliers. Si l'on veut que les plateformes appliquent efficacement la loi, il faut instituer une zone d'échanges entre les plateformes, l'administration, la justice et probablement des acteurs privés de la société civile qui donnent un avis sur le caractère licite ou non d'un contenu. Il ne nous paraît pas souhaitable que ce soient les plateformes qui décident de ce qui est légal ou illégal. Nous devons répondre à leur besoin de se tourner vers une instance qui détermine ce qui est licite, instance dont nous pensons qu'elle doit être un cénacle constitué par l'État et la société civile, conçu en relation très étroite avec le régulateur. Un tel dispositif est déjà en place pour le terrorisme.

Le fait est que le référé civil existe, mais cela reste une procédure judiciaire qui prend du temps et qui ne permet pas de traiter la masse de contenus haineux. Ainsi, en 2016, 269 condamnations pour injures racistes sur internet ont été rendues.

Le rapport remis l'an dernier par Laëtitia Avia, Karim Amellal et Gil Taieb évoquait la création d'un observatoire de la haine qui permettrait d'étudier les comportements haineux sur internet qui diffèrent largement des comportements dans la rue. Il examinerait aussi comment contrer ces comportements et nourrir le contre-discours, en particulier sur les réseaux sociaux, qui constituent désormais le premier vecteur de communication. Avant cette proposition de loi, nous avions étudié les fake news et le harcèlement en ligne. Ces sujets se recoupent, car ces comportements constituent une attaque contre notre démocratie et le vivre ensemble. La publication de ces contenus haineux, erronés et mensongers pose problème, car l'enfermement algorithmique a pour effet que celui qui a lu ces contenus les retrouvera plusieurs fois, éventuellement les colportera lui-même, voire même passera à l'acte. Que pensez-vous donc de créer un observatoire de la haine ? Quel serait son périmètre d'action ?

L'interopérabilité des grandes plateformes, idée défendue par un certain nombre de collectifs de l'internet libre, serait une alternative à la responsabilisation dont vous parlez. En effet, étant donné la nature et le nombre des communications simultanées, il est très difficile pour les plateformes de réguler effectivement. L'interopérabilité permettrait aux victimes de cyber-attaques de se retirer de ces plateformes tout en gardant le lien social que ces réseaux permettent d'entretenir.

Ne cherchons-nous pas à contrôler un domaine qui ne peut pas l'être ? L'espace virtuel est un espace public, comme l'espace de la rue. Or dans la rue, on ne contrôle pas ce que chacun dit, mais on prend des mesures quand un comportement illicite a été signalé. Je crains qu'un traitement automatisé en amont bride vraiment la liberté d'expression.

Par ailleurs, je suis effaré que certaines personnes condamnées en aient été surprises. C'est le signe que la société a pris du retard sur la technologie, comme l'a écrit Paul Virilio. Ces questions de savoir-vivre sur les réseaux sociaux doivent être traitées à l'école, dès le plus jeune âge.

Du reste, le harcèlement scolaire est exclu par votre texte, puisqu'il ne relève pas nécessairement de la haine ou du racisme. Cependant il faut en protéger les enfants : on les protège aussi de ce qu'ils pourraient devenir et on prévient des comportements néfastes sur les réseaux.

Dire que la liberté d'expression sur internet n'est pas la même qu'ailleurs, c'est légitimer des discours de haine, qui peuvent parfois entraîner des actes violents.

Si la France est attachée à la liberté d'expression, celle-ci est encadrée : on ne doit pas offenser ou discriminer individuellement quelqu'un pour ce qu'il est. Notre droit sanctionne tout propos raciste ou homophobe ; il doit s'appliquer également sur internet.

Beaucoup pensent que les règles sur internet doivent être dérogatoires, moins strictes que dans d'autres domaines, parce qu'internet serait virtuel. Il faut rappeler qu'internet, c'est la vie réelle, et que quelqu'un qui tient des propos racistes sur internet est quelqu'un qui tient des propos racistes, tout simplement. Il doit évidemment être sanctionné.

En revanche, il est vrai que le dispositif à mettre en place pour lutter contre la haine sur internet est spécifique. Je soutiens comme vous que la modération des plateformes ne suffit pas à régler le problème. Nous devons donc mettre en place un système judiciaire efficace. Comment faire en sorte que les victimes puissent porter plainte et que la justice réponde plus rapidement ?

Les médias sont des lieux de communication semblables aux autres. Or, dans la presse, le directeur de la publication est responsable de ce qui est publié et il peut être sanctionné. Il existe donc dans le droit de la presse des outils efficaces, qui ont beaucoup évolué avec le temps, et qui pourraient par extension être appliqués aux contenus numériques. Pensez-vous que l'on puisse trouver un équivalent de cette responsabilisation pour internet ?

En second lieu, quelle est votre réflexion sur la question de l'anonymat ? Ma propre réflexion sur ce point n'est pas arrêtée : c'est un sujet important pour la liberté d'expression, mais on sait également, si l'on pense au rôle des lettres anonymes dans l'histoire de notre pays, que l'anonymat peut poser problème.

Nous constatons également qu'il est nécessaire de légiférer pour lutter contre la haine sur internet. La plupart des parlementaires en ont eux-mêmes fait l'expérience, dans leur engagement, ou comme parents d'adolescents, souvent effarés par les échanges des collégiens.

Comment mettre en place la prévention contre la haine en ligne ? Même des étudiants en quatrième année d'études ne comprennent pas pourquoi, lorsqu'ils reçoivent un contenu haineux, ils ne peuvent pas répondre de la même façon.

Au moment où nous mettons en place l'Assemblée parlementaire franco-allemande, je constate avec regret que nous n'élaborerons pas pour l'instant un dispositif commun dans ce domaine, car nous ne sommes qu'aux premières étapes de la mise en place d'un système très complexe. J'ai cependant apprécié votre humilité.

Quels moyens envisagez-vous pour poursuivre effectivement les auteurs ? La justice est à bout de souffle, malgré les efforts de programmation budgétaire.

La traçabilité est-elle garantie, que l'on utilise ou non un pseudonyme ?

Si, dans l'ensemble, le développement des réseaux sociaux est une bonne nouvelle pour la liberté d'expression, en revanche, on ne peut pas tolérer qu'ils soient un exutoire pour des propos haineux, racistes, antisémites ou homophobes. La proposition de loi prévoit un certain nombre de dispositifs efficaces. Le Président de la République a évoqué en février dernier la possibilité d'interdire aux auteurs de propos racistes ou antisémites de recréer un compte sur ces réseaux, comme on interdit à des hooligans qui ont été condamnés de pénétrer dans les stades. Cette proposition est très intéressante mais sa mise en oeuvre pose un certain nombre de problèmes, pour éviter le contournement, notamment, et parce qu'elle pourrait obliger à fournir une pièce d'identité au moment de créer un compte. Quelle est votre position sur ce sujet ?

Les jeunes constituent un public particulièrement fragile. Il y a des lacunes dans la prévention. En outre, beaucoup de propos haineux sont véhiculés par des messageries instantanées qui ne laissent pas de traces apparentes. Quelle est la traçabilité de ces données ? Une coordination est nécessaire entre l'Éducation nationale et votre ministère.

Pouvons-nous envisager que pèse sur les plateformes une obligation de dénonciation de certains propos qui, aujourd'hui, sont modérés et, par conséquent, ne sont pas poursuivis ?

Si demain on poursuit plus facilement les auteurs de propos haineux, discriminatoires ou diffamatoires, le support sera-t-il la loi de 1881 ? Les juristes y sont très attachés, car c'est une loi d'équilibre qui consacre la liberté d'expression et ses limites. Cependant c'est une loi très technique, dont l'usage n'est pas aisé, même par des professionnels. En particulier, elle impose des délais de prescription très courts, or on sait que l'identification des auteurs de propos discriminatoires sur internet demande du temps. La loi de 1881 peut-elle alors permettre d'atteindre les objectifs recherchés ?

Comme dans le domaine de la lutte contre le piratage ou dans celui de la protection de la vie privée, la France pourrait-elle devenir le fer de lance de la régulation européenne en matière de lutte contre la haine sur internet ?

Pourriez-vous, par ailleurs, nous éclairer sur la charte sur la haine en ligne que la France veut faire adopter au G7 qui se tiendra à Biarritz à la fin du mois d'août ?

Avons-nous un premier retour d'expérience sur les mesures prises dans le RGPD ? En particulier, il était demandé aux plateformes d'expliquer sur leur site en amont les enjeux de l'accès au numérique et ainsi de mettre en oeuvre la prévention. Je rappelle que, normalement, avant l'âge de 15 ans, on ne peut pas accéder seul au réseau.

Madame Abadie, il faut favoriser tous les cercles qui permettent une approche concertée. L'observatoire de la haine que vous avez évoqué me paraît donc être une excellente idée. On peut l'expérimenter dès maintenant, à condition de le concevoir en cohérence avec les orientations du projet de loi sur l'audiovisuel.

Madame Obono, la question de l'interopérabilité est vaste et difficile. Comme je l'ai exposé à l'Organisation de coopération et de développement économiques, nous pensons que cette question doit être portée à un niveau européen. Notre démarche actuelle est compatible avec un progrès vers l'interopérabilité, or celui-ci prendra beaucoup de temps. Aujourd'hui, on ne peut envoyer un message Whatsapp qu'à quelqu'un qui est inscrit sur Whatsapp, tandis qu'on peut envoyer un courriel depuis une boîte Gmail vers une boîte Wanadoo. L'interopérabilité permettrait de communiquer depuis Whatsapp avec quelqu'un qui utiliserait une autre plateforme. Cependant, il est difficile de la mettre en oeuvre techniquement pour les plateformes qui offrent des fonctionnalités multiples. En outre, elle pose des problèmes de portabilité des données. Elle pose aussi une question de principe : on ne résoudrait pas le problème, on se contenterait de permettre à la victime de se reporter vers un autre réseau. Enfin, elle constitue une agression très importante envers les grandes plateformes, et cela posera par conséquent problème avec nos partenaires chez qui celles-ci sont domiciliées. Je considère donc l'interopérabilité avec une certaine bienveillance, mais je doute qu'elle soit applicable à court terme.

Monsieur Balanant, la gestion automatisée ne s'appliquera qu'au contenu signalé.

Monsieur Peu, si l'on considère les plateformes comme des éditeurs, cela les oblige à lire et à contrôler a priori tout ce qu'elles publient, ce qui pose un problème de liberté publique. Nous estimons qu'il existe une position intermédiaire entre l'absence de régulation et l'édition, qui est celle de l'accélérateur de contenus.

Le premier sujet que j'ai abordé est celui de la responsabilité individuelle, parce que la masse des contenus est telle que la régulation doit reposer sur l'autolimitation. Nous travaillons avec Jean-Michel Blanquer et Gabriel Attal sur l'éducation, qui est fondamentale. En outre, la répression doit faire en sorte que la peur change de côté : ceux qui tiennent des propos haineux doivent avoir peur du gendarme.

Nous n'aborderons pas le harcèlement scolaire, qui est un problème fondamental, dans cette proposition de loi, car celle-ci se fonde juridiquement sur l'interdiction des atteintes à la dignité humaine. En revanche, le harcèlement sexuel peut probablement y être abordé.

Monsieur Rupin, la ministre de la Justice s'est engagée à ce que les victimes puissent déposer des plaintes en ligne à partir du premier semestre 2020. C'est indispensable pour les plaignants et pour les policiers. Aujourd'hui, les plaignants s'adressent au commissariat de proximité, or les policiers n'ont pas tous une très bonne connaissance des outils informatiques. Avec quel compte se connecteront-ils sur Facebook Live ou sur Twitter ? Aujourd'hui, comme ils n'ont aucun moyen de transmettre des informations de manière sécurisée, dans le meilleur des cas, ils font des saisies d'écran, ils les impriment et ils les envoient par la poste.

La ministre de la Justice sera présente lors de l'examen de la proposition de loi ; elle pourra donc répondre plus précisément. Les plaintes seront traitées de manière centralisée, par un personnel bien formé, qui sera en relation directe avec les plateformes.

Par ailleurs, monsieur Peu, nous devons pouvoir identifier les auteurs de contenus haineux, alors qu'actuellement le processus d'identification ne fonctionne pas. Cependant, nous ne souhaitons pas obliger les gens à s'identifier de manière substantielle sur internet. Par exemple, une fille ou un garçon qui veut jouer à League of Legend doit pouvoir le faire sous le nom de « Bisounours 767 » sans être obligé de s'inscrire sous son nom ; un jeune homosexuel qui souhaite consulter des forums doit pouvoir le faire sans s'identifier même auprès de la plateforme ; un lanceur d'alerte doit pouvoir s'exprimer sans être contraint de révéler son identité. Vous avez évoqué les lettres anonymes ; nous étions assez contents à l'époque de n'avoir pas de fichier centralisé qui permette d'établir ce que chacun a fait.

À partir du moment où le juge a identifié un contenu haineux, il faut qu'il puisse obtenir l'adresse IP du possesseur de l'ordinateur, puis, avec cette adresse, obtenir son identité auprès du fournisseur d'accès. Actuellement, chaque étape pose problème : certaines grandes plateformes ne donnent les adresses IP que dans les cas de terrorisme, et si elle disposait de toutes les adresses IP, la justice telle qu'elle est organisée actuellement ne serait pas en mesure de poursuivre tous les auteurs.

Cette proposition de loi ne traitera pas le grand banditisme de l'antisémitisme ou de la haine en ligne. Nous voulons réguler les comportements quotidiens et créer une prise de conscience collective. Les professionnels de l'antisémitisme et de la haine en ligne continueront à se connecter en utilisant des réseaux privés virtuels afin de protéger leur identité.

Monsieur Terlier, je m'engage à vous donner plus de précisions, après concertation avec le ministre de l'éducation nationale et Gabriel Attal, sur ce que nous ferons dans le cadre du service national universel.

Madame Untermaier, je pense que nous parviendrons à un accord européen. La pression politique conduit les gouvernements à prendre des décisions dont la portée n'est pas totalement maîtrisée. Je crois que les Allemands ont désormais compris qu'ils devaient ajuster leur position.

Madame Moutchou, il n'est pas attentatoire aux libertés d'interdire à quelqu'un qui a été condamné pour propos haineux de communiquer sur Twitter et le Président de la République en ayant pris l'engagement devant le CRIF, cette interdiction sera prévue. Mais cela n'est possible que si l'on sait identifier les auteurs, et il s'agit évidemment d'un traitement ex post, après une ou plusieurs condamnations, avec une graduation des peines. Cela me semble proportionné : l'accès à Twitter ne répond pas à un besoin vital.

Monsieur Mazars, les contenus interdits de publication par la modération posent effectivement le problème de leur conservation et de leurs modalités de transmission à la justice. Ce serait un non-sens que les contenus supprimés par la modération soient assurés d'une impunité totale.

À ce stade, nous n'avons pas de volonté de toucher à la loi de 1881, qui ne me semble pas antinomique avec le dispositif que nous mettons en oeuvre.

Madame Guerel, nous nous efforçons de progresser au niveau international sur la charte contre la haine en ligne. Pour être honnête, nous ne trouverons pas d'accord avec les Américains sur la régulation des contenus haineux, pour des raisons de culture et d'attachement à la liberté d'expression. Cependant nous voulons nous accorder avec eux sur les modalités de régulation des contenus terroristes, qui aujourd'hui font l'objet d'une régulation européenne et non internationale. Nous voulons également obtenir de la transparence en ce qui concerne l'activité des plateformes sur les autres types de contenus. Nous le porterons au sein du G7, car tous les pays ont des intérêts en la matière.

Monsieur Rebeyrotte, les régulateurs doivent s'approprier le RGPD pour pouvoir l'appliquer. Une première sanction a été prise par la CNIL, qui ne peut juger que les atteintes en France et non en Europe. L'application du RGPD pose également le problème de la réactivité.

Il serait utile de disposer d'une évaluation à moyen terme.

Je suis tout à fait prêt à faire le point avec vous dans six mois, par exemple.

Monsieur le secrétaire d'État, nous vous remercions. Je rappelle à nos collègues que le texte sera examiné le 19 juin en Commission, et probablement dans la première semaine de juillet en séance publique.