Mesdames, Messieurs, je suis très ému de présider cette assemblée pour la première fois, au titre du Sénat.

Seul le principe d'alternance entre les deux chambres vous a privés de la présidence de Cédric Villani, parfaitement légitime, comme député et comme scientifique, pour assurer la présidence de l'Office parlementaire. Mais pour que les bonnes maisons fonctionnent, elles doivent être régies par des règles : c'est en l'occurrence une règle d'alternance qui s'applique ici. J'en suis le bénéficiaire et espère que vous n'aurez pas trop à en souffrir.

L'ordre du jour de ces deux tables rondes consacrées aux algorithmes et à leur utilisation dans le secteur public, est passionnant et se situe parfaitement dans le champ de compétences de Cédric Villani, ce qui me permettra d'être extrêmement bref dans mes propos introductifs, afin de lui permettre de présenter la première des deux tables rondes de cette matinée, dédiée au portail de répartition des candidats bacheliers à l'université, à partir de leurs préférences telles qu'exprimées dans des voeux.

Je remercie Cédric Villani d'avoir accepté de présider cette table ronde, les parlementaires qui ont pu se libérer pour assister à cette audition, et les experts qui vont intervenir dans ce cadre.

La deuxième table ronde sera consacrée à d'autres algorithmes mis en oeuvre dans le secteur public, essentiellement dans les domaines de la santé et de la fiscalité.

Cédric Villani viendra enfin tirer les conclusions de cette matinée, ce dont je le remercie vivement.

Je lui cède sans plus tarder la parole, pour la première table ronde.

Mesdames, messieurs, chers collègues, c'est un plaisir de vous accueillir ici à l'occasion de la première manifestation organisée par l'Office parlementaire d'évaluation des choix scientifiques et technologiques après sa réinstallation. Je salue, à cette occasion, la détermination et la souplesse dont fait preuve Gérard Longuet, qui laisse à l'Assemblée nationale toute latitude pour organiser le début des travaux de cet Office, en parfaite coordination avec le Sénat.

Je vais présider cette première table ronde consacrée au portail APB, étant entendu que la discussion sera ensuite élargie, lors de la deuxième table ronde, à d'autres questions relatives à l'interface entre algorithmique et politique.

Il me semble important de préciser, en préambule, que cette table ronde n'est pas une base de réflexion devant déboucher ensuite sur une décision en termes d'organisation publique, des choix ayant, en effet, déjà été effectués, et des programmes annoncés par le ministère concerné. Il s'agit, avant tout, de bien comprendre et d'analyser le phénomène APB. Pourquoi et comment les procédures ont-elles été mises en oeuvre ? Pourquoi ont-elles donné lieu, sur certains aspects, à des phénomènes d'insatisfaction, voire de rejet ? Par quoi la procédure actuelle sera-t-elle remplacée, et quels sont les critères et paramètres importants à considérer dans cette optique ?

Nous allons, pour ce faire, nous intéresser à l'historique du dispositif. Rappelons que APB a été créé en 2003, pour les concours d'entrée dans les écoles d'ingénieurs, avant que le champ n'en soit ensuite progressivement étendu, jusqu'à sa généralisation, en 2009, à presque toutes les formations de l'enseignement supérieur, sélectives et non sélectives, à capacité d'accueil limitée ou non.

Cette table ronde s'ouvrira par une intervention introductive de la directrice générale de l'enseignement supérieur, de la recherche et de l'innovation, Madame Brigitte Plateau, que je remercie pour s'être rendue disponible en cette matinée.

Nous essaierons, au fil des interventions, d'appréhender, d'une part, les éléments ayant présidé à la mise en oeuvre du dispositif, d'autre part, les raisons de son rejet par certains utilisateurs. Nous entendrons, à cette fin, divers témoignages, directs et indirects, d'utilisateurs, de responsables et de spécialistes de l'algorithmique. Je demande à tous les orateurs de limiter leurs interventions, même lorsqu'elles sont à deux voix, à huit minutes, de sorte que nous disposions de temps, au-delà des exposés, pour le débat et les questions.

Nous accueillons, pour commencer, Madame Brigitte Plateau, qui va nous présenter une intervention visant à replacer la mise en oeuvre du portail APB dans son contexte, et à rappeler les évolutions annoncées.

Monsieur le président, Je trouve intéressant que le débat sur les algorithmes publics se concentre sur un algorithme ayant à voir avec l'enseignement, et plus particulièrement l'accès à l'enseignement. Nous sommes finalement assez fiers de pouvoir montrer que ce sujet est aussi le nôtre.

Le dispositif APB (Admission Post Bac) est un environnement logiciel novateur, qui existe depuis longtemps, et a rendu de nombreux services. L'un de ses fondateurs, présent ce matin, pourra en témoigner.

Ce dispositif revient aujourd'hui dans l'actualité, car il a suscité de très fortes réactions, qui d'ailleurs ne sont pas dues à APB lui-même, mais au système de sélection qu'il a fallu insérer dans le portail pour faire face au fait que l'on ne disposait pas, pour certaines filières d'enseignement supérieur à capacité limitée, de classement donné a priori, sur la base de critères liés à l'étudiant, ou à la formation. Ceci s'est donc traduit par le recours au tirage au sort, donc à un choix aléatoire parmi les étudiants, ce qui a évidemment été difficile à faire comprendre et accepter à des jeunes s'étant vu refuser l'accès à certains cursus et auxquels on expliquait, par exemple, que le processus avait conduit à accepter des étudiants de régions voisines, ayant eu au baccalauréat des notes inférieures aux leurs.

Je me permets d'insister sur le fait que le tirage au sort était la seule solution restante dans le contexte.

Exactement. Nous n'avions pas d'autre outil, puisque nous ne disposions d'aucun élément pour classer. Il a donc été choisi de procéder à un tirage au sort, car, en l'absence d'information, un choix aléatoire nous avait semblé le moyen le plus juste. Cela n'a pas été accepté par le public. Or, je pense que, dans la relation avec les algorithmes, l'acceptation par les usagers est un élément fondamental.

Ceci a généré une crise, au cours de laquelle divers acteurs se sont exprimés, dont la Commission nationale de l'informatique et des libertés (CNIL), le Conseil d'État, des usagers, etc. Il en est résulté une réflexion globale sur une procédure nationale d'orientation pour les bacheliers, ou plus généralement pour les candidats souhaitant entrer dans l'enseignement supérieur. Le projet de loi va donc bien au-delà du seul algorithme.

Je souhaiterais insister sur les principes de la loi, qui indiquent que l'accès à l'enseignement supérieur doit découler d'un système informatique, mais aussi humain, lisible, utilisable par tous, et transparent. Il faut savoir qu'en 2017, la plateforme APB a reçu 650 000 dépôts, ce qui se traduit par 8 millions de voeux. Ce dispositif doit se doubler d'une carte des formations, offrant une présentation lisible de la richesse des formations existant en France. Ceci constitue aussi un sujet extrêmement important. Le deuxième principe de la loi concerne le droit d'accès à l'enseignement supérieur pour tous les bacheliers. Un autre principe est que la décision finale d'inscription revient au bachelier, tout ceci sans renoncer à la responsabilité des établissements d'enseignement du supérieur, qui consiste à délivrer une formation de qualité, et à faire réussir les étudiants. Ainsi, l'étudiant a le choix, mais le pédagogue doit indiquer comment son parcours doit se dérouler. Il existe ainsi des affectations avec recommandation quant à la façon d'entamer le cursus. Les universités, pour échapper au tirage au sort pour les filières dites non sélectives mais à capacité d'accueil limitée, doivent désormais émettre un classement, ordonner les candidatures des étudiants, selon des critères relevant, d'une part, de la compétence, des acquis, du talent et du projet des candidats, d'autre part, des caractéristiques et des attendus de la formation.

Dans l'esprit de la loi, le système APB doit coder ces principes : l'algorithme doit obéir à des orientations, législatives en l'occurrence. Le dispositif repose donc sur l'humain, des documentations informatisées et un traitement automatique. L'élément de base reste la formulation de voeux par l'étudiant. Dans le système précédent, il était possible de présenter jusqu'à 24 voeux classés ; désormais, leur nombre est réduit à moins de 10 voeux non classés.

À quel niveau a été prise la décision de passer de 24 à 10 ?

Elle relève du comité de pilotage d'APB, qui réfléchit à ces orientations. APB est un algorithme conçu pour être déterministe, c'est-à-dire sans place pour l'aléatoire. Il s'agit d'un algorithme non pas générant des règles, mais mettant en oeuvre des règles préalablement programmées. Par ailleurs, il est paramétré, chaque paramètre – comme le fait pour l'étudiant de pouvoir émettre 10, 12 ou 24 voeux – pouvant être modifié. Ceci a beaucoup d'impact sur le fonctionnement, avec un effet multiplicateur considérable : selon que 650 000 étudiants émettent 10 ou 24 voeux, le facteur multiplicatif est différent. Ce paramétrage offre une certaine souplesse au dispositif, les paramètres pouvant évoluer, et être modifiés aisément.

De plus, un calendrier est en cours d'élaboration. Il ira de la période actuelle jusqu'à la rentrée prochaine, avec différentes étapes. La partie humaine du dispositif est ainsi déjà en cours, avec des semaines d'orientation organisées à l'attention des étudiants, afin qu'ils comprennent, autant que faire se peut, les enjeux de l'usage d'un tel système. Le dépôt des voeux s'étendra de fin janvier à mars, ensuite de quoi ces voeux seront transmis à des guichets, constitués par l'ensemble des formations disponibles sur la plateforme APB – ce qui ne représente pas 100 % des formations, mais une grande partie. Par ailleurs, un travail sera mené pour que ce panel s'élargisse. Les diverses formations sélectives, ou à capacité limitée, établiront des classements, puis toutes étudieront les dossiers, afin de pouvoir assortir chaque acceptation d'une proposition de mise en oeuvre du parcours. À partir de mai, le système fonctionnera et informera les candidats des retours positifs donnés à leurs voeux. Il n'est pas prévu, dans un premier temps, de délivrer les réponses négatives. La règle actuellement proposée est que chaque candidat devra, dès qu'il obtiendra deux réponses favorables, effectuer un choix, dans un délai de sept jours. Le système est donc différent du précédent, dans lequel les étudiants classaient leurs voeux, l'algorithme attribuant dès la première phase à chacun les orientations possibles au regard de ce classement, et des choix des formations.

Il existe, au sein d'APB, une tension entre trois objectifs : l'optimalité globale de l'affectation, pour que l'enseignement supérieur soit bien utilisé, le dialogue avec l'humain, ce terme recouvrant étudiants et formations, et l'efficacité du processus, qui doit converger et tenir compte, pour ce faire, d'un problème de temps, afin que les étudiants puissent tous disposer d'une réponse avant la rentrée scolaire.

Pour conclure, je tiens à préciser qu'un comité d'éthique et un comité scientifique suivront la mise en oeuvre et l'évolution du processus.

Le candidat est donc censé recevoir un certain nombre de réponses positives. Mais existe-t-il une garantie que chacun en reçoive au moins une ?

Rien ne le garantit. Prenons l'exemple d'un candidat ayant choisi 10 filières extrêmement sélectives, auxquelles il ne pourra pas prétendre au final, car ne satisfaisant pas aux critères de sélection : le processus se terminera par une étape totalement manuelle, prise en charge par les recteurs d'académies, consistant à reconsidérer l'ensemble des candidatures n'ayant pas reçu d'affectation, et à essayer de trouver des solutions, en dialogue avec les universités.

Vous avez évoqué l'existence d'un comité de pilotage, d'un comité d'éthique et d'un comité scientifique : il existe donc trois instances distinctes ?

Le comité de pilotage a pour objet la mise en oeuvre du dispositif dès cette année, sachant que se pose un problème de temps, dans la mesure notamment où la loi n'est toujours pas votée. Il faut néanmoins que les affectations pour la rentrée 2018 s'effectuent. C'est le rôle du comité de pilotage, qui travaille au management de la mise en oeuvre première du processus, avec l'ensemble des acteurs (recteurs, lycées, ministère de l'Éducation nationale, établissements d'enseignement supérieur) et le service historique ayant conçu le système APB, qui se situe à Toulouse. La vie et l'évolution du dispositif seront ensuite suivies par un comité d'éthique et scientifique.

Je passe maintenant la parole à M. Jean-François Texier, adjoint au médiateur de l'Éducation nationale et de l'enseignement supérieur, accompagné de Mme Danielle Rabaté-Moncond'huy, chargée de mission. La question qui vous est posée est celle du rôle, de l'opinion et des préconisations du médiateur concernant le rapport produit en 2016 sur APB.

La directrice générale a beaucoup parlé de l'avenir ; je me contenterai d'évoquer le passé, dans la mesure où le rôle du médiateur est d'être observateur et acteur, par rapport à des situations de difficultés individuelles avérées. Je ne pourrai donc parler que des précédentes sessions.

En 2016, nous avons décidé de traiter d'APB non parce qu'il y aurait eu cette année là des difficultés particulières, mais parce que nous recevons de la part des usagers, chaque année depuis que le dispositif existe, des réclamations ayant mis en évidence la nécessité de dresser un bilan des forces et faiblesses d'une application qui a une telle importance dans la transition entre le second degré et l'enseignement supérieur. Les constats que nous avons pu effectuer dans notre dernier rapport concernent la session 2016. La session 2017, sur laquelle je pourrai vous dire quelques mots, a apporté quelques évolutions notables.

Certains problèmes pointés en 2016 n'ont fort heureusement pas réapparu en 2017. Le premier concernait la question des étudiants en réorientation. Il s'agissait, pour beaucoup, d'étudiants de PACES et de droit, en situation d'échec. En 2017, il a été décidé de traiter ces cas avec les autres. Ils sont donc venus accroître (ce qui a d'ailleurs constitué une difficulté) le nombre global des dossiers à traiter dans le cadre d'APB, ce qui a assuré l'égalité de traitement.

Le deuxième point, relativement mineur, renvoyait à des situations de surréservation, à savoir des cas d'étudiants qui apparaissaient retenus dans une filière et qui, lorsqu'ils s'y présentaient, s'en voyaient refuser l'accès par le chef d'établissement, au motif que les effectifs étaient déjà complets. Ce type de situation ne s'est fort heureusement pas posé en 2017.

Le troisième élément est celui de l'information. Jusqu'à 2016, nous avions posé un regard quelque peu critique sur certains aspects du suivi des étudiants, et des réponses qui leur étaient faites. Or, notre expérience de la session 2017 a montré une véritable amélioration de l'information et du suivi des candidats. La rubrique « contact » a notamment très bien fonctionné. L'ensemble des acteurs concernés, qu'il s'agisse des services de la direction générale, des CIO – Centres d'information et d'orientation – ou des SCUIO – Services communs universitaire d'information et d'orientation –, nous donnent l'impression d'avoir vraiment pris en charge cette question de la réponse aux étudiants en difficulté. Face au stress des jeunes, l'accueil a, semble-t-il, été beaucoup mieux assuré.

Au-delà de ces trois points qui ont connu une évolution favorable, certaines difficultés constatées en 2016 ont perduré en 2017. Le point majeur est sans doute celui d'un certain manque de transparence. APB va en effet, par certains aspects, un peu au-delà du droit. La loi pour une République numérique de 2016 appelle pourtant tous ces algorithmiques à être le simple et strict reflet des grandes règles du droit.

Pourriez-vous préciser les raisons pour lesquelles vous estimez que cette application va au-delà du droit ?

Le fonctionnement d'APB génère, par exemple, des modalités non prévues par les textes. Je pense notamment à certains paramétrages académiques sur la réorientation. Jusqu'en 2016, les étudiants en réorientation étaient, ou non, pris en compte dans APB, selon les décisions locales. De même, les règles d'affectation des étudiants dans les COMUE, les communautés d'universités et d'établissements, qui couvrent parfois plusieurs académies, ont été générées par la machine elle-même. Ceci concerne aussi les voeux absolus et relatifs. Nous constatons, via les sollicitations et réclamations des usagers, que ceci a créé de nombreuses difficultés, et eu des conséquences non négligeables quant à l'obtention, par les candidats, de telle ou telle filière.

Une autre difficulté, qui perdure, concerne le fait que l'on observe parfois des différences, dans la documentation fournie aux étudiants, entre les guides nationaux et académiques. L'existence d'une production multiple conduit à ce que les présentations ne soient pas exactement homogènes. Nous avons ainsi pointé une grosse différence entre le discours qui environne APB et l'orientation active. Cette dernière se voulait vraiment volontariste, et essayait de guider l'étudiant vers la filière dans laquelle il avait une chance de réussir. Or, le discours environnant l'application APB était, au contraire, très libertaire, et incitait les jeunes à formuler leurs voeux sans contrainte, à n'obéir qu'à leurs désirs. Nous avons ainsi eu le sentiment que le futur bachelier se trouvait, au moment de formuler ses voeux, tiraillé entre ces deux discours.

Un point, très sensible en 2017 alors qu'il avait été tout à fait fluide en 2016, concerne la question des « pastilles vertes ». En 2016, ce système avait vraiment joué son rôle de filet de sécurité. Il consistait, je le rappelle, en une obligation faite aux bacheliers généraux de cocher une des filières, apparaissant en vert dans l'application, d'où le nom de « pastilles vertes ». Ces filières étant réputées ne pas être en tension, l'étudiant avait, en principe, la certitude qu'ayant été refusé ailleurs, il obtiendrait au moins celle-ci. Or, en 2017, les « pastilles vertes » se sont très vite avérées en grande tension, si bien qu'elles ont conduit à de nombreux refus. Nous avons donc reçu beaucoup de réclamations à ce sujet, de gens ayant le sentiment d'avoir été trompés. Je dois dire que, du point de vue du médiateur, ceci nous paraît vraiment nuire à l'image de notre ministère. Une promesse non tenue est toujours très mal acceptée par les familles et les jeunes.

Je terminerai en évoquant quelques propositions. Nous préconisons, par exemple, la suppression de la réponse « non mais », sachant qu'il existait jusqu'alors quatre types de réponse : « oui », « oui mais », « non mais » et « non ». Mais peut-être cette réforme n'est-elle plus à l'ordre du jour ?

Il faudrait également élargir le champ couvert par ces applications. En effet, certains établissements, comme les Instituts d'études politiques (IEP), Paris Dauphine ou les formations de commerce et de management, n'y figurent pas. Parvenir à convaincre les responsables de ces établissements d'intégrer le dispositif APB apporterait, assurément, une réelle amélioration au système.

Il conviendrait aussi, dans le même ordre d'idée, que les inscriptions prononcées dans les établissements ne participant pas à APB soient intégrées, pour libérer des places. Jusqu'en août ou septembre, un certain nombre de places restent ainsi captées, et non mises à disposition des autres candidats.

Par ailleurs, il faut continuer à former les jeunes bacheliers et leurs familles, ainsi que les divers acteurs du dispositif : enseignants, professeurs principaux, etc. Mais il faut aussi associer plus étroitement les utilisateurs, via des comités d'usagers par exemple. Peut-être les comités évoqués par la directrice générale pourraient-ils d'ailleurs répondre à cette préoccupation. De nombreuses applications sont proposées rapidement au public, pour une mise en oeuvre parfois immédiate, sans avoir été suffisamment testées auparavant. Ce n'est alors qu'au moment de l'utilisation finale que l'on s'aperçoit des difficultés. Il faudrait prendre, en amont, le temps d'effectuer les tests nécessaires.

Un autre élément, très important, concerne la prise en compte de la situation des bacheliers handicapés. Certaines académies le font très bien avec, par exemple dans le cas de l'académie de Paris, un comité visant à faciliter l'affectation des futurs étudiants handicapés sur des sites accessibles. Ce n'est malheureusement pas le cas partout. Nous préconisons donc une meilleure prise en compte du handicap.

Enfin, il faudrait éviter, ainsi que cela a été annoncé, de stresser les jeunes pendant les épreuves du bac.

En conclusion, je tiens à souligner le fait que nos deux ministères utilisent beaucoup d'applications algorithmiques. Je pense par exemple à la procédure informatisée Affelnet, qui gère l'affectation dans le second degré. Les mutations des enseignants sont également paramétrées et fondées sur des barèmes. Nous aurions donc beaucoup à dire, au-delà du dispositif APB, de manière plus générale, sur l'ensemble des algorithmes utilisés par les ministères.

Merci beaucoup. Mme Rabaté-Moncond'huy, avez-vous quelque chose à ajouter ?

Comme cela vient d'être brièvement rappelé, il apparaît que le dispositif APB va au-delà de la réglementation, pour ce qui concerne notamment le tirage au sort, et le problème des voeux absolus et relatifs. Ces règles ont été données tardivement, au mois d'avril dernier, c'est-à-dire juste un mois avant la fermeture, dans la procédure APB, de la possibilité de classer ses voeux. Les élèves n'ont pas été forcément au courant de ces informations, pourtant essentielles, notamment pour bénéficier de certaines filières en tension, comme les Sciences et techniques des activités physiques et sportives (STAPS). Certains étudiants, qui avaient placé en première position de leurs voeux une filière sélective et en deuxième position une filière en tension, comme la filière STAPS, n'avaient ainsi aucune chance d'obtenir une affectation en filière STAPS, mais l'ignoraient.

Si l'on demande à un algorithme d'effectuer une tâche pour laquelle il n'existe aucune solution, il est logique qu'il ne puisse pas fonctionner. Nous y reviendrons.

Je voudrais à présent donner la parole à Mme Carole Vouille, vice-présidente de la Conférence nationale universitaire en réseaux des responsables d'orientation et insertion des étudiants, et à M. Philippe Lalle, conseiller stratégique pour la pédagogie. La question qui leur est soumise est la suivante : quels enseignements tirer de l'exploitation du portail APB par les grands établissements ?

Je tiens en préambule à rappeler que nous avons tous deux siégé au comité de pilotage Admission Post Bac, Mme Vouille depuis 2012 jusqu'à cette année, en tant que vice-présidente de la Conférence universitaire en réseaux des responsables d'orientation et d'insertion professionnelle des étudiants, et moi de 2009 à 2016, en qualité de représentant des présidents d'université, puisque j'ai occupé ce poste à l'université Lyon 1, où j'étais en charge de la formation. C'est à ce titre que j'interviens aujourd'hui, et non au regard de mes fonctions actuelles à la Direction générale de l'enseignement supérieur et de l'insertion professionnelle (DGESIP).

Nous allons tout d'abord vous présenter un bilan, avant d'évoquer les perspectives et les points d'alerte. La mise en place d'APB a essentiellement apporté des changements favorables, en termes d'unicité de procédure, avec un calendrier unique et une centralisation des demandes. Auparavant, un élève pouvait en effet envoyer cinquante dossiers, à cinquante adresses et selon cinquante calendriers différents.

Ce dispositif a également favorisé l'anticipation des choix d'orientation, puisque le lycéen a été amené, plus qu'auparavant, à y réfléchir, et été sensibilisé, notamment au cours de la procédure, à la nécessité de formuler un voeu non sélectif, la fameuse « pastille verte ».

Ceci a, en outre, globalement, amélioré la lisibilité de l'offre de formation.

Ce dispositif a donc présenté des points forts et apporté des plus values, tout d'abord pour l'établissement. Cette procédure permettait, en effet, de disposer d'un tableau de bord, d'un outil d'anticipation des inscriptions, et de statistiques sur les candidats demandant à intégrer l'établissement : leur provenance, leur profil, etc. Ceci a donc clairement amélioré le pilotage. APB présentait également la souplesse suffisante pour permettre d'augmenter les capacités d'accueil au cours de la procédure, et de pratiquer du surbooking maîtrisé, à partir d'une connaissance estimée du taux de désistement, acquise au fil des années. APB avait donc conduit, globalement, à une fluidification des affectations, nonobstant les problèmes de places ayant surgi cette année.

Par ailleurs, cette procédure a permis d'instituer un principe d'équité entre les candidats et les formations. Ceci a par exemple donné davantage de visibilité à de « petites » formations, insuffisamment connues des lycéens, et méritant de l'être davantage. Cette procédure a ainsi permis à toutes les formations d'exister au même niveau, et ce même si certains « grands » établissements s'en sont parfois offusqués.

Enfin, il ne faut pas oublier que 80 % des candidats ont reçu une proposition d'affectation lors de la première phase, dont la moitié environ concernant leur premier voeu. On peut donc dire que le système, au départ tout du moins, ne fonctionnait pas si mal que cela.

Toutefois, nous avons noté des points faibles, des dérives et quelques défauts de base réglementaire pour les affectations, même si cela ne concerne évidemment pas tous les établissements. Parmi ces éléments, soulignons notamment la communication de l'affectation pendant les épreuves du bac, source de stress pour les lycéens, mais aussi le fait que cet outil soit adapté aux néo-inscriptions, mais clairement pas aux réorientations, dont l'introduction dans le système a constitué, à nos yeux, une complication, voire une erreur.

Nous avons également considéré que ce dispositif était, dans les faits, source d'iniquité selon les académies. La gestion du système, conçu pour être égalitaire et transparent, a varié selon les académies, en termes par exemple de définition des capacités d'accueil, de sectorisation, de l'affichage ou pas de licences à prérequis, ou des formations en apprentissage. Tout ceci était laissé à la discrétion du recteur ; or deux recteurs d'académies voisines pouvaient parfaitement ne pas tenir le même raisonnement.

Quelques évolutions ont été apportées, que je qualifierai d'erratiques. Elles concernent notamment l'entrée des réorientations, qui n'a pas nécessairement fait l'objet des concertations suffisantes. Ceci représentait quelque 150 000 candidats, que nous parvenions à gérer auparavant, mais qu'il nous a été difficile de gérer dans le cadre d'APB. Il en va de même pour les voeux groupés, voire pour l'apparition de la « pastille verte », qui ne sont pas nécessairement des points négatifs, mais n'ont pas été réellement concertés.

Une autre difficulté a résidé, à mon sens, dans le fait que le comité de pilotage ne « pilotait » pas vraiment, certaines décisions venant d'ailleurs, sans que l'on sache vraiment d'où, et n'était pas toujours très écouté. Ainsi, la Conférence des présidents d'université, que je représentais, avait demandé la diminution du nombre de voeux, qu'elle a eu du mal à obtenir, ce nombre passant finalement de 36 à 24, alors que la requête initiale était de 12. Nous arrivons aujourd'hui à 10, ce qui semble une évolution favorable. Je rappelle que le nombre moyen de voeux formulés par les jeunes est de l'ordre de 6,6.

Par ailleurs, nous avons constaté quelques contournements des règles de bonne conduite, de façon marginale, par quelques établissements qui, par exemple, contactaient parfois directement les candidats pour les influencer dans leur réponse.

Pourriez-vous nous indiquer qui, statutairement, institutionnellement, fixe le nombre de voeux possibles ?

Il s'agit de la DGESIP.

Un comité de pilotage donnait également son avis.

Que dit la réglementation ?

Je crains que la loi, et d'une façon plus générale la réglementation, ne soient guère précises sur ce point. Ceci a d'ailleurs été souligné à plusieurs reprises, y compris par la Cour des comptes. Par contre, en pratique, après consultation du comité de pilotage, la décision relative au nombre maximum de candidatures pour un candidat relevait du directeur général ou de la directrice générale de l'enseignement supérieur et de l'insertion professionnelle.

Je vais terminer, en évoquant quelques points de vigilance que nous avons relevés. Je reviens sur la nécessité de la transparence, déjà évoquée précédemment. Les règles non explicites utilisées dans le cadre d'APB ont, en effet, suscité de nombreuses critiques.

L'usage de la « pastille verte » a par ailleurs posé plus de problèmes cette année qu'en 2016. Ceci s'explique, selon moi, par le fait que de nombreuses formations qui relevaient de cette pastille en 2016 se sont avérées être en réalité sous tension, et ont de ce fait disparu de la liste des filières dites « libres ». Le quota de filières à pastille verte était ainsi plus faible en 2017 que l'année précédente.

La question de la réorientation mérite également selon nous d'être soulevée. Nous n'avons en effet pas vu, dans les annonces d'évolution qui ont été faites, d'éléments explicites relatifs au traitement de ce problème. Les réorientations ont été introduites dans APB de manière progressive, et traitées l'année dernière comme les candidatures des nouveaux bacheliers, ce qui a amplifié la pression sur certaines filières. Nous constatons, à partir du suivi que nous effectuons des étudiants concernés par la réorientation, notamment ceux de Première année commune aux études de santé (PACES), que le calendrier de ces candidatures est vraiment différent de celui concernant les néo-bacheliers. Le processus de réorientation suit un autre rythme, un autre agenda. Nous estimons donc qu'il conviendrait de développer une procédure spécifique, distincte d'APB, pour traiter ces réorientations.

De plus, nous alertons sur les différences de règles entre territoires. Ceci est assurément source de problèmes, dans la mesure où un jeune pouvait être traité différemment selon l'académie dans laquelle il était élève. C'est là une question sur laquelle il faudra, selon nous, être vigilant pour la suite.

Nous souhaitons par ailleurs faire part de notre inquiétude concernant la suppression annoncée de la hiérarchisation des souhaits, à plusieurs niveaux. En effet, elle constituait un pas en avant, puisqu'elle aidait l'étudiant à réfléchir très en amont à ses choix futurs d'orientation. Supprimer la hiérarchisation revient à repousser le moment du choix final. Le candidat devra de ce fait choisir entre les réponses positives, au fur et à mesure que celles-ci lui parviendront, reculant ainsi le moment du choix définitif.

En outre, nous nous inquiétons de la gestion des listes d'attente, puisque la hiérarchisation permettait aussi d'alléger ces listes des voeux classés, une fois le premier voeu satisfait. Nous craignons un retour dix ans en arrière, avec des files d'attente à la rentrée.

Nous souhaitons, enfin, souligner le côté anxiogène des réponses apportées au fil de l'eau. Chacun reconnaît que le fait d'obtenir les réponses d'APB au moment des épreuves du bac pouvait être compliqué à gérer émotionnellement pour les jeunes. Mais être quotidiennement en attente pendant les révisions, et devoir consulter APB tous les jours, pour savoir si la filière attendue est proposée, peut aussi être source de stress.

Je soulèverai également une petite question technique, concernant la chaîne d'inscription. La loi prévoit en effet la perception par les Centres régionaux des oeuvres universitaires et scolaires (CROUS) des droits de vie étudiante. Les inscriptions sont conditionnées à la perception de ces droits. Ceci signifie qu'il faudra penser une communication entre le CROUS, la plateforme et les universités, pour que l'inscription puisse aller à son terme.

Nous nous interrogeons aussi sur la constitution de l'actuel comité de pilotage. Le précédent était composé de l'ensemble des acteurs, des formations, et de l'Éducation nationale. Or, les anciens participants n'ont pas été sollicités pour participer au nouveau comité.

Nous demandons, par ailleurs, que soit mis en place un comité technique susceptible de donner un avis d'expert sur les implications techniques du dispositif. Est-ce l'objet du comité scientifique évoqué précédemment par Madame Plateau ?

La parole est maintenant à M. Anthony Mascle, vice-président en charge des affaires académiques, au sein de la Fédération des associations générales étudiantes (FAGE), pour témoigner de l'expérience des usagers, lycéens et étudiants.

Je commencerai mon intervention en rappelant que la FAGE fait partie des organisations qui n'ont pas tiré à boulets rouges sur APB lorsque le dispositif a fait l'objet, récemment, d'un véritable lynchage médiatique. En effet, nous considérons que l'outil constituait, en lui-même, une avancée. Ce dispositif a permis de mettre fin aux interminables files d'attente qui se formaient à l'entrée des universités lors des inscriptions et à l'obligation d'adresser des dossiers à de nombreux établissements différents. Cette évolution a donc constitué un progrès, en revenant sur la règle du « premier arrivé premier servi ». Cet outil a, par ailleurs, globalement fait ses preuves. Certes, quelque 3 000 candidats se sont retrouvés sans affectation. Mais ceci signifie que l'on a pu satisfaire les voeux, ou tout du moins trouver une solution, pour les 850 000 autres candidats.

On peut donc affirmer que, globalement, le système fonctionne, malgré certaines limites qu'il convient de signaler. Ces difficultés proviennent essentiellement de problématiques autres que l'algorithme lui-même. En effet, ce que l'on reprochait à APB, notamment dans le contexte médiatique, n'était pas lié directement à l'outil, mais aux capacités d'accueil limitées à l'université, et au fait de procéder à un départage par tirage au sort. APB n'est donc, finalement, que le symptôme d'un mal plus profond, qui renvoie au manque de places dans des filières universitaires censées être non sélectives, mais qui le deviennent de fait. Lever ce frein aurait constitué un facteur d'amélioration considérable de la plateforme, et limité énormément les retours négatifs.

Ceci étant, diverses améliorations pourraient être apportées au logiciel lui-même. Elles concernent notamment le manque d'information ressenti par les utilisateurs. Ainsi, lorsqu'un jeune apprend que son sixième voeu a été satisfait, la première question qu'il se pose concerne les raisons pour lesquelles ses cinq choix précédents n'ont pas reçu d'issue favorable. L'absence d'explication est difficile à gérer et à comprendre pour un lycéen dont certains camarades de classe, parfois moins bons élèves que lui, ont obtenu des affectations qu'il avait choisies, et pour lesquelles il n'a pas été retenu. Il s'agit, indéniablement, d'un facteur d'incompréhension.

Le manque d'information concerne également les listes d'attente. Les candidats concernés ignorent, par exemple, quel est leur rang sur la liste, donc si cela vaut la peine d'attendre, ou pas. Cette situation est extrêmement anxiogène.

En outre, nous partageons l'analyse selon laquelle le système n'est pas forcément bien adapté, dans sa forme actuelle, à la problématique des réorientations, ou à la situation des personnes souhaitant revenir étudier à l'université, après une période d'exercice professionnel. Ces candidats doivent-ils passer par une telle plateforme ? Quelle forme cela doit-il prendre ? Ces questions méritent d'être examinées.

Par ailleurs, il a été indiqué qu'un certain nombre de filières n'étaient pas accessibles via APB. Cette situation entraîne des difficultés pour les jeunes, qui ne disposent pas, au moment de faire leurs choix, d'une vision globale des possibilités qui s'offrent à eux. Elle renvoie, plus largement, à la problématique générale de l'orientation au lycée, qui nécessiterait d'avoir connaissance de l'ensemble des débouchés envisageables dans l'enseignement supérieur. Si certains interlocuteurs sont clairement visibles, on pense essentiellement à l'université, mais aussi aux classes préparatoires aux grandes écoles (CPGE), et aux BTS, souvent gérés par les lycées donc connus des lycéens, d'autres, en revanche, comme les IEP ou les Instituts en soins infirmiers, le sont moins, si bien que les candidats potentiellement intéressés ne savent pas toujours, d'une part, qu'ils existent, d'autre part, comment procéder pour s'y inscrire.

La difficulté tient aussi au fait que les jeunes bacheliers reçus, dans un premier temps, dans une filière via la plateforme, puis obtenant une place dans l'une des formations ne participant pas à APB ne libèrent pas automatiquement la place qu'ils s'étaient vu proposer par l'intermédiaire du portail, pour qu'un autre inscrit puisse en bénéficier. C'est principalement ce qui a dû se passer en Île-de-France l'an dernier pour la filière PACES : le nombre de candidats étant supérieur aux capacités d'accueil, ces dernières ont été augmentées artificiellement, mais le nombre d'inscrits s'est révélé finalement inférieur, en septembre, à la capacité prévue.

Le manque d'accompagnement est également un problème pour un jeune confronté à un choix qui va sans doute définir une grande partie de sa vie professionnelle, donc de sa vie tout court. Malgré la présence de guides sur la plateforme, le candidat se retrouve rapidement seul face à son ordinateur, à cocher des cases et à formuler des voeux, en ayant le sentiment qu'il n'aura pas de seconde chance, qu'il n'a pas le droit à l'erreur. Le choix effectué est souvent perçu comme définitif, ce qui est souvent vécu par les lycéens comme quelque chose d'assez violent.

Enfin, le dernier élément concerne le calendrier, qui peut poser problème. Ainsi, le fait d'obtenir les résultats pendant la période de révisions du baccalauréat peut être assez déstabilisant lorsque le voeu retenu n'est pas celui que le jeune avait fait figurer en tête de sa liste. Imaginez les conséquences psychologiques que cela peut avoir sur lui et sur la gestion de sa période de révisions. L'impact symbolique est également assez fort. Il est en effet assez problématique de se dire que l'on est reçu dans un établissement d'enseignement supérieur, alors même que l'on n'est pas encore titulaire du diplôme qui en ouvre en principe les portes, à savoir le baccalauréat.

Pour ce qui est de l'avenir, nous sommes relativement inquiets quant aux propositions avancées. Nous ne sommes absolument pas opposés à tout changement, dans la mesure où nous avons mesuré les limites de cette plateforme, mais nous interrogeons notamment sur la non hiérarchisation des voeux, et le surbooking que cela va entraîner de fait. Ceci risque fort de conduire à une explosion des files d'attente dans les différentes filières, puisque les dix voeux vont tous être placés dans la même file, au même niveau. Comment gérer cette situation ? Comment la place d'un candidat dans la file d'attente sera-t-elle définie ? Nous veillerons à ce que ce placement, et plus largement la future plateforme, ne soient pas des facteurs de reproduction sociale. Il s'agit, pour la FAGE, d'un point de vigilance extrêmement important, qui correspond à l'une de nos valeurs essentielles. Nous avons le sentiment que l'enseignement supérieur doit servir d'ascenseur social, notamment pour les catégories les plus défavorisées. Il ne faudrait pas que la nouvelle plateforme conduise à reproduire des inégalités.

Cette remarque m'incite à revenir sur un élément du précédent portail, sur lequel les voeux devaient se faire en priorité par académie, et non par proximité géographique avec les établissements. Dans une région comme l'Île-de-France, si l'on passait, par exemple, son baccalauréat dans l'académie de Créteil, il était, selon cette logique, très compliqué d'accéder à des universités situées dans Paris intra-muros, considérées comme plus prestigieuses. Les jeunes issus des lycées de banlieues se retrouvaient ainsi concentrés dans les universités de Bobigny ou de Villetaneuse, sans pouvoir en sortir, ce qui pose la question de la mixité sociale dans les universités, et de la concentration des difficultés dans certains établissements.

La parole est maintenant à M. Bernard Koehret, professeur émérite de l'Institut national polytechnique de Toulouse, concepteur du portail Admission Post bac. Nous vous proposons de revenir sur l'historique de l'évolution et de la mise en oeuvre de ce dispositif, ainsi que sur les dernières annonces faites à ce propos.

Je Appelée aujourd'hui à disparaître, l'idée d'APB est née en 2001. Elle faisait suite à une demande du ministère de disposer d'un site national de candidatures pour les classes préparatoires aux grandes écoles, afin de faire disparaître certains problèmes qui existaient auparavant. Sollicités par le ministère, nous nous sommes efforcés de répondre à cette question. La réflexion a évolué progressivement, pour aboutir en 2009 à la création d'APB et à son ouverture, en théorie, à toutes les formations de l'enseignement supérieur. L'objectif était évidemment de simplifier la vie des candidats, en évitant la multiplication des dossiers, et en les remplaçant par un dossier unique, transmis via internet, avec autant de transparence que possible. Ceci s'accompagnait d'un souci d'optimisation pour les établissements, et d'efficacité, grâce à l'utilisation d'un algorithme d'appariement entre les demandes des candidats, exprimées sous forme de voeux classés, et le classement effectué par les formations sélectives.

Ce système s'adressait à tous les jeunes de moins de 26 ans. La barrière d'âge était justifiée par la volonté de disposer de dossiers cohérents. Nous avions, en effet, estimé préférable de ne pas inclure dans le dispositif des candidats ayant auparavant, dans leur parcours, une longue période sans formation. Il s'agissait d'entrer en première année de l'enseignement supérieur, et non au-delà.

Cette vision était-elle partagée par la DGESIP, après consultation ?

Jusqu'en 2007, j'ai eu en charge à la fois la maîtrise d'oeuvre et la maîtrise d'ouvrage du projet. Les décisions étaient prises en relation avec certaines personnes de la DGESIP, mais basées en grande partie sur notre expérience en gestion des concours. Nous apportions, en principe, nous-mêmes les solutions, qui étaient généralement acceptées par la DGESIP.

À partir de 2007, ont été créés plusieurs comités, dont un comité de pilotage, mis en place par la DGESIP, avec la volonté claire de faire en sorte que les décisions soient prises par la DGESIP, après consultation de ce comité. Un deuxième comité incluait les services d'orientation de l'ensemble des rectorats, afin de permettre de fournir de l'information aux jeunes, au plus près des activités et des établissements.

Étaient concernés par APB les élèves de terminale, les étudiants en réorientation – les réorientations internes et les autres réorientations pouvant ou non être distinguées suivant les années – et des candidats de pays étrangers, passant leur baccalauréat dans les établissements français à l'étranger, ou postulant à des formations sélectives.

Toutes les formations de l'enseignement supérieur devaient, à l'origine, être présentes sur le portail. Certaines devaient obligatoirement y figurer, tandis que d'autres n'y étaient pas tenues. La décision appartenait alors à chaque établissement. La plupart des écoles d'ingénieurs étaient ainsi accessibles via APB, alors que rares étaient les écoles de commerce ayant fait ce choix. Par exemple, les IEP, Paris Dauphine et les formations d'infirmiers ne figuraient pas dans APB. La Cour des comptes, qui a produit un excellent rapport sur le dispositif Admission Post Bac, a ainsi indiqué que 15 % des formations du supérieur n'en faisaient pas partie.

Les candidats devaient initialement avoir la possibilité de formuler 36 voeux au maximum dans APB. La Conférence des présidents d'université (CPU) avait demandé que ce nombre soit revu à la baisse, pour être réduit à 6. Je rappelle que les décisions étaient prises après concertation du comité de pilotage. Or, au sein de ce comité, personne à part la CPU, n'était favorable à une diminution aussi considérable du nombre de candidatures possibles. L'ensemble des formations sélectives étaient, quant à elles, favorables au maintien des 36 candidatures. Le poids de la CPU a fait que la DGESIP a finalement fixé ce nombre à 24, avec une limitation par grandes familles. Un même jeune ne pouvait ainsi effectuer plus de 12 candidatures en licence ou en CPGE, le total ne dépassant bien évidemment pas 24. Il a été observé que les candidats formulaient en moyenne 7,6 voeux. Il convient de noter que les « pastilles vertes » ont systématiquement fait augmenter le nombre de voeux, puisque des candidats issus de terminales générales étaient contraints de formuler un voeu « licence », théoriquement à capacité illimitée, soit une candidature supplémentaire obligatoire.

Le calendrier a déjà été rappelé précédemment. J'insiste sur le fait que l'ordre des voeux des candidats pouvait être modifiés par les candidats eux-mêmes jusqu'au 31 mai, ce qui leur laissait une longue période d'adaptation propice à mûrir leur projet, élément très important pour leur devenir.

Quatre réponses possibles de la part du candidat aux propositions qui lui étaient faites avaient été prévues : « oui », « oui mais », « non mais », et « démission ». Le « oui mais » devait permettre de répondre positivement à une proposition, en espérant pouvoir progresser par la suite dans sa liste de voeux ordonnés.

APB a concerné 808 000 candidats en 2017, pour 654 000 places offertes. Il ne faut donc pas s'étonner que tout le monde n'ait pu finalement obtenir une place. Lors de la première vague, le 8 juin, 653 000 candidats ont obtenu une proposition : pour 60 % d'entre eux, celle-ci correspondait à leur premier voeu, ce qui est tout de même assez satisfaisant. 81 % des candidats ont obtenu une réponse positive à l'un de leurs trois premiers voeux et 70 % leur formation définitive, ce qui témoigne de l'efficacité de la procédure.

Cette efficacité est liée, tout d'abord, à un algorithme d'appariement, qui considère les voeux classés des candidats, et essaie, dans la mesure du possible, de donner satisfaction au premier voeu formulé par chacun, en fonction du nombre de places disponibles dans la formation demandée, et du classement des candidats effectué par les formations. Cet algorithme nécessite donc que les établissements classent. Or, il se trouve que les universités n'ont pas le droit d'effectuer un tel classement. Que faire ? Procéder à des tirages au sort, ce qui n'est évidemment pas la solution la plus satisfaisante.

En 2016 – 2017, plusieurs audits ont été réalisés. La Cour des comptes a notamment publié, en octobre 2017, un rapport qui donne une vision très complète d'APB. Je crois que l'on ne peut que souhaiter que ce document soit largement lu. L'Inspection générale de l'Éducation nationale et de la recherche a également effectué un audit du dispositif, tout comme Etalab, organisme du Premier ministre qui s'est lui aussi penché sur la question, et a même présenté APB, en juin 2017, comme un exemple des procédures de l'État. Enfin, la CNIL est aussi venue nous rendre visite.

Les difficultés résident principalement dans l'ordonnancement des voeux pour les licences et le tirage au sort. Une décision de la CNIL en date du 30 août 2017, indique que cette procédure est incorrecte, sans pour autant remettre en cause l'algorithme APB.

Enfin, il m'est difficile de m'exprimer sur le futur de ce dispositif, puisque je n'ai pas été sollicité pour participer à cette réflexion.

La parole est maintenant à M. Julien Grenet, chargé de recherche au CNRS, professeur associé à l'École d'économie de Paris, directeur adjoint de l'Institut des politiques publiques. Nous attendons de vous que vous évoquiez le rôle des grands principes des algorithmes dans la régulation des inscriptions scolaires, et plus particulièrement d'APB dans ce contexte.

Pour un chercheur comme moi, qui travaille sur les algorithmes d'affectation, la France présente une situation assez paradoxale. Elle apparaît, tout d'abord, comme un gros consommateur d'algorithmes dans le système éducatif. Ils sont utilisés pour affecter les élèves au lycée, les étudiants et les maîtres de conférence aux universités, les enseignants aux écoles. Elle est, par ailleurs, l'un des pays au monde où l'on travaille le plus sur ces algorithmes d'affectation. Mais il existe, paradoxalement, très peu d'interactions entre la recherche sur ces questions et les administrations publiques chargées de la mise en oeuvre de ces algorithmes. À mon sens, la réforme et les discussions en cours sur APB sont assez symptomatiques de cette coupure entre le monde académique et les sphères décisionnaires, puisque les chercheurs qui travaillent sur ces procédures d'affectation ont été très peu associés à la consultation en cours et n'ont, à ma connaissance, pas été impliqués dans les groupes de réflexion mis en place par le ministère. Les chercheurs n'ont, par ailleurs, pas accès aujourd'hui aux données anonymisées de la procédure Admission Post Bac, même si des efforts ont été effectués dans cette direction. Il existe donc très peu de recherches empiriques, qui auraient pourtant permis d'éclairer utilement le débat.

Pour quelles raisons les chercheurs n'ont-ils pas accès à ces données ? Ceci relève-t-il de la loi ou de l'administration ?

Il s'est agi, pendant longtemps, d'une question de volonté politique. Toutes les demandes émanant des chercheurs étaient refusées. Cette situation relève également, pour partie, d'éléments d'ordre technique, puisqu'il n'y a pas assez de personnel, dans les services statistiques du ministère, pour permettre aujourd'hui cette mise à disposition.

Cette situation contraste assez fortement avec ce que l'on observe dans d'autres pays, comme les États-Unis, où les chercheurs sont fortement impliqués dans les réformes en cours des procédures d'affectation des élèves aux écoles. Des équipes de Stanford et du MIT travaillent étroitement avec les administrations sur ces questions. Je remercie donc l'OPECST d'offrir cet espace de dialogue, qui existe assez peu aujourd'hui en France. Je pense, pourtant, que les recherches sur les algorithmes d'affectation peuvent vraiment contribuer à clarifier certains enjeux, et à éclairer la décision publique.

Le principal point sur lequel je souhaiterais insister est que les dysfonctionnements d'APB ne doivent pas faire conclure hâtivement que l'on pourrait se passer d'un algorithme d'affectation pour réguler les inscriptions dans les universités, et plus généralement dans l'enseignement supérieur. En réalité, les difficultés rencontrées par APB n'ont pas vraiment à voir avec l'utilisation de l'algorithme. Elles sont liées à deux phénomènes : l'opacité des critères utilisés pour classer les candidats dans les licences en tension, et la nature même de ces critères, qui a, d'une certaine manière, détruit les bonnes propriétés de l'algorithme. Il est donc regrettable que les polémiques suscitées autour d'APB aient créé un climat de défiance généralisé à l'encontre des algorithmes. En France, les algorithmes sont associés à l'idée de boîtes noires, de loterie, de jeux de dupes, alors qu'à l'origine ils ont été conçus pour améliorer l'efficacité des procédures d'inscription, les rendre plus simples, transparentes et favoriser une équité de traitement entre les candidats. Une grande partie des confusions existant dans le débat sur APB est due, en fait, à une méconnaissance de ce qu'est un algorithme d'affectation. On confond en effet bien souvent l'algorithme d'affectation lui-même avec un autre algorithme, clairement distinct du premier, utilisé pour classer les candidats.

La France n'est absolument pas un cas isolé. De nombreux pays utilisent des procédures centralisées, automatisées, s'appuyant sur un algorithme, pour affecter les étudiants dans l'enseignement supérieur. C'est le cas dans des pays aussi différents que la Suède, la Norvège, l'Allemagne, le Chili, la Tunisie, Taïwan ou l'Australie. L'une des raisons majeures poussant à adopter ces procédures centralisées automatisées est qu'elles présentent de nombreux avantages par rapport aux procédures dites décentralisées. Or, je partage, avec d'autres chercheurs, une inquiétude sur le fait que l'on est train de s'orienter vers le retour aux procédures décentralisées, à la fois inefficaces, inéquitables et très lentes, qui conduisaient à des files d'attente interminables, plaçaient les formations dans l'incertitude quant au nombre effectif d'étudiants qu'elles auraient à la rentrée, et créaient des problèmes stratégiques considérables, du point de vue des candidats et des formations, qui avaient une incitation à faire des offres très rapidement aux élèves. Le fonctionnement du marché était donc extrêmement inefficace.

Les procédures d'affectation centralisées permettent de résoudre en grande partie ces difficultés, en s'appuyant sur un algorithme qui accélère le processus, et présente plusieurs bonnes propriétés. On délègue les décisions d'affectation à l'algorithme, qui n'a besoin pour fonctionner que de trois paramètres : les capacités d'accueil, les voeux des candidats, et le classement des candidats par les formations. Muni de ces trois données, l'algorithme affecte.

Il existe plusieurs algorithmes. Tous n'ont pas de bonnes propriétés, et la recherche a précisément identifié les algorithmes qui présentaient les meilleures propriétés. Celui qui a aujourd'hui la faveur des chercheurs est l'algorithme dit d'acceptation différé, conçu en 1962 par deux mathématiciens américains, David Gale et Lloyd Shapley, et dont l'algorithme d'APB est l'une des versions. Cet algorithme permet deux choses très importantes relativement aux procédures d'inscription. Il présente tout d'abord l'avantage, dans une version améliorée qui n'est pas celle d'APB, de ne pas être manipulable. Autrement dit, la meilleure stratégie pour les étudiants consiste à classer sincèrement leurs voeux. Cette propriété est fondamentale, puisqu'elle permet de libérer les candidats de considérations stratégiques, pour se concentrer uniquement sur la question qui vaut : « quelle est la bonne formation pour moi ? » et non pas « ai-je intérêt à classer en premier un voeu pour lequel j'ai des chances d'être admis, par rapport à un voeu que je préfère ? ». La seconde propriété de cet algorithme est de respecter les priorités. Ceci signifie qu'il sera possible d'expliquer simplement et précisément à un candidat n'ayant pas obtenu une formation que ce refus est dû au fait que tous les candidats admis étaient mieux classés que lui. Il pourra le vérifier. Ceci constitue une condition très importante d'acceptabilité de la procédure. Au Chili, quand la procédure APB a été mise en place, cet algorithme a été choisi précisément pour permettre de publier, dans les journaux, la liste intégrale de tous les admis, dans toutes les universités, avec leurs points, afin que chacun puisse vérifier qu'il n'existait pas de corruption. Il s'agit d'une propriété puissante.

Ces composantes – voeux, classement, capacités d'accueil et algorithme – étaient toutes présentes dans APB. Pourquoi cela a-t-il toutefois dysfonctionné ?

Lorsque l'on doit procéder à l'appariement, on a le choix entre plusieurs « recettes », chacune présentant ses avantages et ses inconvénients. Vous nous expliquez, en l'occurrence, que l'algorithme de Shapley et Gale présente certains avantages, qui ont conduit à le préférer à d'autres possibles.

Effectivement.

Le problème dans APB venait des règles de priorité utilisées en licence, et de l'opacité qui les entouraient. Ces règles étaient au nombre de trois : priorité aux élèves de l'académie par rapport aux étudiants hors académie, prise en compte du rang du voeu, c'est-à-dire du classement effectué par le candidat, pour déterminer son ordre de priorité, et tirage au sort. Ces trois critères ont eu des effets désastreux pour l'acceptabilité de la procédure, et pour les propriétés de l'algorithme.

La priorité académique a créé des frontières socio-spatiales considérables dans l'algorithme, et renforcé le sentiment de discrimination de certains étudiants, résidant par exemple en proche banlieue, et se voyant fermer la porte de formations parisiennes.

La prise en compte du rang du voeu est également une très mauvaise idée. S'il faut que les candidats classent leurs voeux pour que l'algorithme fonctionne, il ne faut pas que cela intervienne comme critère de priorité, car cela induit les considérations stratégiques décrites précédemment : s'il convient de faire figurer en premier voeu une formation pour être sûr de l'obtenir, alors le candidat risque de s'autocensurer vis-à-vis de formations très demandées. Ainsi les candidats ayant classés sincèrement leurs voeux se retrouvaient pénalisés par l'algorithme.

Enfin, le tirage au sort a été, à juste titre, très critiqué. Ceci conduisait, en effet, à ce que des candidats soient acceptés dans des formations dans lesquelles ils n'avaient, objectivement, aucune chance de réussir, au détriment de candidats présentant un excellent dossier.

Pour conclure, je dirai que l'on aurait tort de jeter le bébé avec l'eau du bain. La procédure qui se dessine aujourd'hui nous inquiète énormément de ce point de vue, car si elle introduit des améliorations claires, comme le fait de reconnaître l'existence d'un classement des candidats par les formations, elle donne par ailleurs le sentiment d'abandonner l'idée même d'algorithme au profit d'une procédure en continu, qui nous paraît assez dangereuse.

À titre personnel, vos propos concernant la prise en compte de l'ordre du classement me rappellent des expériences de commissions de spécialistes qui, lorsqu'il s'agit de recruter, interrogent souvent les candidats sur la décision qu'ils prendraient s'ils avaient le choix entre plusieurs commissions. Cette question fausse toute la procédure. Quand des candidats me demandaient mon avis, je leur conseillais toujours de répondre aux personnes qui les interrogeaient qu'ils choisiraient leur institution en priorité, quitte à mentir. En effet, je considère que cette question n'a pas lieu d'être. Elle se pose toutefois au sein des universités, qui souhaitent recruter les candidats les plus motivés, c'est-à-dire ceux qui les ont faites figurer en tête de leur classement. Or, cela détruit, comme vous venez de le souligner, les propriétés de l'algorithme.

Madame Brigitte Plateau va malheureusement devoir nous quitter. Peut-être souhaitez-vous auparavant, madame la directrice générale, réagir à certains éléments qui viennent d'être dits.

J'ai trouvé les propos assez convergents, autour de l'idée que ce système fonctionnait globalement bien, mais devait évoluer intelligemment, pour aplanir certaines difficultés constatées. La période actuelle se caractérise par des changements forts et les structures de réflexion en place ne peuvent à l'évidence continuer de fonctionner à l'identique. Je puis toutefois vous assurer que l'État est d'accord pour poursuivre la concertation avec l'ensemble des acteurs, une fois passée la phase délicate d'élaboration de la loi.

J'ai entendu l'ensemble des remarques formulées. Je pense que nous sommes globalement d'accord. J'insiste sur le fait que si un algorithme d'affectation doit faire preuve de convergence et d'efficacité, nous nous situons dans un cas dans lequel la réglementation, l'esprit de la loi et la relation avec l'humain doivent aussi faire partie des éléments qui mènent à la décision du meilleur système pour l'orientation post bac. Il faut pouvoir trouver le bon compromis. C'est ce que nous sommes en train de chercher.

Nous allons conclure cette table ronde avec une intervention de M. Vincent Iehlé, professeur d'économie à l'université de Rouen-Normandie. Dans la mesure où vous avez effectué une thèse en mathématiques, et êtes membre du Centre de recherche en mathématiques de la décision (CEREMADE), nous vous proposons d'aborder la question des conséquences de certaines évolutions envisageables pour l'algorithme APB.

Merci de me donner la parole, et de laisser un espace d'expression aux universitaires qui travaillent sur la théorie du matching, champ disciplinaire englobant les questions de choix d'éducation, et de procédures d'affectation, et regroupe des économistes, des mathématiciens et des informaticiens.

Je voudrais tout d'abord m'associer complètement aux propos de M. Julien Grenet. Il existe un consensus très large dans la communauté universitaire concernant la manière de concevoir des procédures d'affectation. Nous disposons en effet aujourd'hui d'un certain nombre de certitudes rationnelles pour élaborer ces procédures et de retours d'expériences très importants, en France, où existe une longue tradition d'utilisation d'algorithmes, mais aussi dans d'autres pays n'ayant d'ailleurs pas nécessairement une tradition de centralisation, comme les États-Unis, où le mouvement d'utilisation de ces algorithmes est massif et continu.

Je souhaiterais dire quelques mots quant aux perspectives, au futur d'APB tel qu'il a été proposé dans le « plan étudiants », à la fin du mois d'octobre 2017. Je ne dispose pas encore de tous les détails concernant cette nouvelle procédure d'affectation, mais on peut déjà, en l'état, tirer quelques conclusions, et les universitaires français qui travaillent actuellement sur cette question sont assez inquiets.

Il s'agit d'une procédure d'affectation au fil de l'eau, assez naturelle, mais dont on explique d'emblée qu'elle ne se basera pas sur des voeux ordonnés. Comme l'a souligné M. Julien Grenet, sans voeux ordonnés, il ne peut y avoir d'algorithme d'affectation. Ce point, crucial, va déterminer toute la suite.

Cette procédure est néanmoins naturelle, dans la mesure où elle se fonde sur des vagues de propositions qui vont être faites aux candidats, ces derniers choisissant l'une d'elles, et renoncent à d'autres, leurs désistements s'effectuant au bénéfice d'autres candidats, qui se verront proposer ces formations, et ainsi de suite. Tel est le principe de base de cette procédure décentralisée.

Je souhaiterais à présent signaler quelques difficultés que cela pourrait engendrer. Cette procédure revient, pour ainsi dire, à répliquer ce que fait un algorithme, mais partiellement et très lentement, ce qui pose un certain nombre de problèmes. Le premier concerne l'efficacité du processus. Pour moi, le dispositif est mal défini, dans le sens où je n'ai aucune preuve que cette procédure, qui va prendre un certain temps, puisque que l'on devra attendre les réponses des candidats, puisse permettre de déterminer une affectation globale à la fin du calendrier, que je ne connais pas encore. Indépendamment de celui-ci, j'ai un sérieux doute quant à la définition correcte de l'affectation globale. Concrètement, ceci risque de produire, en fin de calendrier, un stock de candidats en attente de réponses qui tarderont à venir, avec un effet de congestion potentielle. Il me semble dommage de commencer une campagne en courant ce risque, qu'il faudra gérer le moment venu, selon des modalités que j'ignore.

Le deuxième point, très lié au premier, concerne la réduction du nombre de voeux de 24 à 10. Cette réduction vise, selon moi, à accélérer la procédure, en diminuant de ce fait le nombre de vagues proposées aux candidats. Or, le coût de cette réduction va être supporté par les élèves. La littérature économique indique que la diminution du nombre de voeux conduit à créer un problème de choix stratégique, à imposer des dilemmes aux élèves, qui vont devoir choisir entre une stratégie risquée : opter pour des filières sélectives, correspondant précisément à leur projet de formation, mais avec le risque de ne pas être affectés, et une stratégie non risquée, consistant à renoncer aux filières sélectives pour in fine être sûrs d'être affectés. Pour l'algorithme, le nombre ne pose aucun problème. On peut tout à fait fournir à un algorithme d'affectation des listes de voeux extrêmement longues, cela ne fait qu'ajouter des étapes de calcul, qui ne prendront que quelques secondes. Pour un algorithme d'affectation correctement conçu, la question de la longueur des listes de voeux n'est pas un élément décisif, et peut être réglée immédiatement.

Le troisième point, sans doute le plus important, rejoint certaines interventions précédentes. Il concerne le ressenti face à cette procédure. Essayons de faire l'exercice mental consistant à se projeter dans une classe de terminale de 35 élèves, au mois de mai. Les premières propositions d'affectation arrivent. Elles seront adressées aux bons candidats, qui seront apparus en haut des classements des établissements. Les très bons candidats vont ainsi recevoir non pas une, mais dix propositions, dans la mesure où ils seront bien classés dans toutes les filières demandées. Une partie de la classe va, en revanche, rester sans proposition, en attente des désistements des bons candidats. Les vagues de propositions vont ainsi se succéder. Il faut donc se figurer une classe coupée en deux, avec, d'un côté, les bons candidats, qui vont choisir leur filière, de l'autre les élèves dans l'attente. On imagine assez facilement les tensions que cela pourrait générer. Cela pourrait aussi créer des pressions, de la part des élèves en attente, sur les candidats en position de choisir, en particulier si les filières concernées sont internes à l'établissement : classe préparatoire ou BTS, adossés au lycée par exemple. Cette situation serait également extrêmement anxiogène, notamment pour les candidats en attente, qui vont au final être admis dans les filières par défaut, par le jeu des désistements. Elle ne créé pas, selon moi, un bon signal à envoyer à ces étudiants, qui ont toute leur place dans les universités et qu'il est dommage d'accueillir sous cette modalité. Lorsque l'on utilise un algorithme d'affectation cohérent, ce problème ne se pose pas, puisque le système envoie au plus une proposition à chaque candidat, et non pas dix, ne laisse, dans la mesure du possible, aucun candidat sans proposition, et envoie les propositions simultanément à tous les élèves, en début de calendrier, pour peu qu'il dispose des bons éléments pour cela.

J'aurais pu vous parler également de l'injustice face aux logements étudiants, les bons candidats disposant de davantage de temps pour trouver des logements, puisqu'ils auront connaissance de leur affectation plusieurs mois avant les autres.

Je prône, vous l'aurez compris, le retour d'un algorithme d'affectation dans la procédure. Il en est encore temps, et cela peut, à mon avis, s'effectuer selon diverses modalités. J'ai le sentiment que le ministère a peut-être péché par excès de zèle par rapport aux recommandations de la CNIL, qui demandait en fait surtout la fin de l'automatisation des classements de la part des universités, la fin du tirage au sort, pour être plus précis, ce qui a été fait. Or, le ministère a fait un pas en avant en supprimant également les voeux ordonnés et par là même l'algorithme d'affectation. Ceci n'était, de mon point de vue, pas nécessaire, et n'est, je l'espère, pas irrémédiable, pour le bien-être des élèves.

Il est dommage que la représentante du ministère ait dû nous quitter. En effet, huit des neuf intervenants de cette première table ronde ont exprimé plutôt des inquiétudes à l'égard de l'avenir, toutes s'adressant au ministère. Il est donc regrettable que ce dernier n'ait pas pu être présent jusqu'à l'issue des débats, afin de pouvoir répondre à ces sollicitations. Ceci ne saurait toutefois nous empêcher d'avoir des échanges sereins et constructifs.

Nous disposons, malheureusement, d'un espace de temps réduit pour les débats. Je vais proposer à mes collègues de s'exprimer, s'ils souhaitent poser des questions aux intervenants.

Je souhaiterais revenir sur la question du handicap, brièvement évoquée par M. Texier, qui a indiqué lors de son intervention que cet élément était pris en compte dans l'affectation des candidats. J'aimerais avoir quelques éclaircissements, par rapport à des cas particuliers. Il existe divers types de handicap. On pense généralement, en premier lieu, au handicap moteur, à divers degrés. Mais il existe aussi des étudiants autistes, qui peuvent être autonomes, et se déplacer pour suivre des formations normales.

Certains jeunes handicapés ont, par ailleurs, d'excellents résultats dans leurs études, mais sont contraints de rester chez eux pour suivre des formations en ligne. Leurs parents sont, dans ce cas, obligés de chercher par eux-mêmes tous les renseignements nécessaires. Ce type de situation est-il pris en compte dans le dispositif APB ? Existe-t-il un lien entre le ministère de l'enseignement et de la recherche et les organismes s'occupant du handicap ? Comment aider les parents à s'y retrouver ?

Le médiateur a préconisé, dans les propositions qu'il a formulées, l'harmonisation de la prise en compte du handicap dans le dispositif Admission Post Bac. En effet, plusieurs académies ont réuni des commissions médicales pour prioriser certains voeux d'élèves en situation de handicap, par rapport à d'autres, au regard de leur dossier, notamment sur des filières sélectives si ces candidats avaient été classés par les établissements qu'ils convoitaient. En revanche, d'autres académies n'ont pas pris en compte le handicap de cette manière. Notre intervention visait donc à harmoniser les pratiques dans ce domaine sur l'ensemble du territoire.

L'académie de Versailles a effectivement mis en place des commissions d'affectation qui priorisent, via APB, des candidats en situation de handicap. Nous déplorons toutefois le manque de transfert d'informations vers les universités, qui ne découvrent bien souvent la situation qu'à la rentrée, alors qu'elles disposent de missions handicap, qui auraient pu préparer l'arrivée et l'intégration de ces étudiants, notamment en cas de handicap moteur lourd, pouvant nécessiter un certain temps d'aménagement. Il faudrait que le suivi de ces candidats soit amélioré dans le cadre même de la procédure.

Le déficit d'information est effectivement un élément majeur. Je pense notamment à la situation d'un étudiant handicapé du Lot, qui a été affecté à l'université de Paris, alors qu'il réside à Figeac, c'est-à-dire non loin de l'académie de Toulouse.

Je souhaiterais réagir aux interventions et témoigner de mon expérience, puisque j'étais, il y a encore un mois et demi, professeur en classe préparatoire. J'ai tout d'abord l'impression que l'on remplace l'algorithme de choix APB par un algorithme de temps. Je m'interroge vraiment sur la réponse qui devra être faite par les élèves de terminale, dès lors qu'ils recevront deux réponses positives. Faut-il privilégier le facteur temps ? S'il est évident que les meilleurs élèves recevront rapidement de nombreuses réponses, comment les moins bons élèves vont-ils se déterminer ? Selon quel timing ?

Il a été beaucoup question précédemment du risque de pression sur les élèves. Je tiens à souligner qu'elle est bien moindre que celle que l'on a pu connaître avant APB, à une époque où l'on n'avait droit qu'à trois voeux en classe préparatoire, où l'on attendait de recevoir dans sa boîte à lettres le courrier apportant, ou pas, la bonne nouvelle. À l'inverse, je pense que la possibilité de formuler 36 voeux était totalement grotesque. Le fait d'attendre les résultats des affectations pendant les révisions ou les épreuves du baccalauréat est certes facteur de pression pour les lycéens. Mais ils seront de toute façon confrontés au stress, quelques mois plus tard, puis certainement au cours de leur vie professionnelle. En revanche, personne n'a évoqué la pression subie par les « petites » classes préparatoires qui, en province notamment, vont elles aussi attendre les réponses des élèves. Compte tenu du timing, les étudiants ne vont en effet pas donner une suite favorable aux propositions de ces « petites » formations. Les classes préparatoires prestigieuses, à commencer par les classes parisiennes, vont être remplies très vite, contrairement aux autres, qui vont devoir attendre que l'effectif se constitue. Or, on sait qu'en-deçà de 10 ou 15 élèves, une classe peut être menacée de fermeture.

Merci de ces différentes interventions très riches. Je suis député du Rhône, mais aussi enseignant – chercheur et vice-président d'université, en disponibilité. Je connais donc un peu ces questions. Mon expérience passée me pousse à souligner qu'il ne faut pas oublier que, malgré les évolutions qu'a pu apporter APB, 30 à 40 % des jeunes formulaient leurs voeux au dernier moment, voire le dernier jour.

Par rapport à la suite, il semblerait que la piste privilégiée consiste à mélanger une procédure incluant un algorithme et une intervention humaine, à travers le rôle des acteurs de l'enseignement secondaire et supérieur. Je voudrais savoir comment les différents acteurs de ce processus envisagent ce rôle, aussi bien du côté des CIO que des services universitaires d'information et d'orientation.

Disposez-vous, en outre, d'informations sur le nombre de formations qui ne figuraient pas dans APB ?

Je vous propose d'entendre les autres questions, avant de laisser un temps pour des réponses d'ensemble.

Je tiens, en préambule, à indiquer que je suis favorable à l'utilisation d'un algorithme d'affectation, qui me semble aller dans le bon sens. Ma principale interrogation concerne la transparence du code source. Prenez le cas particulier des Français de l'étranger, c'est-à-dire des lycéens venus de l'Agence pour l'enseignement français à l'étranger (AEFE) : comment les élèves issus de ce réseau AEFE sont-ils traités dans le code source ? Je ne comprends pas pourquoi ceci n'est pas transparent, alors même que l'algorithme est censé simplement mettre en oeuvre la loi. La loi est connue de tous, le code source devrait donc l'être également.

Il me semble que les difficultés rencontrées dans APB ont été les révélateurs des problèmes de la loi : c'est parce que le texte législatif est mal conçu que le logiciel appliquant parfaitement la loi révèle ses faiblesses. Le procès fait à APB est donc un faux procès. Il serait plus juste de s'en prendre à la loi elle-même.

Toujours au sujet de l'AEFE et des lycéens français à l'étranger, je souhaiterais souligner que la partie online du processus constitue une avancée très importante. Lorsque l'on est élève du lycée français de Tokyo ou de la côte ouest des États-Unis, il existe un problème de décalage horaire pour être en lien direct avec la France. Certains pays, en Afrique notamment, connaissent par ailleurs des problèmes avec l'acheminement du courrier. Le passage à des procédures en ligne est donc très avantageux pour les Français de l'étranger.

Je souhaiterais enfin souligner la nécessité de beaucoup communiquer sur le nouveau logiciel, en n'oubliant pas les Français de l'étranger.

Enfin, la sélection réalisée exclusivement par logiciel revêt une dimension un peu froide. Peut-être existe-t-il des cas pour lesquels il serait intéressant de pouvoir entendre les élèves, pour qu'ils puissent défendre leur projet à l'oral, dans le cas par exemple d'une hésitation de l'établissement entre deux candidats. Intégrer une part d'humain dans le dispositif pourrait alors être favorable.

Je n'ai moi non plus aucun doute quant au principe de l'algorithme, dont je pense qu'il cristallise peut-être des mécontentements auparavant disséminés sur l'ensemble du territoire, et envers différents humains.

Ma question concerne la hiérarchisation des voeux. À titre personnel, je considère que cette hiérarchisation est importante. Dans une allocation entre l'offre et la demande, la priorité donnée par le demandeur est en effet un élément central. J'ai toutefois cru percevoir que cela induisait des risques de classement stratégique, sans vraiment en comprendre les conséquences concrètes. Pourriez-vous préciser ce point ?

Le deuxième point de mon intervention concerne la capacité à faire évoluer le système, avec une gouvernance et davantage de transparence. Je rejoins mon collègue sur la nécessité de publier le code source, ou a minima des données anonymisées en open data, ce qui permettrait aux chercheurs et aux associations d'étudiants de contribuer, en proposant d'éventuelles améliorations. Merci.

J'attends des différents orateurs des réponses extrêmement brèves. La parole est à M. Iehlé.

Je vais répondre partiellement à la première question concernant les attentes des établissements, à travers l'exemple évoqué d'une classe préparatoire. Il s'agit d'un point très important, pour lequel je n'ai pas vraiment de réponse. Je crois qu'il est effectivement important de savoir si l'on attend des établissements qu'ils mettent en place une cellule de veille pendant tout le calendrier, afin de gérer les admissions et les désistements au fur et à mesure, ou si, comme auparavant, on délègue cette mission à la plateforme, à laquelle il revient, à partir du classement fourni par les établissements, de faire des propositions aux différents candidats. Il me semble important de parvenir à clarifier ce point.

La hiérarchisation des voeux est nécessaire pour que l'algorithme puisse fonctionner, et ne pose pas de problème en elle-même. La difficulté réside dans le fait qu'il ne faut pas que la manière dont le candidat classe ses voeux soit utilisée par les formations pour classer elles-mêmes les candidats. Par exemple, les classes préparatoires n'ont pas connaissance du classement effectué par les élèves, et n'utilisent pas ce critère, ce qui est une très bonne chose. Le fait que les formations aient accès à cette information induirait des comportements stratégiques qui viendraient annihiler les bonnes propriétés du dispositif. Ce critère est donc à bannir des données mises à disposition des établissements pour classer les candidats. Pour autant, il est indispensable de conserver une hiérarchisation des voeux.

Pourquoi ce défaut, ce biais, n'a-t-il pas été identifié et pris en compte plus tôt par la structure ?

Il a été identifié, mais malheureusement, il est indiqué dans la loi que l'on doit tenir compte des préférences des candidats. Ceci ne signifie toutefois pas, ainsi que cela a été fort bien souligné dans le rapport de la Cour des comptes, qu'il faille nécessairement considérer l'ordre des voeux pour classer les candidats en licence. Les préférences sont, de toute façon, automatiquement prises en compte par l'algorithme, puisque l'on tente de donner satisfaction au premier voeu du candidat. Il ne fallait donc surtout pas faire intervenir cet élément dans le classement des candidats à une licence. Or, le ministère, la DGESIP en l'occurrence, a souhaité, à la demande de la CPU, que ce critère soit pris en considération, au motif qu'il était écrit dans la loi qu'il fallait tenir compte des préférences des candidats. En tant que techniciens, nous avions alors signalé qu'il s'agissait d'une erreur.

Merci pour ces propos très clairs et extrêmement révélateurs. Y-a-t-il d'autres réactions et réponses ?

Je suis quelque peu gêné dans mes réactions, dans la mesure où, bien que n'intervenant pas ici à ce titre, j'occupe de nouvelles fonctions au sein de la DGESIP. Je souhaiterais revenir sur un élément qui est apparu en filigrane dans plusieurs interventions, à savoir que l'absence de hiérarchisation et le fait que le candidat devra se prononcer dès lors qu'il aura reçu une réponse positive à deux de ses voeux se dérouleront lors d'une phase dans laquelle l'élève sera seul, alors que le classement des voeux, qui pouvait être effectué très tardivement, pouvait se faire avec l'appui et les conseils des services d'orientation de son établissement. Le choix s'effectuera désormais seul.

Le système APB proposait deux types d'accompagnement : un travail technique d'explicitation de la procédure, qui ne pouvait être fait qu'auprès des personnes qui nous sollicitaient (problème qui va perdurer) et un accompagnement en collaboration avec les CIO et les professeurs principaux. Toutes les universités ont, par le biais de leur service d'aide à l'orientation, mis en place des partenariats avec les lycées. Des dispositifs sont en train de s'élaborer. Malheureusement, nous ne disposons encore que d'assez peu d'informations sur la prochaine procédure et sommes très inquiets vis-à-vis de cet accompagnement. Nous n'avons que très peu d'éléments à communiquer aux différents acteurs, alors même que le Salon de l'éducation se tient en ce moment même. Nous nous trouvons par conséquent assez démunis. Nous sommes toutefois mobilisés et pouvons toujours informer sur nos formations et aider les jeunes à faire leurs choix.

Le fait de hiérarchiser ses voeux était par ailleurs important, puisque cela incitait les jeunes à réfléchir à leur parcours, en amont. Reculer le moment du choix définitif au fil de l'eau ne nous paraît pas nécessairement la meilleure solution en termes d'orientation.

La pression sur les élèves existait déjà précédemment, de la part des professeurs principaux ou des familles. Nous l'avons vécue. Mais elle risque d'être encore plus prégnante, car il faudra répondre dans l'instant, sans disposer forcément d'un accompagnement adéquat.

Je souhaiterais revenir sur la question de la transparence et de la publication du code et des données. Il avait été prévu, suite à la visite d'Etalab, que cet organisme organise un hackathon en septembre 2017, qui n'a finalement pas eu lieu, ce que nous ne pouvons que regretter. J'imagine que ceci se fera, un jour ou l'autre, si toutefois il reste un algorithme dans le dispositif. Dans la situation actuelle, on ne peut plus rien faire, dans la mesure où l'équipe est complètement saturée avec les modifications à apporter au système pour la prochaine campagne, qui commence en janvier 2018.

Le calendrier est effectivement très serré, mais l'on n'a pas l'impression pour autant, à vous écouter, que l'on ait atteint un consensus technique sur l'ensemble du cahier des charges et de la procédure à mettre en oeuvre. La parole est à M. Texier.

Je voudrais revenir sur le cas des lycéens ayant passé le baccalauréat à l'étranger, dans le réseau de l'AEFE. Ils bénéficiaient jusqu'à présent d'une priorisation, voire même d'un quota dans certaines académies, dans la mesure où ils n'étaient pas inclus dans l'algorithme, car ne pouvant pas être rattachés à une académie donnée. La question se pose effectivement de ces bacs passés dans le réseau de l'AEFE, ou de la Mission laïque à l'étranger. Il est très important, et la médiation y veillera, que ces jeunes retrouvent des conditions normales d'insertion dans l'enseignement supérieur français.

Jusqu'en 2016, les élèves issus du réseau AEFE étaient prioritaires, avec des quotas. En 2017, ils étaient, en revanche, traités comme tout autre candidat issu de n'importe quelle académie. Il en va de même pour les candidats d'Outremer, qui ne disposent pas dans leur propre territoire de la formation universitaire souhaitée, et qui étaient considérés à égalité avec les candidats de n'importe quelle autre académie pour une formation à l'extérieur.

Merci encore à tous les intervenants. Cette première table ronde s'est concentrée sur APB, mais en ouvrant, au-delà, sur d'autres problèmes. Il est ainsi apparu que l'algorithme pouvait être le révélateur de problèmes contenus dans la loi elle-même. A également été souligné le fait que les chaînes de décisions et de responsabilités étaient parfois complexes, et que les aspects à prendre en compte étaient nombreux. L'accent a, en outre, été mis sur l'importance de la transparence et de l'acceptabilité, ainsi que sur les questions de calendrier, d'impact psychologique, de suivi et d'accompagnement, autant d'éléments qui concernent plus globalement, au-delà d'APB, la place de la décision algorithmique dans l'action publique. C'est précisément de cet aspect dont il va être question dans la seconde table ronde.

Je remercie les parlementaires présents de leur assiduité et de leur implication, ainsi que nos invités pour leurs témoignages et la valeur ajoutée qu'ils apportent à ces réflexions.

Après une première table ronde ayant permis, à partir d'un sujet ponctuel, d'aborder des questions globales, le second temps fort de cette ambitieuse matinée va être orienté vers les problèmes généraux posés par la mise en oeuvre des algorithmes pour l'action publique, et, pour l'essentiel, au sein de l'administration de l'État.

Les divers témoignages que nous allons entendre nous permettront d'appréhender cette question sous différents angles. Ainsi, M. Simon Chignard nous proposera, au titre de la mission Etalab, une réflexion d'ensemble, plus stratégique, de l'État, au travers de la vision de cette direction interministérielle.

Suivront deux exemples passionnants. Le premier concerne des applications médicales et le rôle des algorithmes au service de l'action publique sur le problème majeur de l'affectation des greffons pour les transplantations. La direction générale des finances publiques – DGFiP – viendra ensuite nous parler de la mise en place de son algorithme, qui permet notamment de calculer la fiscalité directe due par 37 millions de ménages.

Nous avons également la chance de bénéficier, dans des compétences différentes, de la présence de généralistes de la réflexion éthique et morale sur la mise en oeuvre de grands systèmes numériques engageant, grâce à des algorithmes, des données de masse, pour l'action publique.

Ces interventions et les débats qui s'ensuivront en fin de séance s'annoncent véritablement passionnants. Je demanderai simplement aux différents orateurs, par souci de respect mutuel, d'être les plus brefs possible, afin que chacun puisse s'exprimer.

C'est un plaisir que de donner la parole, pour ouvrir cette table ronde, à notre premier intervenant, M. Simon Chignard.

Monsieur le président, monsieur le premier vice-président, mesdames et messieurs les parlementaires.

Je travaille au sein de la mission Etalab, qui est l'un des services du Premier ministre, et plus particulièrement au sein de la direction interministérielle du numérique.

Je vous remercie beaucoup pour votre invitation, notamment pour la possibilité qui m'est offerte de m'exprimer en ouverture de cette seconde table ronde, pour faire la liaison avec la discussion qui portait sur APB.

En début d'année 2017, la mission Etalab a été mandatée par l'ancien secrétaire d'État à l'enseignement supérieur et à la recherche, M. Thierry Mandon, pour analyser les conditions d'ouverture du système Admission Post Bac. À cette occasion, nous avons étudié à la fois le code source et l'environnement dans lequel fonctionne APB, afin d'être en mesure de formuler des recommandations à l'attention de l'Exécutif sur ce sujet. Notre rapport a été rendu en avril 2017. Il apparaît important de le préciser, dans la mesure où il ne vous aura pas échappé qu'entre cette date et aujourd'hui, le Gouvernement a changé.

Qu'avons-nous observé, en étudiant APB, qui pourrait nous apporter matière à une réflexion plus globale sur les algorithmes publics ? J'ai entendu, lors de la première table ronde, des éléments très intéressants, qui nous montrent que le dispositif APB, dans sa configuration 2016 – 2017, est un système plutôt efficace. Il s'agit effectivement d'un aspect que nous avions également pu remarquer. Toutefois, ce système est aussi efficace qu'incompréhensible. Ce point mérite d'être souligné, notamment dans la mesure où nous allons le retrouver dans d'autres problématiques de l'action publique impliquant des algorithmes. La question est alors de savoir quelle part l'on est prêt, socialement, à accepter, entre un système qui fonctionne bien, mais que l'on a du mal à expliquer, et un dispositif qui fonctionne moins bien, mais que l'on a beaucoup plus de facilité à expliquer.

APB est un dispositif efficace, permettant de faire converger l'offre et la demande de manière beaucoup plus rapide qu'auparavant. Le rapport de la Cour des comptes évoque un différentiel de trois mois par rapport au système sans algorithme d'affectation utilisé au Royaume-Uni. Ces trois mois gagnés représentent surtout une moindre attente pour les candidats.

Ce système est cependant, ainsi que le mentionnait un intervenant précédent, totalement incompréhensible. Ceci est largement lié à l'opacité du dispositif qui génère, notamment, des questions sur son périmètre même. Je ne reviens pas sur la question du tirage au sort, qui constitue très clairement le talon d'Achille de la plateforme. On pourrait ainsi dire du tirage au sort dans APB, en paraphrasant La Fontaine qui écrivait dans l'une de ses fables : « ils ne mourraient pas tous, mais tous étaient touchés », que « quelques-uns étaient tirés au sort, mais tous étaient touchés ». En effet, même si seule une faible proportion de personnes est concernée par le tirage au sort, cela mine la confiance dans l'ensemble du dispositif. Peut-être y a-t-il là un enseignement à tirer pour demain, pour d'autres systèmes algorithmiques que l'on pourrait prévoir.

Quel est le pourcentage de candidats concernés par le tirage au sort ?

De mémoire, ce nombre est de l'ordre de 3 000 à 6 000 personnes, sur 850 000 candidats.

Le code source d'APB pallie en outre l'absence de réglementation, et le manque d'évolution de la loi. C'est aussi un enjeu pour le futur, que de mieux faire converger la loi et les traitements informatiques.

Cet aspect me permet de souligner qu'il existe une différence fondamentale entre le fait d'écrire une loi et celui de créer un logiciel. Le législateur, le juriste, et l'administration, adorent et appellent l'interprétation. On apprécie que le texte ne soit pas très précis, puisque cela permet ainsi de traiter une multitude de cas concrets. Prenons un exemple simple dans APB, en l'occurrence la question du « domicile du candidat ». Comment interpréter cette expression ? Cela renvoie-t-il à son académie, à sa commune de résidence, à son département, à sa région, au nombre de kilomètres qui le séparent de l'université la plus proche, voire pourquoi pas au temps de transport, en mode individuel ou collectif ? Vous constatez, à partir de cet exemple a priori simple, le nombre de questions que cela soulevées.

À la différence du législateur ou du juriste, le codeur informatique n'apprécie pas l'interprétation. La machine n'aime pas le flou. Tout ceci est évidemment à relativiser dans le cadre de dispositifs apprenants, et d'intelligence artificielle, qui constituent un tout autre sujet.

Très clairement, ceci pose une difficulté fondamentale : on n'écrit pas un code source comme on écrit le code dans la loi. Si le code fait loi – je fais ici allusion à la déclaration, voici dix-sept ans, de Lawrence Lessig, professeur de droit à Harvard : « code is law » –, alors il faut qu'il soit rendu public. Ceci semble évident. Personne n'imagine, dans un pays jouissant d'une tradition démocratique comme la France, que l'on puisse vous arrêter dans la rue en vous accusant d'avoir enfreint la loi, sans vous indiquer à quelle loi il est fait référence. De la même manière, on ne peut concevoir qu'un système algorithmique prenne une décision sans qu'il soit possible d'en connaître les modalités d'élaboration.

Il n'existe pas de bonne solution dans ce domaine. En revanche, il y aura un équilibre à trouver et un choix à faire entre, d'une part, disposer d'un système efficace et explicable, et, d'autre part, le degré de convergence souhaité entre droit écrit, droit public, et code informatique. Je laisserai la direction générale des finances publiques nous parler d'un autre retour d'expérience, dans un contexte très différent, qui montre qu'il est tout à fait possible de faire converger droit et informatique, notamment via l'usage de la doctrine. Mais il s'agit d'un autre sujet.

La mission Etalab a travaillé pour essayer de comprendre de quelle façon l'ouverture permettait d'améliorer le système. Je pense ainsi que le fait d'ouvrir le code est non seulement prévu dans la loi pour une République numérique, promulguée en octobre 2016, mais constitue aussi un facteur nécessaire d'amélioration du fonctionnement de la plateforme.

J'en viens, en quelques mots, à la généralisation de cette réflexion. En 2015, le sociologue Dominique Cardon a publié un ouvrage intitulé À quoi rêvent les algorithmes ? Il s'agit d'une bonne question, qui n'est toutefois pas celle que nous avons entrepris de traiter au sein d'Etalab. À défaut de savoir à quoi ils rêvent, nous nous sommes focalisés sur l'utilité des algorithmes.

On voit très clairement aujourd'hui que les algorithmes sont utilisés dans de très nombreux domaines de l'action publique, dans lesquels ils aident à prendre des décisions. Celles-ci concernent, par exemple, les individus : calcul des impôts, des aides personnalisées au logement (APL), éligibilité à certaines aides, etc. D'autres sont plus subtiles. Ainsi, certaines collectivités recourent à des algorithmes pour prioriser les dossiers de demande de logement social. L'administration utilise également beaucoup d'algorithmes pour gérer ses ressources humaines : la gestion de l'avancement, de la mobilité ou des traitements et salaires fait ainsi massivement appel à des algorithmes. Ces derniers servent aussi à prendre des décisions concernant des personnes morales, par exemple dans le domaine de la lutte contre la fraude sociale et fiscale. L'administration emploie aussi des algorithmes pour prendre des décisions vis-à-vis d'autres administrations, comme le calcul par l'État de la dotation globale de fonctionnement des collectivités, qui s'apparente à un algorithme. En l'occurrence, la procédure n'est ni transparente, ni explicite, ni toujours compréhensible pour les personnes concernés.

Par conséquent, il nous semble que les algorithmes sont des outils puissants et précieux, permettant parfois de factualiser la décision, ce qui constitue un élément important. Ils apportent aussi un gain de temps, comme l'exemple de la refonte d'APB le montrera. Ils sont également gage de performance et de finesse dans la décision. Il faut sortir de l'idée que l'humain est la garantie absolue contre de nombreux biais que l'on n'aurait pu évaluer. L'algorithme, s'il est clair, transparent, explicite et redevable, peut en effet constituer un appui sérieux. L'humain aussi possède des biais, peut commettre des erreurs de jugement, et n'est pas toujours en mesure d'expliciter les raisons de ses décisions.

Notre approche, au sein de la mission Etalab et de la DINSIC, consiste à proposer une démarche de poids et contrepoids, de checks and balances, pour reprendre une notion anglo-saxonne propre au domaine des institutions : celle-ci consiste à considérer que l'usage des algorithmes est très clairement une opportunité pour l'action publique, sous réserve que des principes de responsabilité soient appliqués. Nous avons ainsi dégagé trois principes susceptibles de rendre les algorithmes responsables. Ces principes ne sont pas exclusifs l'un de l'autre et devraient être appliqués dès la conception et tout au long de la vie du système.

Le premier est le principe de transparence : un système responsable doit viser la transparence dans toutes ses dimensions. Ceci concerne notamment l'ouverture des codes sources, des données et la publication des objectifs. M. Bernard Koehret a mentionné précédemment le fait que le hackaton, prévu à l'origine pour septembre 2017, n'avait pas eu lieu. Ceci résulte effectivement d'une décision du ministère de ne pas ouvrir, à ce stade, le code source.

Le second critère, moins souvent explicité, mais tout aussi essentiel, renvoie au fait qu'un système responsable doit être explicable, a fortiori lorsqu'il intervient dans la sphère publique. Il faut pouvoir expliquer aux individus concernés, et plus globalement à la société, de manière complète, fidèle et compréhensible, ce que fait vraiment le système. Ceci a constitué un vrai sujet dans APB. Les fantasmes induits ont été à la hauteur de l'opacité du dispositif, qui générait une grande incompréhension sur le fonctionnement du logiciel. Par exemple, il est arrivé que certains lycéens se plaignent en ligne qu'APB leur ait refusé l'entrée dans telle ou telle classe préparatoire. Or, la décision ne relève pas d'APB, mais d'un humain, par exemple un responsable de filière, qui a décidé de choisir plutôt d'autres candidats.

La Déclaration des droits de l'homme et du citoyen comporte enfin un principe, consistant à rendre des comptes. Tout agent de l'administration doit rendre compte de son action aux citoyens. Un système équivalent pourrait être développé pour les algorithmes de la puissance publique, consistant à dire qu'un système responsable doit pouvoir rendre des comptes, c'est-à-dire non seulement être transparent et explicable, mais aussi permettre l'établissement d'un dialogue avec les concepteurs et exploitants des algorithmes. Tout citoyen devrait avoir la possibilité d'exercer un droit de recours, et de faire évaluer les impacts de l'utilisation des algorithmes de manière régulière, pas uniquement au moment où une nouvelle solution est lancée.

J'espère être parvenu, en ouverture de cette seconde table ronde, à établir le lien entre APB et d'autres problématiques d'algorithmes publics.

Je me tourne à présent vers le professeur Olivier Bastien et le docteur Christian Jacquelinet, pour leur demander notamment de nous faire partager leur expérience en matière d'attribution de greffons.

La loi encadre de façon très stricte l'attribution des organes. Il s'agit d'ailleurs de l'une des missions régaliennes de l'Agence de la biomédecine. Nous allons tenter de vous montrer comment ces étapes ont été construites, et comment nous sommes parvenus à avancer sur ce sujet.

La loi régissant ce domaine est réexaminée périodiquement, dans le cadre de la révision des lois de bioéthique, dont la prochaine doit intervenir en 2018. Elle avait précisé initialement, ce qui correspondait à la construction du modèle historique de France Transplant, à l'époque pionnière, voici vingt-cinq ans, que les organes étaient attribués de façon locale, régionale et nationale. Or, vous n'êtes pas sans savoir que la notion de région elle-même a considérablement évolué depuis lors.

Comment une décision d'attribution d'un greffon se construit-elle ? On tient compte tout d'abord de la compatibilité entre donneur et receveur, du groupe sanguin, mais aussi de l'immuno-histocompatibilité, avec un système dit HLA (human leukocyte antigen) très complexe. Lorsque l'on entre dans la granulosité de ce système, on ne se situe plus dans des probabilités de un pour quatre, comme avec les groupes sanguins, mais de un sur un million. Une aide à la décision s'avère donc nécessaire.

Le deuxième élément de la décision est l'ischémie : lorsque l'organe est prélevé, il n'est plus vascularisé, ni oxygéné. Le temps est donc contraint. Se posent alors des problèmes de transport, de logistique. La loi n'a pas prévu que le transport soit de la compétence de l'Agence de la biomédecine, alors qu'elle y est très clairement impliquée. Un rapport de l'Inspection générale des affaires sociales (IGAS) sur cette problématique du transport des organes se trouve d'ailleurs actuellement au ministère. Se pose également la question de la conservation, voire des modalités de banking futures.

Par ailleurs, il existe, dans ce domaine, une problématique assez particulière liée à l'âge. On peut en effet comprendre qu'un receveur jeune veuille bénéficier d'un greffon jeune, à la durée de vie plus longue, afin d'éviter la nécessité d'une retransplantation rapide. Se posent aussi des problèmes de spécificités d'organe, en termes de taille, d'anatomie.

Il existe surtout des problèmes de bénéfice risque. On est ainsi capable, avec la médecine prédictive, de calculer un risque pour le donneur et pour le receveur. Dans le cadre d'une réflexion éthique, la notion d'utilitarisme n'entre pas en jeu, mais le but est bien, dans une situation de ressources limitées, d'attribuer chaque greffon au receveur le mieux adapté, afin d'obtenir les meilleurs résultats possibles.

En médecine, il existe toujours la possibilité d'être confronté à un cas exceptionnel, pour lequel il sera possible de demander une dérogation à un expert. Une réflexion éthique est menée à chaque étape, en termes de disparités entre la métropole, les différents départements et l'outremer, et d'accès à la greffe, ainsi que sur les problèmes de société.

S'agissant de la construction d'une décision, la particularité du domaine de la transplantation réside, par rapport à un sujet comme celui de l'Admission Post Bac, dans le nombre relativement faible de candidats, soit seulement 24 000 patients, en regard des 850 000 élèves évoqués précédemment. Ce nombre est toutefois déjà énorme, sachant notamment que les personnes concernées peuvent être dans une situation de risque vital. Le sujet est donc particulièrement sensible.

Une autre spécificité tient au fait que le choix de l'attribution des greffons se fait souvent de nuit. Il est en outre demandé aux équipes de donner une réponse à l'Agence de la biomédecine en vingt minutes maximum, en raison de l'ischémie.

Dans un tel contexte, faisant intervenir autant de paramètres, une aide à la décision est clairement essentielle pour effectuer le meilleur choix.

Le dispositif a évolué en plusieurs étapes. Au départ, il s'agissait essentiellement d'attribuer un greffon à un centre de greffe, au sein duquel les médecins faisaient leur choix comme ils le pouvaient. On a très rapidement compris les limites de ce système. Ceci a donc conduit à déterminer un certain nombre de priorités, définies dans des arrêtés successifs, indiquant par exemple qu'un patient en attente d'une double greffe était prioritaire sur un patient attendant une greffe unique, ou encore qu'un malade présentant un risque vital à court terme était prioritaire sur un patient présentant un risque moindre, etc.

Nous sommes à présent entrés dans une troisième phase, celle de l'optimisation de l'allocation, avec un certain nombre de scores, en tenant compte d'un contexte de pénurie dynamique. L'illustration la plus claire en est certainement la transplantation chez l'enfant. En France, certains mois, on peut compter une vingtaine ou une trentaine d'enfants en attente de greffe en urgence, et disposer, ou pas, des greffons nécessaires, et, à d'autres moments, avoir plusieurs greffons disponibles, sans receveur. Ceci a conduit à envisager la possibilité d'un élargissement des échanges au niveau européen, en partie réalisé.

Lorsque nous avons mis en place la méthodologie avec l'Agence de la biomédecine, nous avons fait des spécifications, élaboré le score, puis effectué des simulations de son impact sur nos cohortes, puisque nous disposons d'un registre de tous les patients greffés les années précédentes. Nous avons ensuite mis le système en oeuvre, avant d'en évaluer les résultats. Chaque étape est validée à la fois par des groupes techniques et par un conseil médical et scientifique, puis présentée aux associations de patients, auxquelles nous expliquons ensuite l'impact et les résultats. Aucun score n'est mis en oeuvre avant d'avoir reçu un avis formel favorable du conseil d'orientation de l'Agence de la biomédecine, qui est un mixte entre un conseil éthique, avec des représentants de la Ligue des droits de l'Homme ou du Conseil consultatif national d'éthique, et un conseil sociétal, avec des magistrats de la Cour de cassation, trois députés et trois sénateurs. Le score est donc parfaitement transparent et mis en oeuvre après avis de l'ensemble de la société.

L'une des particularités de notre domaine tient également à la nécessité de devoir gérer des transports importants, ce qui constitue une limite en termes d'ischémie. Le pôle « simulation » de l'Agence a donc mis en place un score intégrant un modèle gravitaire, supportant l'interaction entre les contraintes géographiques et l'urgence à greffer un malade. Ainsi, un receveur extrêmement compatible avec un donneur va pouvoir l'attirer de très loin, en tenant compte bien entendu des temps de trajet et non des seules distances euclidiennes.

Nous allons à présent vous donner quelques résultats des différents scores progressivement mis en place. Par exemple, pour la greffe cardiaque, l'ancien système, qui ne comportait que des « super urgences », laissait apparaître une sur-priorisation, les patients classés en « super urgence » accédant plus rapidement à la greffe. Ainsi, les autres malades en attente avaient finalement davantage de chances de décéder que les patients les plus gravement atteints. Ceci a été corrigé avec le score. S'il existe toujours une priorisation, il n'y a plus de différence de mortalité entre patients plus ou moins gravement atteints.

Concernant la greffe hépatique, une différence avait également été constatée et, en modifiant le score, une évolution de baisse de la mortalité en liste d'attente a pu être recherchée. Les résultats observés après plusieurs mois ont effectivement confirmé les simulations.

En matière de greffe rénale, l'une des problématiques majeures était l'accès à la greffe pour les adultes les plus jeunes. Les enfants de moins de 18 ans étaient en effet toujours priorisés, mais les adultes les plus jeunes, qui ont pourtant besoin de reprendre une vie active, une profession, de se réinsérer dans la société, avaient finalement un peu moins de chances d'accéder à la greffe que des patients plus âgés, dans la mesure où les donneurs étaient aussi souvent plus âgés. Cette priorisation pouvait parfaitement être inscrite dans un algorithme. Après la modification effectuée en février 2015, on a constaté, dans les six à douze mois suivant, que l'accès à la greffe avait été amélioré pour les adultes jeunes.

La même démarche a été effectuée concernant l'amélioration de l'appariement HLA. C'est important pour l'avenir, puisque l'on a pu, avec ce score, augmenter le taux de patients parfaitement compatibles, présentant zéro incompatibilité ou mismatch HLA, c'est-à-dire ayant la meilleure espérance de vie de leur greffon, et pour lesquels on espère, à terme, entrer dans un cercle vertueux, consistant en une diminution des retransplantations par rejet chronique.

En conclusion, j'insisterai sur deux éléments majeurs. Le premier est l'importance de disposer d'une base de données de qualité. On ne peut effectuer de simulation, ni d'appariement, sans cela. C'est parfois délicat vis-à-vis de la CNIL, puisque l'on touche le HLA, donc des données sensibles sur le plan éthique, qu'il convient, bien entendu, d'anonymiser, tout en assurant cet appariement. Par ailleurs, il faut tenir compte de l'évolution des techniques de simulation et de médecine prédictive. Nous serions partants, mais nous sommes une petite agence disposant de peu de moyens, pour mettre en oeuvre, plutôt que des évolutions annuelles d'algorithmes – nous en sommes, pour certains scores, à la 26e version), un système d'apprentissage automatique (machine-learning), qui nous permettrait d'améliorer le dispositif en continu, et de répondre réellement aux objectifs fixés.

Nous sommes enfin toujours très préoccupés par les notions éthiques. C'est la raison pour laquelle nous avons complètement intégré les associations de patients dans les prises de décisions.

Merci pour cet exposé absolument passionnant et évocateur de toute la problématique qui nous réunit ce matin, avec une dimension humaine particulièrement forte. Il est intéressant de constater que l'on entend peu parler de vous, ce qui signifie que le système fonctionne.

En tant que parlementaires, nous avons le sentiment que la loi, l'administration de l'État, donc le ministère de la santé pour l'essentiel de ce sujet, et l'esprit de dialogue insufflé par l'Agence, font que le système a sa propre cybernétique, est auto-correcteur et semble s'adapter. Évidemment, les volumes sont moins importants que pour APB et le sujet d'une telle gravité qu'aucun amateur ne se hasarderait à vous donner des conseils, même si, en matière de santé, tout le monde a aujourd'hui un avis.

Je propose, à présent, de donner la parole aux parlementaires qui souhaiteraient s'exprimer sur ce sujet très spécifique.

J'observe que le dispositif APB a provoqué de nombreuses réactions et critiques, contrairement à ce sujet d'algorithme médical, qui touche pourtant à la vie et à la mort, auquel on aurait pu imaginer que la société serait beaucoup plus attentive, dans la mesure où il peut avoir des conséquences mortelles.

La manière dont l'Europe continentale réfléchit aux sujets scientifiques est souvent différente de la façon dont les Anglo-saxons les abordent. Existe-t-il une telle différence d'approche concernant la question des algorithmes médicaux ?

Dans le monde entier, l'idée qu'il puisse exister des scores d'attribution des greffons remonte aux années 1985. De l'autre côté de l'Atlantique, les gens ont commencé à réfléchir à cette possibilité, qui devait permettre de prendre en compte simultanément de multiples facteurs.

En revanche, les critères d'attribution, et leur poids respectif, varient d'un pays à l'autre. En effet, si plusieurs critères sont fondés sur des preuves (evidence-based), dans la mesure où nous disposons, par exemple pour une maladie donnée, de données précises relatives aux scores de risques, pour d'autres, la décision est moins évidente. Ainsi, s'agissant de la priorisation selon l'âge que nous vous avons présentée, cela a été tenté outre-Atlantique, mais le responsable des systèmes d'attribution des greffons américains s'est retrouvé confronté à une levée de boucliers de l'ensemble des associations de retraités. Aux États-Unis, l'environnement sociétal donne ainsi plus ou moins d'importance à certains critères, qui ne sont pas proprement médicaux et scientifiques, mais purement sociétaux.

Il n'existe, de ce fait, aucune solution « ubiquitaire » et stable au cours du temps. Nous vous avons présenté toute la mécanique, consistant à effectuer des simulations, avant de mettre en oeuvre tout nouveau système. Or, il peut survenir un fait bioclinique nouveau, venant modifier la situation. Par exemple, en matière de greffe hépatique, un travail mené aux États-Unis a mis en évidence la possibilité de mieux mesurer le risque de décès des malades cirrhotiques en liste d'attente, ce qui est venu bouleverser le système d'attribution. Cet exemple témoigne de l'instabilité de ce type de systèmes, appelés à évoluer. La démarche d'amélioration du système au cours du temps est donc importante. Il est essentiel d'avoir conscience du fait qu'il n'existe pas de solution unique, y compris en Europe, même si la plupart des pays s'appuient sur des scores d'attribution.

La question des scores et de leur perception invite aussi à une réflexion sur l'interface entre économie, théorie de la décision et théorie de la psychologie. On retrouve tout un chapitre à ce sujet dans le best-seller de Dan Kahneman sur les différents systèmes de pensée, insistant sur le fait que dans bien des cas disposer de scores peut sembler arbitraire, mais s'avère finalement souvent plus efficace et moins biaisé que l'intuition humaine, y compris, parfois, celle des experts.

C'est là l'un des points dont il a fallu convaincre les professionnels de santé. Les dispositifs mis en oeuvre sont d'ailleurs toujours qualifiés d'« aides à la décision », pour laisser toujours à l'humain la possibilité, au bout du compte, de prendre la décision finale.

La plateforme de simulation est en fait un formidable outil de conduite du changement. Parfois, les professionnels ont des idées a priori, et cela nous permet de leur montrer que, finalement, l'effet produit n'est pas exactement celui qu'ils escomptaient. Ceci permet donc d'affiner la réflexion, et d'avoir, en phase opérationnelle, une idée assez précise des résultats.

En termes de modélisation, il s'agit, en quelque sorte, d'un processus de commande (process controller), comparable à l'instrument de pilotage d'un avion : sur la base d'un ensemble de capteurs, nous mettons en place des critères de jugement, au moins aussi importants que les critères d'attribution utilisés, puisque l'on va pouvoir regarder la façon dont se comporte le système. Si l'on ne considère pas telle tranche d'âge, ou si un nouvel élément est pris en considération, on va peut-être trouver un défaut dans le système, parce que l'on ne tenait pas compte auparavant de ce critère de jugement.

Je vais à présent donner la parole à M. Lionel Ploquin, qui va évoquer une situation très différente, mettant en jeu un algorithme sur de très gros bataillons, avec des contraintes parfaitement prévisibles, et définies par le législateur.

Il est, en effet, sans doute très intéressant, par contraste, de comparer l'algorithme APB, celui permettant d'identifier les bénéficiaires de greffons, et l'algorithme de l'impôt sur le revenu.

Peut-être peut-on partir, pour ce faire, de la définition de l'algorithme : « ensemble fini et non ambigu d'opérations qui s'enchaînent pour aboutir à un résultat ». En ce sens, le calcul de l'impôt sur le revenu est un algorithme, au même titre qu'APB.

Mais, au-delà de ce point commun, il existe des différences très importantes avec les deux algorithmes dont il vient d'être question. Dans le cas d'APB, et du choix de bénéficiaires de greffons, l'objectif est de définir un attributaire, un bénéficiaire d'une décision, au regard d'un ensemble de concurrents. Selon le jour où l'algorithme fonctionne, et où la décision est prise, celle-ci peut être différente, parce que le nombre et les caractéristiques des concurrents ont pu varier, si bien que le résultat n'est pas unique dans le temps. Dans le cas du calcul de l'impôt sur le revenu, la situation est totalement différente, puisque le résultat ne dépend absolument pas de la concurrence de bénéficiaires potentiels. Il s'agit là d'une différence majeure, qui conditionne la façon dont le ministère de l'action et des comptes publics envisage la publicité et la transparence de l'algorithme, objectifs que nous partageons totalement, parce qu'ils fondent la confiance que les usagers ont à l'égard de notre action. La transparence est absolument essentielle, mais on ne peut la concevoir de la même façon pour ce qui nous concerne et pour APB.

Une autre différence majeure tient au fait qu'APB crée du droit, et en comble en quelque sorte les vides. Pour ce qui est du calcul de l'impôt sur le revenu, nous « collons », au contraire, de façon extrêmement précise au droit ; et quand il existe des interstices dans la loi fiscale, nous recourons à la doctrine fiscale, systématiquement écrite lorsqu'elle est nécessaire, publiée au Bulletin officiel des finances publiques en ligne, opposable et susceptible d'être attaquée par les particuliers qui auraient à s'en plaindre. Il existe une convergence aussi étroite et poussée que possible entre l'algorithme et la loi.

Nous avons également vu qu'il était possible, dans le cadre d'APB, de définir une stratégie, pour maximiser son résultat, et de déployer une tactique d'appréhension de l'algorithme. Dans le cas de l'impôt sur le revenu, il n'est absolument pas possible d'utiliser une stratégie de ce type sans frauder, ce qui relève d'un autre registre.

La quatrième différence tient au fait que, dans APB, sous réserve des travaux qui vont être faits, l'algorithme n'est pas forcément bien documenté. La prise de connaissance littérale, explicite, lisible et claire de son contenu, et des règles, n'est pas disponible. Au contraire, dans le cas du calcul de l'impôt sur le revenu, une documentation extrêmement abondante est disponible, sous plusieurs formes. Si, comme nous y invite et le prescrit la loi pour une République numérique, nous devons, demain, faire un effort de transcription de l'algorithme, en langage compréhensible et clair pour un usager, nous n'aboutirons pas à un résultat différent de ce que notre documentation propose aujourd'hui. Au regard de cet objectif essentiel de transparence de l'algorithme, une part importante du travail est déjà accomplie.

Nous devons aujourd'hui mettre en oeuvre les prescriptions de la loi pour une République numérique, qui nous enjoignent à juste titre d'être totalement transparents sur nos algorithmes. Nous nous attachons ainsi, en collaboration avec Etalab, à faire le lien entre l'information donnée à l'usager pendant le process déclaratif, ou lorsqu'il reçoit sa notification, sur le fait que le résultat présenté est le fruit d'un algorithme, et l'élément de documentation correspondant à l'explicitation de cet algorithme, consultable à tout moment en ligne pendant le processus de déclaration.

Voici, en quelques mots, notre vision de cette problématique, pour ce qui concerne les caractéristiques de notre algorithme.

Il a été dit lors d'une audition au sujet du code général des impôts, que le résultat de la fiscalité pouvait dépendre de l'ordre dans lequel on appliquait ses articles. Comment gérez-vous cela ?

Pour avoir travaillé des deux côtés de la barrière, tout d'abord au sein de la direction de la législation fiscale, et maintenant comme responsable de l'informatique, je vais pouvoir répondre précisément à cette question. Il existe un dialogue assez constructif avec celui qui met au point, in fine, la réglementation fiscale. Quand des règles sont décidées dans leur logique propre – je pense, par exemple, au plafonnement du quotient familial ou au taux minimum d'imposition des non-résidents – la façon dont elles vont se combiner n'est pas une donnée immédiate de la conscience. La construction du code renvoie la balle à la direction de la législation fiscale qui va dessiner, à l'intention du législateur, la façon dont, historiquement, se sont empilés les articles et s'est décidé la règle. Normalement, c'est la règle qui dicte le code, dans un processus descendant, mais il arrive parfois que la nécessité de mettre au point le code suscite l'inscription d'une règle, qui aurait pu rester implicite, mais dont l'explicitation apparaît nécessaire pour pouvoir la coder. Il s'agit donc d'une construction.

Je me permets de préciser qu'Etalab, avant de travailler sur APB, avait travaillé avec la DGFiP sur l'ouverture du code source des impôts. Le rôle de la doctrine me semble fondamental, et révèle peut-être des pratiques administratives très différentes. Le calculateur du code source des impôts et la législation sont convergents, par le biais de cette doctrine, publiée au Bulletin officiel des finances publiques. Si l'on regarde les informations figurant sur APB dans le Bulletin officiel de l'éducation nationale, on va vite en faire le tour. Ceci montre bien que, d'un ministère à l'autre, les pratiques sont différentes en matière de formalisation, de publication et d'opposabilité d'une doctrine. C'est un élément sur lequel il faudrait pouvoir travailler. Il constitue l'un des aspects du chantier qui nous attend dans les mois à venir. Il s'agira de voir, ministère par ministère, si la pratique consistant à formuler et publier une doctrine, qui constitue un facteur de convergence entre le droit et le code informatique, existe ou pas.

J'aurais de nombreux commentaires à formuler, mais préfère laisser la parole à Mme Émilie Cariou.

Merci beaucoup, monsieur le président. Tous les ans, nous malmenons le code général des impôts à l'issue de l'examen des projets de lois de finances et de lois de finances rectificatives. Je souhaiterais donc connaître plus précisément le calendrier d'actualisation de votre algorithme. Je sais, par expérience, que de nombreux échanges ont lieu entre les services de la direction de la législation fiscale et les services de la gestion fiscale. À votre sens, ce calendrier est-il efficient aujourd'hui ? Avez-vous réellement le temps de prendre en compte toutes les modifications des lois de finances et de mettre à jour l'algorithme dans un temps raisonnable ? Faudrait-il améliorer certains circuits ?

Enfin, si l'on connaît les changements législatifs qui ont eu lieu dès l'issue de l'adoption définitive du projet de loi de finances, la doctrine met en revanche beaucoup plus de temps à être éditée. Pensez-vous que la DGFiP est aujourd'hui vraiment en capacité d'actualiser cette doctrine assez rapidement ?

Je laisse la parole à M. Julien Aubert, pour une autre question ou remarque.

J'ai cru comprendre, au travers de vos propos, que l'article L311-3-1 du code des relations entre l'usager et l'administration, qui implique la transparence sur les algorithmes, en vigueur début septembre, n'était pas encore appliqué par l'administration fiscale, au motif que les documents explicatifs concernant certains impôts seraient quasiment identiques à l'information que vous donneriez pour expliquer les algorithmes. En tant que contribuable, je dois avouer n'avoir jamais compris comment était calculée ma taxe d'habitation. Sans doute ne suis-je pas ici le seul dans ce cas. Il m'intéresserait donc de pouvoir disposer de cette information, pour comprendre le mode de calcul de cette taxe, et l'impact d'un déménagement sur le montant dû. Si l'on devait réécrire le code civil, sans doute celui-ci commencerait-il par « nul n'est censé ignorer le code ». Mais je crois comprendre que, dans les faits, ceci est plus difficile. Ma question est simple : faut-il abandonner les prescriptions de cet article sur la transparence pour certaines administrations, parce qu'en réalité cela ne sert à rien ou est impossible ? Dans la négative, quand cela entrera-t-il en vigueur ?

Il est en effet assez compliqué pour nos concitoyens de comprendre leur feuille d'impôt sur le revenu, ou le mode de calcul de leur taxe d'habitation. Nous travaillons également en ce moment à la simplification administrative. Je voudrais donc savoir s'il ne serait pas possible, au-delà même du fait que les citoyens ne sauront peut-être pas ce qu'il y a derrière l'algorithme, de faire en sorte que les services fiscaux simplifient leur documentation, d'autant plus que nous sommes dans une phase de numérisation et de déclaration des impôts en ligne.

Merci pour ces questions. Nous n'envisageons pas de ne pas mettre en oeuvre l'article du code des relations entre le public et l'administration que vous avez cité. J'ai simplement évoqué notre préoccupation d'articuler ce droit nouveau offert aux usagers avec notre documentation existante, afin de renforcer la transparence. Notre objectif est, bien entendu, de mettre en oeuvre cette prescription de la loi pour une République numérique. Nous y travaillons, de concert avec d'autres administrations, et avec Etalab. C'est important, car nous considérons que l'on n'est jamais assez transparent. Il faut créer une synergie avec ce que nous faisons actuellement en matière de documentation, afin de rendre l'information plus accessible encore, en nous appuyant sur cette préoccupation d'ouverture et de transparence des algorithmes.

Pour faire écho à votre question, Madame la députée, il semble évident que l'on peut toujours s'améliorer en termes de simplification et de pédagogie. C'est précisément l'un de nos soucis. Je n'ai, à ce propos, pas évoqué dans mon exposé l'effort récent de refonte de notre portail impots.gouv.fr, à l'occasion de laquelle nous avons complètement revu la documentation mise en ligne. Des groupes de travail ont ainsi été mis en place avec des usagers, afin d'en tester la lisibilité. Nous collaborons par ailleurs avec le Conseil d'orientation de l'édition publique et de l'information administrative (COEPIA), sur des programmes concernant la lisibilité de la documentation administrative. C'est vraiment l'une de nos préoccupations. Plus notre norme sera clairement explicitée mieux elle sera comprise par les usagers, et mieux ce sera, pour les usagers comme pour nous.

Concernant le calendrier, nous travaillons, bien entendu, en temps caché, en débutant nos travaux de mise au point de la calculette de l'année suivante à partir des projets de loi de finances et de lois de finances rectificatives. Ce travail se prolonge pendant l'année de taxation. Nous avons à coeur, pour une raison de service, d'offrir un calculateur le plus tôt possible, courant janvier ou, à la rigueur, début février. Ce dernier ne couvre pas absolument tous les cas de l'impôt sur le revenu, certaines situations étant très particulières, mais nous garantissons que ces cas seront traités correctement ultérieurement, au moment de la taxation. Cet effet de calendrier fait que ce n'est qu'une fois ce cycle terminé que l'on est en capacité de publier un algorithme définitivement fixé.

S'agissant de l'explicitation du calcul, nous recevions traditionnellement un ou deux courriers par an, que nous attribuions généralement à des professeurs de mathématiques à la retraite, qui nous demandaient le détail du calcul de leur impôt. La réponse, que nous apportions systématiquement à toute demande, réclamait environ une demi-heure de travail. À cet égard, nous avons beaucoup progressé sur l'explicitation des règles, qui sont toutes disponibles en ligne, assorties d'une calculette permettant de faire autant de simulations que l'on souhaite. Ce flux de courrier s'est donc tari, les usagers consultent désormais le site, et effectuent des simulations différentielles, en faisant varier leur revenu, pour essayer de comprendre la façon dont l'algorithme a fonctionné dans leur cas particulier, ce qui était le but de la loi sur ce point.

La parole est maintenant à M. Victor Demiaux.

La loi Informatique et libertés, dont la CNIL est garante, encadre une large part des algorithmes, mais une partie seulement. Ainsi, tous les algorithmes ne traitant pas de données à caractère personnel ne sont pas du ressort direct de la CNIL. Je pense, par exemple, aux algorithmes boursiers, ou encore à ceux utilisés aujourd'hui dans un contexte de police prédictive, lorsqu'il s'agit d'identifier des zones, ou d'orienter prioritairement des patrouilles policières.

En revanche, pour tous les algorithmes qui traitent de données personnelles, les grands principes de la loi Informatique et libertés s'appliquent : principe de finalité, de proportionnalité, de sécurité, de durée de conservation limitée des données, et de droit des personnes.

Outre ces principes, qui concernent la matière première des algorithmes, la loi Informatique et libertés contient deux dispositions ayant trait aux algorithmes en tant que tels. La première interdit la prise de décision automatisée sur le seul fondement d'un algorithme, sans intervention humaine. Ceci concerne, par exemple, dans le contexte bancaire, le fait d'établir des scores de crédit, ou encore, dans le domaine de l'enseignement, l'orientation d'un bachelier à l'université. Cette disposition répond à un principe éthique extrêmement fort, posé implicitement par le législateur en 1978, consistant à refuser que l'humain puisse être soumis, pour des décisions l'affectant de manière très forte, à la seule décision d'une machine, que l'algorithme soit efficace ou pas, ce qui est une autre question. La deuxième disposition prévoit le droit, pour toute personne concernée, d'obtenir, auprès du responsable de l'algorithme, des informations lui permettant d'avoir accès à la logique de fonctionnement du système. Ce sont notamment ces deux dispositions qui ont motivé la mise en demeure publique adressée par la présidente de la CNIL au ministère de l'enseignement supérieur et de la recherche, dans le cas d'APB.

D'une façon générale, il existe non seulement la lettre de la loi, que je viens de rappeler, mais aussi son esprit, dans lequel s'inscrivent les dispositions, précédemment évoquées, de la loi pour une République numérique, l'idée étant vraiment que la personne, l'administré, n'ait pas le sentiment d'être simplement un objet, d'être traité passivement par les algorithmes, mais soit véritablement en situation de comprendre le traitement qui lui est réservé à travers l'utilisation de ces algorithmes. Cette compréhension est aussi facteur de confiance, donc de succès du déploiement des algorithmes, par la puissance publique en l'occurrence. Il est extrêmement important que ceci soit compris par les responsables publics. En effet, les règles de droit sont une chose, mais la façon dont les administrations vont ensuite se les approprier et les mettre en oeuvre va dépendre de cette conviction que la compréhension des usagers est fondamentale pour bâtir la confiance et le succès des algorithmes pour l'action publique.

J'en viens à présent à deux réflexions plus larges, ne concernant pas seulement les algorithmes traitant de données à caractère personnel. Elles émanent du débat public que la CNIL a organisé cette année sur le thème des algorithmes, conformément à la mission qui lui avait été confiée par la loi pour une République numérique, consistant à organiser une réflexion sur les enjeux éthiques et de société des technologies numériques.

Le premier enjeu est celui de la prévision et de la prévention des « effets de bord » susceptibles d'être générés par la délégation de pans de l'action publique à des algorithmes. Ainsi, l'usage des algorithmes se développe aujourd'hui pour lutter contre la fraude. Cet usage ne doit-il pas être contrebalancé par une utilisation des algorithmes pour repérer, par exemple, le non recours à des aides sociales ? L'idée sous-jacente serait qu'à trop développer les algorithmes dans un seul sens, on pourrait laisser croire qu'ils servent uniquement à contrôler les personnes, alors qu'il pourrait être utile de montrer aux gens qu'ils sont aussi là pour leur rendre service de façon directe.

Un autre type d'effet de bord concerne l'exemple de la police prédictive. Lors du débat public, des chercheurs en sciences sociales ont expliqué qu'il pourrait être plus facile de mettre certains types d'infractions que d'autres en données, c'est-à-dire de les faire traiter par des algorithmes de police prédictive, d'où le risque qu'une focalisation sur des outils de police prédictive puisse aboutir, de façon quasiment insensible, à faire dévier les objectifs de sécurité et de police. Cette question devrait être présente à l'esprit des concepteurs d'algorithmes, mais surtout des responsables de politiques publiques. Ces effets de bord ne sont pas une fatalité ; ils doivent être pris en compte frontalement, de façon à pouvoir être évités.

Le second enjeu est celui d'éviter de laisser les algorithmes diluer la responsabilité des décideurs, ou masquer, sous des abords techniques, ce qui relève d'abord de choix politiques et de problèmes de société. Le cas d'APB est intéressant de ce point de vue, puisque le débat s'est focalisé sur un aspect technique, alors même que les difficultés rencontrées renvoyaient davantage à des grands choix de société, comme la sélection des étudiants ou l'augmentation éventuelle de la capacité d'accueil des universités. On peut ainsi se demander si la tentation ne pourrait pas être grande, pour des responsables de politiques publiques, de se cacher derrière l'algorithme, pour échapper à la fatigue d'exercer la responsabilité, d'avoir à faire des choix, de prendre des décisions et de les assumer. Il est en tout cas nécessaire d'assurer une vraie traçabilité entre la loi, l'administration, et l'articulation de ses décisions dans le code.

Je conclurai en soulignant que les algorithmes au service de l'administration sont des outils extrêmement puissants. Ils impliquent des effets sociaux et politiques très forts, qui ne peuvent être laissés aux experts et aux techniciens, d'où une triple nécessité : nécessité tout d'abord, à tous les stades de leur déploiement, d'une réflexion large et plurielle, impliquant tous les acteurs, depuis le développeur jusqu'au fournisseur de solutions, en passant par les utilisateurs, les administrés, les chercheurs en sciences sociales, qui peuvent participer à la création d'une réflexion intégrée et à la prise en compte de tous les problèmes susceptibles de se poser ; nécessité également de former les acteurs publics à ces enjeux et aux possibles effets de bord ; nécessité enfin d'un effort considérable de clarté de la part de la puissance publique à l'égard des administrés ; elle a tout à y gagner.

Je partage nombre des soucis et enjeux que vous avez évoqués et souhaiterais vous interpeler sur le point suivant : qu'entend la loi par la formule « absence d'intervention humaine dans les décisions » ? Lors de la première table ronde consacrée à APB, nous avons vu non seulement que l'humain intervenait de nombreuses façons, mais aussi que certains des dysfonctionnements les plus graves étaient dus précisément à l'intervention humaine. Il a, par exemple, été mentionné que le fait que les classements effectués par les formations prennent en compte l'ordre de préférence indiqué par les candidats faisait suite à une demande de la CPU, qui a influé sur la DGESIP pour que cela soit intégré par les techniciens, malgré les réticences exprimées par ces derniers. L'humain est, en l'occurrence, intervenu pour aboutir à un résultat jugé, de l'avis général, comme mauvais. Lors de la table ronde précédente, l'algorithme APB est finalement le seul élément à n'avoir été critiqué par personne. Aucun intervenant n'a indiqué que l'algorithme prenait des décisions ; les décisions relèvent toujours de l'humain. La première chose que l'on apprend lorsque l'on travaille sur les algorithmes est que, hormis pour certains programmes sophistiqués, ce n'est pas l'algorithme qui décide, mais le programmeur.

En fait, la loi évoque l'intervention humaine au niveau de chaque décision individuelle. Évidemment, il existe nécessairement une intervention humaine, ne serait-ce que parce que l'algorithme est un artefact conçu par l'homme, et que les critères utilisés sont choisis par l'humain. Mais à partir de cela, on pourrait imaginer que l'algorithme fonctionne, et aboutisse à des résultats concernant des centaines de milliers de personnes, sans qu'aucune autre intervention humaine « n'entre dans la boucle ». L'intervention humaine dont il est question dans la loi Informatique et libertés doit se faire à la demande de l'usager, pour que la décision qui le concerne directement puisse être réexaminée par une personne humaine, susceptible le cas échéant de lui apporter des explications.

Nous allons entendre à présent les quatre derniers intervenants de cette table ronde, qui ont une vision transversale de ces questions d'éthique et d'algorithme. Je donne donc, sans plus tarder, la parole à M. Max Dauchet, président de la Commission de réflexion sur l'éthique de la recherche en sciences et technologies du numérique dans, le cadre de l'alliance ALLISTENE.

Je vais, en effet, vous faire part de quelques considérations transverses, dans le prolongement des propos de M. Victor Demiaux, et de M. Simon Chignard. Lorsque l'on considère tous les débats qui ont cours, partout sur la planète, au sujet des algorithmes, les bases de données et les systèmes informatiques, quels sont les mots magiques qui reviennent de façon récurrente, soit explicitement, soit en filigrane ? On entend toujours dire que l'on veut des algorithmes sûrs, loyaux, transparents, explicables, compréhensibles, évaluables, équitables, non discriminants, et respectant la diversité. Qu'attend-on par ailleurs d'un État, d'une administration, et au-delà d'une collectivité, territoriale ou autre ? Qu'ils soient sûrs, loyaux, transparents, explicables, compréhensibles, évaluables, équitables, non discriminants, et qu'ils respectent la diversité. Finalement, on attend des objets que l'on crée les mêmes propriétés que l'on se prête à soi-même. Ces éléments sont très importants, car ils constituent les ingrédients de la confiance, pilier de tout système social.

Pour relever ce défi, il faut de la recherche. Tout le monde est convaincu de cette nécessité. Il faut également une bonne articulation entre l'humain et la machine. En effet, le numérique, les algorithmes, représentent une formidable opportunité pour la planète, mais à la condition que cette articulation existe au service de l'humain. Lors de la table ronde précédente sur APB, j'ai été quelque peu glacé par les propos de mes deux collègues économistes, qui indiquaient schématiquement que l'on disposait, de façon mathématiquement prouvée, d'une solution épatante, optimale en un certain sens, équitable, etc, moyennant certaines hypothèses, comme le fait de ne pas tenir compte de la territorialité ou des situations de handicap, qu'il est difficile de faire traiter par l'algorithme, et qui ne permettent plus d'obtenir de jolis résultats théoriques d'optimalité. Ceci illustre parfaitement les problèmes éthiques sous-jacents à tout algorithmie qui se met en place. Ceci montre qu'un choix d'algorithme est un choix de société. Pour parvenir à armer le pays vis-à-vis de cela, il faut de la formation, et encore de la formation : à l'école, dans les collectivités, et dans l'administration centrale.

Il faut savoir qu'APB est un algorithme très simple. Ce qui est compliqué, c'est bel et bien l'orientation des étudiants. Mais l'évolution des Big data va se poursuivre, de façon exponentielle. Le chantier de réflexion concernant la révision de la loi de bioéthique est en cours. M. Jean-François Delfraissy, président du Comité consultatif national d'éthique pour les sciences de la vie et de la santé, considère, par exemple, et il n'est pas le seul dans ce cas, que le big data va représenter une véritable révolution. On entend parler de « mobilité intelligente » dans les métropoles, de smartgrids pour gérer l'énergie de façon intelligente, deux sujets renvoyant à des questions d'affectation, ou de surveillance de l'environnement. Tous ces problèmes doivent être instruits.

On se retrouve dans la situation de devoir gérer deux impératifs, dont on peut considérer qu'ils relèvent vraiment du rôle de l'État. Pour être en mesure de se réunir ici utilement, autrement que pour bavarder, c'est-à-dire pour faire en sorte que vous, les élus, preniez des orientations, des décisions, encore faut-il que nous ayons la maîtrise de notre destin, que nous gardions notre souveraineté. Or le numérique pose des questions de souveraineté des États et des individus. Conserver notre souveraineté suppose de faire face à deux impératifs. Le premier est d'être compétitif, au sens économique et industriel, en termes de recherche et d'innovation. C'est le temps de la technologie, de la compétition, qui s'accélère. Nous devons aussi, pour être souverains, réfléchir à la société à laquelle nous aspirons. Or, peut-on réfléchir aujourd'hui à un modèle de société, sans se poser la question sous-jacente d'un modèle de société numérique ? C'est le temps de l'humain, le temps long. La Nation doit gérer ces deux temps. Je me félicite, en ce sens, de l'intervention de M. Bruno Lemaire en conclusion, avant-hier, de la matinée que parrainait M. Cédric Villani, dans laquelle il a évoqué deux sujets principaux : investir pour être compétitifs, en France et en Europe, et mener une réflexion de fond, éthique. Cette réflexion doit être permanente, dans la mesure où les choses évoluent sans cesse.

J'ajouterai, pour terminer, qu'il ne faut pas agir en réaction contre les géants du Web (GAFA : Google, Apple, Facebook et Amazon), contre Alibaba, etc., mais être en action, construire un futur. Par exemple, nous critiquons souvent Google, qui utilise nos données. Or, il existe un excellent moteur de recherche français, Qwant, qui fonctionne aussi bien que Google, et garantit l'absence de transmission de nos données de navigation à des fins commerciales. Les pouvoirs publics pourraient donc, notamment dans l'Éducation nationale, étudier la possibilité de promouvoir ce dispositif.

Votre intervention appelle, en outre, parfaitement celles de MM. Gérard Berry et Julien Chiaroni, qui vont traiter de ces mêmes sujets transversaux, et auxquels je donne la parole.

Je vais en effet aborder des éléments voisins, mais sous un angle assez différent. Je pense que le problème majeur de la France est de n'avoir pas cru à l'industrie de l'informatique. Toute ma vie, j'ai ainsi entendu dire, à ce propos, qu'il s'agissait d'une mode qui allait passer. Fort heureusement, les choses changent en ce moment, et je suis ravi de pouvoir avoir cette discussion ici aujourd'hui. Il faut croire à l'informatique.

Il faut avoir conscience du fait que ce secteur est différent des autres. Pourquoi Uber a-t-il du succès ? Parce qu'à la différence d'un taxi, Uber considère que l'important n'est pas d'avoir une voiture, mais de savoir qui veut aller où, et quand. Or, l'information est un élément beaucoup plus léger que les voitures, si bien qu'Uber est finalement une petite société. Je pourrais multiplier les exemples à l'envi.

Je souhaiterais revenir sur plusieurs points évoqués précédemment. Parmi les sous-domaines de l'informatique, je connais particulièrement bien celui des logiciels dits critiques, c'est-à-dire dont l'action est particulièrement importante. J'ai par exemple beaucoup travaillé dans le secteur de l'aviation. Mais on constate aujourd'hui qu'APB est également critique, de même que les impôts. Il existe des problèmes de sécurité massifs partout, qui ne sont pas traités. Ainsi, les médecins, qui sont très vigilants vis-à-vis des médicaments, qu'ils soumettent à des études très sérieuses et poussées, prescrivent des pacemakers, dont des travaux ont montré qu'ils possédaient des milliers de trous de sécurité, quel que soit le fabricant concerné. Il est ainsi très facile de prendre le pouvoir sur un pacemaker. Or, personne ne s'est jamais occupé de ce problème.

Faire des lois sans comprendre de quoi il est question est difficile et risqué. La discussion au sujet d'APB a, de ce point de vue, été très intéressante, parce qu'elle a mis en lumière un manque évident, en termes de compréhension. En France, l'un des problèmes concerne l'insuffisance des formations à l'informatique. Ainsi, un médecin peut parvenir au terme de ses études sans avoir jamais bénéficié d'aucun enseignement sur le sujet.

Les questions de vocabulaire sont aussi très intéressantes. Tout le monde parle des algorithmes, à ceci près que le terme n'est pas approprié pour désigner ce dont il est question ici. Il existe, en informatique, au moins quatre étapes, l'algorithme n'étant que l'une d'entre elles.

La première étape est la spécification. Ceci passe par un certain nombre de questions. Que veut-on faire et ne pas faire ? Quels sont les critères de succès ? Les échanges précédents ont montré qu'il n'était pas certain que ces critères aient toujours été définis en amont. Or ceci constitue pourtant un élément critique. Comment élaborer l'explicabilité ? Il faut savoir que, dans les algorithmes d'apprentissage modernes, sur la médecine par exemple, on ne sait pas gérer l'explicabilité. Il faut réfléchir longuement à cette question. Quels sont les dangers, les effets pervers cachés ? Si l'analyse de ces effets n'intervient qu'a posteriori, ceci signifie que l'on n'a pas compris ce qu'était un système critique. Par exemple, dans le domaine aéronautique, on étudie les effets cachés avant les vols. On peut analyser les spécifications. Il existe des outils très puissants pour cela, différents de ceux utilisés pour écrire les algorithmes. Une spécification outillée n'est pas du même ordre qu'une spécification non outillée. Il existe également des spécialistes de ce type d'analyse.

L'algorithme n'apparaît que dans un deuxième temps, une fois que l'on a décidé précisément ce que l'on voulait faire. Un algorithme est un objet abstrait, une façon d'organiser des calculs. Mais ce n'est pas cela que va faire le système : le système exécute des logiciels, qui sont l'écriture, dans un autre langage, de ce que l'on espère être l'algorithme. Le fait que le logiciel fasse ce que l'on avait envie de faire dans l'algorithme n'est absolument pas évident. Je travaille précisément sur ce genre de vérification. Ainsi, il existe des processus de certification, qui indiquent que le logiciel obéit bien à l'algorithme. Ces processus sont intéressants, mais difficiles à concevoir et employés très inégalement. La politique ne s'en occupe pas. Ils sont toutefois obligatoires mondialement, et standardisés sur les avions, qui utilisent des logiciels de très haute qualité. En revanche, ils n'existent pas pour les voitures, qui sont dotées de logiciels de moindre qualité. J'ai ainsi consigné dans l'ouvrage que j'ai écrit à ce sujet de nombreux bugs, vraiment graves, survenus dans les voitures. L'industrie automobile a obtenu d'avoir pour règle qu'on ne lui impose pas de procédures, grâce à un important travail de lobbying.

De quoi parle-t-on lorsqu'il est question de « publier le code » ? S'agit-il de publier les spécifications, l'algorithme ou les programmes ? Il faut faire les trois. Comment vérifier les programmes ? C'est là le point le plus difficile. Il est beaucoup plus compliqué de vérifier un programme que de l'écrire. Dans la certification des processus de haute sécurité, ce n'est par ailleurs pas la vérification qui compte, mais la vérification de la vérification. Par exemple, le bug d'Ariane 5 est dû à une absence de vérification de la vérification, la première vérification étant fausse.

Ne parler que d'algorithme revient à ignorer trois des quatre aspects du processus. Il faut donc veiller au sens des mots que l'on emploie.

Le grand danger de l'exercice est de croire, comme dans bien des métiers, que l'on va pouvoir, seul, mener à bien ces quatre phases. Il existe des solutions. M. Grenet nous a présenté précédemment un exposé dans lequel il a indiqué qu'il existait en France, dans le domaine des sciences sociales, des spécialistes qui s'attachent à comprendre quelles sont les bonnes méthodes algorithmiques. Certains informaticiens s'occupent également de ces questions. Or, aucune des deux professions n'a été consultée. Elles n'ont pas davantage eu l'occasion d'échanger ensemble. Il reste donc des progrès considérables à accomplir dans ce domaine. Par exemple, APB intéresse beaucoup les informaticiens. Il a été dit que l'algorithme d'APB avait été publié : or ce n'est pas vrai. Ce qui a été publié n'est pas lisible. La situation est comparable à celle d'un mathématicien qui publierait un théorème, et inviterait les gens à le croire sur parole, sans l'expliciter. Ce n'est pas suffisant.

Ceci cause de vrais problèmes. Rater l'application d'un système informatique peut générer des effets pervers extrêmement toxiques. Ceci s'est vu dans le cas d'APB, mais aussi dans d'autres domaines. Le système de paie des armées en est également un très bel exemple, qu'il serait intéressant de disséquer. La sonde Schiaparelli à un milliard de dollars, qui s'est écrasée sur Mars, a été victime d'une informatique stupidement conduite, alors que de nombreux professionnels savent faire cela.

Par ailleurs, la recherche française est particulièrement forte sur ces points. Il faut le savoir et en profiter. Le sujet est à prendre au sérieux et ne doit pas être considéré uniquement sous un angle littéraire, mais de façon scientifique. En France, on dispose de capacités énormes pour ce faire. La recherche française est très performante dans ce domaine, bien que l'enseignement ne propose quasiment rien dans ce secteur. Est-t-il raisonnable que des gens arrivent au baccalauréat en n'ayant jamais entendu parler de ce sujet ? Des avancées ont eu lieu, mais ceci mérite d'être rediscuté, car ces questions vont devenir centrales dans le monde actuel.

Je vais à présent donner la parole à M. Julien Chiaroni, que nous avons rencontré lorsque l'Office parlementaire a rendu visite au LIST du Commissariat à l'énergie atomique et aux énergies alternatives (CEA), à Saclay.

Mon intervention s'articule autour d'un préambule, et de trois points. Je vais tâcher de souligner à chaque fois les enjeux, mais aussi de les illustrer au travers d'exemples issus de nos travaux, et des partenariats que nous développons, en insistant sur les éléments qui ne me semblent pas avoir été suffisamment mentionnés précédemment.

Je partage l'analyse de M. Gérard Berry sur les aspects algorithmiques, et les outils de conception. Je pense qu'il convient aussi de souligner les aspects d'implémentation dans le matériel. Il faut savoir que ces algorithmes et applications sont portés par du matériel, cartes et composants électroniques, qui constitue un point fondamental pour la sécurité et la sûreté des systèmes. Nous avons, dans ce domaine, un vrai savoir-faire, qui constitue une opportunité, en termes de garantie de fonctionnement, et de confiance en ces systèmes.

L'action publique sur les algorithmes suppose, tout d'abord, de disposer des ressources et compétences dans le domaine. Mes collègues ont parlé de formation et d'expertise dans la recherche. Il a aussi été question de vérification par preuves formelles. À ce sujet, en 2014, les équipes du CEA étaient arrivées premières à un challenge, et avaient trouvé l'intégralité des failles d'un logiciel qu'elles avaient vérifié, très loin devant les autres concurrents. Ces travaux avaient été menés notamment avec l'Institut national de recherche en informatique et en automatique (INRIA). De plus, il me semble important de souligner le rôle des acteurs industriels dans ce domaine. Il s'agit non seulement de savoir soutenir les acteurs présents, mais aussi de savoir créer des acteurs, qui pour nous sont stratégiques pour l'État.

S'agissant des enjeux pour l'État, le premier point concerne, selon moi, la modernisation de l'action publique, en vue d'utiliser des algorithmes pour automatiser ou assister une partie des actions. Je soulignerai ceci au travers de l'exemple de la reconnaissance d'objets volés, sur lequel nous avons travaillé pour la police nationale. Il s'agit d'ajouter des annotations textuelles sur des bases de données images, ce qui permet ensuite de distinguer entre eux des objets volés, opération longue et compliquée à effectuer par une personne, mais qui peut être réalisée de manière presque automatique par des algorithmes développés. Un travail de recherche est également mené dans le domaine de la santé. Nous avons notamment travaillé avec le professeur Olivier Cussenot, urologue reconnu de l'Assistance publique – Hôpitaux de Paris (AP-HP), pour développer des outils d'aide à la décision et d'assistance, destinés aux réunions de coopération pluridisciplinaire.

Ces deux exemples sont différents, puisque, dans le premier cas, l'algorithme est presque automatique, alors que, dans le deuxième, il sert à la décision d'un individu. Ceci est fondamental dans le cadre des enjeux de responsabilité et d'explicabilité des algorithmes. On associe fréquemment l'algorithme à l'idée de systèmes automatisés, en oubliant qu'il existe souvent un individu dans la boucle, auquel il appartiendra de prendre la décision finale de faire ou ne pas faire.

Il me semble également important de mentionner l'aspect technologies civiques (civic tech), qui renvoie notamment à l'utilisation des algorithmes pour accroître la participation des citoyens. À cet égard, j'ai en tête l'Open Government Initiative, du président américain Barack Obama, en 2009. Il y a certainement, dans ce registre, des initiatives à construire. Etalab pourrait sans doute apporter des précisions sur ce point.

Enfin, l'utilisation des algorithmes au service des sujets régaliens de l'État, que sont la sécurité et la défense, n'a pas été véritablement développée.

Je pense que l'informatique grand public est sous-développée en France, mais que l'énergie électrique et l'aventure nucléaire, militaire et civile, ont constitué des facteurs formidables de développement d'une informatique très professionnelle, et très éloignée du grand public, la faiblesse résidant dans la transposition commerciale.

Je suis tout à fait d'accord avec vous, et allais justement souligner ce point. Nous travaillons beaucoup sur les aspects de vidéosurveillance, pour la sécurité des citoyens. Il faut savoir qu'il existe des champions français dans ce domaine, par exemple Thales, pour n'en citer qu'un. Le CEA travaille également, dans le secteur des supercalculateurs, en étroite collaboration avec les équipes de Bull-Atos. Je pense qu'il existe un véritable enjeu de sécurité et de défense, autour des aspects informatiques algorithmiques.

Il est important d'insister sur la croissance forte de la quantité d'informations, mais aussi de désinformation, disponible. Il faut donc savoir développer des acteurs et des compétences capables de passer d'une information hétérogène, à une information homogène et exploitable. Dans ce domaine, les acteurs français sont très peu présents au niveau industriel. Or, il existe dans ce secteur un véritable enjeu en termes de veille, d'intelligence économique, ou d'autres sujets relatifs à la défense.

J'insiste également sur le point de la cyber-sécurité, évoquée précédemment par le professeur Gérard Berry, en ajoutant simplement l'exemple des objets connectés, qui sont partout, et ont tous été disséminés sans critères de sécurisation, autant matérielle que logicielle. Les statistiques indiquent une croissance des objets connectés de 15 % à 30 % sur les prochaines années, pour atteindre, selon les estimations prospectives, un nombre situé entre 18 et 50 milliards. Ceci présente un risque. Récemment, a ainsi eu lieu une attaque de déni de service sur la société Dyn, qui s'occupe, aux États-Unis, du reroutage sur les différentes plateformes. Un problème de cyber-sécurité a aussi affecté des seringues automatiques, depuis retirées du marché américain. La maîtrise de ces technologies clés, notamment des technologies d'intelligence artificielle, et le fait de disposer des filières adéquates, sont des enjeux majeurs pour être – je cite ici Jean-Yves Le Drian, alors ministre de la défense – « au rendez-vous des défis qui s'annoncent et auxquels nos principaux partenaires se préparent ».

Je souhaite revenir, en quelques mots, sur les aspects relatifs à la transparence et à l'éthique, en faisant notamment mention, concernant la transparence, de l'initiative TransAlgo, portée par l'INRIA. Il existe également un aspect de vie privée puisque, pour les outils d'apprentissage machines, les données et les ressources de calcul sont fondamentales, ce qui explique que de plus en plus de données soient captées. On constate deux tendances dans ce domaine : soit l'on ouvre les données, et l'on crée de la valeur par externalité positive, soit on choisit de protéger les données, pour protéger la vie privée des personnes. Dans ce dernier cas, le chiffrement, la réglementation et l'accompagnement de l'Agence nationale de la sécurité des systèmes d'information (ANSSI) sont des éléments fondamentaux. Des discussions européennes sont par ailleurs en cours à ce sujet, sur lesquelles j'aimerais attirer votre attention. Il faut savoir aussi que des solutions se développent dans ce domaine, comme la cryptographie homomorphique, qui permettent de ne jamais décrypter les données. Il s'agit d'éléments clés, par exemple pour des applications touchant au génome.

Les aspects de garantie et de confiance constituent enfin des points centraux. L'appropriation des algorithmes nécessite la confiance des citoyens, qui ne peut être obtenue qu'en apportant une garantie de fonctionnement, voire une certification des systèmes, notamment des systèmes critiques. Ce sujet est fondamental pour les algorithmes d'intelligence artificielle et d'apprentissage automatique (machine learning). Or, il n'existe quasiment rien dans le domaine de la recherche sur ce sujet. Tout reste à faire. Demain, des intelligences artificielles vont être embarquées dans des avions ou des voitures, sans que l'on soit capable d'apporter la moindre certification.

Je conclurai en rappelant que ce sujet fait partie de l'ADN du CEA. Nous avons, en effet, beaucoup travaillé sur la sécurité et la sûreté des systèmes, qui constituent l'un de nos savoir-faire historiques. Nous disposons ainsi de stratégies pour l'adosser, et je pense qu'un soutien des pouvoirs publics dans ce domaine serait fondamental, non seulement pour le citoyen, mais aussi comme élément de compétitivité pour notre économie, au niveau européen. On observe que de plus en plus de publications sont consacrées à la manière de tromper très simplement des intelligences artificielles. La compréhension de ces éléments, et la manière dont on valide les intelligences artificielles, sont donc des aspects déterminants pour l'avenir, et pour l'implémentation. Ceci avait d'ailleurs conduit, voici une vingtaine d'années, à leur abandon.

Il s'agit d'un véritable défi pour la France et pour la recherche. Finalement, la métrologie du numérique, dans laquelle j'englobe les aspects de confiance, de garantie et de certification, semble représenter un élément déterminant. J'effectuerai une analogie avec la métrologie de la dose, sur laquelle nous travaillons également beaucoup, avec les équipes du Laboratoire national de métrologie et d'essais (LNE) : peut-être une telle approche, transposée dans le domaine de l'intelligence artificielle, serait-elle intéressante ?

Vous nous offrez, avec l'intelligence artificielle, une parfaite transition avec l'intervention du professeur Jean-Michel Besnier. Le premier vice-président Cédric Villani doit faire devant nous, le 7 décembre, une présentation intermédiaire de ses travaux sur la question. Je propose donc aux personnes qui se sentiront frustrées d'un débat sur ce point de participer à cette réunion, afin de pouvoir reprendre et développer ces thèmes.

L'esprit de mon intervention rejoindra, en partie, le propos de M. Victor Demiaux. Je me situerai, en effet, sur un terrain éthique, c'est-à-dire sur les notions d'acceptabilité sociale des innovations et de bien vivre, l'éthique étant d'abord la réponse à la question du bien vivre.

Je commencerai par indiquer, ce qui vous apparaîtra peut-être comme une insolence, qu'il n'est jamais bon de démoraliser le citoyen. Or, ceci risque fort de se produire, quand on le prive de participer à l'institution de la loi ou du droit d'exercer sa responsabilité, c'est-à-dire son pouvoir d'initiative, dans l'espace public. À force de considérer la part prise par la soif de consommer dans les sociétés développées, on a tendance à ne plus trop s'inquiéter de la demande insatisfaite de ce droit à la responsabilité, comme si le consommateur, l'usager, semblait étouffer de plus en plus le citoyen et le rendre pour ainsi dire politiquement apathique. Je crois que la déferlante d'annonces concernant l'intelligence artificielle est propice à une prise de conscience dans le public, que l'on aurait, que vous auriez tort d'ignorer.

Du point de vue de son acceptabilité sociale, l'intelligence artificielle est de plus en plus perçue comme l'annonce d'une perte du pouvoir humain de décider, au profit d'un triomphe généralisé des automatismes et des algorithmes. Il s'agit d'un phénomène relativement récent du point de vue de l'épistémologie, ou de l'histoire des sciences. Tant que l'on présentait l'intelligence artificielle d'après des modèles cognitivistes et computationnalistes, l'inquiétude était endiguée. Mais aujourd'hui, avec les modèles connexionnistes, et la sophistication des systèmes convolutifs, la société réalise, à tort ou à raison, qu'elle perd la maîtrise de ses machines. C'est comme si le système expert de jadis laissait la place, aujourd'hui, à l'apprentissage profond (deep learning), et consacrait une espèce de déperdition du sentiment d'avoir l'initiative. Ceci n'a évidemment rien de gratifiant pour l'humain. L'intelligence artificielle apparaît même, pour l'humanité, comme une nouvelle forme de « blessure narcissique », pour reprendre l'expression employée par Freud, pour désigner la désillusion progressive de l'humain par rapport à l'image qu'il se faisait de lui-même.

Le rapport de l'Office parlementaire du 14 mars 2017, intitulé Pour une intelligence artificielle maîtrisée, utile et démystifiée, est, à mes yeux, quelque peu irénique de ce point de vue. Il semble penser qu'il suffit d'évacuer comme « fantasme », c'est l'expression qu'il emploie, l'inquiétude traduite par la fameuse lettre d'avertissement signée en janvier 2015 par MM. Stephen Hawking, Bill Gates, Elon Musk, et Noam Chomsky, pour s'assurer d'une démystification de l'intelligence artificielle. Or, le fantasme alimente l'imaginaire, qui lui-même conditionne l'acceptabilité. Maîtriser et rendre opérationnelle, c'est-à-dire utile et efficace, l'intelligence artificielle est une chose ; l'inscrire comme la composante d'une culture revendiquée, comme un progrès pour l'humanité, en est une autre. C'est d'ailleurs bien de l'idée de progrès dont il s'agit. Le battage médiatique dont les technologies NBIC (nanotechnologies, biotechnologies, informatique et sciences cognitives) sont l'objet met au premier plan l'imminence d'une rupture, non l'actualisation d'un progrès, ce qui est très différent. La singularité dont on nous parle régulièrement est l'attente d'une rupture dans le continuum qui pouvait jusqu'alors décrire le progrès issu des Lumières. Le rapport sur les NBIC remis en 2003 au gouvernement américain sous le titre Convergences technologiques pour l'augmentation des performances humaines, qui sert largement de feuille de route à bon nombre de politiques de recherche d'aujourd'hui, parle d'une renaissance, plutôt que de l'avènement d'une issue eschatologique, qui consacrerait l'effort volontaire de l'humanité pour se réaliser. La renaissance est autre chose que la révolution : c'est l'explosion imprédictible des possibles, sur fond d'une table rase. Je n'évoquerai pas ici le transhumanisme, mais il faut savoir que le transhumanisme n'est pas progressiste : il veut l'au-delà de l'humain, grâce à des technologies qui doivent précisément déborder l'humain.

Il y a là un paradoxe, qui souligne, à mes yeux, l'ambivalence de la réaction du public par rapport à l'intelligence artificielle. Les algorithmes nous promettent la sécurité, en produisant des machines qui savent apprendre, et qui fonctionnent en situation d'incertitude. Mais, dans le même temps, ils menacent de nous rendre superflus, ou en tout cas de nous vassaliser. Les transhumanistes affirment même parfois que les algorithmes vont nous réduire à l'état de chimpanzés du futur. Ce paradoxe d'un système qui promet la sécurité, et engendre la vassalisation, est celui de la modernité. Nous avons voulu réaliser l'autonomie du genre humain, en refusant les déterminismes naturels. C'est le fondement même de la culture. La science et la technique ont été les moyens de cette autonomisation. Puis, nous avons, insensiblement, délégué l'autonomie aux machines, de sorte que nous risquons de nous découvrir aliénés par elles. Mon propos est évidemment schématique, mais c'est bien cela qui traverse l'imaginaire qui entoure les innovations technoscientifiques, dont les ingénieurs, les industriels, et les politiques, sont les avocats spontanés.

Le rapport de l'OCDE du 30 octobre 2017, que vous avez peut-être lu, doit nous inquiéter, pas tellement parce qu'il annonce que seulement 13 % de gens qui travaillent utilisent leurs compétences de manière plus efficace que l'intelligence artificielle, mais parce qu'il n'envisage aucune perspective pour les 87 % qui sont déjà dépassés par les performances technologiques. Le sentiment de l'urgence à réagir, notamment en adaptant l'éducation, est de plus en plus supplanté par un fatalisme désolant. On entend dire partout que l'on n'y peut rien, que l'accélération des techniques est incontournable, qu'il faut essayer de suivre le mouvement, d'être compétitifs, etc. La représentation que nous sommes conduits à nous faire de nous-mêmes est profondément dégradée. Nous ne sommes plus aux commandes, et ne sommes que des boîtes noires, ou de simples supports de données traitées par les méga-machines, par les GAFAM (Google, Apple, Facebook, Amazon, et Microsoft). Nous appartenons même, selon certains, à une espèce ratée, inachevée, et appelée à céder la place aux machines, ou à un post-humain. Je me situe, encore une fois, au niveau de l'imaginaire, du fantasme, mais qui conditionnent l'acceptabilité par le public de ce que nous lui proposons.

Qu'objecter à ce désenchantement des esprits ? D'où pourraient surgir des résistances aux recherches et aux pouvoirs qui les promeuvent ? L'intelligence artificielle rend des services incontestables, je le sais. Ceci est évident, par exemple dans le secteur de la santé. Mais elle doit rester un outil, et ne pas devenir l'équivalent d'une conception du monde. Un travail philosophique doit, pour ce faire, accompagner l'évolution des recherches. L'intelligence artificielle relève d'une conception qui réduit l'intelligence au calcul. Il convient de valoriser d'autres conceptions de l'intelligence, celle, par exemple, qui consiste à soutenir qu'être intelligent, c'est savoir refuser les automatismes de l'instinct. Résister aux machines : voilà où se situe la spécificité de l'intelligence humaine. L'éducation doit se pénétrer de cette vieille idée humaniste. L'intelligence artificielle ne fait pas droit au langage et aux signes, qui constituent les cultures, mais recourt à des systèmes de signaux, réfractaires au régime de conversation des humains. Il faut veiller à préserver le langage des objectifs de transparence qui sont ceux de l'intelligence artificielle. La fonction symbolique est l'atout majeur des humains. Elle est satisfaite par la littérature. Il faut donc développer l'enseignement de la littérature, qui offre de l'humain un visage complexe, irréductible aux simplifications que les machines voudraient lui imposer.

Enfin, la prétention de redéfinir l'humain, affichée par certains « technoprophètes » – je songe là au roboticien japonais Hiroshi Ishiguro, qui entend contribuer à une redéfinition de l'humain –, exprime une tentation totalitaire, dont il ne faut pas minimiser la portée sur les esprits contemporains, en particulier sur l'esprit des jeunes.

Étant donné le peu de temps qu'il nous reste pour mener le débat, je souhaiterais vous proposer, avec l'accord du premier vice-président Cédric Villani, que je remercie à cette occasion, une solution pratique. Ainsi que je vous l'ai indiqué précédemment, une réunion se tiendra le 7 décembre, qui sera consacrée à la question de l'intelligence artificielle. Toutes les personnes, présentes ce matin, qui souhaiteraient s'y joindre y seront les bienvenues. Nous nous efforcerons, à partir de cette réflexion sur l'intelligence artificielle, et de ce que nous avons exploré sur l'algorithme au service des politiques publiques, de renouer ce débat, afin d'éviter toute frustration de notre part de n'avoir pu bénéficier des échanges que vous auriez animés.

Je vais tenter de vous proposer une synthèse de synthèses, non sans vous avoir auparavant exprimé à tous des remerciements extrêmement poussés pour votre participation. Je déplore toutefois que l'assemblée ait été, lors de cette deuxième table ronde, exclusivement masculine. Ceci est malheureusement souvent le cas lorsque l'on aborde des sujets comme ceux qui nous rassemblent aujourd'hui. Il s'agit là d'une tendance que nous devons combattre systématiquement.

Ce matin, il a été question du thème très général de l'articulation entre algorithmique et politique, à partir de l'exemple d'APB, avec une ouverture à d'autres secteurs. Ce n'est bien évidemment pas la dernière fois que nous allons aborder ce sujet. Certaines parties du débat ont ainsi à peine été effleurées.

Il a été beaucoup question des garde-fous que le politique doit donner à l'algorithme, mais peu de ce que l'algorithme est susceptible d'apporter au politique. Or tel est bien le cas, dans différents domaines.

Nous avons aussi vu que venaient avec l'algorithme des motifs variés, des buts, comme l'efficacité ou l'équité, mais qu'il existait aussi des bonnes pratiques que le politique devait garder en tête, dont le fait de garder le sens des responsabilités des choix décisionnels. L'exemple d'APB a parfaitement montré que, sur certains sujets, il n'était pas évident de déterminer qui avait le pouvoir de décider, la responsabilité de la décision, et que la chaîne de commandement humain, par rapport à l'algorithme, n'était pas explicitée.

A également été évoquée la question de l'information, et des compétences, à tous les niveaux, chez les différents acteurs. L'accent a été mis sur l'importance de disposer d'organes pouvant mettre des garde-fous, ainsi que sur de grands principes relatifs à l'utilisation de ces systèmes. Des institutions comme la CNIL sont essentielles. J'ai ainsi noté quelques mots clés, rappelés de façon très efficace par M. Max Dauchet, et attendus aussi bien de la part de l'administration que de l'algorithme.

Il a également été souligné à plusieurs reprises que ces questions évoluaient, au fur et à mesure des transformations des algorithmes, et de nos attentes. Beaucoup de nos réflexes ne sont ainsi pas adaptés à ce genre de situation. L'exemple cité par M. Gérard Berry était très clair de ce point de vue : alors que l'on dépense énormément d'énergie pour vérifier que les médicaments ne sont pas dangereux, la même attention n'est pas portée à la vérification de la dangerosité potentielle de nos logiciels pour la santé.

Divers pièges ont aussi été évoqués. Le premier consiste à se défausser, à se cacher derrière l'algorithme, pour oublier ses responsabilités. Nous avons bien compris, avec M. Victor Demiaux, que le rappel de la CNIL n'était pas basé sur une remise en cause de l'algorithme APB, mais sur la nécessité qu'un humain, en fin de compte, puisse endosser la responsabilité de chaque décision individuelle. Il faut, dans tous les cas, savoir qui est l'humain responsable du choix final. Ceci s'applique aussi au domaine médical, et à de nombreux autres secteurs évoqués ce matin.

Un autre écueil serait de se concentrer sur une discussion trop technique, de se retrancher derrière certaines propriétés mathématiques. Ainsi que l'a expliqué M. Max Dauchet, ce n'est pas parce qu'un algorithme fonctionne bien, selon tel ou tel critère, qu'il faut le choisir. Il importe d'abord de se demander ce que l'on attend avant de voir si un tel algorithme existe. Et si l'on s'aperçoit qu'aucun algorithme ne satisfait à l'ensemble des critères ainsi définis, vient le temps de l'arbitrage, ou de la pondération. Mais la réflexion à mener en premier lieu concerne la définition des attentes, des cadres.

Il convient également, ainsi que nous y a invités M. Jean-Michel Besnier, d'envisager la manière dont tout cela s'inscrit dans une vision du monde, dans des espoirs, ce que ne permet pas une discussion trop technique. Un autre piège serait d'avoir une discussion trop générale, abstraite, n'allant pas au fond des sujets. Nous avons bien vu, avec APB, combien le sujet dépendait de certaines caractéristiques, y compris de questions n'ayant pas été envisagées dès le départ, comme celles liées à la prise en compte du handicap, ou de la situation des Français à l'étranger. Il faut vérifier que l'on a considéré l'ensemble des cas particuliers, et situations possibles.

Au niveau de la méthode, est revenue de façon récurrente l'idée selon laquelle il était important de procéder dans l'ordre, et de faire intervenir l'ensemble des acteurs dans le processus. L'intervention de M. Gérard Berry était particulièrement éclairante quant aux différentes étapes à suivre : il faut d'abord définir les spécifications puis élaborer l'algorithme, écrire le logiciel, procéder à la vérification, et, enfin, à la vérification de la vérification.

L'accent a, par ailleurs, été mis sur l'importance de la formation, et la nécessité de faire intervenir tout le monde dans ces processus, y compris les citoyens, pas seulement en leur fournissant des explications, mais aussi lors des phases de définition des attentes, dans le cadre par exemple de débats publics.

Il a également été souligné, concernant l'articulation entre la loi et la mise en oeuvre, qu'il était important d'avoir certains réflexes. Nous avons aussi bien mesuré à quel point le ministère chargé de l'enseignement supérieur était actuellement dans une situation tendue et adressons à ses équipes tous nos encouragements pour parvenir à mener à bien leur calendrier. Les discussions de la matinée ont également montré qu'il n'existait pas, à ce stade, de consensus sur les solutions à mettre en oeuvre par rapport à APB. Or, nous savons que les équipes travaillent déjà d'arrache-pied à annoncer et mettre en oeuvre la solution dans un calendrier extrêmement resserré, avant même que toute la procédure proposée par M. Gérard Berry puisse être mise en oeuvre. Où sont les spécifications ? Où est le choix de l'algorithme ?

Au-delà de cette question de temps court, voire même d'urgence, se pose aussi la question de la façon de procéder à l'avenir, pour tous les autres problèmes qui ne vont pas manquer de se présenter, et qui seront encore plus délicats que ceux soulevés par APB, qui apparaît finalement comme un cas relativement simple par rapport à bien des algorithmes que nous aurons à gérer dans le futur, qui feront intervenir de l'intelligence artificielle sous différentes formes, qui seront appliqués à des cas de plus en plus difficiles, dans un contexte d'imaginaire et de fantasme de plus en plus développé, avec un climat de compétition internationale exacerbée sur ces sujets. Il s'agira de ne céder ni à la précipitation, ni à l'abandon ou au fatalisme, ainsi que l'a souligné M. Jean-Michel Besnier.

J'aimerais conclure, en soulignant qu'il s'agit d'un débat passionnant, et que cette matinée nous a montré qu'il existait, tant du point de vue de la réflexion intellectuelle que de l'éthique et des valeurs, de nombreux éléments susceptibles de venir le nourrir.

Je suis absolument enchanté de découvrir, à travers cette présidence, une vie parlementaire qui s'efforce de replacer les sujets majeurs là où les décisions devraient se préparer, lorsqu'il s'agit du débat politique général sous la responsabilité de l'Exécutif, se prendre lorsqu'il est question de la loi, et peut-être aussi se contrôler, puisque c'est la vocation du Parlement, que de faire en sorte que la mise en oeuvre de ce qu'il a décidé soit vérifiée.

Le dispositif APB est un immense progrès au regard de ce qui existait antérieurement ; il n'en demeure pas moins perfectible. À cette occasion, j'ai découvert qu'il n'existait pas suffisamment d'échanges entre la direction générale de l'enseignement supérieur et de l'insertion professionnelle, d'une part, et les scientifiques, d'autre part. L'acteur politique national et local est parfaitement absent de tout cela. L'un des intervenants a évoqué l'existence d'une certaine froideur dans les décisions. Nous sommes des élus, et savons parfaitement qu'il est différent d'être dans une région universitaire ou dans une région qui ne l'est pas. Toutefois, dans les deux cas, on peut avoir des résultats frustrants, ceux qui sont à l'extérieur du périphérique ne pouvant entrer en centre-ville, et ceux qui se trouvent dans des régions faiblement équipées au plan universitaire ayant parfois le sentiment d'être doublement pénalisés, dans le sens où ils vont devoir quitter leur région, sans être forcément bienvenus dans les régions d'accueil, qui auront d'autres priorités.

Tout ceci montre que le Parlement est au coeur de sa mission lorsqu'il s'efforce d'établir un débat sur la chose publique, en plaçant chacun des acteurs en face de ses responsabilités.