Interventions sur "humain"

Monsieur le professeur, dans votre exposé, vous nous avez parlé de l'embryon avant qu'il ne devienne une personne, ce qui me conduit à poser la question essentielle de ce qui définit l'être humain, sujet qui a été largement exploré et sur lequel j'interroge le biologiste. Est-ce la naissance qui consacre la nature humaine, c'est-à-dire le passage du ventre de la mère au monde extérieur – un changement de lieu, si j'ose dire, pour respirer et se nourrir ? Est-ce la potentialité de devenir un être capable de penser, de parler, de se mouvoir, ce qui, me semble-t-il, est le cas de l'embryon dè...

Cette table ronde a pour thématique l'« intelligence artificielle », c'est-à-dire l'ensemble des technologies ayant pour objectif de comprendre comment fonctionne la cognition humaine et comment la reproduire, voire la dépasser. L'intelligence artificielle trouve son origine au milieu du XXe siècle, mais ce n'est qu'au début des années 2010, sous l'impulsion de l'explosion des puissances de calcul, de la multiplication des volumes de données et de l'essor de nouveaux algorithmes, qu'elle a pris sa nouvelle dimension : celle d'une révolution technologique, mais aussi économiqu...

...tion, qui fait état de toutes sortes d'utilisations de l'intelligence artificielle posant problème du point de vue éthique – pas forcément sur le plan des grands principes, mais parce que l'utilisation, très efficace, de certains algorithmes peut conduire à des pratiques inacceptables, comme des manipulations – on a vu les débats qui ont eu lieu après certaines élections –, ou à des organisations humaines inacceptables, par exemple en termes de conditions de travail. Quand on regarde les usages de l'intelligence artificielle, il ne faut pas se limiter à des cas déterminés par avance : il faut laisser une marge d'évolution par rapport à la société et aux usages. Mon rapport recommande de créer un comité d'éthique ad hoc, spécialisé, en parallèle de celui qui existe actuellement. Ce comité d'éthi...

... données qui permettent de distinguer, par exemple, les tumeurs bénignes et les cancers. Même si la Haute Autorité de santé (HAS) prévoit déjà un encadrement des logiciels d'aide à la décision et à la prescription médicale, nous ne sommes qu'aux prémices du travail législatif dans ce domaine. Qui est responsable en cas de dysfonctionnement ou d'erreur de diagnostic ? De quelle manière l'expertise humaine doit-elle intervenir aux côtés de l'expertise artificielle ?

Vous avez dit que la loi doit garantir la primauté de la personne. J'entends qu'il faut placer la vie humaine au-dessus de tout. Les juristes que vous êtes considèrent-ils que cela devrait faire l'objet d'une incise constitutionnelle, en ces temps de révision ?

Pascal Picq, dans son dernier livre paru en 2017 Qui va prendre le pouvoir ? Les grands singes, les hommes politiques ou les robots ?, explique pourquoi l'Europe est en retard sur les robots, notamment par rapport à l'Asie. Notre société demeure méfiante et hésite à laisser une place, à donner des droits, que ce soit aux animaux ou aux robots, parce qu'elle veut conserver aux humains leur supériorité. En matière d'intelligence artificielle, les derniers progrès sont dans l'apprentissage automatique, le machine learning. Désormais, on avance même avec des réseaux de neurones artificiels, des deep learning. Les technologies deviennent proactives, elles apprennent par elles-mêmes. Parallèlement, il existe une opacité autour des algorithmes. On peut se demander aujourd'hui s'i...

...e me demande aussi dans quelle mesure l'intelligence artificielle, qui risque de profiter à certains seulement, ne contribuera pas à fracturer encore davantage notre société, voire notre pays. Cédric Villani a expliqué tout à l'heure, et il faut le répéter, le marteler, que l'on ne peut imiter notre humanité. Monsieur Loiseau, je trouve du réconfort dans vos propos, puisque vous dites que l'être humain est la valeur fondamentale et qu'il faut réaffirmer la hiérarchie qui fonde notre droit. Je partage votre vision, qui est loin d'être passéiste ! Mais comment s'assurer que l'être humain demeure la valeur fondamentale ? Hélas, l'homme finit par être dépossédé de ses inventions, même les plus louables.

Les glissements sémantiques concernant la personne humaine me gênent. Je pense qu'il faut réserver à l'humain les notions d'intentionnalité, car il n'existe pas d'intentionnalité robotique, de liberté, d'erreur – il y a une vertu à en commettre – et de responsabilité. Il convient aussi de rappeler que l'intelligence, dans notre société, est plurielle : je pense à l'intelligence du coeur, à l'intelligence collective, à l'intelligence de la main, prolonge...

...il bien adapté ? Il s'agit plutôt de biomédecine, pas forcément d'éthique. En tout cas, ce sont les dispositions législatives qui encadrent les sauts technologiques, les progrès médicaux et les progrès scientifiques. Nous sommes dans un cadre strictement thérapeutique. Toute la difficulté est d'ajouter le mot d'éthique, qui doit prendre en compte les droits fondamentaux, le respect de la personne humaine, le principe de dignité, la non marchandisation du corps humain etc. En second lieu, ces lois dites de bioéthique sont tout à fait exemplaires dans la mesure où elles peuvent évoluer, avec des clauses de revoyure inscrites dans la loi, ce qui est original. C'est dans ce cadre, prévu en 2011, que nous sommes là aujourd'hui, et l'OPECST doit agir à deux niveaux : d'abord, pour établir un rapport s...

...venir ? Trop en amont de la recherche scientifique, il peut la paralyser en partie ; trop en aval, il peut s'éloigner de l'éthique. La question se pose car les lois de bioéthique sont révisées tous les sept ans. Ne vous semble-t-il pas souhaitable qu'elles le soient plus fréquemment, étant donné la rapidité du progrès ? Ma seconde question porte sur le statut juridique de la personne et du corps humain. L'Agence de biomédecine a autorisé la greffe d'un visage humain. S'agit-il toujours de la même personne ? Lorsque le corps est transformé, augmenté, la personne est-elle encore la même ? C'est, me semble-t-il, un sujet intéressant pour le droit civil.

Je remercie les trois intervenants pour la richesse de leurs présentations, à la fois sur le plan scientifique et sur le plan éthique. Bien entendu, refuser avec frilosité le bénéfice de l'application à l'humain des progrès de la génétique au nom de principes conservateurs n'est pas acceptable. Mais il faut penser à l'application d'un système de valeurs humanistes indispensable. Cela nous amène à considérer comme raisonnable le maintien de l'interdit du clonage humain et d'un moratoire sur la thérapie génique des cellules germinales, pour l'instant mal maîtrisée. Sinon nous nous conduirions en apprentis ...

Je voudrais demander à Alain Fischer quel est l'intérêt de travailler sur des embryons entiers et pourquoi créer de nouveaux embryons à des fins de recherche. En second lieu, le séquençage du génome humain à très haut débit a fait de grands progrès. On l'utilise pour une pathologie donnée, mais on peut trouver d'autres pathologies pour lesquelles on n'avait pas fait la recherche. Que faire de ces découvertes incidentes ? Enfin, M. Munnich a parlé de la possibilité d'ouvrir le diagnostic préconceptionnel. Soit. Mais si l'on trouve des choses notables, que fait-on ? Déconseille-t-on aux personnes d'...

...'encadrement est strict et l'Agence de biomédecine assure un contrôle scientifique, technique et éthique avant qu'un projet de recherche soit autorisé. Il doit être scientifiquement pertinent et s'inscrire dans une finalité médicale. Quels sont les potentialités de développement en France d'une telle technique tout en maintenant un haut niveau de garantie contre l'instrumentalisation de l'embryon humain ?

... six mois. Cela nous a permis de travailler assez étroitement avec le Gouvernement pour instruire ces dossiers avant la présentation de la stratégie nationale. Ce rapport a été produit par une équipe pluridisciplinaire composée de six personnes, des experts issus des domaines des sciences de l'ingénieur, de la recherche pure et dure appliquée dans un cadre industriel, des compétences en sciences humaines, droit et sciences sociales. Ce mélange a été fondamental dans la préparation de l'ensemble de la mission. Il préfigure un sujet qui se traitera au carrefour des sciences dites dures et des sciences dites humaines. Pour l'avenir de l'IA, il nous faudra cette alliance d'experts en sciences humaines et sociales, économie et entrepreneuriat, de scientifiques, chercheurs et ingénieurs. Le rapport ...

... On peut travailler à les réduire de façon substantielle. Aux États-Unis, on signale déjà des cas dans lesquels des patients doivent la vie à un algorithme d'IA qui a su détecter quelque chose de suspect dans l'imagerie médicale, là où le médecin n'y avait vu que du feu, et c'est normal. En cancérologie, les analyses des algorithmes d'IA sont à peu près au même niveau de fiabilité que celles des humains sur des cas de tests bien étudiés. Si l'on combine les deux, on obtient des taux de fiabilité proches de 100 %. La coopération est une piste probante. Enfin, si l'IA peut permettre aux médecins de diminuer la durée des études, ou du moins la partie la plus fastidieuse des études, ils pourront alors peut-être se concentrer aux soins sur le terrain plus tôt. Cela peut être une évolution important...

...se en place, dans les écoles publiques de certains États américains, d'une politique nationale d'évaluation des enseignants fondée sur de l'IA. C'est analysé dans le livre de Cathy O'Neil (On Being a Data Skeptic), qui était présente lors du colloque. Partant du constat que l'évaluation de l'enseignant est très compliquée, l'ambition de ce projet était de voir de façon « objective », sans « biais humains », en fonction des élèves qu'il reçoit, le niveau vers lequel il arrive à les porter. Finalement, l'algorithme mis en place a donné des résultats calamiteux, instables, aboutissant au renvoi de certains enseignants de bonne qualité, et inversement. Il faut donc faire très attention. D'une façon générale, les pays qui ont investi massivement dans l'informatique pour leur système d'éducation ont ...

...ps à l'arrêt. C'est un gigantesque gâchis en termes de place et de matériel. Au-delà de BlaBlaCar, qui organise déjà des formes de partage, la situation pourrait évoluer vers de nouvelles possibilités de partage efficaces d'offres privées et publiques. Pour la sécurité, les grands constructeurs se sont fixés l'objectif à terme de véhicules qui aient dix fois moins d'accidents que les conducteurs humains. On ne sait pas quand cela va arriver. Il faudra beaucoup d'expérimentations, dans lesquelles on acceptera localement de relâcher les contraintes dans des environnements contrôlés, bien identifiés, bien cartographiés. Autour du plateau de Saclay, il y a toute une réflexion sur le rôle du véhicule innovant et de la mobilité du futur. Certains acteurs locaux, des centres de recherche, doivent avoi...

En effet. L'analyse des interactions et leur modélisation nous oblige à travailler sur nous-mêmes. Dans l'interconnexion des grandes bases de données, le plus difficile n'est pas de mettre au point la solution technique, mais de se mettre d'accord sur qui la pilote, avec quels droits accordés à quels organismes, quel organisme fait confiance à quel autre, etc. C'est un problème humain. Les deux sujets sont liés. L'évolution du travail et la mobilité aussi. Dans son rapport rendu récemment public sur un sujet connexe, France stratégie a développé l'exemple de la livraison. On peut imaginer, un jour, des livraisons par drones, par voitures autonomes, de façon routinière. Le métier de livreur en sera bouleversé. Mais il ne faut pas en déduire trop hâtivement que les livreurs von...

...disponibilité. Je connais donc un peu ces questions. Mon expérience passée me pousse à souligner qu'il ne faut pas oublier que, malgré les évolutions qu'a pu apporter APB, 30 à 40 % des jeunes formulaient leurs voeux au dernier moment, voire le dernier jour. Par rapport à la suite, il semblerait que la piste privilégiée consiste à mélanger une procédure incluant un algorithme et une intervention humaine, à travers le rôle des acteurs de l'enseignement secondaire et supérieur. Je voudrais savoir comment les différents acteurs de ce processus envisagent ce rôle, aussi bien du côté des CIO que des services universitaires d'information et d'orientation. Disposez-vous, en outre, d'informations sur le nombre de formations qui ne figuraient pas dans APB ?

Je n'ai moi non plus aucun doute quant au principe de l'algorithme, dont je pense qu'il cristallise peut-être des mécontentements auparavant disséminés sur l'ensemble du territoire, et envers différents humains. Ma question concerne la hiérarchisation des voeux. À titre personnel, je considère que cette hiérarchisation est importante. Dans une allocation entre l'offre et la demande, la priorité donnée par le demandeur est en effet un élément central. J'ai toutefois cru percevoir que cela induisait des risques de classement stratégique, sans vraiment en comprendre les conséquences concrètes. Pourriez-v...