Interventions sur "éthique"

Mes chers collègues, nous débutons la dernière séquence d'auditions de notre mission en accueillant M. Jean-Gabriel Ganascia, professeur à l'université Pierre-et-Marie-Curie, chercheur en intelligence artificielle et président du comité d'éthique du Centre national de la recherche scientifique (CNRS), que nous remercions d'avoir accepté de venir s'exprimer devant nous. L'intelligence artificielle, porteuse de nombreuses promesses dans le domaine de la santé notamment, soulève également de nombreux enjeux, non seulement en tant que troisième acteur venant s'insérer dans la relation bilatérale entre un médecin et son patient, mais aussi du...

...n leur temps les révolutions engendrées par l'avènement de l'imprimerie ou de l'agriculture. Certaines des évolutions induites pourraient être opportunes ; d'autres regrettables. Il nous importe donc de contrôler quelque peu ces utilisations. Vous avez cité le professeur Jean Bernard, qui fut le premier président du CCNE. À ma connaissance, la France est le premier pays au monde à légiférer sur l'éthique de l'intelligence artificielle. Il existe, dans de nombreux pays, des règlementations, un encadrement, mais nous allons pour la première fois introduire dans la loi des recommandations éthiques relatives à ce domaine. Il s'agit d'un moment important et il nous est suggéré, afin de suivre ces évolutions dans la durée, de créer un comité d'éthique spécifiquement dédié à l'intelligence artificielle,...

...justifie pas les coups qui lui seraient portés. Les dossiers de consentement visent surtout, apparemment, à protéger les chirurgiens en termes assurantiels, afin que les patients ne puissent pas porter plainte en cas d'échec ou tout du moins puissent obtenir réparation. On m'explique aujourd'hui que s'il y a consentement d'un côté et demande de l'autre, alors tout va bien. Cela me fait dire que l'éthique aurait cédé la place à une société de contrats. Quelle différence fait-on entre un consentement éclairé pour réparer et un consentement pour faire ce qui est aujourd'hui interdit ?

Chers collègues, nous poursuivons notre séquence d'audition en accueillant le père Bruno Saintôt, directeur du département d'éthique biomédicale du Centre Sèvres, institution universitaire spécialisée dans l'étude et la recherche en philosophie et en théologie. Je tiens tout d'abord à vous présenter nos excuses pour le retard pris dans cette séquence d'auditions. La révision de la loi relative à la bioéthique amène notre mission d'information, et plus généralement l'ensemble de la société française, à s'interroger sur de nomb...

Nous avons eu beaucoup de plaisir à vous entendre. Ma question porte davantage sur la forme des débats que sur le fond. Vous êtes un observateur de la bioéthique et de son évolution, notamment dans l'espace politique. Il semble qu'un certain consensus existait lors des lois de 1994 et de 2004, alors que des divergences s'expriment de plus en plus depuis quelques années. Partagez-vous ce constat ? Dans l'affirmative, comment l'expliquez-vous ? Pensez-vous que ces divergences sont artificielles ou font écho à des lignes de fond mises en jeu à l'occasion des...

...ci ou ailleurs. Faudra-t-il les accepter, les encadrer ? Cela va assurément susciter de plus en plus de questionnements. Seriez-vous d'accord avec la proposition, que le président de notre mission et moi-même formulons, de créer une délégation parlementaire permanente qui puisse analyser ces évolutions, au lieu d'attendre tous les cinq ou sept ans la révision périodique de la loi relative à la bioéthique ? Il s'agirait d'exercer une vigilance, une veille, nous permettant d'énoncer les problèmes dès leur émergence et de mettre en place les moyens de réflexion adaptés, afin d'éviter de se retrouver face à des évolutions scientifiques sans avoir eu le temps d'y réfléchir sereinement en anticipant.

Les lois de bioéthique avaient pour objectif de maintenir la place de l'humanité par rapport à la technique. Il peut en effet exister, à partir des techniques, une tentation totalitariste, dont l'histoire nous a montré les dérives possibles. S'ajoute à cela une tentation démiurgique lorsque l'on se situe uniquement dans une vision de la technè. En tant que législateur, nous essayons de fixer des limites, donc des inter...

...s vous remercions d'avoir accepté d'intervenir devant nous. Dans ce rapport publié à la fin du mois de mars dernier, vous identifiez la santé comme l'un des secteurs à forte potentialité pour l'utilisation de l'intelligence artificielle. Nous en sommes parfaitement conscients et notre rôle va consister à réguler le cas échéant ces technologies, en prenant en compte les différentes problématiques éthiques qui se posent, sans pour autant entraver excessivement la recherche et ses applications. Votre expertise va nous être bénéfique pour définir au mieux un juste équilibre entre ces deux notions dans la perspective de la loi qui se prépare. Je vais vous laisser la parole pour un exposé, puis nous aurons un temps d'échanges.

... communauté mathématique. Nous étions alors vers la fin de la période pendant laquelle l'intelligence artificielle avait mauvaise presse, si bien que l'on ne misait guère dessus. Je commencerai par prendre quelques minutes pour évoquer le contexte de l'intelligence artificielle et les questions d'efficacité sous-jacentes. Je dirai ensuite quelques mots du rapport, avant d'insister sur les enjeux éthiques, en particulier dans le cadre du projet de loi à venir. Je m'attacherai à présenter un exposé succinct, afin de laisser autant de temps que possible à la discussion. Le sujet de l'intelligence artificielle n'est pas neuf. Il est né dans les années 1950 et s'est développé, pendant très longtemps, avec des à-coups. Ces travaux avaient pour objet la compréhension des processus de l'intelligence hu...

... non seulement pour effectuer un contrôle interne, mais aussi pour afficher des guides de bonnes pratiques vis-à-vis de l'extérieur. Pour lutter contre les algorithmes défectueux, il sera important qu'un comité indépendant travaille non sur la question de savoir si tel ou tel algorithme est bien réalisé, mais sur le principe de son usage. C'était l'une des principes recommandations, en matière d'éthique des algorithmes, de notre rapport sur l'intelligence artificielle. Nous préconisions en effet la mise en place d'un comité indépendant, sur le modèle de l'actuel Comité consultatif national d'éthique pour les sciences de la vie et de la santé (CCNE). Je continue à recommander que cette instance soit, à terme, distincte du CCNE, ce qui n'exclut pas des saisines communes, ni sans doute des membres ...

...r indistinctement toute l'information disponible au motif qu'elle appartient à l'individu, et l'attitude française consistant à ne rien révéler afin d'éviter que les gens soient dans l'inquiétude, quitte à ce que certains fassent séquencer leur génome à l'étranger et se retrouvent seuls face à des données qu'ils ne comprennent pas ? Ma dernière question reprend le point développé sur le comité d'éthique, spécifique à l'intelligence artificielle, distinct du CCNE même s'il émerge à partir de celui-ci en tirant expérience de son savoir-faire. Je suis tout à fait favorable à cette idée, mais ne serait-il pas intéressant, au-delà de l'application de l'intelligence artificielle à l'humain, d'en étendre le champ au reste du monde vivant ? De plus en plus, en effet, les autres espèces vivantes, l'envir...

... bons formats, des certifications adéquates et de la cybersécurité, dans un contexte où la sécurité va s'imposer comme un problème de plus en plus important pour toutes les institutions. Les actions de piratage sont en effet amenées à se multiplier, qu'elles soient le fait d'individus ou d'États. Cette question technique ne doit pas être négligée. La deuxième difficulté à surmonter est légale et éthique : cela suppose des discussions avec la Commission nationale de l'informatique et des libertés (CNIL) et l'Institut national des données de santé (INDS) lorsqu'il s'agit de sujets de recherche. Or la délivrance des autorisations nécessaires pour mener des projets de recherche prend parfois plusieurs années, ce qui peut s'avérer mortel pour une start-up qui veut mettre en place un modèle de diagnos...

Merci beaucoup pour cet exposé et pour le rapport. Les possibilités offertes par l'intelligence artificielle recèlent une part de magie. Or la magie relève d'un défaut de perception et j'ai le sentiment que l'on ne voit pas tout. Nous voyons bien les côtés positifs, mais vous avez aussi abordé les limites techniques et éthiques. Mme Agnès Buzyn a annoncé que la médecine prenait un virage avec l'intelligence artificielle, passant d'un médecin porteur, grâce à sa mémoire, d'une base de données à un médecin n'ayant plus besoin de cette base car disposant de la possibilité d'utiliser l'intelligence artificielle et ses algorithmes. Au-delà de celle de la formation de nos médecins, je souhaiterais vous soumettre trois quest...

... de Genève, et M. Bernard Baertschi, maître d'enseignement et de recherche à l'université de Genève. Le développement de la neuro-imagerie, qui permet l'étude du cerveau non seulement sur le plan morphologique mais également fonctionnel a permis, à l'instar d'autres techniques, de développer considérablement nos connaissances dans le champ des neurosciences. Ce domaine soulève de nombreux enjeux éthiques, notamment du point de vue de l'utilisation de données sur l'activité cérébrale d'un individu à des fins judiciaires, de marketing ou de sélection à l'embauche ; il en est de même de la recherche d'une amélioration des activités cérébrales, appelée « neuro-amélioration ». Nous souhaiterions recueillir vos arguments sur ce sujet complexe, afin d'aboutir à une réflexion éclairée. Je vous donne ma...

Monsieur le professeur Pollak, le CCNE, dans son avis de septembre dernier, considère nécessaire d'aborder la question de l'évaluation éthique des projets de recherche en neurosciences. Une telle évaluation est-elle effectuée, ne serait-ce qu'a minima ? Y êtes-vous favorable ? Quels pourraient en être les critères et les modalités pratiques ?

...quiez le Human Brain Project, dont le développement est prévu sur dix ans, mais dont je doute qu'il permette de tout connaître du fonctionnement cérébral. Cela me fait penser au projet de Nixon sur le cancer, dans les années 1970. Quarante ans après, il y a toujours des cancers ! Néanmoins, ce projet, doté de moyens accrus, permettra de réaliser des progrès sensibles. Faut-il porter une attention éthique particulière au fur et à mesure de l'accumulation des connaissances ? Vous avez évoqué le dopage cognitif. Comment se prémunir efficacement des méfaits des psychotropes et des neurostimulants ? La lutte ne risque-t-elle pas d'être aussi difficile que contre le dopage sportif ? Ne risque-t-on pas de se borner à le dénoncer sans obtenir beaucoup d'effets ? Si mes souvenirs sont exacts, le centre ...

...de la loi de 2011 admet le recours à l'imagerie cérébrale dans le cadre de l'expertise judiciaire. Je m'interroge cependant sur les progrès scientifiques de l'imagerie cérébrale et sur son encadrement. En effet, lorsque l'on contrôle ou que l'on tente de contrôler l'immense avancée de la génétique, on semble oublier que les données issues de l'imagerie cérébrale soulèvent tout autant de questions éthiques fondamentales et peuvent présenter des risques pour les droits de la personne humaine. Je citerai quelques exemples pour illustrer mes propos et les vôtres, car je ne fais que reprendre vos illustrations. Si une lésion ou une tumeur cérébrale m'est diagnostiquée, suis-je toujours responsable de mes actes ? Lors d'un examen médical du cerveau, peut-on indiquer à un patient qu'il est susceptible ...

Je remercie nos invitées, venues de plusieurs pays d'Europe impliqués dans le domaine de la bioéthique, d'avoir bien voulu répondre à notre invitation. Dans le cadre de la révision de la loi de bioéthique, il est important pour nous d'élargir nos perspectives aux pratiques européennes et internationales. En effet, les cadres juridiques d'autres pays peuvent avoir une influence, directe ou indirecte, sur la société française, notamment en matière de dons de gamètes, d'assistance médicale à la procr...

Je vous remercie. Madame De Sutter, considérez-vous que l'ouverture de l'AMP aux couples de femmes et aux femmes seules entraîne automatiquement la légalisation de la GPA ? Si oui, selon quels principes, et quelles peuvent en être, si elles existent, les modalités éthiques ? Madame Wiesemann, qu'advient-il des embryons surnuméraires en Allemagne, où il sont beaucoup moins nombreux qu'en France ? Madame Cambon-Thomsen, le processus de consentement au long cours que vous appelez de vos voeux existe-t-il déjà dans une législation étrangère ou est-il à inventer entièrement ? Madame Martinho da Silva, des initiatives européennes seraient-elles envisageables, tant pour ...

Comment expliquez-vous, madame Martinho da Silva, la disparité si marquée des règles relatives à la bioéthique dans des pays européens aux cultures et à des valeurs communes ? Le CCNE propose de donner un accès plus large aux informations recueillies dans le cadre du diagnostic pré-conceptionnel ; qu'en pensez-vous, madame Cambon-Thomsen ? Comment procéder, sur un plan pratique, si la demande des couples est forte ? Faut-il prévoir d'augmenter le nombre de généticiens aptes à donner des avis autorisés po...