Intervention de Emmanuelle Fontaine-Domeizel

En décembre 2017, la CNIL a publié un rapport sur les enjeux éthiques des algorithmes et de l'intelligence artificielle dans lequel le rôle de la main humaine dans l'évolution de cette technologie est présenté comme un problème central. Même si cette main ne fait que fournir des données à la nouvelle classe d'algorithmes paramétrés pour s'autoréguler à partir de techniques d'apprentissage, nous devons nous interroger sur l'intervention mais aussi sur le contrôle humain a posteriori. Très vite, les informations de santé publique produites par l'outil algorithmique nous seront inaccessibles et incompréhensibles, tout en étant indispensables puisqu'une médecine prédictive, préventive et personnalisée ne peut s'en passer.

Comment pouvons-nous nous prémunir contre le risque que représenterait une confiance excessive en la fiabilité de l'intelligence artificielle ? Par ailleurs, à quel moment et de quelle manière l'humain doit-il intervenir ?