Intervention de Victor Demiaux

En fait, la loi évoque l'intervention humaine au niveau de chaque décision individuelle. Évidemment, il existe nécessairement une intervention humaine, ne serait-ce que parce que l'algorithme est un artefact conçu par l'homme, et que les critères utilisés sont choisis par l'humain. Mais à partir de cela, on pourrait imaginer que l'algorithme fonctionne, et aboutisse à des résultats concernant des centaines de milliers de personnes, sans qu'aucune autre intervention humaine « n'entre dans la boucle ». L'intervention humaine dont il est question dans la loi Informatique et libertés doit se faire à la demande de l'usager, pour que la décision qui le concerne directement puisse être réexaminée par une personne humaine, susceptible le cas échéant de lui apporter des explications.