Intervention de Claude de Ganay

En troisième lieu, l'intelligence artificielle comporte toujours une « part d'ombre », la fameuse « boîte noire » de l'intelligence artificielle, qui empêche l'opérateur de reconstituer le processus de prise de décision de la machine.

Rappelons à ce titre que le système d'intelligence artificielle qui a battu le champion du monde du jeu de go a effectué dix-sept mouvements que ses programmateurs ne pouvaient pas expliquer. Une telle situation pose de sérieuses difficultés dès lors qu'il serait envisagé de déléguer à une intelligence artificielle la décision de tirer pour tuer.

En quatrième lieu, les techniques d'apprentissage présentent des risques de biais involontaires, en particulier lorsque les données d'apprentissage ne sont pas représentatives. Citons ainsi l'exemple d'un biais ethnique dans des données de populations.

De manière générale, le renforcement de l'autonomie des systèmes d'armes bouscule la place de l'homme dans la guerre. En heurtant ainsi directement la question de déshumanisation du champ de bataille, la question des SALA percute directement les grands principes du droit international des conflits.