Problèmes éthiques posés par le remplacement de l'humain par des robots : le cas des systèmes d'armes autonomes

ethical issues posed by replacement of the human by robots : the case of autonomous weapons

• Auteur / Autrice : Marie-Des-Neiges Ruffo de Bonneval de la Fare des Comtes de Sinopoli de Calabre
• Direction : Jean-Michel Besnier, Dominique Lambert
• Type : Thèse de doctorat
• Discipline(s) : Philosophie
• Date : Soutenance le 19/01/2016
• Etablissement(s) : Paris 4 en cotutelle avec Université de Namur
• Ecole(s) doctorale(s) : École doctorale Concepts et langages (Paris)
• Partenaire(s) de recherche : Equipe de recherche : Rationalités contemporaines (Paris)
• Jury : Président / Présidente : Jean-Gabriel Ganascia
• Jury : Examinateurs / Examinatrices : Jean-Michel Besnier, Dominique Lambert, Nathalie Colette-Basecqz, Alain Renaut, Renaud Ronsse

Mots clés

Mots clés contrôlés

Éthique militaire

Droit

Aspect moral

Robots militaires

Mots clés libres

Éthique

Robot

Militaire

Autonome

Morale

Logiciel

Arme

Technique

Ethics

Robots

Soldier

Autonomy

Military

Software

Gun

Technical

Résumé

Ce travail s’interroge sur l’impact éthique du remplacement des humains par des robots, particulièrement dans le cadre militaire avec les systèmes d’armes létales autonomes (SALA). Il fait le point sur les robots militaires et les logiciels existants qui contribuent à leur autonomie jusqu’en 2014. L’augmentation progressive de l’autonomie des robots signe le remplacement possible de l’humain, l’agir moral des machines à la place de l’homme est dès lors une problématique. Le robot peut-il être un agent moral ? Peut-on créer un agent moral artificiel ? Quelles sont les contraintes techniques, algorithmiques, juridiques et éthiques auxquelles une telle réalisation serait confrontée, notamment dans le monde militaire ? La robotisation est une réalité qui a déjà des effets sur le politique et le militaire comme l’illustre l’usage des drones. Quels pourraient être les effets d’une plus grande autonomie des robots pour l’obtention de la victoire et vis-à-vis de l’éthique militaire ? L’aspect novateur ne doit pas oblitérer les défis qui se posent tant aux soldats qu’aux robots. Si aucun n’est infaillible, que peut-on conclure du projet de créer des robots moraux, et quel avenir peut-on envisager pour une robotique respectueuse de l’éthique militaire ?

This work examines the ethical impact of replacing human beings with robots, especially in the military context. It focuses on existing military robots and on programmes contributing to their autonomy until 2015. Increasing autonomy of robots signs the possible replacement of the human being; the moral behaviour of the machines replacing the moral action of man is therefore an issue. Can the robot be a moral agent? Can one create an artificial moral agent? What are the technical, algorithmic, legal and ethical constraints that such achievement would face, especially in the military environment? Robotics are a reality having already an impact on the political and military world, as illustrated by the use of unmanned air vehicles. What might be the effects of greater autonomy of robots in obtaining victory and towards military ethics? The innovative aspect should not obliterate the challenges facing soldiers as well as robots. If no one is infallible, what can one conclude about the project of creating moral robots, and what kind of future can we look for in view of friendly robotics respecting military ethics?