Bibliographie & annexes
Présentation
RÉSUMÉ
Cet article propose des pistes de réflexion relatives à la conception et à l’usage des robots, en particulier lorsqu’ils sont dotés d’une capacité à calculer des décisions – y compris des décisions pouvant être considérées comme « éthiques », lorsqu’ils imitent le vivant, ou lorsqu’ils ont vocation à modifier les capacités physiques de l’homme. Il ne s’agit pas d’apporter des jugements ou des réponses sur ce qu’il convient de faire ou non en matière de robotique, mais bien plus de susciter des questionnements éthiques au sujet de l’objet robot et de sa place dans la société.
Lire cet article issu d'une ressource documentaire complète, actualisée et validée par des comités scientifiques.
Lire l’articleAuteur(s)
-
Catherine TESSIER : Maître de recherche, Ingénieur expert - ONERA – DCSD, Toulouse, France
INTRODUCTION
L’association des termes « éthique » et « robot » recouvre plusieurs aspects distincts. Il peut s’agir de la réflexion éthique liée à la recherche en robotique ou à la conception de robots présentant une caractéristique particulière, par exemple les robots dotés d’une autonomie décisionnelle leur permettant de se substituer à certaines décisions humaines, les robots imitant l’aspect ou le comportement humain ou animal, les robots modifiant les capacités physiques de l’humain. La réflexion éthique peut également concerner les usages des robots et leurs impacts sur la société, notamment l’utilisation de robots dans la défense et la sécurité, la voiture autonome, les robots de compagnie et d’assistance à la personne, les robots de réparation et d’augmentation de l’humain. Enfin, il peut s’agir de l’éthique en tant que problématique de modélisation en vue de conférer à un robot un comportement qui serait considéré comme éthique (par exemple, dans un cadre utilitariste, le robot maximiserait les conséquences positives de ses actions sur son environnement).
La démarche éthique consistant essentiellement en un questionnement, il est proposé, sans ambition d’exhaustivité, des pistes de réflexion sur ces différents aspects ainsi que quelques questions précises illustrées par des exemples. En effet, il s’agit plutôt d’éclairer le lecteur sur les spécificités du robot et les problèmes nouveaux qu’il pose par rapport à d’autres objets technologiques, et non pas de donner des réponses toutes faites à ce que doit être ou ne doit pas être un robot, à ce qu’il doit être capable de faire ou non, à ce que pourraient être ses « bons » et ses « mauvais » usages. À cette fin, l’article s’appuie largement sur les travaux menés par la CERNA (Commission de réflexion sur l’éthique de la recherche en sciences et technologies du numérique d’Allistene).
L'expertise technique et scientifique de référence
MOTS-CLÉS
DOI (Digital Object Identifier)
CET ARTICLE SE TROUVE ÉGALEMENT DANS :
Accueil > Ressources documentaires > Automatique - Robotique > Robotique > Applications en robotique > Conception et usage des robots : quelques questions éthiques > Doter un robot d’un comportement « éthique » ?
Cet article fait partie de l’offre
Éco-conception et innovation responsable
(138 articles en ce moment)
Cette offre vous donne accès à :
Une base complète d’articles
Actualisée et enrichie d’articles validés par nos comités scientifiques
Des services
Un ensemble d'outils exclusifs en complément des ressources
Un Parcours Pratique
Opérationnel et didactique, pour garantir l'acquisition des compétences transverses
Doc & Quiz
Des articles interactifs avec des quiz, pour une lecture constructive
Présentation
Robots, éthique et grand public3. Doter un robot d’un comportement « éthique » ?
On se place ici dans le cadre de l’autonomie décisionnelle conférée au robot (par exemple un drone, une voiture autonome, un robot de surveillance médicale) pour poser la question technique suivante : est-il possible de programmer le robot afin que les décisions qu’il calcule soient éthiques ? Ou plus exactement, que ces décisions soient considérées comme éthiques par un observateur humain, et au regard de quelles considérations ?
3.1 Pourquoi programmer un comportement « éthique » ?
Un robot doté de capacités décisionnelles peut être placé dans des situations telles que, si la décision était prise par un humain, des considérations éthiques orienteraient cette décision.
Exemples : Quels patients privilégier en cas d’alarmes multiples simultanées (surveillance médicale) ?
Quelles victimes choisir lorsqu’un accident est inévitable (voiture autonome) ?
Faut-il neutraliser telle cible située au milieu d’une foule (robot armé) ?
De telles situations sont caractérisées par le fait qu’il n’existe pas de décision optimale au sens d’un critère chiffré et que des arguments peuvent être avancés pour soutenir, ou au contraire contester, les différentes décisions possibles.
Chercher à doter un robot de capacités de raisonnement « éthique » est motivé par les raisons suivantes :
-
un tel raisonnement est indispensable pour certains types de robots dès lors qu’on leur confère une autonomie décisionnelle (voir exemples ci-dessus) ;
-
dans le cadre d’un partage de l’autorité entre le robot et un opérateur, le robot pourrait proposer à l’opérateur plusieurs décisions assorties d’arguments en faveur et en défaveur de chacune d’elles, au regard de considérations éthiques variées, que n’envisage pas forcément l’opérateur ;
-
un robot pourrait être « plus éthique » qu’un être humain.
Cette dernière motivation est évidemment discutable car elle suppose que l’éthique est une grandeur qui peut être ordonnée. Elle est cependant avancée en particulier dans le cas des robots autonomes militaires ...
L'expertise technique et scientifique de référence
Cet article fait partie de l’offre
Éco-conception et innovation responsable
(138 articles en ce moment)
Cette offre vous donne accès à :
Une base complète d’articles
Actualisée et enrichie d’articles validés par nos comités scientifiques
Des services
Un ensemble d'outils exclusifs en complément des ressources
Un Parcours Pratique
Opérationnel et didactique, pour garantir l'acquisition des compétences transverses
Doc & Quiz
Des articles interactifs avec des quiz, pour une lecture constructive
Doter un robot d’un comportement « éthique » ?
BIBLIOGRAPHIE
-
(1) - Commission de réflexion sur l’éthique de la recherche en sciences et technologies du numérique d’Allistene - Éthique de la recherche en robotique. - Rapport n° 1 de la CERNA (2014).
-
(2) - Commission de réflexion sur l’éthique de la recherche en sciences et technologies du numérique d’Allistene - Proposition de formation doctorale : Initiation à l’éthique de la recherche scientifique. - Cahier de la CERNA (2016).
-
(3) - Conseil d’État - Le numérique et les droits fondamentaux. - Étude annuelle (2014).
-
(4) - LAUMOND (J.-P.) - La robotique : une récidive d’Héphaïstos. - Leçon inaugurale prononcée au Collège de France (2012).
-
(5) - OGIEN (R.) - L’influence de l’odeur des croissants chauds sur la bonté humaine – Et autres questions de philosophie morale expérimentale. - Grasset (2011).
-
...
DANS NOS BASES DOCUMENTAIRES
The British Standards Institution BS 8611 Robots and robotic devices – Guide to the ethical design and application of robots and robotic systems, 2016.
HAUT DE PAGE
Parlement européen, Commission des affaires juridiques, Projet de rapport contenant des recommandations à la Commission concernant des règles de droit civil sur la robotique (2016).
HAUT DE PAGE
L'expertise technique et scientifique de référence
Cet article fait partie de l’offre
Éco-conception et innovation responsable
(138 articles en ce moment)
Cette offre vous donne accès à :
Une base complète d’articles
Actualisée et enrichie d’articles validés par nos comités scientifiques
Des services
Un ensemble d'outils exclusifs en complément des ressources
Un Parcours Pratique
Opérationnel et didactique, pour garantir l'acquisition des compétences transverses
Doc & Quiz
Des articles interactifs avec des quiz, pour une lecture constructive
