L'Agence nationale de la recherche Des projets pour la science

Translate this page in english

Contenus numériques et interactions (CONTINT)
Edition 2013


ETHICAA


Agents Autonomes et Ethique

Ethique et Agents Autonomes
A l'heure actuelle, les machines et les logiciels (agents) deviennent de plus en plus autonomes et agissent de plus en plus sans être contrôlés par des utilisateurs ou des opérateurs humains. C'est pourquoi, la question de doter ces agents autonomes de comportements éthiques se pose. L'objectif du projet ETHICAA est de définir ce que devrait être un système composé d'un ou plusieurs agents et capable de gérer des conflits éthiques, aussi bien au niveau individuel qu'au niveau collectif.

Enjeux et objectifs
La plupart des contributions à ce jour ont proposé des recommandations ou l'implantation de principes éthiques directement dans les agents. Cependant il y a toujours des verrous scientifiques majeurs. En premier lieu, les théories éthiques sont difficiles à mettre en œuvre sous forme de principes éthiques opérationnels. En second lieu, ces principes éthiques opérationnels sont eux-même difficiles à implanter en raison de limitations d'évaluation de situation automatisée. En effet, les règles générales ne parviennent pas à évaluer une situation et une évaluation contextuelle doit être faite pour chaque situation particulière. En troisième lieu, d'un point de vue philosophique, il existe de nombreux principes éthiques et aucun d'eux n'est meilleur que les autres, rendant ainsi difficile de choisir celui à mettre en œuvre. Enfin, les systèmes informatisés sont de plus en plus ouverts et décentralisés, c'est-à-dire impliquant des agents artificiels autonomes en interaction avec d'autres agents, des opérateurs ou des utilisateurs humains. Dans ces circonstances, la gestion des conflits éthiques entre les différents agents devient une question cruciale.

C'est pourquoi des méthodes originales sont nécessaires pour répondre à la prise de décision éthique contextuelle en situation d'ouverture et de décentralisation.

Méthodes et approches
Les conflits éthiques sont caractérisés par le fait qu'il n'existe pas de « bonne » manière de les résoudre et les décision des agents doivent être fondées sur l'évaluation des arguments qui les soutiennent et des conséquences qu'elles produisent. Ainsi, trois éléments servent à définir un cadre de gestion de conflits éthiques dans les systèmes d'agents : (1) la définition d'un cadre de raisonnement éthique permettant la représentation de plusieurs principes éthiques et de plusieurs modèles d'évaluation ; (2) la Définition de méthodes de détection des conflits éthiques prenant en compte les situations où les agents raisonnent individuellement ou collectivement ; (3) la définition de plusieurs modèles de prise de décision éthique combiner intelligemment différents principes éthiques dans un cadre de prise de décision éthique multi-point-de-vue.

De plus, comme l'éthique est une notion individuelle construite sur une culture, un contexte et des expériences personnelles, la prise de décision éthique ne peut faire sens qu'au travers des applications particulières. Pour cette raison, le projet ETHICAA propose d'instancier le cadre ainsi obtenu sur deux domaines d'application : la robotique et la gestion de la vie privée. Ces deux domaines ont été choisis pour les questions de société qu'ils soulèvent en termes de confiance, d'acceptation et éthique. Dans le domaine de la robotique, le cadre ETHICAA sera utilisé pour gérer les conflits éthiques qui peuvent survenir lors de la coopération entre un agent artificiel et un opérateur humain dans le contexte du contrôle conjoint d'un UAV (Unmanned Air Vehicle). Dans le domaine de gestion de la vie privée, les conflits éthiques peuvent survenir entre plusieurs agents artificiels et plusieurs utilisateurs humains au sein d'un réseau social où des agents éthiques artificiels contrôlent et gèrent les politiques de vie privées de leurs utilisateurs humains.

Résultats

En l'état actuel du projet ETHICAA, nous avons proposé divers cas d'études applicatif de conflits éthiques et nous avons mis en lumière leurs principales caractéristiques, en termes de système et de prise de décision. Ce travail est une étape fondamentale vers la définition du cadre de gestion des conflits envisagé dans le projet.

Perspectives

Le projet ETHICAA fournira ainsi (i) une représentation formelle des principes et des conflits éthiques, ainsi que (ii) des modèles de raisonnement automatique pour pouvoir les gérer, (iii) validés sur ces scénarios issus du monde réel. En conséquence, le résultat de projet ETHICAA est un cadre général pour concevoir des systèmes d'agents artificiels dotés de comportements éthiques, capables de mettre en place des modes de régulation éthiques en fonction du contexte et des conflits éthiques pouvant impliquer d'autres agents artificiels et des êtres humains, quel que soit leur comportement.

Productions scientifiques et brevets

Le projet ETHICAA a produit deux articles au cours de l'année 2014. Un premier intitulé «Towards a Framework to Deal with Ethical Conflicts in Autonomous Agents and Multi-Agent Systems« a été présenté lors de la 12e Conférence Internationale d'Ethique Computationelle et de Recherche Philosophique (CEPE). Le second, intitulé «Un drone peut-il être courageux ?« a été présenté lors du 82e Congrès de l'Association Francophone pour le Savoir.

Partenaires

Ardans Ardans SAS

ARMINES - FAYOL ARMINES - Institut Henri Fayol de l'Ecole des Mines de Saint-Etienne

GREYC Groupe de Recherche en Informatique, Image, Automatique et Instrumentation de Caen

IMT Institut Mines Télécom

LIP6 Laboratoire d'Informatique de Paris 6

Onera Onera

Aide de l'ANR 993 788 euros
Début et durée du projet scientifique janvier 2014 - 48 mois

Résumé de soumission

A l'heure actuelle, les machines et les logiciels, agents exécutant un ensemble de tâches pour le compte des humains, deviennent de plus en plus autonomes et, par conséquent, agissent de plus en plus sans être contrôlés par des utilisateurs ou des opérateurs humains. Toutefois, et en particulier lorsque les machines autonomes interagissent directement avec des humains, il est de première importance de s'assurer qu'elles ne peuvent les blesser, ni menacer leur propre autonomie. C'est pourquoi, la question de doter les agents autonomes de comportements éthiques régulés et ou contrôlés se pose. Les discussions à ce sujet dans la littérature et les médias mettent en lumière ce besoin.

L'objectif du projet ETHICAA est de définir ce que devrait être un système composé d'un ou plusieurs agents, impliquant des humains, et capable de gérer des conflits éthiques, aussi bien au niveau individuel qu'au niveau collectif. Les conflits éthiques que nous considérons peuvent survenir 1) au sein d'un agent, 2) entre un agent et les principes éthiques du système auquel il appartient, 3) entre un agent et un utilisateur ou un opérateur humain, 4) entre plusieurs agents incluant ou non des êtres humains. Les conflits éthiques sont caractérisés par le fait qu'il n'existe pas de « bonne » manière de les résoudre. Quoi qu'il en soit, les décision doivent être fondées sur l'évaluation des arguments qui les soutiennent et des conséquences qu'elles produisent. Le projet ETHICAA, en produisant des modèles, des méthodes et des outils informatiques, proposera un cadre méthodologique permettant la définition et la gestion d'agents autonomes dotés de comportements éthiques.

ETHICAA propose d'appliquer le cadre ainsi obtenu sur deux domaines d'application : la robotique et la gestion de la vie privée. Ces deux domaines ont été choisis pour les questions de société qu'ils soulèvent en termes de confiance, d'acceptation et éthique. Dans le domaine de la robotique, le cadre ETHICAA sera utilisé pour gérer les conflits éthiques qui peuvent survenir lors de la coopération entre un agent artificiel et un opérateur humain dans le contexte du contrôle conjoint d'un UAV (Unmanned Air Vehicle). Dans le domaine de gestion de la vie privée, les conflits éthiques peuvent survenir entre plusieurs agents artificiels et plusieurs utilisateurs humains au sein d'un réseau social où des agents éthiques artificiels contrôlent et gèrent les politiques de vie privées de leurs utilisateurs humains.

Le projet ETHICAA fournira ainsi (i) une représentation formelle des principes et des conflits éthiques, ainsi que (ii) des modèles de raisonnement automatique pour pouvoir les gérer, (iii) validés sur ces scénarios issus du monde réel. En conséquence, le résultat de projet ETHICAA est un cadre général pour concevoir des systèmes d'agents artificiels dotés de comportements éthiques, capables de mettre en place des modes de régulation éthiques en fonction du contexte et des conflits éthiques pouvant impliquer d'autres agents artificiels et des êtres humains, quel que soit leur comportement.

 

Programme ANR : Contenus numériques et interactions (CONTINT) 2013

Référence projet : ANR-13-CORD-0006

Coordinateur du projet :
Monsieur Gregory BONNET (Groupe de Recherche en Informatique, Image, Automatique et Instrumentation de Caen)

Site internet du projet : http://ethicaa.org/

 

Revenir à la page précédente

 

L'auteur de ce résumé est le coordinateur du projet, qui est responsable du contenu de ce résumé. L'ANR décline par conséquent toute responsabilité quant à son contenu.