Models of Ethical Reasoning

par Fiona Berreby

Thèse de doctorat en Informatique

Sous la direction de Jean-gabriel Ganascia et de Robert Voyer.

  • Titre traduit

    Modèles de raisonnement éthique


  • Résumé

    Cette thèse s'inscrit dans le cadre du projet ANR eThicAa, dont les ambitions ont été : de définir ce que sont des agents autonomes éthiques, de produire des représentations formelles des conflits éthiques et de leurs objets (au sein d'un seul agent autonome, entre un agent autonome et le système auquel il appartient, entre un agent autonome et un humain, entre plusieurs agents autonomes) et d'élaborer des algorithmes d'explication pour les utilisateurs humains. L'objet de la thèse plus particulièrement a été d'étudier la modélisation de conflits éthiques au sein d'un seul agent, ainsi que la production d'algorithmes explicatifs. Ainsi, le travail présenté ici décrit l'utilisation de langages de haut niveau dans la conception d'agents autonomes éthiques. Il propose un cadre logique nouveau et modulaire pour représenter et raisonner sur une variété de théories éthiques, sur la base d'une version modifiée du calcul des événements, implémentée en Answer Set Programming. Le processus de prise de décision éthique est conçu comme une procédure en plusieurs étapes, capturée par quatre types de modèles interdépendants qui permettent à l'agent d'évaluer son environnement, de raisonner sur sa responsabilité et de faire des choix éthiquement informés. En particulier, un modèle d'action permet à l'agent de représenter des scénarios et les changements qui s'y déroulent, un modèle causal piste les conséquences des décisions prises dans les scénarios, rendant possible un raisonnement sur la responsabilité et l'imputabilité des agents, un modèle du Bien donne une appréciation de la valeur éthique intrinsèque de finalités ou d'évènements, un modèle du Juste détermine les décisions accepta


  • Résumé

    Abcd