Ιntegrating artificial mοral value systems in sequential multi-agent decisiοn-making prοcesses

• Auteur / Autrice : Mihail Stojanovski
• Direction : Gregory Bonnet, Abdel-Illah Mouaddib
• Type : Projet de thèse
• Discipline(s) : Informatique
• Date : Inscription en doctorat le 16/09/2022
• Etablissement(s) : Normandie
• Ecole(s) doctorale(s) : École Doctorale Mathématiques, Information, Ingénierie des Systèmes
• Partenaire(s) de recherche : Laboratoire : Groupe de recherche en informatique, image et instrumentation de Caen
• Partenaire(s) de recherche : Établissement co-accrédité : Université de Caen Normandie
• Jury : Examinateurs / Examinatrices : Rachid Alami, Gregory Bonnet, Catherine Tessier, Nadjet Bourdache, Francois Charpillet, Abdel-Illah Mouaddib, Aurélie Beynier
• Jury : Rapporteurs / Rapporteuses : Rachid Alami, Aurélie Beynier

Mots clés

Mots clés contrôlés

Intelligence artificielle

Mots clés libres

Intelligence artificielle

Éthique computationnelle

Agents moraux artificiels

Décision séquentielle dans le risque

Systèmes multi-agents

Artificial intelligence

Machine ethics

Artificial moral agents

Sequential decision under risk

Multi-agent systems

Résumé

Les agents artificiels autonomes sont de plus en plus utilisés dans des domaines où leurs décisions peuvent avoir des conséquences morales, affectant à la fois les groupes et les individus. De plus, il n'est pas toujours possible d'avoir un contrôle humain qui garantisse que le comportement de ces agents est éthiquement acceptable. Il est donc nécessaire de proposer des modèles la prise de décision éthique automatique. Cependant, la prise de décision éthique doit tenir compte des situations dans lesquelles des valeurs morales sont en conflit, reposant la hiérarchisation des valeurs plutôt que sur leur agrégation, distinguant les valeurs qui doivent primer sur les autres et celles qui se compensent mutuellement. Enfin, dans les environnements multi-agents, la prise de décision éthique devient intrinsèquement intersubjective : l'évaluation morale du comportement d'un agent peut dépendre des décisions ou des systèmes de valeurs d'autres agents. Pour répondre à ces problématiques, nous proposons dans cette thèse deux modèles de prise de décision éthiques séquentielle dans le risque : les processus décisionnels de Markov éthiques qui représentent dans un cadre mono-agent des valeurs morales subjectives et potentiellement conflictuelles auxquelles une politique optimale devrait adhérer ; les jeux stochastiques avec systèmes de valeurs hiérarchiques qui généralisent dans un cadre multi-agent le modèle précédent et dans lesquels le jugement de groupes d'agents peut influencer le comportement des autres.

Autonomous artificial agents are increasingly used in domains where their decisions can have moral consequences, affecting both groups and individuals. Moreover, it is not always possible to have human oversight that will ensure their behaviour is ethically acceptable, and thus there is a need for automated ethical decision-making models. However, ethical decision-making must address situations in which moral values conflict; often relies on prioritisation rather than aggregation, distinguishing between values that must take precedence over others, and those that compensate each other. Finally, in multi-agent environments, ethical decision-making becomes inherently intersubjective: the moral assessment of an agent’s behaviour may depend on the decisions or value systems of other agents. Hence, we propose in this thesis two ethical sequential decision-making models under risk: Ethical Markov Decision Processes for mono-agent settings, representing subjective and potentially conflicting moral values to which an optimal policy would adhere to; Stochastic Games with Hierarchical Value Systems which generalise the former model to multi-agent settings, in which the judgement of the different groups of agents can influence one another's behaviour.