Expliquer l'équité dans des problèmes d'affectation à base de préférences

Explaining Fairness in Preference-Based Assignments

• Auteur / Autrice : Francesco Sabatino
• Direction : Wassila Ouerdane
• Type : Projet de thèse
• Discipline(s) : Informatique
• Date : Inscription en doctorat le 15/10/2023
• Etablissement(s) : université Paris-Saclay
• Ecole(s) doctorale(s) : École doctorale INTERFACES : approches interdisciplinaires, fondements, applications et innovation
• Partenaire(s) de recherche : Laboratoire : Mathématiques et Informatique pour la Complexité et les Systèmes - EA 4037
• Partenaire(s) de recherche : Référent : CentraleSupélec

Mots clés

Mots clés libres

Choix social computationnel

IA Explicable

Systèmes Multi-agent

Partage équitable

Appariement équitable

Computational social choice

Explainable AI

Multi-Agent Systems

Fair division

Fair matching

Résumé

De nombreuses applications réelles traitent des affectations basées sur les préférences. Dans ces problèmes multi-agents, les agents ont des préférences sur des éléments (activités, ressources, ou même d'autres agents), et ces préférences doivent être agrégées dans une décision collective qui est une affectation d'agents à ces éléments. Les affectations basées sur les préférences Les affectations fondées sur les préférences englobent des problèmes bien connus de décision collective, tels que l'affectation de ressources indivisibles (affectation d'étudiants/enseignants à des cours, élaboration d'emplois du temps, répartition de l'héritage ou des tâches ménagères, répartition de ressources payées en commun, etc. ), ou la formation de coalitions (formation de clubs ou d'équipes, formation de groupes de travail, construction d'alliances stratégiques ou militaires internationales, etc. Ces problèmes sont fondamentaux dans le domaine du choix social computationnel (COMSOC) [Brandt et al., 2016], sous-domaine de l'intelligence artificielle (IA) qui étudie les aspects algorithmiques de la décision collective. De nos jours, avec l'utilisation croissante d'algorithmes et d'outils d'IA dans les systèmes régissant nos choix de vie (recrutement, couverture d'assurance, affectation dans les universités), des décisions importantes pour les agents peuvent être prises dans le cadre d'affectations basées sur les préférences. Lorsque les agents expriment des préférences sur d'autres éléments avec lesquels ils doivent être mis en relation, il est essentiel de s'assurer que les préférences sont respectées. il est essentiel de garantir l'équité de l'affectation : aucun agent ne doit se sentir traité de manière inégale. Par conséquent, pour assurer la confiance et la participation au système, il est essentiel de garantir que les algorithmes utilisés pour calculer ces affectations sont équitables pour les agents. Justifier qu'une solution donnée est équitable est lié à la capacité d'expliquer les décisions. L'intelligence artificielle explicable (XAI) est un sujet de priorité dans le domaine de l'IA [Barredo Arrieta et al., 2020], qui est même devenu une préoccupation politique et juridique [Goodman et Flaxman, 2017]. Au sein de la communauté COMSOC, il existe une longue tradition de caractérisations axiomatiques des méthodes d'agrégation des préférences, qui peuvent être considérées comme des explications basées sur des règles. Un autre axe de recherche récent utilise des méthodes assistées par ordinateur [Geist et Peters, 2017] afin de justifier les résultats des systèmes de vote. Alors que la plupart de ces travaux se concentrent sur des scénarios de vote [Boixel et Endriss, 2020, Boixel et al., 2022], seuls quelques-uns sont spécifiquement dédiés aux affectations basées sur les préférences [Loustalot Knapp, 2022, Nizri et al., 2022]. L'objectif de cette thèse est d'étudier la possibilité d'expliquer l'équité dans les affectations basées sur les préférences. L'idée est de dériver une justification automatique de l'équité des affectations par rapport à certains critères d'équité. Des outils formels tels que la résolution SAT peuvent être utilisés.

The goal of this PhD is to investigate the explainability of fairness in preference-based assignments. The idea is to derive automatic justification for fairness of assignments with respect to some fairness criteria. Computer-aided tools such as SAT solving can be used. Many real-life applications deal with preference-based assignments. In such multi-agent problems, agents have preferences over elements (activities, resources, or even other agents), and these preferences must be aggregated into a collective decision which is an assignment of agents to these elements. Preferencebased assignments include well-known problems of collective decision, such as the allocation of indivisible resources (assignment of students/teachers to courses, design of schedules, division of inheritance or household tasks, division of resources payed in common, etc.), or the formation of coalitions (formation of clubs or teams, formation of working groups, construction of strategic or military international alliances, etc.). These problems are fundamental in Computational Social Choice (COMSOC) [Brandt et al., 2016], subfield of Artificial Intelligence (AI) which studies the algorithmic aspects of collective decision. Nowadays, with the increasing use of algorithms and AI tools in systems governing our life choices (job recruitment, insurance covering, universities assignment), important decisions for the agents can be made in preference-based assignments. When agents express preferences over other elements to be matched with, it is key to ensure the fairness of the assignment: no agent should feel unequally treated. Therefore, to ensure confidence and participation in the system, it is crucial to guarantee that the algorithms used for computing these assignments are fair to the agents. Justifying that a given solution is fair is related to the ability of explaining decisions. Explainable Artificial Intelligence (XAI) is a hot topic in AI [Barredo Arrieta et al., 2020], which has even become a political and legal concern [Goodman and Flaxman, 2017]. In COMSOC, there is a long tradition of axiomatic characterizations of preference aggregation methods, which can be seen as rule-based explanations. Another recent line of research uses computer-aided methods [Geist and Peters, 2017] in order to derive justification of the outcomes of voting systems. While most of these works focus on voting scenarios [Boixel and Endriss, 2020, Boixel et al., 2022], only a few are specifically dedicated to preference-based assignments [Loustalot Knapp, 2022, Nizri et al., 2022].