Mensuration et implémentation d'équité dans le traitement efficace auto-supervisé de la parole

Measurement and implementation of fairness in efficient self-supervised speech processing

• Auteur / Autrice : Felix Herron
• Direction : Alexandre Allauzen, François Portet
• Type : Projet de thèse
• Discipline(s) : Informatique
• Date : Inscription en doctorat le 08/01/2024
• Etablissement(s) : Université Paris sciences et lettres
• Ecole(s) doctorale(s) : SDOSE Sciences de la Décision, des Organisations, de la Société et de l'Echange
• Partenaire(s) de recherche : Laboratoire : Laboratoire d'Analyse et de Modélisation de Systèmes d'Aide à la Décision
• Partenaire(s) de recherche : établissement opérateur d'inscription : UNIVERSITE PARIS DAUPHINE - PSL

Mots clés

Mots clés libres

Traitement de la parole

Équité

Biais

Apprentissage auto-supervisé

Évaluation

Speech processing

Fairness

Bias

Self-supervised learning

Evaluation

Résumé

Le traitement de la parole est largement mis en place dans notre vie quotidienne et élargit le champ des tâches que nous pouvons aborde avec la parole, y compris dans des domaines critiques tels que la santé ou la justice. Dans ces applications sociétales, la question de l'usage de ces outils pose la question d'une éventuelle discrimination des personnes selon des critères pour lesquels la société exige l'égalité de traitement, comme le sexe, l'origine, la religion ou le handicap. Récemment, la communauté de l'apprentissage artificielle a été confrontée à la nécessité de travailler sur les éventuels biais des algorithmes, et de nombreux travaux ont montré que la recherche des meilleures performances n'est pas le seul objectif à poursuivre (Mengesha et al. 2021). Par exemple, des évaluations récentes des systèmes ASR ont montré que les performances peuvent varier selon le sexe mais que ces variations dépendent à la fois des données utilisées pour l'apprentissage ainsi que des modèles (Garnerin et al. 2021). Par conséquent, ces systèmes sont de plus en plus examinés pour leur partialité, dans l'espoir qu'ils restent dignes de confiance. Avec l'importance croissante de l'équité et des préjugés dans la recherche sur l'IA, la recherche d'un équilibre raisonnable entre la performance du modèle et l'égalité devient de plus en plus critique. Afin de trouver un tel équilibre, nous devons créer des définitions objectives de l'équité et de la partialité, un concept non trivial compte tenu leurs innombrables sources potentielles et effets en aval, ainsi que des opinions subjectives concernant leur gravité. Le sujet de cette thèse sera de définir et justifier de telles mesures objectives, puis de travailler à faire proliférer l'équité dans des algorithmes d'apprentissage auto-supervisés efficaces pour le traitement de la parole.

Speech technologies are widely used in our daily life and are broadening the scope of tasks which we can accomplish using spoken word, including in critical areas such as health or law. In these societal applications, the question of the use of these tools raises the issue of the possible discrimination of people according to criteria for which society requires equal treatment, such as gender, origin, religion or disability. Recently, the machine learning community has been confronted with the need to work on the possible biases of algorithms, and many works have shown that the search for the best performance is not the only goal to pursue (Mengesha et al. 2021). For instance, recent evaluations of ASR systems have shown that performances can vary according to the gender but these variations depend both on data used for learning and on models (Garnerin et al. 2021). Therefore such systems are increasingly scrutinized for being biased, with the expectation that they remain trustworthy. With the rise of importance of fairness and bias in AI research, the search for a reasonable balance between model performance and equality becomes increasingly critical. In order to find such a balance, we must create objective definitions for fairness and bias, a non-trivial concept given their multitudinous potential sources and downstream effects, as well as subjective opinions concerning their gravity. The subject of this thesis will be to define and justify such objective measurements, then work to proliferate fairness in efficient self-supervised learning algorithms for speech processing.