L’Éthique de l’Intelligence Artificielle en Pratique. Enjeux et Limites

AI Ethics in Practice, Challenges and Limitations

• Auteur / Autrice : Jean-Marie John-Mathews
• Direction : Christine Balagué, Dominique Cardon
• Type : Thèse de doctorat
• Discipline(s) : Sciences de gestion
• Date : Soutenance le 01/12/2021
• Etablissement(s) : université Paris-Saclay
• Ecole(s) doctorale(s) : École doctorale Droit, économie, management (Sceaux, Hauts-de-Seine ; 2020-....)
• Partenaire(s) de recherche : Laboratoire : Institut Mines-Télécom-Business School. Laboratoire en Innovation, Technologies, Economie et Management (Evry, Essonne) - Institut Mines-Télécom-Business School. Laboratoire en Innovation, Technologies, Economie et Management (Evry, Essonne)
• Partenaire(s) de recherche : Référent : Université d'Évry-Val-d'Essonne (1991-....)
• Partenaire(s) de recherche : graduate school : Université Paris-Saclay‎. Graduate School Économie & management (2020-...)
• Jury : Président / Présidente : Lars Meyer-Waarden
• Jury : Examinateurs / Examinatrices : Kristof Coussement, Yvon Pesqueux, Hajer Kefi, Rémi Jardat, Margherita Pagani
• Jury : Rapporteur / Rapporteuse : Kristof Coussement, Yvon Pesqueux, Hajer Kefi

Mots clés

Mots clés contrôlés

Sociologie

Pragmatique

Équité

Interprétation

Morale

Apprentissage automatique

Intelligence artificielle

Mots clés libres

Algorithme

Interprétabilité

Algorithm

Interpretability

Résumé

Alors que l’Intelligence Artificielle (IA) est de plus en plus critiquée en raison des enjeux éthiques qu’elle pose, un ensemble d’outils et de méthodes ont émergé ces dernières années pour la normer, tels que les algorithmes de débiaisement, les métriques d’équité, la génération d’explications, etc. Ces méthodes, dites de l’IA responsable, doivent s’adapter à des algorithmes qui s’alimentent de données de plus en plus granulaires, volumineuses et comportementales. Dans ce travail de recherche, nous décrivons comment l’IA prétend calculer le monde lui-même sans l’usage des catégories normatives que nous utilisons habituellement pour formuler des critiques. Comment normaliser une IA qui prétend justement se positionner en deçà des normes ? Pour répondre à cette question, nous avons développé, à partir de la littérature technique dans la discipline de l’éthique de l’IA, un dispositif pour normer les modèles afin de faire face aux enjeux de discriminations, d’opacité et de vie privée. Ensuite, nous avons formulé quatre critiques empiriques et théoriques pour souligner les limites des outils techniques de l’éthique. Premièrement, nous montrons les limites des méthodes de génération d’explications a posteriori de décisions émanant d’IA dites « boîte noire ». Deuxièmement, nous montrons la difficulté de normer l’IA avec des méthodes d’explication libérales supposant la capacité des IA à dévoiler d’elles-mêmes leurs propres biais. Nous montrons ensuite, en s’inspirant de la sociologie pragmatique de Boltanski, que les méthodes pour lutter contre les discriminations tendent vers un système de domination experte dans lequel l’IA modifie constamment les contours de la réalité sans offrir une prise à la critique. Enfin, nous montrons que l’IA s’insère plus généralement dans un mouvement d’extension diluant le rôle des institutions qui ont le pouvoir de stabiliser les critiques sociales tout en donnantune prise sur le monde. Ces quatre critiques empiriques et théoriques nous permettent finalement d’ajuster notre première proposition pour normer l’IA. En partant d’un outil technique, nous proposons finalement une enquête ouverte et matérielle permettant de réactualiser constamment la question des fins et des moyens au sein des collectifs de l’IA.

While Artificial Intelligence (AI) is raising more and more ethical issues (fairness, explainability, privacy, etc.), a set of regulatory tools and methods have emerged over the past few years, such as fairness metrics, explanation procedures, anonymization methods, and so on. When data are granular, voluminous and behavioral, these “responsible tools” have trouble regulating AI modelswithout using the normative categories usually applied to formulate critiques. How to normalize AI that pretend to compute the world without categories ? To answer this question, we have developed, using the technical literature from AI ethics, an algorithmic method to regulate AI regarding ethical issues, such as discrimination, opacity and privacy. We then formulate four empirical and theoretical critiques to highlight the limitations of technical tools to address ethics. First, we pinpoint the limitations of the methods that generate post-hoc explanations of ''black box'' models. Second, we show that we cannot only rely on transparency to address ethical issues, since explanations cannot always reveal discriminations. We then demonstrate, using concepts from Boltanski’s pragmatic sociology, that the methods for fighting discrimination tend towards a “complex domination system” in which AI constantly modifies the contours of reality without offering any outlet for criticism. Finally, we show that AI is more generally part of a movement of extension that dilutes the role of institutions. These four empirical and theoretical criticisms finally allow us to adjust our first proposal to normalize AI. Starting from a technical tool, we finally propose an open and material inquiry allowing to constantly update the question of ends and means within AI collectives.