L’implémentation des processus de décision éthiques au sein des systèmes autonomes : le cas du véhicule autonome

The Implementation of Ethical Decision Procedures in Autonomous Systems : the Case of the Autonomous Vehicle

• Auteur / Autrice : Katherine Evans
• Direction : Stéphane Chauvier
• Type : Thèse de doctorat
• Discipline(s) : Philosophie
• Date : Soutenance le 15/01/2021
• Etablissement(s) : Sorbonne université
• Ecole(s) doctorale(s) : École doctorale Concepts et langages (Paris ; 2000-....)
• Partenaire(s) de recherche : Laboratoire : Sciences, Normes, Démocratie (Paris ; 2018-....)
• Jury : Président / Présidente : Raja Chatila
• Jury : Examinateurs / Examinatrices : Joanna Bryson
• Jury : Rapporteurs / Rapporteuses : John Sullins, Christoph Lütge

Mots clés

Mots clés contrôlés

Véhicules autonomes

Informatique sensible au contexte

Intelligence artificielle

Aspect moral

Systèmes embarqués (informatique)

Mots clés libres

Philosophie morale

Intelligence artificielle

Ethique de l'intelligence artificielle

Véhicule autonome

Éthique

Agents moraux artificiels

Roboéthique

Moral philosophy

Artificial intelligence

Ethics of artificial intelligence

Autonomous vehicles

Ethics

Artificial moral agents

Machine ethics

Résumé

Les problèmes éthiques liés à l’arrivée de formes d’intelligence artificielles différentes a sollicité beaucoup d’attention aussi bien académique que publique. Cependant, ces inquiétudes se concentrent sur un problème particulier : comment assurer que les décisions prises par les agents artificiels comme des voitures autonomes ne nuisent pas aux êtres humains présents dans leur environnement ? Cette question a incité la création de ceux qui sont communément appelés les agents moraux artificiels dans la littérature, la prise de décision desquels est contrainte par une moralité artificielle : un système de principes normatifs implémenté dans le processus de raisonnement de la machine. A ce jour, la forme que prend cette moralité artificielle relève de deux approches différentes : soit une forme maximalement éthique, qui dépend de l’implémentation stricte des théories morales préexistantes comme la déontologie Kantienne ou l’Utilitarisme, soit une forme minimaliste, qui applique des techniques de l’IA stochastique à l’analyse et agrégation de données portant sur les préférences morales d’une population, afin d’en tirer des principes généraux mobilisés ensuite dans la prise de décision des machines. Prises individuellement, aucune des deux approches n’arrivent à pondérer l’importance des contraintes morales avec la pertinence de l’acceptabilité publique des agents moraux artificiels. Nous proposons une approche alternative à la moralité artificielle, la théorie des valences éthiques, qui s’efforce d’accommoder ce genre de pondération, et nous l’appliquons au cas du véhicule autonome.

The ethics of emerging forms of artificial intelligence has become a prolific subject in both academic and public spheres. A great deal of these concerns flow from the need to ensure that these technologies do not cause harm—physical, emotional or otherwise—to the human agents with which they will interact. In the literature, this challenge has been met with the creation of artificial moral agents: embodied or virtual forms of artificial intelligence whose decision procedures are constrained by explicit normative principles, requiring the implementation of what is commonly called artificial morality into these agents. To date, the types of reasoning structures and principles which inform artificial morality have been of two kinds: first, an ethically maximal vision of artificial morality which relies on the strict implementation of traditional moral theories such as Kantian deontology or Utilitarianism, and second, a more minimalist vision which applies stochastic AI techniques to large data sets of human moral preferences so as to illicit or intuit general principles and preferences for the design of artificial morality. Taken individually, each approach is unable to fully answer the challenge of producing inoffensive behavior in artificial moral agents, most especially since both forms are unable to strike a balance between the ideal set of constraints which morality imposes on one hand, and the types of constraints public acceptability imposes, on the other. We provide an alternative approach to the design of artificial morality, the Ethical Valence Theory, whose purpose is to accommodate this balance, and apply this approach to the case of autonomous vehicles.