Pour une éthique de l'intelligence artificielle conversationnelle

For an ethics of conversational Artificial Intelligence

• Auteur / Autrice : Giada Pistilli
• Direction : Anouk Barberousse
• Type : Thèse de doctorat
• Discipline(s) : Philosophie
• Date : Soutenance le 21/03/2024
• Etablissement(s) : Sorbonne université
• Ecole(s) doctorale(s) : École doctorale Concepts et langages (Paris ; 2000-....)
• Partenaire(s) de recherche : Laboratoire : Sciences, Normes, Démocratie (Paris ; 2018-....)
• Jury : Président / Présidente : Mikaël Cozic
• Jury : Examinateurs / Examinatrices : Isabelle Drouet, Raja Chatila, Denis Bonnay
• Jury : Rapporteurs / Rapporteuses : Mikaël Cozic, Seth Lazar

Mots clés

Mots clés contrôlés

Philosophie

Informatique

Aspect moral

Intelligence artificielle

Agents conversationnels

Mots clés libres

Intelligence artificielle

Éthique

Agent conversationnel

Artificial Intelligence

Ethics

Conversational Agent

Résumé

Cette recherche vise à sonder les complexités éthiques de l'intelligence artificielle (IA) conversationnelle, en se concentrant spécifiquement sur les grands modèles de langage et les agents conversationnels. Ce manuscrit construit un cadre qui allie l'analyse empirique au discours philosophique. Notre objectif est de plaider de toute urgence en faveur d'une structure éthique bien fondée pour l'IA conversationnelle, en soulignant la nécessité d'impliquer toutes les parties prenantes, des développeurs aux utilisateurs finaux. Tout d'abord, nous défendons l'intégration de l'ingénierie et d'autres disciplines scientifiques avec la philosophie, facilitant ainsi une compréhension plus nuancée des dimensions éthiques qui sous-tendent l'IA. Cette approche collaborative permet un discours éthique plus riche et mieux informé. Deuxièmement, nous préconisons l'utilisation dynamique de cadres éthiques appliqués en tant que guides fondamentaux pour la définition des objectifs initiaux d'un système d'IA. Ces cadres servent d'outils évolutifs qui s'adaptent aux complexités éthiques rencontrées au cours du développement et du déploiement. Enfin, sur la base d'une recherche pratique et interdisciplinaire, nous plaidons en faveur de la priorisation de l'IA étroite et spécifique à une tâche par rapport à l'intelligence artificielle générale, une position qui repose sur la faisabilité accrue de la surveillance éthique et de la contrôlabilité technique.Avec cette recherche, nous souhaitons contribuer à la littérature sur l'éthique de l'IA, en enrichissant le discours académique à la fois en philosophie et en informatique.

This research aims to probe the ethical intricacies of conversational Artificial Intelligence (AI), specifically focusing on Large Language Models and conversational agents. This manuscript constructs a framework that melds empirical analysis with philosophical discourse. We aim to urgently advocate for a well-founded ethical structure for conversational AI, highlighting the necessity to involve all stakeholders, from developers to end-users. Firstly, we champion the integration of engineering and other scientific disciplines with philosophy, facilitating a more nuanced understanding of the ethical dimensions underpinning AI. This collaborative approach allows for a richer, more informed ethical discourse. Secondly, we advocate for the dynamic use of applied ethical frameworks as foundational guides for setting the initial objectives of an AI system. These frameworks serve as evolving tools that adapt to the ethical complexities encountered during development and deployment. Lastly, grounded in hands-on, interdisciplinary research, we make an argument for the prioritization of narrow, task-specific AI over Artificial General Intelligence, a stance that is based on the enhanced feasibility of ethical oversight and technical controllability.With this research, we aim to contribute to the literature on AI ethics, enriching the academic discourse in both philosophy and computer science.