Des discours aux réalités de la conception, du déploiement et des usages des systèmes d’Intelligence Artificielle dans les situations de travail

From the discourses to the realities of the design, deployment and uses of Artificial Intelligence systems in work situations

• Auteur / Autrice : Tamari Gamkrelidze
• Direction : Flore Barcellini, Moustafa Zouinar
• Type : Thèse de doctorat
• Discipline(s) : Psychologie et Ergonomie. Ergonomie
• Date : Soutenance le 28/11/2022
• Etablissement(s) : Paris, HESAM
• Ecole(s) doctorale(s) : École doctorale Abbé Grégoire (Paris)
• Partenaire(s) de recherche : Laboratoire : Centre de recherche sur le travail et le développement (2007-... ; Paris)
• Partenaire(s) de recherche : établissement de préparation de la thèse : Conservatoire national des arts et métiers (France ; 1794-....)
• Jury : Président / Présidente : Marc-Éric Bobillier-Chaumon
• Jury : Examinateurs / Examinatrices : Flore Barcellini, Moustafa Zouinar, Marc-Éric Bobillier-Chaumon, Viviane Folcher, Pascal Salembier, Gérard Dubey, Jean-Nicolas Dacher
• Jury : Rapporteurs / Rapporteuses : Viviane Folcher, Pascal Salembier

Mots clés

Mots clés contrôlés

Thèses et écrits académiques -- Catalogage

Transformation

Intelligence artificielle

Mots clés libres

Intelligence Artificielle

Travail

Conception

Usages

Artificial Intelligence

Work

Design

Uses

Résumé

Les progrès réalisés en Intelligence Artificielle (IA) et sa diffusion annoncée dans la vie professionnelle sous différentes formes (systèmes d’automatisation, systèmes d’aide à la décision, robots, etc.) questionnent les transformations du travail et des organisations. Aujourd’hui, ces transformations sont principalement discutées à travers des réflexions d’ordre spéculatives mobilisant peu d’études empiriques.Partant de ce constat, cette thèse vise à identifier et comprendre, de façon empirique : (1) d’une part, la nature des incidences et plus largement des transformations potentielles ou effectives du travail et des organisations occasionnées par la conception, le déploiement et les usages des systèmes d’IA dans les situations de travail ; et (2) d’autre part, les questions soulevées en termes de démarches de conception de ces systèmes. Pour cela, trois études empiriques qualitatives différentes ont été menées.La première étude à visée exploratoire a pour but de comprendre de façon globale et transversale les enjeux qu’entraînent ces démarches de conception et de déploiement des systèmes d’IA ainsi que leurs usages et incidences (en termes d’apports, de risques ou d’empêchements et dégradations) dans différentes situations de travail. A l’aide de deux cas issus d’un secteur d’activité professionnelle spécifique (la radiologie), la deuxième étude empirique analyse de manière plus approfondie les usages et les transformations occasionnées par le déploiement d’une part d’un système de dictée à reconnaissance vocale pour la réalisation des comptes-rendus radiologiques, et d’autre part, d’un système de détection de fractures pour l’interprétation des images des radiographies. Enfin, la dernière étude analyse un processus de conception et de mise en place des systèmes d’IA à travers le cas d’un chatbot juridique déployé dans une grande entreprise du numérique.Les résultats montrent qu’une partie des enjeux et des préoccupations mis en avant par notre travail - place et rôle des systèmes d’IA, répartition des tâches entre humains et IA, opacité des systèmes, certaines conséquences problématiques de ces systèmes sur le travail – se rapproche de ceux identifiés par des travaux antérieurs sur l’automatisation et les systèmes experts. En outre, les résultats mettent en exergue des décalages entre les discours des promoteurs de l’IA et les préoccupations et expériences des travailleurs sur l’utilité effective des systèmes proposés par rapport aux problèmes qu’ils rencontrent dans leur travail quotidien. Conditionnés au moins partiellement par les choix de conception et les démarches de déploiement des systèmes d’IA, la mise en place et les usages de ces systèmes conduisent à des incidences diverses. D’un côté, ils apportent certains bénéfices au regard des problématiques socio-organisationnelles auxquelles font face les structures concernées (des hôpitaux ou des cliniques). Mais en même temps, ils entrainent des transformations, voire, contrairement à certains discours des promoteurs de l’IA, des risques et des dégradations du travail, variables selon les activités et les organisations du travail. Enfin, sur le volet conception, les résultats mettent en évidence une démarche « opportuniste » de conception et d’intégration d’un chatbot juridique à base d’IA. Elle se traduit par des processus « émergents » qui sont guidés par une vision « classique » des concepteurs centrée sur des besoins projetés des utilisateurs, parfois éloignés de la réalité de leur travail. Les résultats donnent matière à réflexion sur les éléments à mobiliser pour l’analyse des usages et incidences des systèmes d’IA dans les situations de travail. Cela renouvelle le besoin de recourir à des démarches de conception centrées sur l’activité pour contribuer à la conception, au déploiement et à la construction des usages des systèmes d’IA.

The progress made in Artificial Intelligence (AI) and its announced diffusion in working life under different forms (automation systems, decision support systems, robots, etc.) question the transformations of work and organizations. Today, these transformations are mainly discussed through speculative reflections with few empirical studies.Based on this observation, this thesis aims to identify and understand, in an empirical way: (1) on the one hand, the nature of the impacts and more broadly of the potential or actual transformations of work and organizations caused by the design, deployment and uses of AI systems in work situations; and (2) on the other hand, the questions raised in terms of design approaches of these systems. To achieve this, three different qualitative empirical studies were conducted.The first exploratory study seeks to understand in a global and transversal way the issues raised by these design and deployment approaches of AI systems as well as their uses and impacts (in terms of contributions, risks or hindrances and degradations) in different work situations. Based on two cases from a specific professional sector (radiology), the second empirical study analyzes in more detail the uses and transformations caused by the deployment of a voice recognition dictation system for the realization of radiological reports, and of a fracture detection system for the interpretation of X-ray images. Finally, the last study analyzes a process of design and implementation of AI systems through the case of a legal chatbot deployed in a large digital company.The results show that some of the issues and concerns highlighted by our work - the place and role of AI systems, the division of labor between humans and AI, the opacity of the systems, some of the problematic consequences of these systems on work - are similar to those identified by previous work on automation and expert systems. Moreover, the results highlight a gap between the discourses of AI promoters and the concerns and experiences of workers about the actual usefulness of the proposed systems in relation to the problems they encounter in their daily work. Conditioned at least partially by the design choices and deployment approaches of AI systems, the implementation and uses of these systems lead to diverse impacts. On the one hand, they provide certain benefits regarding the socio-organizational problems faced by the structures concerned (hospitals or clinics). But at the same time, they lead to transformations, and even, contrary to some of the discourses made by AI promoters, to risks and degradation of work, which vary according to the activities and the work organizations. Finally, on the design side, the results highlight an "opportunistic" approach to the design and integration of an AI-based legal chatbot. It results in "emergent" processes that are guided by a "classic" vision of designers centered on projected user needs, sometimes far from the reality of their work. The results provide food for thought on the elements to be mobilized for the analysis of the uses and impacts of AI systems in work situations. This renews the need to use activity-centered design approaches to contribute to the design, deployment and construction of AI system uses.