Modélisation et analyse de la dynamique de confiance dans une assistance de type IA : analyse et modélisation de l’effet du feedback différé sur la confiance d’un opérateur envers une intelligence artificielle d’aide à la décision au fil du temps

Modeling and analysis of trust dynamics in AI-based assistance : analysis and modeling of the effect of delayed feedback on an operator’s trust in artificial intelligence decision support over time

• Auteur / Autrice : Vincent Fer
• Direction : Gilles Coppin, Pierre de Loor, Olivier Grisvard
• Type : Thèse de doctorat
• Discipline(s) : Informatique
• Date : Soutenance le 23/01/2026
• Etablissement(s) : Ecole nationale supérieure Mines-Télécom Atlantique Bretagne Pays de la Loire
• Ecole(s) doctorale(s) : École doctorale Sciences pour l'ingénieur et le numérique
• Partenaire(s) de recherche : Entreprise : Thales DMS
• Partenaire(s) de recherche : Laboratoire : Equipe Immersive Natural User Interaction team - Laboratoire en sciences et techniques de l'information, de la communication et de la connaissance (Brest ; 2012-....)
• Jury : Président / Présidente : Émilie Loup-Escande
• Jury : Examinateurs / Examinatrices : Gilles Coppin, Pierre de Loor, Olivier Grisvard, Gilles Bailly, Julien Cegarra, Christine Chauvin, Agnès Helme-Guizon
• Jury : Rapporteurs / Rapporteuses : Gilles Bailly, Julien Cegarra
• DOI : 10.70675/772245b2z43e2z4b57z84a3z9b4141092d85

Mots clés

Mots clés contrôlés

Confiance

Intelligence artificielle

Modélisation des données (informatique)

Mots clés libres

Confiance dans l'IA

Feedback

Sessions répétées

Calibration

Estimation

Modélisation

Trust in AI

Feedback

Repeated sessions

Calibration

Estimation

Modelisation

Résumé

Afin de favoriser un usage optimal des systèmes d'aide à la décision par les opérateurs humains, nous nous sommes intéressés à l'effet de la confiance envers l'intelligence artificielle (IA) sur les comportements d'utilisation, ainsi qu'à son évolution au fil du temps. Nous avons notamment étudié la manière dont la confiance peut être modulée dans le temps afin de tendre vers un usage optimal, en nous appuyant sur la notion de feedback différé. Pour ce faire, nous avons proposé un cadre conceptuel structurant l’évolution de la confiance selon trois niveaux : l’individu, la session et l’inter-session. À partir de ce cadre, nous avons mené trois expérimentations comprenant des sessions répétées dans le temps afin d'évaluer l'impact du type et du contenu du retour différé sur la confiance et les comportements d'interaction. Nos résultats montrent que ces éléments peuvent effectivement influencer les comportements en fonction de la phase d’interaction dans laquelle se trouve l’opérateur. Nous avons également mis en évidence un effet combiné entre la confiance envers l'IA et la confiance en soi, qui influence certains comportements au fil des sessions. Enfin, nous avons exploré l’estimation automatique de la confiance à l’aide de six modèles de régression. Le meilleur d'entre eux, un arbre de décision régressif, explique jusqu'à 70% de la variance observée dans notre contexte expérimental.

In order to promote optimal use of decision support systems by human operators, we examined the effect of trust in artificial intelligence (AI) on usage behavior, as well as how this trust evolves over time. In particular, we studied how trust can be modulated over time to achieve optimal usage, based on the concept of delayed feedback. To do this, we proposed a conceptual framework structuring the evolution of trust according to three levels: the individual, the session, and the inter-session. Based on this framework, we conducted three experiments involving repeated sessions over time to assess the impact of the type and content of delayed feedback on trust and interaction behaviors. Our results show that these elements can effectively influence trust and behavior depending on the phase of interaction in which the operator finds themselves. We also highlighted a combined effect between trust in AI and self-confidence, which influences certain behaviors over the course of the sessions. Finally, we explored the automatic estimation of trust using six regression models. The best of these, a regression decision tree, explains up to 70% of the variance observed in our experimental context.