Les garanties fondamentales d'une intelligence artificielle ''digne de confiance

The fundamental safeguards of ''trustworthy'' artificial intelligence

• Auteur / Autrice : Nora Majzoub
• Direction : Francesco Martucci, Anastasia Iliopoulou-penot
• Type : Projet de thèse
• Discipline(s) : Droit public
• Date : Inscription en doctorat le 10/09/2025
• Etablissement(s) : Université Paris-Panthéon-Assas
• Ecole(s) doctorale(s) : Droit international, droit européen, relations internationales et droit comparé
• Partenaire(s) de recherche : Laboratoire : Centre de droit européen

Mots clés

Mots clés libres

Intelligence artificielle

Digne de confiance

Compliance

Régulation

Garanties fondamentales

Droit de l'Union européenne

Artificial intelligence

Trustworthy

Compliance

Fundamental guarantees

Fundamental safeguards

European Union law

Résumé

La confiance, au cœur du sujet, concerne à la fois les utilisateurs, pour lesquels il faut garantir des droits, et les opérateurs, pour lesquels un soutien à l'innovation est essentiel. Cela soulève la question de la promotion d'un nouveau modèle de régulation par le Règlement sur l'intelligence artificielle, non pas du marché, mais d'une technologie en constante évolution. La régulation vise à garantir un équilibre que le marché, seul, ne peut produire. Ce modèle se justifie par les risques liés à l'intelligence artificielle. En effet, cette dernière peut causer le décès de personnes physiques, que ce soit sur une table d'opération ou à la suite d'échanges textuels avec elle. Ainsi, l'intelligence artificielle, considérée comme un produit traitant des données, doit respecter à la fois la législation sur la sécurité des produits et celle applicable au numérique. Cette recherche vise donc à analyser ce modèle de régulation fondé sur la confiance - déterminer ce qu'elle recouvre ainsi que ses critères - et à explorer les interactions entre la législation numérique et celle sur les produits afin d'identifier les éléments en faveur et/ou en défaveur d'une nouvelle régulation. En définitive, cette régulation met en avant les droits fondamentaux, la sécurité et une innovation encadrée.

Trust, being at the heart of the research topic, concerns both users, for whom rights must be guaranteed, and operators, for whom support for innovation is essential. This raises the question of a new model of regulation being promoted through the Artificial Intelligence Act, one that does not regulate a market, but rather a technology in constant evolution. Regulation thus seeks to ensure an equilibrium that the market alone cannot produce. This model is justified by the risks inherent in artificial intelligence. Indeed, artificial intelligence systems can lead to the death of individuals, whether on an operating table or as a result of textual interactions with them. Therefore, artificial intelligence, considered as a data-processing product, must comply both with product safety legislation and with the legal framework applicable to digital technologies. This research therefore aims to analyse this trust-based regulatory model - to determine the scope and criteria of such trust - and to explore the interactions between digital legislation and product law in order to identify the elements supporting and/or challenging a new form of regulation. Last but not least, this regulatory approach emphasizes fundamental rights, safety, and responsible innovation.