Comprendre comment mettre en œuvre une recherche et une innovation responsables (RRI) dans le contexte des écosystèmes d'innovation éthiques en IA : aperçus de plusieurs études de cas sur la manière dont l'IA éthique est mise en œuvre dans le secteur de l'enseignement supérieur de l'UE

Understanding how to enact Responsible Research and Innovation (RRI) in the Context of Ethical AI Innovation Ecosystems: Insights from Multiple Case Studies on how Ethical AI is Enacted within the EU Higher Education Sector

• Auteur / Autrice : Dominic Spada
• Direction : Anuragini Shirish
• Type : Projet de thèse
• Discipline(s) : Sciences de gestion
• Date : Inscription en doctorat le 01/12/2024
• Etablissement(s) : université Paris-Saclay
• Ecole(s) doctorale(s) : Droit, Economie, Management
• Partenaire(s) de recherche : Laboratoire : LITEM - Laboratoire en Innovation, Technologies, Economie et Management
• Partenaire(s) de recherche : Référent : Université d'Évry Val d'Essonne

Mots clés

Mots clés libres

Écosystèmes d'innovation éthiques en IA

Recherche et innovation responsables

Enseignement supérieur

Ethical AI innovation Systems

Resposible Research and Innovation

Higher Education

Résumé

Les discussions sur le développement de l'intelligence artificielle (IA) se concentrent souvent sur les risques que les systèmes d'IA posent à la société. Les régulations européennes, telles que l'AI Act, le RGPD et la Digital Services Act, ciblent différents aspects de l'IA et son intégration dans les technologies, tandis que les rapports de l'UE abordent les risques sociétaux des technologies émergentes (Commission européenne, 2020 ; Parlement européen, 2020). Dans le cadre de cette thèse, l'IA est définie selon l'OCDE comme un « système basé sur des machines qui, pour des objectifs explicites ou implicites, infère à partir des entrées qu'il reçoit comment générer des sorties telles que des prédictions, du contenu, des recommandations ou des décisions pouvant influencer des environnements physiques ou virtuels » (OCDE, 2024). Bien que ces efforts réglementaires et académiques soient précieux, ils restent principalement réactionnaires et sont souvent critiqués par les entrepreneurs pour leur effet restrictif sur l'innovation (Castro & McLaughlin, 2019 ; Konttila & Väyrynen, 2022 ; Tartaro et al., 2023 ; Thierer, 2023). Bien que la recherche académique s'oriente progressivement vers des interventions réglementaires proactives, elle n'a pas encore proposé de structures favorisant l'innovation d'une IA éthique. Cependant, ces efforts ont fourni un cadre pour définir l'IA éthique dans le contexte européen. Le High-Level Expert Group on AI (HLEG-AI) stipule que les systèmes d'IA doivent respecter quatre principes éthiques : le respect de l'autonomie humaine, la prévention des dommages, l'équité et l'explicabilité (HLEG-AI, 2019). Malgré ces directives, leur mise en œuvre pratique reste un défi pour les innovateurs. Une solution pourrait être de développer des écosystèmes d'innovation en IA qui favorisent dès le départ le développement d'une IA éthique. Étant donné la nature multifacette des systèmes d'IA, comprenant la diversité géographique, technologique et d'application, une approche écosystémique est nécessaire (Stahl, 2022). Toutefois, les discours académiques sur les écosystèmes d'innovation abordent rarement les questions éthiques, suggérant l'intégration de la Recherche et Innovation Responsables (RRI) comme solution corrective (Stahl, 2022). La RRI est une approche dans laquelle innovation et société partagent la responsabilité d'assurer que les innovations soient socialement acceptables, durables et désirables (Von Schomberg, 2011). Stahl (2022) propose un cadre pour développer des écosystèmes d'innovation en IA responsables qui comprend trois éléments clés : Définir les frontières : Établir des limites claires pour l'écosystème de l'IA. Connaissance : Une combinaison d'expertise technique et de compréhension conceptuelle pour anticiper les défis éthiques. Cela s'inscrit dans le concept de l'éthique par la conception et par défaut, déjà établi dans les réglementations européennes (Commission européenne, 2021 ; Règlement 2016/679, 2016 ; SIENNA Project, 2020). Gouvernance : La gouvernance à des niveaux national et international, telle que l'AI Act (Commission européenne, 2024), et à des niveaux locaux, comme les responsables éthiques en IA (Wallach & Marchant, 2019). Bien que ce cadre constitue une base pour développer des écosystèmes d'innovation en IA responsables, des recherches supplémentaires sont nécessaires pour explorer son application théorique et pratique, notamment dans les établissements d'enseignement supérieur européens (EES). Ces institutions jouent un rôle clé dans le développement et la diffusion des connaissances et sont essentielles à la promotion de l'innovation et de l'entrepreneuriat. Enfin, bien que la gouvernance de l'IA de l'UE soit critiquée, la recherche fondamentale provenant des institutions européennes fournit un cadre éthique mettant en lumière les valeurs souhaitables dans les sociétés européennes.

Discussions on AI development often focus on the risks AI systems pose to society. European regulations like the AI Act, GDPR, and Digital Services Act target various aspects of AI and its integration into technologies, with EU reports addressing the societal risks of emerging technologies (European Commission, 2020; European Parliament, 2020). For this thesis, AI is defined according to the OECD as 'a machine-based system that, for explicit or implicit objectives, infers from input how to generate outputs like predictions, content, recommendations, or decisions that influence physical or virtual environments' (OECD, 2024). While these regulatory and academic efforts are valuable, they are primarily reactionary, often criticized by entrepreneurs for stifling innovation (Castro & McLaughlin, 2019; Konttila & Väyrynen, 2022; Tartaro et al., 2023; Thierer, 2023). Although academic research is moving towards proactive regulatory approaches, it has not yet developed structures to encourage the innovation of ethical AI. These efforts, however, have contributed a framework for defining ethical AI in Europe. The High-Level Expert Group on AI (HLEG-AI) proposes that AI systems must meet four ethical principles: respect for human autonomy, prevention of harm, fairness, and explicability (HLEG-AI, 2019). Despite these guidelines, implementing them in practice remains a challenge for innovators. A potential solution is to develop AI innovation ecosystems that prioritize ethical AI development from the outset. Given the multifaceted nature of AI systems, including geographic, technological, and application diversity, an ecosystem approach is necessary (Stahl, 2022). However, existing academic discourses on innovation ecosystems often fail to address ethical issues, suggesting the integration of Responsible Research and Innovation (RRI) as a solution (Stahl, 2022). RRI is an approach where innovation and society share responsibility to ensure that innovations are socially acceptable, sustainable, and desirable (Von Schomberg, 2011). Stahl (2022) proposes a framework for responsible AI innovation ecosystems that includes three key components: Defining Boundaries: Establishing clear limits for the AI ecosystem. Knowledge: A combination of technical expertise and conceptual understanding to anticipate ethical challenges. This is aligned with ethics by design and default, a concept established in European regulations (European Commission, 2021; Regulation 2016/679, 2016; SIENNA Project, 2020). Governance: Governance at national and international levels, such as the AI Act (European Commission, 2024), and local governance, like AI Ethics officers (Wallach & Marchant, 2019). Although this framework provides a basis for developing responsible AI innovation ecosystems, further research is needed to explore its theoretical and practical applications, particularly in European Higher Education Institutions (HEIs). HEIs play a crucial role in knowledge development and dissemination and are central to fostering innovation and entrepreneurship. Lastly, while EU AI governance faces criticism, foundational research from EU institutions offers an ethical framework that highlights the values desirable in European societies.