Le droit pénal à l'épreuve de l'IA : De l'infraction à la répression numérique

Criminal law put to the AI test : From infringement to digital repression

• Auteur / Autrice : Théo Rousseau
• Direction : Jean-François Dreuille, Michel Cannarsa
• Type : Thèse de doctorat
• Discipline(s) : Droit Privé
• Date : Soutenance le 22/11/2024
• Etablissement(s) : Chambéry
• Ecole(s) doctorale(s) : École doctorale cultures, sociétés, territoires (Chambéry ; 2021-....)
• Partenaire(s) de recherche : Laboratoire : Centre de recherche en droit Antoine Favre (Chambéry ; 20007-....)
• Jury : Président / Présidente : Cédric Ribeyre
• Jury : Examinateurs / Examinatrices : Motahareh Fathisalout
• Jury : Rapporteurs / Rapporteuses : Juliette Lelieur-Fischer, Laurent Saenko

Mots clés

Mots clés contrôlés

Intelligence artificielle

Droit pénal

Mots clés libres

Numérique

Infraction

Droit

Pénal

Ia

Digital

Offence

Infrigement

Crime

Ai

Résumé

Le droit pénal est confronté, comme toutes les matières juridiques, à la numérisation de la société. La matière pénale est soumise à des changements multiples induits par le recours aux outils numériques : les auteurs d'infractions utilisent le numérique, les enquêteurs y ont recours, la procédure pénale et la Justice se numérisent. De plus, le support de l'infraction se transforme. D'objet inerte, il devient logiciel, dit ''intelligent'' ou ''autonome'', capable en tout cas d'agir sans qu'un humain le contrôle directement. Tout cela influence la définition de l'infraction et les limites de la responsabilité pénale. En parallèle, le recours aux outils numériques connaît une généralisation et une banalisation sans précédent. Tout doit être numérisé, de l'Etat et ses fonctions régaliennes aux rapports sociaux entre les individus. Le champ infractionnel numérique est étendu proportionnellement aux moyens dont disposent ceux qui font un usage nocif, hostile, des technologies disponibles. En réaction, le législateur semble voir dans la numérisation à la fois une menace et un outil de salut. Une menace, car tout peut être atteint par une connexion internet ou équivalent, ce qui parait imposer de surveiller, contrôler et donc réprimer au maximum tout comportement considéré comme ''dangereux'' et non plus seulement illicite, du moment qu'il peut s'exprimer par l'outil numérique. Un salut, car le recours à ces mêmes technologies est la solution présentée comme incontournable pour protéger les populations civiles. La surveillance se généralise et se développe, la répression s'automatise et doit s'accélérer, le tout en ayant recours à l'''IA'', aux logiciels capables, mieux que l'humain, traiter de la dangerosité et des comportements répréhensibles. Pourtant, cette foi en l'outil numérique comme un absolu et un incontournable, l'''IA'' étant appelée à incarner et s'incarner pour supplanter l'intelligence humaine, n'est pas exempt de vices et de dangers pour ceux qui subiront ou subissent déjà ses décisions. Notre étude se doit de mettre en lumière les biais de raisonnement, les menaces pour les droits collectifs et individuels ainsi que les enjeux, à long terme, de cette recherche d'anticipation et de décision contraignante, par le numérique et contre l'humain.

Like all legal fields, criminal law is confronted with the digitization of society.Criminal law is undergoing multiple changes brought about by the use of digital tools: offenders are using digital technology, investigators are using it, and criminal procedure and the justice system are going digital.What's more, the medium in which offences are committed is changing. From being an inert object, it is becoming software, so-called “intelligent” or “autonomous”, capable in any case of acting without direct human control. All this influences the definition of the offence and the limits of criminal liability.At the same time, the use of digital tools is becoming increasingly widespread and commonplace. Everything must be digitized, from the State and its regalian functions to social relations between individuals.The scope of digital crime is expanding in proportion to the means available to those who make harmful, hostile use of the technologies available.In response, legislators seem to see digitization as both a threat and a means of salvation.A threat, because anything can be reached via an Internet connection or equivalent, which would seem to make it necessary to monitor, control and therefore repress to the utmost any behavior considered “dangerous” and no longer merely illicit, as long as it can be expressed using digital tools.A salvation, because the use of these same technologies is the solution presented as inescapable to protect civilian populations. Surveillance is becoming more widespread, repression automated and accelerated, all through the use of “AI”, software capable of handling dangerousness and reprehensible behavior better than humans.However, this faith in the digital tool as an absolute and inescapable, with “AI” destined to embody and become embodied to supplant human intelligence, is not without its vices and dangers for those who will undergo or are already undergoing its decisions.Our study must highlight the biases in reasoning, the threats to collective and individual rights, and the long-term stakes involved in this quest for anticipation and binding decisions, through digital technology and against human beings.