La décision de l'algorithme : étude de droit privé sur les relations entre l'humain et la machine

Algorithmic decision making : a study in private law on the relation between humans and machines

• Auteur / Autrice : Liane Huttner
• Direction : Judith Rochfeld
• Type : Thèse de doctorat
• Discipline(s) : Droit
• Date : Soutenance le 23/11/2022
• Etablissement(s) : Paris 1
• Ecole(s) doctorale(s) : École doctorale de droit de la Sorbonne (Paris ; 2015-....)
• Partenaire(s) de recherche : Laboratoire : Institut de recherche juridique de la Sorbonne (Paris ; 2001-....)
• Jury : Président / Présidente : Célia Zolynski
• Jury : Examinateurs / Examinatrices : Judith Rochfeld, Pascal Lokiec, Céline Castets-Renard
• Jury : Rapporteurs / Rapporteuses : Florence G'Sell, Anne Debet

Mots clés

Mots clés contrôlés

Droit privé

Numérisation -- Droit

Pouvoir (droit)

Intelligence artificielle

Identité numérique

Droit

Algorithmes

Mots clés libres

Algorithmes

Décisions automatisées

Droit des données à caractère personnel

Droit de l'intelligence artificiel

Droit du pouvoir

Droit du numérique

Relation humain-machine

Droit privé

Algorithms

Relation humans-machines

Private law

Résumé

Depuis 1978, le droit encadre les algorithmes décisionnels, c’est-à-dire les algorithmes aidant ou remplaçant la décision humaine. Pourtant, le développement effréné de ces outils et leur diffusion dans tous les domaines questionnent la pertinence de ces règles ; En particulier, il apparaît que l’encadrement des algorithmes décisionnels s’oriente aujourd’hui vers la protection du destinataire de la décision, soit la personne soumise à la décision prise sur le fondement de l'algorithme. Ce faisant, une part essentielle des enjeux sont oubliés : la protection de l’auteur de la décision et du caractère humain de la décision. La réintégration à sa juste valeur de la protection de l’auteur de la décision, sans oublier celle du destinataire, permet alors de donner toute sa force au droit des algorithmes. Ainsi, les deux catégories classiques d’algorithmes de prise de décision et d’algorithmes d’aide à la décision peuvent être réinterprétées. De la même manière, les règles de conception et d’utilisation des algorithmes décisionnels peuvent également être lues sous la double fonction de la protection de l’auteur et du destinataire de la décision. Dans le premier cas, c’est la faculté même de décider qui est protégée. L’interdiction des algorithmes de prise de décision dans certains domaines ou l’encadrement strict de la légalité de ces outils en sont deux illustrations. Dans le second cas, c’est le droit de ne pas être soumis à une décision prise par une machine qui doit être mis en avant. On retrouve alors de nombreux mécanismes issus du droit du pouvoir tels que la faculté de demander le réexamen de la décision ou l'obligation de motivation.

In France, decision-making algorithms have been regulated for almost 50 years. However, given the constant development of these tools and their ever-broadening use, the effeetivity of this control has come into question. In particular, the law seems to focus on the protection of the person subjected to an automated decision. In doing so, it neglects one of the most important issues at stake : the protection of the authors of the decision themselves. This thesis argues that it is only through a subtle balance between the protection of the authors and the subjects of a given decision that the law might be able to properly regulate decision-making algorithms. Using this approach, the two classic categories of decision-making algorithms namely algorithms serving as the only basis for a decision versus algorithms serving as a simple help for the decision - can be reinterpreted. At the same time, rules regulating the conception and the use of such algorithms can be reinforced. The interdiction of all decision-making algorithms in certain domains can be seen as a proper protection of the human decision. Other mechanisms, such as the right to obtain human intervention, or to contest the decision, arc specifically designed to protect the person subjected to a decision based on an algorithm.