Geometry of numbers and cryptanalysis of NTRU

• Auteur / Autrice : Nicolas Gama
• Direction : Phong Q. Nguyen
• Type : Thèse de doctorat
• Discipline(s) : Informatique
• Date : Soutenance en 2008
• Etablissement(s) : Paris 7

Mots clés

Mots clés contrôlés

Euclide, Algorithme d'

Théorie des nombres

Cryptographie à clé publique

Réduction symplectique

Résumé

La cryptographie à clef publique, inventée par Diffie et Hellman en 1976, fait aujourd'hui partie de la vie courante : les cartes bleues, les consoles de jeux et le commerce électronique par exemple utilisent des mécanismes de cryptographie à clef publique. La sécurité de certains cryptosystèmes, comme NTRU, repose sur des problèmes issus de la géométrie des nombres, et notamment les problèmes de plus court vecteur ou de plus proche vecteur dans des réseaux euclidiens. Bien que ces problèmes soient NP-difficiles, il reste néanmoins possible d'en obtenir de bonnes approximations en pratique. Dans cette thèse, nous étudions les algorithmes qui permettent d'approcher ces problèmes de réduction de réseau en temps polynomial, ou plus généralement en temps raisonnable. Nous analysons d'abord le fonctionnement de ces algorithmes d'un point de vue théorique, ce qui nous permet de construire par exemple le meilleur algorithme prouvé, au sens de sa complexité et de la qualité de son résultat. Mais nous nous intéressons aussi au côté pratique, au travers d'une grande quantité de simulations, ce qui nous permet de mettre en évidence un important écart entre les propriétés de complexité et de qualité que l'on peut prouver, et celles (bien meilleures) que l'on obtient en pratique. Ces simulations nous permettent en outre de prédire correctement le comportement réel des algorithmes. Nous étudions ces algorithmes dans le cas général, et nous montrons comment en faire des versions spécialisées pour le cas très particulier des réseaux issus du cryptosystème NTRU.

Public-key cryptography, invented by Diffie and Hellman in 1976, is now part of everyday life: credit cards, game consoles and electronic commerce are using public key schemes. The security of certain cryptosystems, like NTRU, is based on problems arising from the geometry of numbers, including the shortest vector problem or the closest vector problem in Euclidean lattices. While these problems are mostly NP-hard, it is still possible to compute good approximations in practice. In this thesis, we study approximation algorithms for these lattice reduction problems, which operate either in proved polynomial time, or more generally in reasonable time. We first analyze the functioning of these algorithms from a theoretical point of view, which allows us to build for example, the best proved algorithm for its complexity and the quality of its results. But we also study the practical aspects, through a lot of simulations, which allows us to highlight an important difference between properties of complexity and quality that we can prove, and those (much better) that can be achieved in practice. These simulations also allow us to correctly predict the actual behavior of lattice reduction algorithms. We study these algorithms first in the general case, and then we show how to make specialized versions for the very particular lattices drawn from NTRU cryptosystem.