Towards fast and certified multiple-precision librairies

par Valentina Popescu

Thèse de doctorat en Informatique

Sous la direction de Jean-Michel Muller.

Soutenue le 06-07-2017

à Lyon , dans le cadre de École doctorale en Informatique et Mathématiques de Lyon , en partenariat avec École normale supérieure de Lyon (établissement opérateur d'inscription) , Laboratoire de l'informatique du parallélisme (Lyon) (laboratoire) et de Arithmetic and Computing (laboratoire) .

Le président du jury était Sylvie Putot.

Le jury était composé de Jean-Michel Muller, Sylvie Putot, Paolo Ienne, Stef Graillat, Daniel Wilczak, Mioara Maria Joldes, Marius Cornea.

Les rapporteurs étaient Paolo Ienne, Stef Graillat.

mots clés

• Arithmétique flottante
• Arithmétique multi-précision
• Calcul GPGPU
• Expansions virgule flottante
• Processeurs graphiques
• Systèmes dynamiques
• Attracteur de Hénon
• Programmation semi-définie mal-posée
• Arithmétique en virgule flottante
• Processeurs graphiques
• Attracteurs étranges
• Systèmes dynamiques

Titre traduit

Vers des bibliothèques multi-précision certifiées et performantes

Résumé

De nombreux problèmes de calcul numérique demandent parfois à effectuer des calculs très précis. L'étude desystèmes dynamiques chaotiques fournit des exemples très connus: la stabilité du système solaire ou l’itération à longterme de l'attracteur de Lorenz qui constitue un des premiers modèles de prédiction de l'évolution météorologique. Ons'intéresse aussi aux problèmes d'optimisation semi-définie positive mal-posés qui apparaissent dans la chimie oul'informatique quantique.Pour tenter de résoudre ces problèmes avec des ordinateurs, chaque opération arithmétique de base (addition,multiplication, division, racine carrée) demande une plus grande précision que celle offerte par les systèmes usuels(binary32 and binary64). Il existe des logiciels «multi-précision» qui permettent de manipuler des nombres avec unetrès grande précision, mais leur généralité (ils sont capables de manipuler des nombres de millions de chiffres) empêched’atteindre de hautes performances. L’objectif majeur de cette thèse a été de développer un nouveau logiciel à la foissuffisamment précis, rapide et sûr : on calcule avec quelques dizaines de chiffres (quelques centaines de bits) deprécision, sur des architectures hautement parallèles comme les processeurs graphiques et on démontre des bornesd'erreur afin d'être capables d’obtenir des résultats certains.

mots clés

• Floating-point arithmetic
• Multi-precision arithmetic
• GPGPU computing
• Floating-point expansions
• Graphics process unit
• Dynamical systems
• Henon map
• Ill-posed semidefinite programming

Résumé

Many numerical problems require some very accurate computations. Examples can be found in the field ofdynamical systems, like the long-term stability of the solar system or the long-term iteration of the Lorenz attractor thatis one of the first models used for meteorological predictions. We are also interested in ill-posed semi-definite positiveoptimization problems that appear in quantum chemistry or quantum information.In order to tackle these problems using computers, every basic arithmetic operation (addition, multiplication,division, square root) requires more precision than the ones offered by common processors (binary32 and binary64).There exist multiple-precision libraries that allow the manipulation of very high precision numbers, but their generality(they are able to handle numbers with millions of digits) is quite a heavy alternative when high performance is needed.The major objective of this thesis was to design and develop a new arithmetic library that offers sufficient precision, isfast and also certified. We offer accuracy up to a few tens of digits (a few hundred bits) on both common CPU processorsand on highly parallel architectures, such as graphical cards (GPUs). We ensure the results obtained by providing thealgorithms with correctness and error bound proofs.