Modèle génératif de synthèse structurée conditionnée sur des données faiblement structurées

Generative model for structured synthesis conditionned on weakly structured data

• Auteur / Autrice : Tristan Luiggi
• Direction : Laure Soulier, Vincent Guigue
• Type : Projet de thèse
• Discipline(s) : Sciences et technologies de l'information et de la communication
• Date : Inscription en doctorat le 16/09/2021
• Etablissement(s) : Sorbonne université
• Ecole(s) doctorale(s) : École doctorale Informatique, télécommunications et électronique de Paris
• Partenaire(s) de recherche : Laboratoire : LIP6

Mots clés

Mots clés libres

Nlp

Deep Learning

Data-tot-text

Nlp

Deep learning

Data-to-text

Résumé

Le projet de la société Upskills R&D s'inscrit dans un contexte de support et d'innovation dans le secteur bancaire permettant 1) de manipuler/traiter des données complexes et hétérogènes et 2) de raisonner sur ces données pour l'aide à la prise de décision. Les banques d'investissement vendent et achètent des produits financiers, échanges sur les marchés de capitaux. Ces produits financiers sont multiples, mais ont pour fonction essentielle la maıtrise des risques (e.g., des risques de taux de changes, de contrepartie, ou de taux d'intérêts). Afin de prendre des décisions, les entreprises, les banques, ont besoin de comprendre ces informations complexes, composées et hétérogènes. Il est donc nécessaire de dépasser l'analyse quantitative souvent trop difficile à traiter par l'humain pour fournir à l'utilisateur final une synthèse des informations. Cette synthèse peut prendre par exemple la forme de texte en langage naturel ou d'un graphe de connaissances déduit a partir des documents. En particulier, dans le cas de la société Upskills R&D, les données a traiter sont des produits financiers, appelés produits structures. Un produit structure est un produit financier complexe permettant de protéger le capital investi tout en s'exposant a des risques de manière finement contrôlée, afin de calibrer sa rentabilité. Les produits structures peuvent être considères comme des assemblages de produits financiers simples (action, obligation, options, etc). Cependant, il n'existe aucune règle sur la manière de créer ces assemblages et les seules limites de conception sont l'imagination du banquier et sa capacité à calculer un prix adapte a ces produits. Pour les produits structures simples, des systèmes d'extraction d'informations bases sur des règles explicites peuvent être mis en œuvre, mais cette approche se révèle difficile à maintenir et peu évolutive pour de nouveaux types de produits. Ainsi, des approches par apprentissage statistique sont pertinentes pour analyser des documents et extraire des informations utiles, de manière robuste, tout en tenant compte de la variabilité et de l'évolutivité du support. L'objectif de la thèse est d'automatiser l'analyse d'un corpus de documents structures hétérogènes dans le secteur bancaire. Pour cela, nous nous appuierons sur deux approches : 1. l'extraction d'information qui vise a extraire des entités (lieu, date, nom propres, ...) dans un document, 2. le ”data-to-text” qui a pour objectif de générer des résumés textuels a partir de données numériques. Les deux approches combinées (extraction d'information et génération de textes) permettront de mettre en œuvre des modèles dits ”de bout-en-bout” (end-to-end) capables de comprendre les informations essentielles à l'humain pour la prise de décision. Nous nous appuierons sur des avancées récentes dans le domaine de l'apprentissage automatique et plus particulièrement du Deep Learning.

The project of Upskills R&D is part of a support and innovation context in the banking sector banking sector allowing 1) to manipulate/process complex and heterogeneous data and 2) to reason on these data reasoning on these data for decision support. Investment banks sell and buy financial products, trade on capital markets. capital markets. These financial products are multiple, but their essential function is maıtrise of risks (e.g., exchange rate, counterparty, or interest rate risks). In order to make decisions, companies, banks, need to understand this complex, compound and heterogeneous information. It is therefore necessary to go beyond quantitative analysis It is therefore necessary to go beyond quantitative analysis, which is often too difficult for humans to process, to provide the end user with a synthesis of the information. This synthesis can take for example the form of text in natural language or of a knowledge graph deduced from the documents. In particular, in the case of the Upskills R&D company, the data to be processed are financial products, called financial products, called structural products. A structured product is a complex financial product allowing to protect the invested capital while exposing itself to risks in a finely controlled way, in order to controlled way, in order to calibrate its profitability. Structural products can be considered as assemblies of simple financial products (stock, bond, options, etc.). However, there is no However, there are no rules on how to create these assemblies and the only design limits are the the imagination of the banker and his ability to price these products. For simple structural products, information extraction systems based on explicit rules can be explicit rules can be implemented, but this approach is difficult to maintain and not very scalable for new and not very scalable for new types of products. Thus, statistical learning approaches are approaches are relevant for analyzing documents and extracting useful information in a robust manner, while robustly, while taking into account the variability and scalability of the medium. The objective of the thesis is to automate the analysis of a corpus of heterogeneous structural documents in the banking sector. heterogeneous documents in the banking sector. For this, we will rely on two approaches: 1. information extraction which aims at extracting entities (place, date, proper names, ...) in a document, 2. ''data-to-text'' which aims at generating textual summaries from digital data. numerical data. The two approaches combined (information extraction and text generation) will allow to implement so-called ''end-to-end'' models capable of understanding the information that is essential to information essential to human decision making. We will rely on recent advances in the field of We will rely on recent advances in the field of machine learning and more particularly on Deep Learning.