Prédiction de séries temporelles : de l'économétrie à l'apprentissage profond

Time series forecasting : from econometrics to deep learning

• Auteur / Autrice : Zuokun Ouyang
• Direction : Philippe Ravier
• Type : Thèse de doctorat
• Discipline(s) : Sciences et Technologies Industrielles
• Date : Soutenance le 11/07/2023
• Etablissement(s) : Orléans
• Ecole(s) doctorale(s) : École doctorale Mathématiques, Informatique, Physique Théorique et Ingénierie des Systèmes (Centre-Val de Loire)
• Partenaire(s) de recherche : Laboratoire : Laboratoire Pluridisciplinaire de recherche en ingénierie des systèmes, mécanique et énergétique (Orléans ; 2008-....)
• Jury : Président / Présidente : Paul Honeine
• Jury : Examinateurs / Examinatrices : Meryem Jabloun, Sylvie Treuillet
• Jury : Rapporteurs / Rapporteuses : Romain Tavenard, Karine Bennis-Zeitouni

Mots clés

Mots clés contrôlés

Théorie de la prévision

Apprentissage profond

Économétrie

Séries chronologiques

Mots clés libres

Prédiction des séries temporelles

Modèle d'apprentissage profond Transformer

Application Web

Time series forecasting

Deep learning model Transformer

Web Application

Résumé

La prédiction des séries temporelles (TSF) est essentielle dans divers domaines. Cette thèse explore profondément la TSF, contribuant aux domaines économétriques et de l’apprentissage profond. Dans cette thèse, nous avons étudié les méthodes de prédiction économétriques, y compris les modèles ARIMA, ETS, VAR et leurs variations, ainsi que les méthodes de décomposition des séries temporelles comme la décomposition canonique et STL. Nous avons aussi discuté de la méthode Theta et évalué ces techniques avec la décomposition STL sur les données du M3-Competition.Parallèlement, nous avons examiné les modèles d’apprentissage profond (DL) pour la TSF, tels que les MLP, CNN, RNN, le mécanisme d’attention, et les dérivés du modèle Transformer. Nous avons évalué trois modèles DL pour la prédiction multi-étapes de TSF,identifiant des pièges et proposant des solutions. Nous avons également présenté deux nouveaux modèles basés sur Transformer, Rankformer et STLformer, pour la prédiction à long terme de TSF, démontrant une performance supérieure. En outre, nous avons développé une application web prototype utilisant Python, Flask, Bootstrap, Plotly, et Docker, adhérant à un modèle MVC, facilitant le déploiement et offrant une interface utilisateur intuitive. L’application est en phase de test et sera bientôt déployée avec des fonctionnalités supplémentaires.

Time series forecasting (TSF) is vital in fields like finance, economics, and meteorology. This thesis extensively probes TSF, contributing to econometrics and deep learning.In this thesis, we reviewed econometric forecasting methods such as ARIMA, ETS, VAR models, and time series decomposition methods, including canonical decomposition and STL. The Theta method is also discussed. We evaluated these techniques using STL decomposition on the M3-Competition datasets. Simultaneously, we investigated deep learning (DL) models for TSF, including MLPs,CNNs, RNNs, Attention Mechanism, and Transformer derivatives. We evaluated three DL models—DA-RNN, LSTNet, TPA-LSTM—for multi-step TSF problems, highlighting certain pitfalls and proposing solutions. We introduced two novel Transformer-based models, Rankformer and STLformer, exhibiting superior performance for long-term TSFtasks. We also developed a prototype web application that demonstrates our models, using Python and libraries like Flask, Bootstrap, and Plotly, following a MVC design pattern. The Docker-containerized application provides a user-friendly interface and visualizes outcomes.