Quelques méthodes d’explicabilité pour les modèles d’apprentissage statistique en actuariat

Some explainability methods for statistical learning models in actuarial science

• Auteur / Autrice : Arthur Maillart
• Direction : Christian Yann Robert
• Type : Thèse de doctorat
• Discipline(s) : Sciences de gestion
• Date : Soutenance le 29/06/2021
• Etablissement(s) : Lyon
• Ecole(s) doctorale(s) : École doctorale Sciences économiques et de gestion (Lyon ; 2007-....)
• Partenaire(s) de recherche : établissement opérateur d'inscription : Université Claude Bernard (Lyon ; 1971-....)
• Partenaire(s) de recherche : Laboratoire : Laboratoire de Sciences Actuarielle et Financière (Lyon ; 1997-....)
• Jury : Président / Présidente : Frédéric Planchet
• Jury : Examinateurs / Examinatrices : Christian Yann Robert, Olivier Lopez, Katrien Antonio, Arthur Charpentier, Caroline Hillairet
• Jury : Rapporteurs / Rapporteuses : Olivier Lopez, Katrien Antonio

Mots clés

Mots clés contrôlés

Modèles paramétriques (statistique)

Apprentissage automatique

Assurance -- Mathématiques

Actuariat

Mots clés libres

Intelligibilité

Transparence

Apprentissage statistique

Boite noire

Ensemble d'arbres

Post-hoc

Global surrogate

Intelligibility

Transparency

Machine learning

Black-box

Tree ensemble

Post-hoc

Global surrogate

Résumé

Dans cette thèse, montrons à travers trois problématiques indépendantes l'intérêt des méthodes d'explicabilité pour l'apprentissage statistique en science actuarielle. Dans notre premier cas d’usage, nous construisons un modèle de fréquence sinistre, notre boîte noire, avec un Poisson random forest. Puis, nous proposons une méthode permettant de construire un arbre qui reproduit fidèlement les prédictions de la boîte noire tout en étant moins complexe et de ce fait plus interprétable. En remarquant que la complexité d’un ensemble d’arbres est liée aux trop nombreux rectangles (règles) qui forment la partition sur laquelle prédit le modèle, nous proposons une méthode permettant de défragmenter l’espace et donc d’agréger les petits rectangles de la partition fine pour en former moins, mais plus grands. Pour cela, nous exprimons la distribution de couples (rectangle, prédiction) en fonction de paramètres à estimer. Grâce à cela, il est possible de formuler le problème d'agrégation comme un problème de maximisation de la vraisemblance dont nous pouvons obtenir une solution numérique avec l'algorithme espérance-maximisation. Suite à cette optimisation, nous disposons d’un ensemble restreint de rectangles dont nous nous servons pour construire un arbre de régression qui sert d’interface avec le modèle boîte noire. Grâce à ce modèle de substitution que nous extrayons, nous pouvons ensuite expliquer les prédictions du modèle de fréquence sinistre en fonction des variables télématiques. Notre deuxième application porte sur l’estimation de l’indice de queue qui mesure l'importance d'un évènement extrême. Pour cela, nous supposons que ce paramètre prend un nombre fini de valeurs sur une partition de l'espace des variables explicatives. Nous ajustons un modèle gamma gradient boosting, notre boîte noire, pour obtenir une estimation de l'indice de queue en fonction des variables explicatives. Puis, nous déterminons la partition générée par le gamma gradient boosting et calculons la valeur prédite par ce dernier au sein de chaque rectangle. Nous connaissons ainsi les prédictions du modèle sur toute la partition. Pour obtenir un modèle statistiquement plus pertinent, nous agrégeons les rectangles avec une méthode de classification ascendante hiérarchique contrainte spatialement. Toutefois, ce modèle n'est pas interprétable puisque la forme des régions créées par l'agrégation est trop complexe pour être décrite simplement. Par conséquent, nous modifions l’algorithme de l’arbre de régression pour qu’il apprenne à reproduire cette partition. Notre modèle de substitution s’obtient en élaguant l’arbre maximal à la profondeur souhaitée. Nous appliquons cette méthodologie à un jeu de données qui contient les coûts estimés des tornades aux États-Unis sur les 50 dernières années. Notre dernière application se consacre aux modèles paramétriques. Parmi ces modèles, nous trouvons les modèles linéaires généralisés, et les réseaux de neurones. Notre boîte noire est ici un réseau de neurones. Contrairement aux applications précédentes, nous ne cherchons pas une explication globale des prédictions mais seulement des explications valables au voisinage d'une prédiction à expliquer. Nous nous plaçons dans un cadre de classification binaire et proposons une méthode pour expliquer une prédiction pour une observation donnée de l'espace. La stratégie que nous suggérons ici est d'identifier des points influents pour une prédiction. Ces points, peu nombreux, permettent de localiser la frontière de décision au voisinage de la prédiction à expliquer. Ensuite, nous développons un algorithme qui permet de construire un hyperplan tangent à la frontière de décision au voisinage de la prédiction à expliquer. Cet hyperplan est un modèle de substitution local qui permet d'expliquer une prédiction à la fois. Nous illustrons cette stratégie avec un problème de prévention pour lequel nous voulons trouver les profils les plus susceptibles de faire une déclaration de sinistre.

In this thesis, we show through three independent problems the interest of explainability methods for machine learning in actuarial science. In our first use case, we create a claim frequency model, which we consider as a black-box, with a Poisson random forest. Then, we propose a method to fit a tree that faithfully reproduces its predictions while being less complex and thus more interpretable. By noticing that the complexity of a set of trees is linked to the numerous rectangles (rules) that compose the partition on which the model predicts, we propose a method to defragment the space and thus to aggregate the small rectangles of the thin partition to create fewer, but larger ones. To do this, we express the distribution of the pairs (rectangle, prediction) as a function of the parameters to be estimated. Due to this, it is possible to formulate the aggregation problem as a likelihood maximization problem for which we can obtain a numerical solution with the expectation-maximization algorithm. After the optimization step, we obtain a small set of rectangles that we use to build a regression tree that interfaces with the black box model. Using this surrogate model that we extract, we can then explain the predictions of the claim frequency model as a function of the telematics variables. Our second application is the estimation of the tail index that measures the importance of an extreme event. For this purpose, we assume that this parameter takes a finite number of values on a partition of the space of explanatory variables. We fit a gamma gradient boosting model, which we consider as a black-box, to obtain an estimate of the tail index as a function of the explanatory variables. Then, we determine the partition generated by the gamma gradient boosting and compute the value predicted by the latter within each rectangle. We thus know the predictions of the model on the whole partition. To obtain a more statistically relevant model, we aggregate the rectangles with a spatially constrained hierarchical clustering method. However, this model is not interpretable since the shape of the regions created by the aggregation is too complex to be described simply. Therefore, we modify the regression tree algorithm to learn to reproduce this partition. Our surrogate model is obtained by pruning the maximum tree to the desired depth. We apply this methodology to a dataset that contains the estimated costs of tornadoes in the United States over the past 50 years. Our final application is devoted to parametric models. Among these models, we find generalized linear models, and neural networks. The black-box here is a neural network. Contrary to the previous applications, we do not seek a global explanation of the predictions, but only explanations that are valid in the vicinity of a prediction to be explained. We study a binary classification framework and propose a method to explain a prediction for a given observation of the space. The strategy we suggest here is to identify influential points for a prediction. These points, which are few in number, allow us to locate the decision frontier in the vicinity of the prediction to be explained. Then, we develop an algorithm that allows building a hyperplane tangent to the decision frontier in the neighborhood of the prediction to be explained. This hyperplane is a local substitution model that allows explaining one prediction at a time. We illustrate this strategy with a prevention problem for which we want to find out the profiles most likely to report a claim.