Approches basées vision pour la reconnaissance d’activités chirurgicales à partir de vidéos laparoscopiques et multi-vues RGBD

Vision-based approaches for surgical activity recognition using laparoscopic and RBGD videos

• Auteur / Autrice : Andru Putra Twinanda
• Direction : Michel de Mathelin
• Type : Thèse de doctorat
• Discipline(s) : Image et vision
• Date : Soutenance le 27/01/2017
• Etablissement(s) : Strasbourg
• Ecole(s) doctorale(s) : École doctorale Mathématiques, sciences de l'information et de l'ingénieur (Strasbourg ; 1997-....)
• Partenaire(s) de recherche : Laboratoire : Laboratoire des sciences de l'ingénieur, de l'informatique et de l'imagerie (Strasbourg ; 2013-....)
• Jury : Président / Présidente : Jocelyne Troccaz
• Jury : Examinateurs / Examinatrices : Nicolas Padoy
• Jury : Rapporteur / Rapporteuse : Gregory D. Hager, Gwenolé Quellec

Mots clés

Mots clés contrôlés

Dissertations universitaires

Laparoscopie

Vision par ordinateur en médecine

Traitement d'images -- Techniques numériques

Imagerie interventionnelle

Coelioscopie

Mots clés libres

Reconnaissance d’activités chirurgicales

Deep learning

Vidéo laparoscopique

Vidéo multi-vues RGBD

Computer vision

Deep learning

Laparoscopic video

Multi-view RGBD video

Machine learning

Activity recognition

Surgical workflow modeling

Résumé

Cette thèse a pour objectif la conception de méthodes pour la reconnaissance automatique des activités chirurgicales. Cette reconnaissance est un élément clé pour le développement de systèmes réactifs au contexte clinique et pour des applications comme l’assistance automatique lors de chirurgies complexes. Nous abordons ce problème en utilisant des méthodes de Vision puisque l’utilisation de caméras permet de percevoir l’environnement sans perturber la chirurgie. Deux types de vidéos sont utilisées : des vidéos laparoscopiques et des vidéos multi-vues RGBD. Nous avons d’abord étudié les résultats obtenus avec les méthodes de l’état de l’art, puis nous avons proposé des nouvelles approches basées sur le « Deep learning ». Nous avons aussi généré de larges jeux de données constitués d’enregistrements de chirurgies. Les résultats montrent que nos méthodes permettent d’obtenir des meilleures performances pour la reconnaissance automatique d’activités chirurgicales que l’état de l’art.

The main objective of this thesis is to address the problem of activity recognition in the operating room (OR). Activity recognition is an essential component in the development of context-aware systems, which will allow various applications, such as automated assistance during difficult procedures. Here, we focus on vision-based approaches since cameras are a common source of information to observe the OR without disrupting the surgical workflow. Specifically, we propose to use two complementary video types: laparoscopic and OR-scene RGBD videos. We investigate how state-of-the-art computer vision approaches perform on these videos and propose novel approaches, consisting of deep learning approaches, to carry out the tasks. To evaluate our proposed approaches, we generate large datasets of recordings of real surgeries. The results demonstrate that the proposed approaches outperform the state-of-the-art methods in performing surgical activity recognition on these new datasets.