Adaptation dynamique des interfaces homme-machine en utilisant du suivi de charge cognitive

par Bruno Massoni Sguerra

Thèse de doctorat en Informatique temps réel, robotique et automatique - Fontainebleau

Sous la direction de Pierre Jouvelot et de Samuel Benveniste.

Thèses en préparation à Paris Sciences et Lettres (ComUE) , dans le cadre de Ingénierie des Systèmes, Matériaux, Mécanique, Énergétique , en partenariat avec Mathématiques et Systèmes (laboratoire) , CRI - Centre de Recherche en Informatique (equipe de recherche) et de École nationale supérieure des mines (Paris) (établissement de préparation de la thèse) depuis le 01-10-2016 .


  • Résumé

    La mémoire de travail est la partie de la cognition humaine responsable pour le stockage et le traitement de l'information à court terme. Elle constitue également un goulot d'étranglement majeur dans le traitement de l'information. La Mémoire de travail peut, dans des situations stressantes, en cas de surcharge d’information ou si la personne est atteinte de maladies semblables à la démence, devenir gravement limitée, ce qui peut conduire à une mauvaise prise de décision. Dans le travail présenté, nous développons des stratégies pour rendre les systèmes informatiques sensibles aux limitations de la mémoire de travail de l’utilisateur. Les stratégies présentées se présentent sous la forme de deux cadres d’adaptation cognitive d’interfaces utilisateur liées à des tâches. Le premier cadre présenté, appelé MATCHS(MemoryAdaptation Through Cognitive Handling Simulations), est un système de contrôle en boucle fermée  capable de suivre la capacité cognitive estimée de l’utilisateur en l’ajustant en fonction de ses performances. La structure de MATCHS pour la conception des interactions homme-machine s’appuie sur un modèle stochastique de la mémoire de travail de l’utilisateur pour prédire la quantité et pendant combien de temps des informations peuvent être stockée à cet emplacement. Ainsi, la tâche à accomplir peut, en conséquence, être ajustée dynamiquement. Nous avons implémenté notre approche dans un nouveau jeu de mémoire appelé Match²s et testé notre framework, avec un ensemble d’utilisateurs. Nos résultats suggèrent que MATCHS peut correctement évaluer les caractéristiques actuelles de la mémoire de travail  et suivre son évolution au fur et à mesure que la motivation ou la concentration des utilisateurs évolue, fournissant des informations utiles pour l’adaptation de scénarios d’interaction simples tels que celui de Match2s. Le deuxième cadre AUHWM (AnUnscented Hound for Working Memory) est développé sur les idées fondamentales de MATCHS, utilisant le filtre de Kalman "Unscented"  pour le suivi, en temps réel, de la capacité cognitive humaine. AUHWM utilise une modélisation déterministe de la mémoire de travail humaine qui simule l’oubli des utilisateurs. AUHWM effectue également un filtrage de Kalman "Unscented" pour suivre en temps réel les paramètres spécifiques à la MW de l'utilisateur, fournissant ainsi une évaluation dynamique de ses ressources cognitives. Notre approche a été testée et validée à l'aide des données collectées dans le jeu de mémoire de Match²s. Au-delà du suivi en temps réel de la mémoire de travail, AUHWM a été conçu aussi pour prévoir la performances de la mémoire de travail, ouvrant ainsi la voie à l’adaptation en temps réel des tâches et de leurs interfaces en fonction des capacités cognitives des utilisateurs; nous détaillons un exemple d'un tel système adapté et fournissons des preuves expérimentales que cette approche pourrait aboutir à de futures interfaces utilisateur améliorées adaptées à la mémoire de travail. Enfin, nous exposons les perspectives sur la manière dont les idées développées dans ce travail peuvent être étendues pour fournir une évaluation et une adaptation meilleures et plus générales des capacités cognitives humaines.

  • Titre traduit

    Dynamic Adaptation of Human-Computer Interfaces Using Cognitive Load Tracking


  • Résumé

    Working Memory is part of human cognition responsible for short term storage and processing of information, it is also a major bottleneck in information processing. Working Memory can, in stressful situations, under information overload or when suffering from dementia-like diseases, become severely limited, possibly leading to poor decision making. Is the presented work, we develop strategies for providing computer systems with awareness of the user’s working memory limitations. The presented strategies come under the form of two frameworks for cognitive adaptation of task-related user interfaces. The first presented framework, called MATCHS (Memory Adaptation Through Cognitive Handling Simulations), is a closed-loop control system capable of tracking the user’s estimated cognitive capacity by adjusting it according to the his/her performance. MATCHS framework for human computer interaction design builds upon a stochastic model of the user’s working memory to predict how much, and for how long, information can be expected to be stored there. Thus, the task at hand can, accordingly, be dynamically adjusted. We implemented our approach in a new memory game named Match²s, and tested our framework, including with a set of users. Our results suggest that MATCHS can properly assess someone’s current working memory characteristics and track its evolution as users’ motivation or focus evolve over time, providing useful information to adapt simple interaction scenarii such as the one in Match2s. The second framework AUHWM (An Unscented Hound for Working Memory) is developed upon MATCHS core ideas, employing an Unscented Kalman filter for the tracking, in real-time, of human cognitive capacity. AUHWM’s employs a deterministic modeling of human working memory that simulates users’ oblivion. AUHWM also performs Unscented Kalman filtering to track users’ WM specific parameters in real time, thus providing a dynamic assessment of their cognitive resources. Our approach has been tested and validated using data collected from the Match²s memory game. Going beyond real-time working memory tracking, AUHWM is intended to also be used for WM prediction, paving the way to the adaptation of tasks and their interfaces in real time as a function of users’ cognitive abilities; we detail an example of such an adapted system, and provide experimental evidence this approach could lead to future enhanced working memory-adapted UIs. Lastly, we lay out prospects of how the ideas developed in this work can be extended to provide better and more general assessment of and adaptation to human cognitive capacities.