Vous êtes ici

Apprentissage évolutif d’un système de reconnaissance à la volée de tracés/gestes manuscrits

Equipe et encadrants
Département / Equipe: 
Site Web Equipe: 
https://www-intuidoc.irisa.fr/
Directeur de thèse
Eric Anquetil
Co-directeur(s), co-encadrant(s)
Nathalie Girard
Contact(s)
Sujet de thèse
Descriptif

L’équipe de recherche IntuiDoc (http://www.irisa.fr/intuidoc/) de l’IRISA travaille sur l’analyse et la reconnaissance de tracés et de gestes manuscrits réalisés sur surfaces 2D : tablettes et écrans tactiles. IntuiDoc s’intéresse notamment à la conception de moteur de reconnaissance de formes [1] et aux nouveaux usages autour de l’interaction gestuelle sur des surfaces tactiles [2]. L’objectif est notamment de permettre à l’utilisateur de personnaliser ses commandes gestuelles. Pour cela, le système doit être capable de les modéliser automatiquement à partir de très peu de données d’entrées. Il doit aussi s’adapter à l’évolution des gestes de l’utilisateur en apprenant tout au long de son utilisation [3] : on qualifie ce type d’approche d’apprentissage évolutif.

Les travaux amorcés au sein de l’équipe ont abouti à un premier système de reconnaissance incrémental dénommé « Evolve » [Bouillon 2016]. Ce système de classification auto-évolutif est basé sur un apprentissage incrémental à la volée. Il repose sur un système d’inférence floue (Logique floue) d’ordre 1 [1] basé sur un ensemble de règles. Il est capable de s’adapter en permanence aux particularités des tracés manuscrits de l’utilisateur (lettres, symboles, gestes graphiques) et même d’apprendre de nouvelles classes de formes à la demande, à partir de peu de données d’apprentissage.

Ce sujet de thèse s’inscrit dans la prolongation de ces travaux. L’objectif est, dans un premier temps, de consolider l’approche existante notamment au niveau de l’évolution dynamique du modèle : cela passera par une étude approfondie des algorithmes de clustering incrémentaux dans le domaine du « Machine learning » [4][7][8][9]. Ces algorithmes permettront de suivre les changements de concept lors de l’utilisation du système par la modification ou la création de règles d’inférence. Par exemple, en reconnaissance de gestes, il s’agira de s’adapter à l’évolution des gestes de l’utilisateur ou encore à la création « à la volée » de nouvelles commandes gestuelles. De plus, l’optimisation pourra aussi porter sur les conclusions des règles en s’inspirant des systèmes à vastes marges (SVM) [10][11] pour améliorer le pouvoir de discrimination du classifieur : apprentissage des poids des règles.

Dans un second temps, nous chercherons à explorer un autre axe de recherche pour étendre les capacités d’apprentissage et d’adaptation incrémental du système : La sélection dynamique de l’espace de représentation (i.e. des caractéristiques).  L’idée réside dans la possibilité d’utiliser des caractéristiques différentes (donc des espaces de représentation différents) pour s’adapter plus rapidement ou de façon plus efficace aux changements de concepts. Dans la littérature, de nombreux travaux se sont intéressés à la sélection de caractéristiques [5][6], mais leur mise en œuvre et leur apport dans un cadre évolutif ont très peu été étudiés. C’est donc un des défis de recherche de cette thèse.

Un troisième axe de recherche envisagé correspond à la gestion de l’évolution structurelle (au niveau des règles) du classifieur au cours du temps en terme d’oubli. En effet, actuellement il n’y a pas de gestion des règles obsolètes dans le système. Il pourrait donc être optimisé en concevant une détection de celles-ci afin d’améliorer ses capacités d’oubli : mesure de détection de l’obsolescence, mesure de redondance des règles...

Enfin, l’équipe étant impliquée dans différents partenariats, la robustesse et la fiabilité de l’approche retenue pourront être évaluées sur plusieurs problématiques : reconnaissance et analyse d’écriture, commandes gestuelles, sans oublier les benchmarks standards du Machine Learning.

Bibliographie
  • [1]    A. Almaksour and E. Anquetil, “Improving premise structure in evolving Takagi-Sugeno neuro-fuzzy classifiers”, Evolving Systems, vol. 2, no. 1, pp. 25–33, 2011.
  • [2]    P. Li, M. Bouillon, E. Anquetil, and G. Richard, “User and System Cross-Learning of Gesture Commands on Pen-Based Devices”, in Proceeding of the 14th International Conference on Human-Computer Interaction (INTERACT), 2013, vol. 2, pp. 337–355.
  • [3]    M. Bouillon, P. Li, E. Anquetil, and G. Richard, “Using Confusion Reject to Improve (User and) System (Cross) Learning of Gesture Commands”, in 2013 12th International Conference on Document Analysis and Recognition (ICDAR), 2013, pp. 1017–1021.
  • [4]    M. Bouillon, « Apprentissage actif en-ligne d’un classifieur évolutif, application à la reconnaissance de commandes gestuelles », Thèse de l’INSA Rennes, 2016.
  • [5]    S. Lühr and M. Lazarescu, “Connectivity based stream clustering using localised density exemplars,” in Advances in Knowledge Discovery and Data Mining, Springer, 2008, pp. 662–672.
  • [6]    Azmandian, F.; Dy, J. G.; Aslam, J. A. & Kaeli, D. R. Local Kernel Density Ratio-Based Feature Selection for Outlier Detection Proceedings of the 4th Asian Conference on Machine Learning, ACML 2012, Singapore, Singapore, November 4-6, 2012, 2012, 49-64
  • [7]    Blum, A. L. & Langley, P. Selection of Relevant Features and Examples in Machine Learning Artif. Intell., Elsevier Science Publishers Ltd., 1997, 97, 245-271
  • [8]    P. Angelov, “An approach for fuzzy rule-base adaptation using on-line clustering,” International Journal of Approximate Reasoning, vol. 35, no. 3, pp. 275–289, 2004.
  • [9]    Q. Song and N. Kasabov, “ECM-A novel on-line, evolving clustering method and its applications,” Foundations of cognitive science, pp. 631–682, 2001.
  • [10] D. Dovžan and I. Škrjanc, “Recursive clustering based on a Gustafson–Kessel algorithm,” Evolving Systems, vol. 2, no. 1, pp. 15–24, 2010.
  • [11] Chia-Feng Juang, Cheng-Da Hsieh, TS-fuzzy system-based support vector regression, Fuzzy Sets and Systems, Volume 160, Issue 17, 1 September 2009, Pages 2486-2504, ISSN 0165-0114, http://dx.doi.org/10.1016/j.fss.2008.11.022.

 

Début des travaux: 
Septembre 2017
Mots clés: 
machine Learning, apprentissage incrémental, clustering, système d’inférence floue, reconnaissance, gestes, tracés manuscrits.
Lieu: 
IRISA - Campus universitaire de Beaulieu, Rennes