On-line handwriting recognition using support vector machines and hidden Markov models approaches

• Auteur / Autrice : Abdul Rahim Ahmad
• Direction : Christian Viard-Gaudin, Bin Khalid Marzuki
• Type : Thèse de doctorat
• Discipline(s) : Traitement du signal et des images
• Date : Soutenance en 2008
• Etablissement(s) : Nantes en cotutelle avec Sekudai
• Ecole(s) doctorale(s) : École doctorale sciences et technologies de l'information et des matériaux (Nantes)
• Partenaire(s) de recherche : Equipe de recherche : Institut de recherche en communications et cybernétique (Nantes) (1958-2017)
• Partenaire(s) de recherche : autre partenaire : Université de Nantes. Faculté des sciences et des techniques

Mots clés

Mots clés contrôlés

Markov, Processus de

Réseaux neuronaux (informatique)

Reconnaissance des formes (informatique)

Traitement d'images

Résumé

Nos travaux concernent la reconnaissance de l'écriture manuscrite qui est l'un des domaines de prédilection pour la reconnaissance des formes et les algorithmes d'apprentissage. Dans le domaine de l'écriture en-ligne, les applications concernent tous les dispositifs de saisie permettant à un usager de communiquer de façon transparente avec les systèmes d'information. Dans ce cadre, nos travaux apportent une contribution pour proposer une nouvelle architecture de reconnaissance de mots manuscrits sans contrainte de style. Celle-ci se situe dans la famille des approches hybrides locale/globale où le paradigme de la segmentation/reconnaissance va se trouver résolu par la complémentarité d'un système de reconnaissance de type discriminant agissant au niveau caractère et d'un système par approche modèle pour superviser le niveau global. Nos choix se sont portés sur des Séparateurs à Vastes Marges (SVM) pour le classifieur de caractères et sur des algorithmes de programmation dynamique, issus d'une modélisation par Modèles de Markov Cachés (HMM). Cette combinaison SVM/HMM est unique dans le domaine de la reconnaissance de l'écriture manuscrite. Des expérimentations ont été menées, d'abord dans un cadre de reconnaissance de caractères isolés puis sur la base IRONOFF de mots cursifs. Elles ont montré la supériorité des approches SVM par rapport aux solutions à base de réseaux de neurones à convolutions (Time Delay Neural Network) que nous avions développées précédemment, et leur bon comportement en situation de reconnaissance de mots.

Handwriting recognition is one of the leading applications of pattern recognition and machine learning. Handwriting recognition systems have been used as an imput method of many electronic devices and helps in the automation of many manual tasks. To further open the avenues of expanding its applications, specific improvements need to be made in the recognition capability of the system. Hidden Markov Model (HMM) has been the dominant methods of the recognition in handwriting recognition in offline and online systems. However, the use of Gaussian observation densities in HMM and representational model for word modeling often does not lead to good classification. Hybrid of Neural Network (NN) and HMM later improves word recognition by taking advantage of NN discriminative property and HMM representational capability. However, the use of NN does not optimize recognition capability as the use Empirical Risk minimization (ERM) principle in its training leads to poor generalization. In this thesis, we focus on improving the recognition capability of a cursive online handwritten word recognition system by using an emerging method in machine learning, the support vector machine (SVM). We first evaluated SVM in isolated character recognition environment using IRONOFF and UNIPEN character databases. SVM, by its use of principle of structural risk minimization (SRM) have allowed simultaneous optimization of representational and discriminative capability of the character recognizer. We finally demonstrate the various practical issues in using SVM within a hybrid setting with HMM. In addition, we tested the hydrid system of the IRONOFF word database and obtained satisfactory results.