Modèle CNN réduit pour une classification invariante par rotation

Reduced CNN Model for Rotation-Invariant Classification

• Auteur / Autrice : Rosemberg Rodriguez Salas
• Direction : Eva Dokladalova, Petr Dokladal
• Type : Thèse de doctorat
• Discipline(s) : Informatique
• Date : Soutenance le 05/07/2021
• Etablissement(s) : Université Gustave Eiffel
• Ecole(s) doctorale(s) : École doctorale Mathématiques, Sciences et Technologies de l'Information et de la Communication (Champs-sur-Marne, Seine-et-Marne ; 2015-....)
• Partenaire(s) de recherche : Laboratoire : Laboratoire d'informatique de l'Institut Gaspard Monge (1997-2009) - Laboratoire d'informatique de l'Institut Gaspard Monge
• Jury : Président / Présidente : Fan Yang Song
• Jury : Examinateurs / Examinatrices : Eva Dokladalova, Petr Dokladal, Alejandro Castillo Atoche, Nicolas Loménie
• Jury : Rapporteurs / Rapporteuses : Alejandro Castillo Atoche, Nicolas Loménie

Mots clés

Mots clés contrôlés

Réseaux neuronaux (informatique)

Vision par ordinateur

Apprentissage profond

Systèmes embarqués (informatique)

Ensembles invariants

Reconstitution faciale

Mots clés libres

Réseau neuronal convolutif

Invariant par rotation

Apprentissage profond

Système embarqué

Système sur une puce

Deep Learning

Embedded System

System on Chip

Convolutional neural network

Rotation-Invariant

Résumé

Au cours des dernières années, le nombre d'applications industrielles, automobiles et de surveillance basées sur la vision par ordinateur a augmenté de façon exponentielle. Cette tendance est favorisée par le succès des réseaux de neurones convolutifs (CNN) dans ce domaine. Ce succès est lié à leurs performances et aussi à des avancées notables dans leurs implémentations efficaces. Néanmoins, leurs besoins informatiques restent très élevés et parfois limitants. Cela est principalement dû au nombre de paramètres entraînables nécessaires pour fournir des capacités de généralisation sur des données complexes.Dans ce travail, nous ciblons spécifiquement le problème de la classification invariante par rotation. Nous proposons une architecture CNN originale dont la première couche est constituée d'un ensemble contraint de filtres. Ces filtres sont des copies orientées les uns des autres, sont ordonnés par l'angle de rotation et forment ensemble un espace roto-translationel. Un classifieur effectuant une translation est ensuite utilisé pour effectuer la classification. La position du maximum de probabilité indique l'angle de rotation de l'entrée. Nous évaluons plusieurs familles de filtres telles que celles utilisés dans la transformée scattering, des filtres orientables et des filtres Gabor. Nous présentons des résultats expérimentaux sur la façon dont l'approche méthodologique proposée permet de doter les architectures ''backbone'' de propriétés invariantes par rotation. Nous fournissons également une preuve de l'entraînablité d'une telle architecture.L'objectif principal est de réduire la taille d'un modèle de classification invariante par rotation sans sacrifier la précision et la qualité des résultats. Pour ce faire, nous proposons de nous concentrer sur l'intégration directe de la capacité d'invariance à la transformation de l'image par rotation dans l'architecture du réseau neuronal.Nous évaluons les résultats sur des ensembles de données simples et complexes en utilisant un réseau personnalisé et l'un des réseaux dorsaux bien connus et à la pointe de la technologie ResNet. Nous démontrons que le cadre d'invariance de rotation proposé permet d'obtenir des résultats de taux d'erreur de pointe sur des ensembles de données simples comme MNIST (2,05% contre 6,00% précédemment, quand formés sur des exemples en haut à droite) et surpassé les approches précédentes sur des ensembles de données complexes comme CIFAR-10 (21,50% contre 55,88% précédemment) tout en réduisant de plus de 50% le nombre de paramètres pouvant être entraînés à partir des méthodes de pointe actuelles. De plus, ces résultats sont obtenus sans techniques d'augmentation des données et avec de nouvelles capacités de prédiction angulaire.Ainsi, les résultats présentés ouvrent la possibilité d'utiliser ces réseaux dans des dispositifs aux ressources limitées tels que les plates-formes embarquées et les smartphones. En outre, cela ouvre l'opportunité d'utiliser ce concept dans des applications où l'invariance de rotation peut jouer son rôle mais où l'on rencontre souvent des ensembles de données relativement limités comme l'imagerie aérienne, la reconnaissance alimentaire et la reconnaissance faciale.

During the last years, the number of computer-vision-based industrial, automotive, and surveillance applications has grown exponentially. This trend is fostered by the success of Convolutional Neural Networks (CNNs) in this field. This success is related to their performances and also a notable advances in their efficient implementations. Nevertheless, their computing requirements remain very high and sometimes limiting. This is mainly due to the number of trainable parameters needed to provide generalization capabilities on complex data.In this work, we specifically target the problem of rotation-invariant classification. We propose an original CNN architecture the first layer of which consists of a constrained collection of filters. These filters are rotated copies of each other, are ordered by the angle of rotation, and form together a roto-translation space. A subsequent translating classifier is then used to perform the classification. The position of the maximum likelihood indicates the rotation angle of the input. We evaluate several filter families such as those from the Scattering transform, steerable filters, and Gabor filters. We present experimental results on how the proposed methodological approach allows endowing backbone CNNs with rotation-invariant properties. We also provide a proof of trainability of such architecture.The main objective is to reduce the size of a models capable of rotation-invariant classification without sacrificing accuracy and result quality. To do so, we propose to focus on the direct integration of the invariance capability to the frequent image deformation by rotation in the neural network architecture.We evaluate the results on simple and complex datasets by using custom network and one of the well-known, state-of-the-art, backbone network ResNet. We demonstrate that the proposed rotation invariance framework allows achieving state-of-the-art error rate results on simple datasets as MNIST (2.05% vs. 6.00% previously, when trained on up-right examples) and outperformed previous approaches on complex datasets as CIFAR-10 (21.50% vs. 55.88% previously) while reducing the number of trainable parameters from the current state-of-the-art methods by more than 50%. Furthermore, these results are obtained without data-augmentation techniques and with a novel angular prediction capabilities.Thus, the presented results open the possibility to use these networks in resource-constrained devices such as embedded platforms and smartphones. Also, it opens the opportunity to use this concept in applications where the rotation-invariance can play its role but where one often encounters relatively limited datasets as aerial imagery, food recognition, and face recognition