Architectures neuronales profondes pour l'apprentissage de représentation multimodales de données multimédias

Deep Neural Architectures for Automatic Representation Learning from Multimedia Multimodal Data

• Auteur / Autrice : Verdran Vukotic
• Direction : Guillaume Gravier
• Type : Thèse de doctorat
• Discipline(s) : Informatique
• Date : Soutenance le 26/09/2017
• Etablissement(s) : Rennes, INSA
• Ecole(s) doctorale(s) : École doctorale Mathématiques et sciences et technologies de l'information et de la communication (Rennes)
• Partenaire(s) de recherche : Laboratoire : Institut de recherche en informatique et systèmes aléatoires (Rennes) - Institut national de recherche en informatique et en automatique (France). Unité de recherche (Rennes, Bretagne-Atlantique) - Inria Rennes – Bretagne Atlantique - Institut de Recherche en Informatique et Systèmes Aléatoires - LinkMedia
• Partenaire(s) de recherche : Université : Technische universiteit (Delft, Pays-Bas). Faculty of architecture
• Jury : Président / Présidente : Georges Quénot
• Jury : Examinateurs / Examinatrices : Guillaume Gravier, Georges Quénot, Martha Larson, Tinne Tuytelaars, Benoit Huet, Christian Raymond
• Jury : Rapporteurs / Rapporteuses : Martha Larson, Tinne Tuytelaars

Mots clés

Mots clés contrôlés

Vision par ordinateur

Traitement automatique de la parole

Interaction multimodale

Multimédias

Réseaux neuronaux (informatique)

Mots clés libres

Autoencodeurs

Apprentissage de représentations

Deep neural networks

Embedding

Continuous representation

Multimedia

Multimodal

Computer vision

Spoken langage understanding

Crossmodal

Generative adversarial networks

Autoencoders

Résumé

La thèse porte sur le développement d'architectures neuronales profondes permettant d'analyser des contenus textuels ou visuels, ou la combinaison des deux. De manière générale, le travail tire parti de la capacité des réseaux de neurones à apprendre des représentations abstraites. Les principales contributions de la thèse sont les suivantes: 1) Réseaux récurrents pour la compréhension de la parole: différentes architectures de réseaux sont comparées pour cette tâche sur leurs facultés à modéliser les observations ainsi que les dépendances sur les étiquettes à prédire. 2) Prédiction d’image et de mouvement : nous proposons une architecture permettant d'apprendre une représentation d'une image représentant une action humaine afin de prédire l'évolution du mouvement dans une vidéo ; l'originalité du modèle proposé réside dans sa capacité à prédire des images à une distance arbitraire dans une vidéo. 3) Encodeurs bidirectionnels multimodaux : le résultat majeur de la thèse concerne la proposition d'un réseau bidirectionnel permettant de traduire une modalité en une autre, offrant ainsi la possibilité de représenter conjointement plusieurs modalités. L'approche été étudiée principalement en structuration de collections de vidéos, dons le cadre d'évaluations internationales où l'approche proposée s'est imposée comme l'état de l'art. 4) Réseaux adverses pour la fusion multimodale: la thèse propose d'utiliser les architectures génératives adverses pour apprendre des représentations multimodales en offrant la possibilité de visualiser les représentations dans l'espace des images.

In this dissertation, the thesis that deep neural networks are suited for analysis of visual, textual and fused visual and textual content is discussed. This work evaluates the ability of deep neural networks to learn automatic multimodal representations in either unsupervised or supervised manners and brings the following main contributions:1) Recurrent neural networks for spoken language understanding (slot filling): different architectures are compared for this task with the aim of modeling both the input context and output label dependencies.2) Action prediction from single images: we propose an architecture that allow us to predict human actions from a single image. The architecture is evaluated on videos, by utilizing solely one frame as input.3) Bidirectional multimodal encoders: the main contribution of this thesis consists of neural architecture that translates from one modality to the other and conversely and offers and improved multimodal representation space where the initially disjoint representations can translated and fused. This enables for improved multimodal fusion of multiple modalities. The architecture was extensively studied an evaluated in international benchmarks within the task of video hyperlinking where it defined the state of the art today.4) Generative adversarial networks for multimodal fusion: continuing on the topic of multimodal fusion, we evaluate the possibility of using conditional generative adversarial networks to lean multimodal representations in addition to providing multimodal representations, generative adversarial networks permit to visualize the learned model directly in the image domain.