Traitement Automatique des Langues pour l'analyse de messages d'observation astrophysique

Natural Language Processing for Analyzing Messages of Astrophysical Observations

• Auteur / Autrice : Atilla Kaan Alkan
• Direction : Pierre Zweigenbaum, Fabian Schüssler, Cyril Grouin
• Type : Thèse de doctorat
• Discipline(s) : Informatique
• Date : Soutenance le 19/12/2024
• Etablissement(s) : université Paris-Saclay
• Ecole(s) doctorale(s) : École doctorale Sciences et technologies de l'information et de la communication (Orsay, Essonne ; 2015-....)
• Partenaire(s) de recherche : Laboratoire : Laboratoire interdisciplinaire des sciences du numérique (Orsay, Essonne ; 2021-....) - Institut de recherche sur les lois fondamentales de l'Univers (Gif-sur-Yvette, Essonne ; 1991-....)
• Partenaire(s) de recherche : Référent : Université Paris-Saclay. Faculté des sciences d’Orsay (Essonne ; 2020-....)
• Partenaire(s) de recherche : graduate school : Université Paris-Saclay. Graduate School Informatique et sciences du numérique (2020-….)
• Jury : Président / Présidente : Olivier Ferret
• Jury : Examinateurs / Examinatrices : Vincent Claveau, Béatrice Daille, Yvonne Becherini
• Jury : Rapporteurs / Rapporteuses : Vincent Claveau, Béatrice Daille
• DOI : 10.70675/ab93cd1az4468z404czb2b3z8dc680a04e4d

Mots clés

Mots clés contrôlés

Traitement automatique du langage naturel

Apprentissage automatique

Coréférence

Astronomie multimessager

Réseaux neuronaux (informatique)

Apprentissage profond

Mots clés libres

Traitement Automatique des Langues

Apprentissage statistique

Plongements lexicaux

Coréférence

Astrophysique multi-messager

Phénomènes transitoires

Natural Language Processing

Statistical Learning

Word embeddings

Coreference

Multi-Messenger astrophysics

Transients events

Résumé

Cette thèse aborde l’un des défis majeurs dans l’analyse de textes non structurés en astrophysique : l’extraction et la synthèse d’information sur des objets célestes à partir de rapports d’observation astronomique. L'extraction d'information (EI) est un sous-domaine clé du traitement automatique des langues (TAL), qui vise à transformer des textes non structurés en une représentation formelle et exploitable, permettant ainsi de structurer les connaissances contenues dans les documents. Les tâches classiques de l’EI incluent la reconnaissance d’entités nommées (REN), l'extraction de relations, ainsi que la résolution de coréférences. Toutefois, les modèles d'apprentissage statistique nécessaires pour ces tâches requièrent de vastes ensembles de données annotées manuellement, une condition qui devient difficile à satisfaire dans des domaines spécialisés tels que l'astrophysique. En effet, le manque de données annotées est un obstacle majeur dans ce domaine. Cette constatation, a motivé notre première question de recherche : quels concepts astrophysiques doivent être définis pour identifier les entités nommées pertinentes et quelles relations sémantiques doivent être mises en lumière entre ces entités ? Afin de répondre à cette question, nous avons travaillé en collaboration avec des astrophysiciens pour établir un guide d'annotation adapté, qui couvre non seulement les entités célestes, mais aussi les mentions de coréférence et les relations sémantiques entre ces entités. L'une des contributions majeures de cette thèse est la création d’astroECR, un corpus astrophysique composé de rapports d'observation, annoté de manière détaillée en entités nommées, coréférences et relations sémantiques. Bien que crucial, l’annotation manuelle s’avère particulièrement coûteux et fastidieux en termes de temps et de ressources humaines. Cette situation nous a conduit à poser notre deuxième question de recherche : Comment peut-on enrichir les données annotées manuellement afin d’entraîner efficacement des systèmes d’EI ? Pour ce faire, nous avons donc exploré l'efficacité des méthodes d'augmentation de données, un ensemble de techniques visant à générer des données artificielles pour améliorer les performances des modèles dans des contextes de données limitées. Nous avons formulé deux autres questions de recherche : Les techniques d'augmentation de données peuvent-elles compléter les annotations humaines et ainsi combler le manque de ressources spécialisées en astrophysique ? Quelles méthodes d’augmentation sont les plus adaptées pour des tâches comme la REN ou la résolution de coréférences ? Pour répondre à ces questions, nous avons proposé une série de méthodes d'augmentation de données à la fois simples et flexibles, adaptées aux tâches spécifiques de l'EI. Nous avons étudié deux grandes catégories de techniques d'augmentation : la première introduit de nouvelles mentions d'entraînement dans les données, tandis que la seconde modifie le contexte autour des mentions déjà existantes. Nous avons ensuite évalué ces méthodes en les appliquant à divers modèles de langue pré-entraînés et en les testant sur des rapports astronomiques annotés. Nos résultats montrent que de simples méthodes d'augmentation améliorent les performances en contexte de ressources limitées, offrant des perspectives pour l’EI et d’autres domaines à faible ressource.

This thesis addresses one of the major challenges in analysing unstructured texts in astrophysics: extracting and synthesising information about celestial objects from astronomical observation reports. Information extraction is a key subfield of Natural Language Processing (NLP) that aims to transform unstructured texts into a formal and usable representation, thereby structuring the knowledge contained in the documents. The classic information extraction tasks include named entity recognition (NER), relation extraction, and coreference resolution. However, the statistical learning models required for these tasks necessitate large manually annotated datasets, a condition difficult to meet in specialized domains such as astrophysics. Indeed, the scarcity of annotated data is a major obstacle to improving models in this domain. The advent of pre-trained and generative language models has led to significant advances in various areas of NLP. However, they are not specifically designed to handle astronomical observation reports or extract information about celestial objects. This lack of annotated data motivated our first research question: which astrophysical concepts should be defined to identify relevant named entities, and what semantic relationships should be highlighted between these entities? To address this question, we collaborated with astrophysicists to establish an adapted annotation guide covering celestial entities, coreference mentions, and semantic relations between these entities. One of the major contributions of this thesis is the creation of astroECR, an astrophysical corpus composed of observation reports annotated in detail with named entities, coreferences, and semantic relations. Although crucial, manual annotation is particularly costly and time-consuming in terms of time and human resources. This situation led us to pose our second research question: how can the amount of annotated data required to train information extraction systems be reduced effectively? We explored the effectiveness of data augmentation methods, a set of techniques aimed at generating artificial data to improve model performance in contexts of limited data. We formulated two additional research questions: Can data augmentation techniques enhance human annotations and thus compensate for the lack of specialized resources in astrophysics? Which augmentation methods are most suitable for tasks such as NER or coreference resolution? To answer these questions, we proposed a series of data augmentation methods that are both simple and flexible and adapted to the specific information extraction tasks. We studied two categories of augmentation techniques: the first introduces new training mentions into the data, while the second modifies the context around already existing mentions. We then evaluated these methods by applying them to various pre-trained language models and testing them on annotated astronomical reports. Our results show that even simple augmentation methods can improve model performance in resource-constrained contexts, offering promising prospects for information extraction in fields where annotated data are scarce. Furthermore, the proposed methods are potentially applicable to other low-resource disciplines.