Géométrie des domaines propres dans les variétés de drapeaux

Geometry of proper domains in flag manifolds

• Auteur / Autrice : Blandine Galiay
• Direction : Fanny Kassel
• Type : Thèse de doctorat
• Discipline(s) : Mathématiques fondamentales
• Date : Soutenance le 11/06/2025
• Etablissement(s) : université Paris-Saclay
• Ecole(s) doctorale(s) : École doctorale de mathématiques Hadamard
• Partenaire(s) de recherche : Laboratoire : Laboratoire Alexander Grothendieck
• Partenaire(s) de recherche : Référent : Faculté des sciences d'Orsay
• Partenaire(s) de recherche : graduate school : Université Paris-Saclay. Graduate School Mathématiques (2020-....)
• Jury : Président / Présidente : Yves Benoist
• Jury : Examinateurs / Examinatrices : Olivier Guichard, Andrew Zimmer, Karin Melnick, Maria Beatrice Pozzetti
• Jury : Rapporteurs / Rapporteuses : Olivier Guichard, Andrew Zimmer

Mots clés

Mots clés contrôlés

Représentations de groupes

Rigidité (géométrie)

Groupes de Lie

Variétés de drapeaux (géométrie)

Mots clés libres

Variétés de drapeaux

Sous-Groupes discrets des groupes de Lie

Rigidité

Espaces de Nagano

Convexes divisibles

Représentations anosoviennes

Flag manifolds

Discrete subgroups of Lie groups

Rigidity

Nagano spaces

Divisible convex sets

Anosov representations

Résumé

La géométrie projective convexe est l'étude des ouverts proprement convexes de l'espace projectif réel et de leurs quotients par des groupes discrets d'automorphismes projectifs. Elle contient la géométrie hyperbolique, en considérant le modèle de Klein de l'espace hyperbolique réel. Le cas où le quotient est compact s'inscrit dans la théorie des convexes divisibles, qui est développée depuis les années 1960 (par exemple par Benoist) et a produit de nombreux exemples, y compris non symétriques. En demandant que le groupe discret n'agisse plus cocompactement mais convexe cocompactement, on obtient des variétés projectives à cœur convexe compact. Danciger, Guéritaud et Kassel ont montré qu'une version forte de cette condition est équivalente au caractère P1-anosovien (au sens de Labourie) du groupe discret considéré, offrant ainsi une caractérisation géométrique des représentations P1-anosoviennes.L'espace projectif réel est un exemple de variété de drapeaux, c'est-à-dire de quotient d'un groupe de Lie réel semi-simple G par un sous-groupe parabolique P de G. Dans cette thèse, poursuivant des travaux d'A. Zimmer, nous développons l'étude des domaines propres dans les variétés de drapeaux, en généralisant des outils de la géométrie projective convexe. Nous accordons une attention particulière aux espaces de Nagano, ou espaces symétriques extrinsèques, introduits par Nagano dans les années 1960. Par définition, un tel espace est une variété de drapeaux G/P qui s'identifie à un espace symétrique d'un sous-groupe compact maximal de G. Pour une large famille d'espaces de Nagano, dits de type réel, nous construisons une distance de Kobayashi géodésique, invariante et propre, sur tout domaine proprement convexe. Nous la comparons aux distances dites de Carathéodory introduites par Zimmer.Selon une conjecture de rigidité de Limbeek et Zimmer, les domaines propres divisibles de la plupart des variétés de drapeaux différentes de l'espace projectif réel devraient être symétriques. La distance de Kobayashi nous permet d'étudier cette conjecture pour les espaces de Nagano de type réel. Par exemple, généralisant un résultat de Zimmer pour les grassmanniennes, nous montrons que lorsqu'un espace de Nagano de type réel est de rang supérieur, la distance de Kobayashi sur ses domaines propres divisibles (ou même presque-homogènes) ne peut pas être Gromov-hyperbolique. De plus, nous démontrons la conjecture pour les variétés de drapeaux admettant une structure causale et les univers d'Einstein (ce dernier cas en collaboration avec A. Chalumeau), où les domaines propres divisibles sont les diamants. Enfin, nous démontrons que le centralisateur d'un groupe discret projectif divisant un domaine propre à bord continu d'une grassmannienne différente de l'espace projectif est trivial. Ce dernier résultat met en évidence une perte de flexibilité par rapport au cas projectif réel, où le joint de deux convexes divisibles fournit un nouveau convexe, divisé par un groupe produit.Si les groupes P1-anosoviens préservant des domaines propres dans l'espace projectif réel sont bien compris grâce à la notion de convexe cocompacité projective, une caractérisation géométrique reste à établir pour les groupes P-anosoviens dans les variétés de drapeaux générales G/P. Nous déterminons des restrictions topologiques sur les groupes préservant un domaine propre dans une variété de drapeaux auto-opposée G/P, et construisons des exemples Zariski-denses P-anosoviens préservant des domaines propres. Dans certaines variétés de drapeaux à structure causale, nous introduisons une notion de convexité causale, inspirée de celle dans les espaces-temps conformes. Nous montrons que tout groupe P-transverse préservant un domaine propre de G/P agit cocompactement sur un fermé causalement convexe à bord transverse de ce domaine ; autrement dit, ces groupes ont une dynamique essentiellement spatiale.

Convex projective geometry is the study of properly convex open subsets of the real projective space, and of their quotients by discrete groups of projective automorphisms. It contains hyperbolic geometry, by considering the Klein model of real hyperbolic space. The case where the quotient is compact falls within the theory of divisible convex sets, which has been developed since the 1960s (for instance by Benoist) and has produced numerous examples, including non-symmetric ones. By requiring the discrete group to no longer act cocompactly but convex cocompactly, one obtains projective manifolds with a compact convex core. Danciger, Guéritaud, and Kassel have shown that a strong version of this condition is equivalent to the P1-Anosov property (in the sense of Labourie) for the given discrete group, thus providing a geometric characterization of P1-Anosov representations.Real projective space is an example of a flag manifold, i.e. of a quotient of a real semisimple Lie group G by a parabolic subgroup P of G. In this thesis, building on work of A. Zimmer, we develop the study of proper domains in flag manifolds, generalizing tools from convex projective geometry. We pay particular attention to Nagano spaces, also called extrinsic symmetric spaces, introduced by Nagano in the 1960s. By definition, such a space is a flag manifold G/P that identifies with a symmetric space of a maximal compact subgroup of G. For a large class of Nagano spaces, called of real type, we construct a geodesic, invariant, and proper Kobayashi metric on any properly convex domain. We compare this metric to the so-called Caratheodory metrics introduced by Zimmer.According to a rigidity conjecture of Limbeek and Zimmer, proper divisible domains in most flag manifolds different from real projective space should be symmetric. Using the Kobayashi metric, we investigate this conjecture for Nagano spaces of real type. For instance, generalizing a result of Zimmer for Grassmannians, we show that when a Nagano space of real type has higher rank, the Kobayashi metric on its proper divisible (or even just almost-homogeneous) domains cannot be Gromov hyperbolic. Moreover, we prove the conjecture for flag manifolds admitting a causal structure, and for Einstein universes (the latter case in collaboration with A. Chalumeau), where the proper divisible domains are the diamonds. Finally, we prove that the centralizer of a discrete projective group dividing a proper domain with continuous boundary in a Grassmannian different from real projective space is trivial. This last result highlights a loss of flexibility compared to the real projective case, where the join of two divisible convex sets is again a divisible convex set, divided by a product group.While P1-Anosov groups preserving proper domains in real projective space are well understood through the notion of projective convex cocompactness, a geometric characterization remains to be established for P-Anosov groups in general flag manifolds G/P. We determine topological restrictions on groups preserving a proper domain in a self-opposite flag manifold G/P and construct Zariski-dense P-Anosov examples preserving proper domains. In certain flag manifolds with a causal structure, we introduce a notion of causal convexity, inspired by that in conformal spacetimes. We show that any P-transverse group preserving a proper domain of G/P acts cocompactly on a causally convex closed subset of this domain, with transverse boundary; in other words, the dynamics of these groups is essentially spatial.