Croissance des groupes d’isom´tries des
                               e
           espaces sym´triques
                  ...
2
Chapitre 1

Groupes de Lie semi-simples et
sous-groupes discrets

   Dans ce cours, nous allons nous int´resser a la compr...
4                     CHAPITRE 1. GROUPES DE LIE SEMI-SIMPLES

a eux, ˆtre classifi´s, ` un revˆtement pr`s (voir [8]). San...
´
1.2. DECOMPOSITIONS DES GROUPES DE LIE SEMI-SIMPLES                          5

    Le groupe des isom´tries H d’un espa...
6                       CHAPITRE 1. GROUPES DE LIE SEMI-SIMPLES

aux produits de tels groupes.
    On note K le groupe SO(...
´
1.2. DECOMPOSITIONS DES GROUPES DE LIE SEMI-SIMPLES                                    7

sur G/K est donc, ` un multipl...
8                      CHAPITRE 1. GROUPES DE LIE SEMI-SIMPLES

on note encore w un ´l´ment de G tel que, pour tout 1 ≤ i ...
1.4. EXEMPLES DE SOUS-GROUPES DISCRETS ZARISKI DENSES 9

1.4     Exemples de sous-groupes discrets Za-
        riski dense...
10                        CHAPITRE 1. GROUPES DE LIE SEMI-SIMPLES

1.4.2      D´formations de groupes fondamentaux de
    ...
1.4. EXEMPLES DE SOUS-GROUPES DISCRETS ZARISKI DENSES 11

les drapeaux complets sont des couples (V1 , V2 ), o` V1 est une...
12                    CHAPITRE 1. GROUPES DE LIE SEMI-SIMPLES

et il n’appartient pas au voisinage de l’identi´ constitu´ ...
´
1.5. RESULTATS DE COMPTAGE                                                    13

                                      ...
14   CHAPITRE 1. GROUPES DE LIE SEMI-SIMPLES
Chapitre 2

Produit g´n´rique
         e e

   La d´monstration du th´or`me 1.5.1 repose essentiellement sur la
       e  ...
16                                                        ´ ´
                                     CHAPITRE 2. PRODUIT GEN...
2.2. LEMME DE L’OMBRE                                                         17

2.2      Lemme de l’ombre
    Nous allon...
18                                                      ´ ´
                                   CHAPITRE 2. PRODUIT GENERIQ...
´ ´
2.3. PRODUIT GENERIQUE DANS G                                                       19

D´monstration. Par d´compositi...
20                                                           ´ ´
                                        CHAPITRE 2. PRODU...
´ ´
2.5. PRODUIT GENERIQUE DANS Γ                                                      21

V ∗ ) n’appartienne pas au plan...
22                                                       ´ ´
                                    CHAPITRE 2. PRODUIT GENER...
Chapitre 3

Mesures ` croissance concave
        a

    Nous allons ` pr´sent d´tailler le lien abstrait qui existe entre ...
24                                      `
                    CHAPITRE 3. MESURES A CROISSANCE CONCAVE

Lemme 3.1.1. Pour ...
ˆ
3.2. CONTROLE DE LA DIVERGENCE                                                         25

On peut donc construire une s...
26                                      `
                    CHAPITRE 3. MESURES A CROISSANCE CONCAVE

Lemme 3.2.3. Soien...
ˆ
3.2. CONTROLE DE LA DIVERGENCE                                                                  27

On a alors :
ν(bN (y...
28                                        `
                      CHAPITRE 3. MESURES A CROISSANCE CONCAVE

     Des lemme...
3.3. CROISSANCE DES SOUS-GROUPES DISCRETS                                            29

On en d´duit, en r´utilisant le l...
30                                      `
                    CHAPITRE 3. MESURES A CROISSANCE CONCAVE

D´monstration. D’a...
Bibliographie

[1] H. Abels, G. Margulis, G.A. Soifer, Semigroups containing proximal linear
    maps, Israel J. Math. 91 ...
32                                                       BIBLIOGRAPHIE

[12] J.-F. Quint, Divergence exponentielle des sou...
Prochain SlideShare
Chargement dans…5
×

Cours Octobre 2009

489 vues

Publié le

0 commentaire
0 j’aime
Statistiques
Remarques
  • Soyez le premier à commenter

  • Soyez le premier à aimer ceci

Aucun téléchargement
Vues
Nombre de vues
489
Sur SlideShare
0
Issues des intégrations
0
Intégrations
2
Actions
Partages
0
Téléchargements
4
Commentaires
0
J’aime
0
Intégrations 0
Aucune incorporation

Aucune remarque pour cette diapositive

Cours Octobre 2009

  1. 1. Croissance des groupes d’isom´tries des e espaces sym´triques e Jean-Fran¸ois Quint c GDR Platon, Institut Henri Poincar´, Paris, Octobre 2009 e
  2. 2. 2
  3. 3. Chapitre 1 Groupes de Lie semi-simples et sous-groupes discrets Dans ce cours, nous allons nous int´resser a la compr´hension de certaines e ` e propri´t´s asymptotiques des sous-groupes discrets des groupes de Lie semi- ee simple. Ce premier chapitre a pour but de pr´ciser ce qu’est un groupe de e Lie semi-simples, en tˆchant d’´viter la th´orie g´n´rale le plus possible. a e e e e 1.1 Groupes de Lie semi-simples Rappelons qu’un groupe de Lie est un groupe G muni d’une structure de vari´t´ diff´rentielle pour laquelle l’application G × G → G, (g, h) → g −1 h ee e est lisse. Nous utiliserons tous les r´sultats fondamentaux de la th´orie des e e groupes de Lie, pour lesquels on renvoie ` [16]. a D´finition 1.1.1. Un groupe de Lie connexe G est dit semi-simple si le seul e sous-groupe distingu´ ab´lien connexe de G est le sous-groupe trivial r´duit e e e a l’´l´ment neutre de G. ` ee Cette d´finition a le m´rite de la concision ` d´faut de celui de la clart´. En e e a e e effet, les groupes de Lie semi-simples sont des objets extrˆmement riches qui e poss`dent de nombreuses d´finitions ´quivalentes. En particulier, les groupes e e e de Lie semi-simple peuvent ˆtre d´crits tr`s pr´cis´ment. Tout groupe de Lie e e e e e semi-simple est, a un revˆtement pr`s, le produit d’un nombre fini de groupes ` e e de Lie simples (un groupe de Lie connexe G est simple s’il est de de dimension > 1 et si les seuls sous-groupes ferm´s distingu´s connexes de G sont le sous- e e groupe trivial et G lui-mˆme). Les groupes de Lie simples peuvent, quant e 3
  4. 4. 4 CHAPITRE 1. GROUPES DE LIE SEMI-SIMPLES a eux, ˆtre classifi´s, ` un revˆtement pr`s (voir [8]). Sans rentrer dans les ` e e a e e d´tails de cette classification, disons simplement qu’elle comprend de grandes e familles comme les groupes SLn (R) ou SLn (C), n ≥ 2, la composante connexe des groupes SO(p, q), p + q ≥ 3, les groupes SU(p, q), p + q ≥ 2, etc. ainsi qu’une liste finie de groupes dits exceptionnels. Bien que les groupes de Lie semi-simples soient, a priori, des objets de nature diff´rentielle, leur ´tude est proche de celle de certains objets prove- e e nant de la g´om´triqe alg´brique. Si K est un corps, un groupe alg´brique e e e e sur K est un groupe G muni d’une structure de K-vari´t´ alg´brique pour la- ee e quelle l’application G × G → G, (g, h) → g −1 h est un morphisme de vari´t´s ee alg´briques (voir [4]). Si K est R, le groupe G(R) des points r´els de G e e poss`de une structure naturelle de groupe de Lie. e R´ciproquement, si G est un groupe de Lie semi-simple, d’alg`bre de e e Lie g, le groupe des automorphismes de g poss`de une structure naturelle de e groupe alg´brique. On note G sa composante connexe au sens de la g´om´trie e e e alg´brique. Alors, la repr´sentation adjointe de G induit un morphisme de e e groupes de Lie G → G(R) dont l’image est la composante connexe (au sens classique) de G(R). Ce morphisme est un revˆtement. Par cons´quent, tout e e groupe de Lie semi-simple est, a un revˆtement pr`s, la composante connexe ` e e du groupe des points r´els d’un groupe alg´brique. Ceci explique pourquoi e e tous les exemples de groupes de Lie que nous avons donn´ sont de ce type. e Les groupes de Lie semi-simple apparaissent aussi en g´om´trie. Si M est e e une vari´t´ riemannienne connexe et m un point de M , le th´or`me de Hopf- ee e e Rinov (voir [7]) assure l’existence d’un voisinage sym´trique U de 0 dans e l’espace tangent en m a M tel que l’application exponentielle en m induise ` un diff´omorphisme de U sur un voisinage V de m. La sym´trie g´od´sique e e e e sm en m est alors l’application V → V, Expm X → Expm (−X). On dit que M est sym´trique si, pour tout m dans M , la sym´trie g´od´sique sm se prolonge e e e e en une isom´trie globale de m (n´cessairement unique). Dans ce cas, M peut e e s’´crire de mani`re unique M = M+ × M0 × M− o` M+ , M0 , M− sont aussi e e u des vari´t´s riemaniennes sym´triques telles que M0 est isom´trique ` un ee e e a espace euclidien et M− (resp. M+ ) est a courbure n´gative (resp. positive) ` e et ne peut pas s’´crire comme le produit d’un espace euclidien avec un autre e espace sym´trique. Si M = M+ , on dit que M est de type compact et, si e M = M− , on dit qu’il est de type non compact. Les espaces sym´triques de e type compact et non compact sont d´crits dans [8]. Ceux de type non compact e sont toujours contractiles (comme toute vari´t´ riemannienne simplement ee connexe ` courbure n´gative, d’apr`s le th´or`me de Hadamard, voir [7]). a e e e e
  5. 5. ´ 1.2. DECOMPOSITIONS DES GROUPES DE LIE SEMI-SIMPLES 5 Le groupe des isom´tries H d’un espace sym´trique M peut ˆtre muni e e e d’une structure naturelle de groupe de Lie, pour laquelle l’action de H sur M est une application lisse H ×M → M . Si M est de type non-compact, la com- posante neutre G de H est semi-simple et son action sur M est transitive. Les stabilisateurs des points de M dans G sont des sous-groupes compacts maxi- maux de G. R´ciproquement, si G est un groupe semi-simple de centre fini, il e poss`de des sous-groupes compacts maximaux et ceux-ci sont tous conjugu´s. e e Si K est un tel sous-groupe, les m´triques riemanniennes G-invariantes du e quotient G/K le munissent d’une structure d’espace sym´trique de type non e compact. Exemple 1.1.2. Pour tout n ≥ 2 (resp. n ≥ 1), la composante connexe du groupe des isom´tries de l’espace hyperbolique r´el (resp. complexe) de di- e e mension n est la composante connexe du groupe SO(1, n) (resp. le groupe SU(1, n)). Pour tout n ≥ 2, le groupe SO(n) (resp. SU(n)) est un sous-groupe com- pact de SLn (R) (resp. SLn (C)). Le quotient SLn (R)/SO(n) (resp. SLn (C)/SU(n)) s’identifie a l’ensemble des matrices sym´triques (resp. hermitiennes) d´finies ` e e positives de taille n et de d´terminant 1. e Signalons enfin une derni`re caract´risation des groupes de Lie semi- e e simples en termes d’actions lin´aires. Si Γ est un sous-groupe de GLn (R), e pour n ≥ 1, on dit que Γ agit irr´ductiblement sur Rn si pour tout sous- e espace vectoriel V de R tel que ΓV ⊂ V , on a V = {0} ou V = Rn . n Rappelons par ailleurs que l’adh´rence de Zariski de Γ dans GLn (R) est le e groupe G(R) o` G est le plus petit sous-groupe alg´brique r´el de GLn tel que u e e n Γ ⊂ G(R). Alors, si Γ agit irr´ductiblement sur R , la composante connexe e de son adh´rence de Zariski est un groupe de Lie r´ductif, c’est-`-dire, a un e e a ` revˆtement pr`s, le produit d’un groupe de Lie ab´lien par un groupe de Lie e e e semi-simple. 1.2 D´compositions des groupes de Lie semi- e simples Nous allons a pr´sent pr´senter certains r´sultats de structure des groupes ` e e e de Lie semi-simples. Ces r´sultats sont des cons´quences de la th´orie g´n´rale e e e e e d´velopp´e dans [8] et [4]. Nous les ´non¸ons et les d´montrons ici dans le cas e e e c e particulier des groupes SLn (R) et SLn (C), n ≥ 2. Ils s’´tendent sans difficult´ e e
  6. 6. 6 CHAPITRE 1. GROUPES DE LIE SEMI-SIMPLES aux produits de tels groupes. On note K le groupe SO(n) (resp. SU(n)), A le groupe des matrices diagonales de taille n, de d´terminant 1 et dont les coefficients sont des r´els e e > 0 et N le groupe des matrices triangulaires sup´rieures a coefficients r´els e ` e (resp. complexes) dont toutes les valeurs propres ´galent 1. On note A+ le e sous ensemble de A form´ des matrices de coefficients diagonaux a1 , . . . an e avec a1 ≥ . . . ≥ an . Enfin, on note M le groupe des matrices diagonales de d´terminant 1 dont les coefficients sont r´els (resp. complexes) de module e e 1 et B le groupe des matrices triangulaires sup´rieures, c’est-`-dire qu’on a e a B = M AN . Proposition 1.2.1 (D´composition de Cartan). On a G = KA+ K. Plus e pr´cis´ment, pour tout g dans G, il existe un unique ´l´ment a de A+ tel que e e ee g appartienne ` KaK. a D´monstration. Soit g dans G. Si g t est la matrice transpos´e de g, la matrice e e t 2 g g est sym´trique est d´finie positive. Elle s’´crit donc s , o` s est elle mˆme e e e u e une matrice sym´trique d´finie positive. On a alors (gs−1 )t (gs−1 ) = 1, c’est- e e a-dire g = ks, avec k dans K. Mais alors, comme s est diagonalisable en base ` orthonorm´e ` valeurs propres positives, on peut ´crire s = lal−1 avec l dans e a e K et a dans A+ . Il vient g = klsl−1 , d’o` l’existence de la d´composition. u e L’unicit´ s’obtient de mani`re analogue. e e Exemple 1.2.2. Munissons Rn (resp. Cn du produit scalaire standard qui est g 0 K-invariant. Si n = 2, pour tout g dans G, on a g ∈ K K. Si 0 g −1   g 0 0 n = 3, pour tout g dans G, on a g ∈ K  0 g −1 g −1 0  K. −1 0 0 g −1 L’alg`bre de Lie a de A s’identifie a l’ensemble des ´l´ments (X1 , . . . , Xn ) e ` ee n de R avec X1 +. . .+Xn = 0. Pour g dans G, on note κ(g) = (κ1 (g), . . . , κn (g)) l’unique ´l´ment de a tel que g ∈ K exp(κ(g))K. ee Remarque 1.2.3. L’espace tangent a G/K en K s’identifie de fa¸on K-´quivariante ` c e a l’espace des matrices sym´triques de trace nulle. L’action de K dans cet ` e espace pr´serve la forme quadratique d´finie positive (X, Y ) → tr(XY ) et e e l’on v´rifie qu’il s’agit l`, ` un multiple pr`s, de l’unique forme quadratique e a a e pr´serv´e par cette action. La m´trique riemannienne G-invariante associ´e e e e e
  7. 7. ´ 1.2. DECOMPOSITIONS DES GROUPES DE LIE SEMI-SIMPLES 7 sur G/K est donc, ` un multiple pr`s, l’unique m´trique riemannienne G- a e e invariante sur cet espace. Si g est un ´l´ment de G, pour cette m´trique, on ee e a d(gK, K) = κ1 (g) 2 + . . . + κ (g)2 . n Plus g´n´ralement, si G est un groupe de Lie simple de centre fini et K e e un sous-groupe compact maximal de G, G pr´serve, ` un scalaire pr`s, une e a e unique m´trique riemannienne sur G/K. e Proposition 1.2.4 (D´composition d’Iwasawa). On a G = KAN et l’appli- e cation produit K × A × N → G est une bijection. D´monstration. Il s’agit l` d’une traduction imm´diate du proc´d´ d’ortho- e a e e e gonalisation de Gram-Schmidt. Le normalisateur de M A dans G est le groupe des ´l´ments de G ee qui laissent stable l’ensemble des droites engendr´es par la base canonique e (e1 , . . . , en ) de Rn (resp. Cn ). Son quotient W par M A est donc un groupe fini qui s’identifie naturellement au groupe des permutations de l’ensemble {1, . . . , n}. Proposition 1.2.5 (D´composition de Bruhat). On a G = w∈W BwB. e Plus pr´cis´ment, le groupe G est la r´union distincte des ensembles BwB, e e e o` w parcourt W . u Si K est un corps et V un K-espace vectoriel, un drapeau de V est une suite strictement croissante V0 = {0} V1 . . . Vr = V de sous-espaces vectoriels de V . Si r = dim V , on dit que le drapeau est complet. Si ξ et η sont deux drapeaux complets, on montre ais´ment qu’il existe une unique e permutation w de l’ensemble {1, . . . , n} telle qu’il existe une base (v1 , . . . , vn ) de V avec ξ = ({0}, Kv1 , Kv1 ⊕ Kv2 , . . . , V ) et η = ({0}, Kvw(1) , Kvw(1) ⊕ Kvw(2) , . . . , V ). On note B l’espace des drapeaux complets de Rn (resp. Cn ). Si ξ0 est le drapeau complet {0}, Re1 , Re1 ⊕ Re2 , . . . , Rn (resp. {0}, Ce1 , Ce1 ⊕ Ce2 , . . . , Cn ), l’application G → B, g → gξ0 identifie B et G/B. D´monstration de la proposition 1.2.5. Soit g dans G. D’apr`s la remarque e e ci-dessus, il existe une permutation w de {1, . . . , n} et une base (v1 , . . . , vn ) de V avec ξ0 = ({0}, Kv1 , Kv1 ⊕ Kv2 , . . . , V ) et gξ0 = ({0}, Kvw(1) , Kvw(1) ⊕ Kvw(2) , . . . , V ). Soit b un ´l´ment de G tel que, pour tout 1 ≤ i ≤ n, bei soit ee proportionnel a vi . Alors, on a bξ0 = ξ0 , donc b appartient ` B. De plus, si ` a
  8. 8. 8 CHAPITRE 1. GROUPES DE LIE SEMI-SIMPLES on note encore w un ´l´ment de G tel que, pour tout 1 ≤ i ≤ n, wei soit ee proportionnel ` ew(i) , on a gξ0 = bwξ0 , donc g ∈ bwB, d’o` l’existence de la a u d´composition. L’unicit´ se d´montre de mani`re analogue. e e e e 1.3 Sous-groupes Zariski denses Si G est un groupe de Lie semi-simple, son image par la repr´sentation e adjointe, c’est-`-dire son quotient par son centre, peut se voir de mani`re a e naturelle comme le groupe des points r´els d’un groupe alg´brique d´fini sur e e e R. On dit alors qu’un sous-groupe Γ de G est Zariski dense dans G si l’image de Γ dans ce quotient est Zariski dense, c’est-`-dire n’est pas contenue dans a le groupe des points r´els d’un sous-groupe alg´brique strict. Cela revient a e e ` dire que, pour toute repr´sentation lin´aire de G dans un espace vectoriel e e r´el V , pour tout sous-espace vectoriel W de V , si ΓW ⊂ W , on a GW ⊂ W e (ce fait ´tant une cons´quence du th´or`me de Chevalley, voir [4]). e e e e Revenons, pour pr´ciser les id´es, au cas o` G est SLn (R) ou SLn (C). e e u Nous conservons les notations introduites au paragraphe pr´c´dent et nous e e noterons A++ l’ensemble des ´l´ments de A dont les coefficients a1 , . . . , an ee v´rifient a1 > . . . > an , c’est-`-dire que A++ est l’int´rieur de A+ . Nous di- e a e rons qu’un ´l´ment g de G est loxodromique s’il est conjugu´ ` un ´l´ment de ee ea ee M A++ . On d´montre ais´ment qu’un ´l´ment est loxodromique si et seule- e e ee ment s’il poss`de un point fixe attracteur dans B. e Proposition 1.3.1 (Benoist-Labourie, Prasad [11]). Soit Γ un sous-groupe Zariski dense de G. Alors Γ contient un ´l´ment loxodromique. ee Exemple 1.3.2. Un sous-groupe de SL2 (R) est Zariski dense si et seulement s’il est non-´l´mentaire au sens de la g´om´trie hyperbolique, ce qui revient ee e e a dire qu’il ne fixe ni de produit scalaire sur R2 , ni de droite de R2 , ni de ` r´union de deux droites dans R2 . e Proposition 1.3.3. Soient G un groupe de Lie simple et Γ un sous-groupe Zariski dense de G. Alors Γ est discret ou dense. D´monstration. Soient g l’alg`bre de Lie de G et h ⊂ g l’alg`bre de Lie de e e e l’adh´rence de Γ. Alors, pour tout γ dans Γ, on a Adγ h ⊂ h, donc, pour tout e g dans G, on a Adg h ⊂ h. Comme G est simple, on a h = {0} ou h = g, d’o` u le r´sultat. e
  9. 9. 1.4. EXEMPLES DE SOUS-GROUPES DISCRETS ZARISKI DENSES 9 1.4 Exemples de sous-groupes discrets Za- riski denses Nous allons a pr´sent donner trois types d’exemples de sous-groupes dis- ` e crets Zariski dense d’un groupe de Lie semi-simple G. 1.4.1 R´seaux e Rappelons qu’un r´seau d’un groupe topologique localement compact G e est un sous-groupe discret Γ de G tel quel le quotient G/Γ poss`de une mesure e bor´lienne finie invariante par G. En particulier, si Γ est un sous-groupe co- e compact de G, il est un r´seau. e Exemple 1.4.1. Pour tout n ≥ 2, SLn (Z) est un r´seau non co-compact de e SLn (R) et SLn (Z[i]) est un r´seau non co-compact de SLn (C). e Les groupes de Lie semi-simples admettent de nombreux r´seaux. e Th´or`me 1.4.2 (Borel-Harish Chandra [5]). Si G est un groupe de Lie e e semi-simple, G poss`de ` la fois des r´seaux co-compacts et des r´seaux non e a e e co-compacts. Exemple 1.4.3. Pour tout n ≥ 2, le groupe SO(1, n) poss`de un r´seau co- e e compact Γ. D’apr`s le lemme de Selberg (voir [2]), quitte ` remplacer Γ e a par un sous-groupe d’indice fini, Γ est sans torsion. Alors, le quotient ΓHnR de l’espace hyperbolique r´el par l’action de Γ est une vari´t´ diff´rentielle e ee e muni d’une m´trique riemanienne localement isom´trique ` celle de l’espace e e a hyperbolique. Un groupe de Lie semi-simple peut s’´crire, ` revˆtement fini pr`s, de e a e e mani`re unique comme le produit de groupes de Lie semi-simples. Nous dirons e alors qu’il est sans facteur compact si aucun de ces groupes simples n’est compact. Th´or`me 1.4.4 (Borel [17]). Si G est un groupe de Lie semi-simple sans e e facteur compact, les r´seaux de G sont Zariski denses dans G. e Notons que cette condition est ´videmment n´cessaire. En effet, si K e e est un groupe compact, le sous-groupe trivial est un r´seau de K ! Plus e pr´cis´ment, si K est un groupe de Lie semi-simple compact, ses sous-groupes e e Zariski denses sont exactement ses sous-groupes denses au sens usuel.
  10. 10. 10 CHAPITRE 1. GROUPES DE LIE SEMI-SIMPLES 1.4.2 D´formations de groupes fondamentaux de e vari´t´s hyperboliques e e Si G est un groupe localement compact et Γ un groupe de type fini l’en- semble R(Γ, G) des homomorphismes de Γ dans G peut ˆtre muni d’une topo- e logie localement compacte naturelle. En effet, si S est une partie g´n´ratrice e e de Γ, cet ensemble s’identifie naturellement a ` {(gs )s∈S ∈ GS |∀r ∈ N ∀(ni , si )1≤i≤r ∈ (Z × Γ)r sn1 sn2 . . . snr = e ⇒ gs1 gs2 . . . gsrr = e} 1 2 r r1 r2 n et la topologie induite par cette identification sur R(Γ, G) ne d´pend pas de e S. Soient G et H des groupes de Lie semi-simples et Γ un r´seau de H. e Supposons donn´ un morphisme lisse de noyau fini ρ : H → G. La res- e triction ρ|Γ de ρ a Γ est donc un ´l´ment de R(Γ, G) d’image discr`te. ` ee e On peut alors se demander s’il existe des ´l´ments de R(Γ, G) qui sont ee d’image discr`te et Zariski dense et proches de ρ|Γ dans R(Γ, G). L’existence e de telles d´formations rencontre des obstructions de nature alg´brique qui e e sont d´crites par le th´or`me de Weil (voir [14]). Cependant, il existe des cas e e e o` cette constrcution est possible : u Th´or`me 1.4.5 (Johnson-Millson [10]). Pour tout n ≥ 2, il existe un e e r´seau co-compact Γ de SO(1, n) tel que la restriction ` Γ de la repr´sentation e a e naturelle de SO(1, n) dans SLn+1 (R) se d´forme en un morphisme d’image e discr`te et Zariski dense. e 1.4.3 Groupes de Schottky Nous allons a pr´sent introduire un dernier exemple de sous-groupe dis- ` e cret Zariski dense dont la construction est compl`tement explicite et permet e d’effectuer de nombreux calculs. Pour ce faire, nous allons avoir besoin de compl´ter nos connaissances sur les ´l´ments loxodromiques. e ee Si K est un corps et V un K-espace vectoriel, deux drapeaux complets ξ = (V0 , V1 , . . . , Vn ) et η = (W0 , W1 , . . . , Wn ) de V sont en position g´n´rale e e si, pour tout 0 ≤ i ≤ n, on a Vi ∩ Wn−i = {0} (ce qui revient a dire que ces ` deux sous-espaces engendrent V ). Exemple 1.4.6. Si dim V = 2, les drapeaux complets sont des droites de V . Deux droites sont en position g´n´rale si elles sont distinctes. Si dim V = 3, e e
  11. 11. 1.4. EXEMPLES DE SOUS-GROUPES DISCRETS ZARISKI DENSES 11 les drapeaux complets sont des couples (V1 , V2 ), o` V1 est une droite et V2 u un plan de V . Les couples (V1 , V2 ) et (W1 , W2 ) sont en position g´n´rale si e e V1 n’est pas contenu dans W2 et W1 n’est pas contenu dans V2 . ∨ Reprenons les notations du paragraphe 1.2 et notons ξ0 le drapeau ({0}, Ken , Ken ⊕ Ken−1 , . . . , Kn ), qui est en position g´n´rale avec ξ0 . Si g est e e ++ un ´l´ment de M A , l’action de g dans B admet ξ0 pour point fixe attrac- ee teur. On v´rifie ais´ment que son bassin d’attraction est B Q0 , o` Q0 est e e u l’ensemble des drapeaux complets qui ne sont pas en position g´n´rale avec e e ∨ ξ0 . Par cons´quent, si g est un ´l´ment loxodromique de G = SLn (R) e ee + ou SLn (C), il poss`de un unique point fixe attracteur ξg dans B et le e compl´mentaire du bassin d’attraction de ce point fixe est l’ensemble Q− e g des ´l´ments de B qui ne sont pas en position g´n´rale avec le point fixe ee e e attracteur de g −1 . Fixons-nous dor´navant des ´l´ments loxodromiques g1 , . . . , gr de G et e ee supposons que pour tout 1 ≤ i = j ≤ r, on a ξgi ∈ Q− ∪ Q−−1 et ξg−1 ∈ + / gj g + / j i Q− ∪ Q−−1 . gj g j p p Proposition 1.4.7 (Benoist, [3]). Il existe un entier p tel que g1 , . . . , gr engendrent un sous-groupe libre et discret de G. La d´monstration de cette proposition est une simple application de la e p p m´thode du tennis de table de Klein. La condition assurant que g1 , . . . , gr e engendrent un sous-groupe libre et discret de G ´tant ouverte, on peut, quitte e a modifier l´g`rement certains des g´n´rateurs, supposer que ce sous-groupe ` e e e e est Zariski dense dans G (voir [15]). D´monstration. Quitte ` remplacer les gi , 1 ≤ i ≤ r, par une puissance, on e a peut supposer qu’il existe dans B des ouverts b+ ξgi , b− ξg−1 , Bi− ⊃ Q− i + i + gi i et Bi+ ⊃ Q−−1 , avec b+ ∩ Bi− = ∅ = b− ∩ Bi+ = ∅, b+ ⊂ Bi+ , b− ⊂ Bi− g i i i i i et gi (B Bi− ) ⊂ b+ et gi (B Bi+ ) ⊂ b− , 1 ≤ i ≤ r, tels que, pour tous i −1 i 1 ≤ i = j ≤ r, on ait bi ∩ Bj = b+ ∩ Bj = b− ∩ Bj = b− ∩ Bj = ∅ et + − i + i − i + que 1≤i≤r Bi− ∪ Bi+ ne soit pas dense dans B. Alors, si 1 , . . . , l sont des ´l´ments de {±1}, t1 , . . . , tl des entiers non nuls et h1 , . . . , hl des ´l´ments de ee ee − {g1 , . . . , gr } avec, pour 1 ≤ k ≤ l−1, hk = hk+1 , on a hl l tl . . . h11 t1 (BB1 1 ) ⊂ bl l . En particulier, si ξ est un point int´rieur de B 1≤i≤r Bi− ∪ Bi+ , on a e l tl hl . . . h1 ξ ∈ 1≤i≤r Bi ∪ Bi . Donc hl l tl . . . h11 t1 est non trivial dans G 1 t1 − +
  12. 12. 12 CHAPITRE 1. GROUPES DE LIE SEMI-SIMPLES et il n’appartient pas au voisinage de l’identi´ constitu´ de l’ensemble des g e e − + dans G tels que gξ ∈ 1≤i≤r Bi ∪ Bi . La proposition en d´coule. / e √ Exemple 1.4.8. Pour t > 1 log(3 + 2 2), les matrices 4 et 0 cosh t sinh t et 0 e−t − sinh t cosh t engendrent un sous-groupe discret, libre et Zariski dense de SL2 (R). 1.5 R´sultats de comptage e Nous allons ` pr´sent d´crire les r´sultats connus sur le comptage asymp- a e e e totique dans les sous-groupes discrets des groupes de Lie semi-simples. Com- men¸ons par un r´sultat g´n´ral c e e e Th´or`me 1.5.1 ([12]). Soit G un groupe de Lie semi-simple de centre fini et e e K un sous-groupe compact maximal de G. Munissons G/K d’une m´trique e riemannienne G-invariante. Alors, si Γ est un sous-groupe discret Zariski dense de G, il existe δ > 0 tel que, pour tout x dans G/K, on ait 1 log {γ ∈ Γ|d(x, γx) ≤ a} − − δ −→ a a→∞ et {γ ∈ Γ|d(x, γx) ≤ a} = O ar−1 eaτ , a→∞ o` r est le rang r´el de G. u e Notons que le rang r´el de SLn (R) est n − 1. e L’estimation pr´cise de ces quantit´s est connue dans deux cas. Dans le e e cas des r´seaux, on a le e Th´or`me 1.5.2 (Eskin-McMullen, [6]). Soit G un groupe de Lie semi- e e simple de centre fini et K un sous-groupe compact maximal de G. Munissons G/K d’une m´trique riemannienne G-invariante et de la forme volume as- e soci´e et G de la mesure de Haar λ associ´e au choix de cette forme volume e e et de la mesure de Haar de masse totale 1 de K. Alors, si Γ est un r´seau e de G, pour tout x dans G/K, on a 1 {γ ∈ Γ|d(x, γx) ≤ a} ∼ vol(b(x, a)). a→∞ λ(G/Γ)
  13. 13. ´ 1.5. RESULTATS DE COMPTAGE 13 r−1 Notons que, d’apr`s [9], il existe C > 0 avec vol(b(x, a)) ∼ Ca e 2 eδG a , a→∞ o` r est le rang r´el de G et δG est un r´el > 0. u e e Dans le cas des groupes de Schottky, on a le Th´or`me 1.5.3 ([13]). Soit G un groupe de Lie semi-simple de centre fini e e et K un sous-groupe compact maximal de G. Munissons G/K d’une m´trique e riemannienne G-invariante. Alors, si Γ est un sous-groupe de Schottky de G, il existe δ > 0 tel que, pour tout x dans G/K, on ait {γ ∈ Γ|d(x, γx) ≤ a} ∼ Ceδa . a→∞ Dans la suite de ce cours, nous allons donner la d´monstration du e th´or`me 1.5.1 dans le cas o` G est le groupe SL3 (R). e e u
  14. 14. 14 CHAPITRE 1. GROUPES DE LIE SEMI-SIMPLES
  15. 15. Chapitre 2 Produit g´n´rique e e La d´monstration du th´or`me 1.5.1 repose essentiellement sur la e e e Proposition 2.0.4. Soit Γ un sous-groupe discret Zariski dense de G. Il existe une application π : Γ × Γ → Γ ayant les propri´t´s suivantes : ee (i) il existe un r´el M ≥ 0 tel que, pour tous g, h dans Γ, on ait : e κ(π(g, h)) − κ(g) − κ(h) ≤ M. (ii) pour tout r´el R ≥ 0, il existe une partie finie H de Γ telle que, pour e g, h, g , h dans Γ, avec κ(g) − κ(g ) ≤ R et κ(h) − κ(h ) ≤ R, on ait : π(g, h) = π(g , h ) ⇒ (g ∈ gH et h ∈ Hh) . Pour beaucoup de couples g, h, π(g, h) est simplement le produit de g et h. Plus g´n´ralement π(g, h) sera de la forme gf h o` f sera choisi dans une e e u partie finie de Γ de fa¸on judicieuse. c 2.1 Composante de Cartan du produit g´n´- e e rique Nous supposons donc dor´navant que G est SL3 (R). Nous notons e (e∗ , e∗ , e∗ ) la base duale de (e1 , e2 , e3 ). Si ρ est la repr´sentation standard 1 2 3 e de G dans R , sa repr´sentation contragradiante ρ dans l’espace dual (R3 )∗ 3 e ∗ de R3 v´rifie, pour tout g dans G, ρ∗ (g) = (g −1 )∗ . Nous munissons R3 et e son espace dual du produit scalaire usuel. Alors l’espace projectif P (R3 ) est 15
  16. 16. 16 ´ ´ CHAPITRE 2. PRODUIT GENERIQUE naturellement muni de la distance telle que, pour toutes droites V et W de R3 , pour tout vecteurs non nuls v de V et w de W , on ait v∧w d(V, W ) = . v w On munit l’espace projectif du dual de R3 de la distance analogue. Pour g dans G, on fixe une fois pour toutes kg et lg dans K avec −1 g = kg exp(κ(g))lg et on note VgM = kg Re1 , Vgm = lg (Re2 ⊕ Re3 ), ∗,M ∗ ∗,m −1 ∗ ∗ Vg = kg Re3 et Vg = lg (Re1 ⊕ Re2 ). Notons que, par construction, on a κ(g) = (log ρ(g) , log ρ∗ (g) − log ρ(g) , − log ρ∗ (g) ). Le lemme suivant nous permettra de calculer la composante de Cartan des produits utilis´s pour construire l’application π. On fixe une norme . sur a. e Lemme 2.1.1. Soient ε > 0 et F une partie compacte de G. Il existe M ≥ 0 tel que, pour tous g, h dans G et f dans F , si d(f VhM , P Vgm ) ≥ ε et d(f VhM,∗ , P Vg∗,m ) ≥ ε, on a κ(gf h) − κ(g) − κ(h) ≤ M. D´monstration. Soient a dans A+ et v = 0 dans R3 tels qu’on ait e d(Rv, P (Re2 ⊕ Re3 )) ≥ ε. Posons v = (v1 , v2 , v3 ), de sorte que |v1 | ≥ ε v . Il vient ρ(a)v ≥ a1 |v1 | ≥ εa1 v = ε ρ(a) v . Par cons´quent, pour tout g dans G, si v = 0 est tel que d(Rv, P Vgm ) ≥ ε, e on a ρ(g)v ≥ ε ρ(g) v . Alors, si f, g, h sont comme dans l’´nonc´, on a, d’une part e e ρ(gf h) ≤ ρ(g) ρ(f ) ρ(h) ≤ max ρ(f ) ρ(g) ρ(h) f ∈F et, d’autre part, si v = 0 est un vecteur de h−1 VhM , par construction, ρ(h)v = ρ(h) v , si bien que, d’apr`s la remarque ci-dessus, e −1 ρ(gf h)v ≥ ε ρ(g) ρ(f h)v ≥ ε ρ(g) ρ(f )−1 ρ(h)v −1 ≥ ε max ρ(f )−1 ρ(g) ρ(h) v , f ∈F −1 si bien que ρ(gf h) ≥ ε maxf ∈F ρ(f )−1 ρ(g) ρ(h) . Le r´sultat en e d´coule, en raisonnant de mani`re analogue dans l’espace dual de R3 . e e
  17. 17. 2.2. LEMME DE L’OMBRE 17 2.2 Lemme de l’ombre Nous allons a pr´sent introduire l’outil principal permettant de montrer ` e le point (ii) de la proposition 2.0.4, c’est-`-dire un contrˆle d’injectivit´. Le a o e lemme suivant peut se voir comme une contrapos´e du lemme de l’ombre e de Sullivan dont l’utilisation est fr´quente en g´om´trie hyperbolique et qui e e e assure que l’ombre, vue du point de r´f´rence o, d’une boule de rayon r > 0 ee centr´e autour de son image go par une isom´trie g contient l’image par g e e du compl´mentaire d’une certaine boule de rayon ε > 0 dans le bord, muni e de la m´trique associ´e ` o, o` ε ne d´pend que de r et peut ˆtre rendu e e a u e e arbitrairement petit en augmentant r. On note B ∨ le groupe des matrices triangulaires inf´rieures dans SL3 (R). e ∨ L’ensemble B ξ0 est exactement l’ensemble des ´l´ments de B qui sont en ee ∨ position g´n´rale avec ξ0 . e e Lemme 2.2.1. Pour toute partie compacte L de B ∨ , il existe une partie com- pacte M de G telle que, pour tous a dans A+ et k dans K, si kξ0 appartient ` aLξ0 , on ait a−1 ka ∈ M . a D´monstration. Notons que, pour toute partie relativement compacte M de B e (resp. B ∨ ), l’ensemble a∈A+ a−1 M a (resp. a∈A+ aM a−1 ) est relativement compact. En particulier, on peut supposer que, pour tout a dans A+ , on a aLa−1 ⊂ L. Soient k dans K et a dans A+ avec kξ0 ∈ aLξ0 . Ecrivons kξ0 = apξ0 , o` p est un ´l´ment de L, c’est-`-dire ap = kq, avec q dans B. Alors, on a u ee a a−1 ka = a−1 (apq −1 )a = p(a−1 q)−1 . Or, on a a−1 q = a−1 (qa−1 )a et, comme q = k −1 ap, qa−1 = k −1 apa−1 ∈ KL. Soit L l’ensemble relativement compact −1 −1 −1 −1 b∈A+ b (KL ∩ P A)b. On a a q ∈ L et, donc, a ka ∈ L(L ) , d’o` le u r´sultat. e Nous allons ` pr´sent ´noncer le r´sultat qui nous servira ` d´montrer a e e e a e le contrˆle d’injectivit´ de la proposition 2.0.4 et qui est une cons´quence o e e du lemme 2.2.1. Remarquons que l’espace B des drapeaux complets de R3 se plonge de mani`re naturelle dans P (R3 ) × P ((R3 )∗ ). Pour tout ξ dans B, e notons Vξ et Vξ les deux droites associ´es dans P (R3 ) et P ((R3 )∗ ). Pour g ∗ e ε dans G et pour ε > 0, notons Bg l’ensemble des ξ dans B tels que d(Vξ , Vgm ) ≥ ε et d(Vξ∗ , Vg∗,m ) ≥ ε. Par construction, il existe une partie compacte L de B ∨ telle que, pour tout g dans G, on ait Bg = lg Lξ0 . Pour X, Y dans a et ε −1 C ≥ 0, on note X ≥ Y si et seulement si X1 ≥ X2 − C et X2 ≥ X3 − C.
  18. 18. 18 ´ ´ CHAPITRE 2. PRODUIT GENERIQUE Lemme 2.2.2. Pour tous C ≥ 0 et ε > 0, il existe une partie compacte M ε ε de G telle que, pour tous g, h dans G avec κ(h) ≥C κ(g), si gBg ∩ hBh = ∅, on a g ∈ kh exp(κ(g))M . En d’autres termes, la connaissance de la composante de Cartan de G et ε de l’ensemble gBg permet de reconstituer g a un compact pr`s. ` e D´monstration. Notons AC = {a ∈ A|a1 ≥ eC a2 ≥ e2C a3 }. Soit L une partie e compacte de B ∨ telle que, pour tout g dans G, on ait Bg ⊂ lg Lξ0 et soit ε −1 −1 L l’ensemble relativement compact a∈AC aLa . D’apr`s le lemme 2.2.1, il e existe une partie compacte M de G telle que, pour tous a dans A+ et k dans K, si kξ0 appartient a aL ξ0 , on ait a−1 ka ∈ M . ` ε Soient alors g et h comme dans l’´nonc´. On a gBg ⊂ kg exp(κ(g))Lξ0 ⊂ e e ε kg exp(κ(g))L ξ0 et, comme κ(h) ≥C κ(g), hBh ⊂ kh exp(κ(h))Lξ0 ⊂ kh exp(κ(g))L ξ0 . En particulier, on a kg exp(κ(g))L ξ0 ∩kh exp(κ(g))L ξ0 = ∅. Soit ξ un ´l´ment de cette intersection et soit k dans K tel que ξ = kξ0 . On ee −1 −1 a kg kξ0 ∈ exp(κ(g))L ξ0 donc exp(−κ(g))kg k exp(κ(g)) ∈ M et, de mˆme, e −1 exp(−κ(g))kh k exp(κ(g)) ∈ M . Il vient donc g ∈ kg exp(κ(g))K ⊂ k exp(κ(g))M −1 K ⊂ kh exp(κ(g))M M −1 K, d’o` le r´sultat. u e 2.3 Produit g´n´rique dans G e e Nous allons ` pr´sent appliquer le lemme 2.2.2 a l’estimation, pour f, g, h a e ` dans G, de la d´composition de Cartan de g en fonction de celle de gf h, ` e a condition que soient v´rifi´es les hypoth`ses du lemme 2.1.1. e e e Lemme 2.3.1. Soient ε > 0 et F une partie compacte de G. Il existe une partie compacte M de G telle que, pour tous g, h dans G et f dans F avec d(f VhM , P Vgm ) ≥ ε et d(f Vh∗,M , P Vg∗,m ) ≥ ε, on ait g ∈ kgf h exp(κ(g))M . Ce r´sultat repose sur le lemme 2.2.2 et sur les estimations suivantes e d’alg`bre lin´aire qui permettront d’en valider les hypoth`ses. e e e Lemme 2.3.2. Pour tous g dans G et ε > 0, la restriction de g ` l’ensemble a 3 m 1 {X ∈ P (R ) |d(X, P Vg ) ≥ ε} est ε2 -lipschitzienne.
  19. 19. ´ ´ 2.3. PRODUIT GENERIQUE DANS G 19 D´monstration. Par d´composition de Cartan, il suffit de d´montrer ce e e e r´sultat pour g = a appartenant a A . Alors, pour v et w dans R3 {0} e ` + avec d(Rv, P Vg ) ≥ ε et d(Rw, P Vgm ) ≥ ε, on a, d’une part av ≥ m a1 |v1 | ≥ εa1 v et, de mˆme, aw ≥ εa1 w , et, d’autre part, a(v ∧ w) ≤ e 2 2 a v ∧ w = a1 v ∧ w , si bien que a(v ∧ w) 1 d(aRv, aRw) = ≤ 2 d(Rv, Rw), av aw ε ce qu’il fallait d´montrer. e Lemme 2.3.3. Soient ε, η > 0. Il existe > 0 tel que, pour tout g dans G, pour tout hyperplan W de R3 avec d(VgM , P (W )) ≥ ε, on ait g −1 b(P (W ) , ) ⊂ b(P g −1 W , η). D´monstration. On v´rifie ais´ment que, pour v = 0 dans R3 et ϕ = 0 e e e dans (R3 )∗ , on a d(Rv, P (ker ϕ)) = |ϕ(v)| . Par ailleurs, pour g dans G, on a ϕ v ∗,m Vg∗ = (Vg ) , si bien que si v = 0 est dans R3 et ϕ = 0 est dans (R3 )∗ avec M ⊥ d(Rv, P (ker ϕ)) ≤ 2 et d(VgM , P (ker ϕ)) ≥ ε), on a aussi d(Rϕ, P v ⊥ ) ≤ 2 ε ε et d(Rϕ, Vg∗,m ) ≥ ε. D’apr`s le lemme 2.3.2, appliqu´ dans (R3 )∗ , il vient ∗ e e ∗ ∗ ⊥ 4 ⊥ d(g Rϕ, g P v ) ≤ ε2 d(Rϕ, P v ). En d’autres termes, pour tout 0 < η ≤ 2 , on a g −1 b(P (ker ϕ) , η) ⊂ b(P (g −1 ker ϕ) , ε42 η). Le r´sultat en d´coule. ε e e D´monstration du lemme 2.3.1. D’apr`s le lemme 2.1.1, il existe C ≥ 0 tel e e que, pour tous g, f, h comme dans l’´nonc´, on a κ(gf h) ≥C κ(g) si bien e e que, pour appliquer le lemme 2.2.2, il suffit de garantir que, pour un certain > 0, on a gBg ∩ gf hBgf h = ∅, c’est-`-dire h−1 f −1 Bg ∩ Bgf h = ∅. a Choisissons θ > 0 suffisament petit pour que, pour tous hyperplans W1 , W2 dans R3 et W1 , W2 dans (R3 )∗ , il existe un drapeau complet (V, V ∗ ) ∗ ∗ dans B avec d(V, P (W1 ) ∪ P (W2 )) ≥ θ et d(V ∗ , P (W1 ) ∪ P (W2 )) ≥ θ. ∗ ∗ Soit η > 0 tel que, pour tous f dans F et X, Y dans P (R3 ) (resp. P ((R3 )∗ )) avec d(X, Y ) ≤ η, on ait d(f −1 X, f −1 Y ) ≤ ε. D’apr`s lee lemme 2.3.3, il existe ω > 0 tel que, pour tout h dans G et pour tout plan W de R3 (resp.W ∗ de (R3 )∗ ) tel que d(VhM , P (W )) ≥ θ) (resp. d(Vh∗,M , P (W ∗ )) ≥ θ)), on ait h−1 b(P (W ) , ω) ⊂ b(P (h−1 W ) , θ) (resp. h−1 b(P (W ∗ ) , ω) ⊂ b(P (h−1 W ∗ ) , θ)). Enfin, il existe 0 < ≤ θ tel que,
  20. 20. 20 ´ ´ CHAPITRE 2. PRODUIT GENERIQUE pour tous f dans F et X, Y dans P (R3 ) (resp. P ((R3 )∗ )) avec d(X, Y ) ≤ , on ait d(f −1 X, f −1 Y ) ≤ ω. Alors, pour tous f dans F et g, h dans G avec d(f VhM , P Vgm ) ≥ ε et d(f Vh∗,M , P Vg∗,m ) ≥ ε, on a h−1 f −1 b(P Vgm , ) ⊂ b(P h−1 f −1 Vgm , θ) et h−1 f −1 b(P Vg∗,m , ) ⊂ b(P h−1 f −1 Vg∗,m , θ). Par cons´quent, par d´finition de θ, il existe un drapeau ξ = (V, V ∗ ) dans B tel e e ∗,m que d(V, Vgf h ) ≥ θ ≥ et d(V ∗ , Vgf h ) ≥ θ ≥ , c’est-`-dire que ξ appartient m a a Bgf h , ainsi que d(hf V, Vgm ) ≥ ` et d(hf V ∗ , Vg∗,m ) ≥ , c’est-`-dire que a −1 −1 hf ξ appartient a Bg . Il vient bien h f Bg ∩ Bgf h = ∅ et le lemme d´coule ` e alors directement du lemme 2.2.2. 2.4 Le lemme de finitude d’Abels-Margulis- Soifer Il nous reste, pour construire l’application π de la proposition 2.0.4, a ` construire, dans tout sous-groupe Zariski dense Γ de G, une partie F telle que, pour tous g, h dans Γ, il existe f dans F tel que f, g, h v´rifient les e hypoth`ses des lemmes 2.1.1 et 2.3.1. C’est l’objet du lemme suivant. e Lemme 2.4.1 (Abels-Margulis-Soifer [1]). Soit Γ un sous-groupe Zariski dense de G. Il existe ε > 0 et une partie finie F de Γ ayant la propri´t´ ee 3 ∗ 3 ∗ suivante : pour toutes droites V dans R et V et (R ) , pour tous hyperplans W dans R3 et W ∗ et (R3 )∗ , il existe f dans F tel que d(f V, P (W )) ≥ ε et d(f V ∗ , P (W ∗ )) ≥ ε. D´monstration. D’apr`s la proposition 1.3.1, Γ contient un ´l´ment loxodro- e e ee mique g. Alors, l’action de g dans P (R3 ) est proximale : si V + d´signe la e droite propre associ´e ` sa plus grande valeur propre en module, V + est un e a point fixe attracteur pour l’action de g sur P (R3 ) et son bassin d’attraction est P (R3 ) P (W − ), o` W − est le plan engendr´ par les deux autres droites u e ∗,+ propres de g. De mˆme, on note V e la droite propre associ´e ` la plus e a grande valeur propre de ρ∗ (g) dans l’espace dual de R3 , et W ∗,− son unique suppl´mentaire g-stable. e Soit l un entier ≥ 1 et V1 , . . . , Vl des droites distinctes de R3 , V1∗ , . . . , Vl∗ des droites distinctes de l’espace dual de R3 , W1 , . . . , Wl des plans distincts de R3 et W1 , . . . , Wl∗ des plans distincts de l’espace dual de R3 . Il existe des ∗ droites V dans R3 et V ∗ dans l’espace dual de R3 , ainsi que des plans W dans R3 et W ∗ dans l’espace dual de R3 tels que, pour tout 1 ≤ i = j ≤ l, V (resp.
  21. 21. ´ ´ 2.5. PRODUIT GENERIQUE DANS Γ 21 V ∗ ) n’appartienne pas au plan engendr´ par Vi et Vj (resp. Vi∗ et Vj∗ ) et W e (resp. W ) ne contienne pas l’intersection de Wi et de Wj (resp. de Wi∗ et de ∗ Wj∗ ). Comme Γ est Zariski dense dans G qui est Zariski connexe, il existe h dans Γ tel que hV + (resp. hV ∗,+ ) n’appartienne pas au plan engendr´ par Vi e ∗ ∗ − −,∗ et Vj (resp. Vi et Vj ) et hW (resp. hW ) ne contienne pas l’intersection de Wi et de Wj (resp. de Wi∗ et de Wj∗ ). Ainsi, par r´currence, il existe une e suite (hi )i≥1 d’´l´ments de Γ, tels que, pour tous i, j, k ≥ 1 distincts, les ee droites hi V , hj V + et hk V + (resp. hi V +,∗ , hj V +,∗ et hk V +,∗ ) engendrent R3 + (resp. l’espace dual de R3 ) et l’intersection des plans hi W − , hj W − et hk W − (resp. hi W −,∗ , hj W −,∗ et hk W −,∗ ) est triviale. On pose, pour tout i ≥ 1, Vi = hi V + , Vi∗ = hi V ∗,+ , Wi = hi W − , Wi∗ = hi W ∗,− et gi = hi gh−1 . i Par construction, si V et V ∗ sont des droites de R3 et de l’espace dual de R3 et si W et W ∗ sont des plans de R3 et de l’espace dual de R3 , il existe 1 ≤ i ≤ 9 tel qu’on ait V ⊂ Wi V ∗ ⊂ Wi∗ Vi ⊂ W Vi∗ ⊂ W ∗ et, donc, il existe ε > 0 tel que pour tous V, V ∗ , W, W ∗ comme ci-dessus, on puisse trouver 1 ≤ i ≤ 9 avec d(V, P (Wi ) ≥ 2ε d(V ∗ , P (Wi∗ )) ≥ 2ε d(Vi , P (W )) ≥ 2ε d(Vi∗ , P (W ∗ )) ≥ 2ε. k Il existe un entier k tel que, pour tout 1 ≤ i ≤ 9, on ait gi {X ∈ P (V ) |d(X, P (Wi )) ≥ ε} ⊂ b(Vi , ε). Par cons´quent, si V, V ∗ , W, W ∗ sont e comme ci-dessus, il existe un entier 1 ≤ i ≤ 9 avec d(g k V, Vi ) ≤ ε d(g k V ∗ , Vi∗ ) ≤ ε d(Vi , P (W )) ≥ 2ε d(Vi∗ , P (W ∗ )) ≥ 2ε. k Le r´sultat en d´coule, en posant F = {gi |1 ≤ i ≤ 9}. e e 2.5 Produit g´n´rique dans Γ e e Nous pouvons a pr´sent conclure la ` e D´monstration de la proposition 2.0.4. Soient ε > 0 et F comme dans e le lemme 2.4.1. Pour tous g et h dans Γ, choisissons fg,h dans F avec
  22. 22. 22 ´ ´ CHAPITRE 2. PRODUIT GENERIQUE d(fg,h VhM , P Vgm ) ≥ ε et d(fg,h Vh∗,M , P Vg∗,m ) ≥ ε. Posons π(g, h) = gfg,h h. D’apr`s le lemme 2.1.1, il existe C ≥ 0 tel que, pour tous g, h dans Γ, on e ait κ(π(g, h)) − κ(g) − κ(h) ≤ C tandis que, d’apr`s le lemme 2.3.1, il e existe une partie compacte M de G telle que, pour tout g, h dans Γ, on a g ∈ kπ(g,h) exp(κ(g))M . En particulier, si g et h sont des ´l´ments de Γ tels ee que π(g , h ) = π(g, h), on a g ∈ gM −1 exp(κ(g ) − κ(g))M et donc, comme −1 h = (g fg ,h )−1 gfg,h h, h ∈ F −1 M −1 exp(κ(g ) − κ(g))M F h. Le r´sultat en e d´coule. e
  23. 23. Chapitre 3 Mesures ` croissance concave a Nous allons ` pr´sent d´tailler le lien abstrait qui existe entre la proposi- a e e tion 2.0.4 et le th´or`me 1.5.1. e e Soit E un espace vectoriel r´el de dimension finie, muni d’une norme N . e Une mesure de Radon ν sur E sera dite ` croissance concave s’il existe des a r´els α, β, γ > 0 tels que, pour tous x, y dans E, e ν bN (x + y, α) ≥ γν bN (x, β) ν bN (y, β) . La proposition 2.0.4 assure que, si Γ est un sous-groupe discret Zariski dense de G, l’image par κ de la mesure de comptage de Γ est une mesure a ` croissance concave sur a. 3.1 Exposants de convergence et formules de Hadamard Pour tout r´el t, on pose LN (t) = e ν E e−tN (x) dν(x) et τν = inf t ∈ R LN (t) < ∞ N ν = sup t ∈ R LN (t) = ∞ ∈ R ∪ {+∞, −∞}, ν qu’on appelle l’exposant de convergence de ν par rapport a N . Pour tous ` N r´els a ≤ b, on note C (a, b) = {x ∈ E |a ≤ N (x) ≤ b }. Donnons quelques e N formules de Hadamard pour le calcul de τν : 23
  24. 24. 24 ` CHAPITRE 3. MESURES A CROISSANCE CONCAVE Lemme 3.1.1. Pour tous a > 0 et b, c ≥ 0 avec b + c ≥ a, on a : N 1 log ν C N (na − b, na + c) τν = lim sup . a n→∞ n N Si τν > 0, on a : N log ν bN (0, a) τν = lim sup . a→∞ a D´monstration. Soient a > 0 et b, c ≥ 0 avec b + c ≥ a. Il existe un entier e n0 > 0 tel que, pour tout x dans E, 0 < card n ∈ N|x ∈ C N (na − b, na + c) ≤ n0 . Il vient, pour tout t dans R, ∞ 1 −|t| max(b,c) e ν (C N (na − b, na + c) e−tna ≤ e−tN (x) dν(x) n0 n=0 E ∞ ≤ e|t| max(b,c) ν (C N (na − b, na + c) e−tna , n=0 d’o` la premi`re formule. u e Par ailleurs, on a : N log ν C N (n − 1, n) log ν bN (0, n) τν = lim sup ≤ lim sup n→∞ n n→∞ n log ν bN (0, a) ≤ lim sup . a→∞ a N Supposons τν > 0. Soient t et s avec log ν bN (0, a) 0 < t < s < lim sup . a→∞ a Pour tout r´el a ≥ 0, il existe b ≥ a tel que, pour tout c ≥ b, on ait : e esc − etc ≥ ν bN (0, a) et, donc, il existe c ≥ b tel que l’on ait : ν C N (a, c) ≥ ν bN (0, c) − ν bN (0, a) ≥ esc − ν bN (0, a) ≥ etc .
  25. 25. ˆ 3.2. CONTROLE DE LA DIVERGENCE 25 On peut donc construire une suite (an )n∈N de r´els ≥ 0 avec, pour tout n e dans N, an+1 ≥ an + 1 et ν C N (an + 1, an+1 ) ≥ etan+1 . Il vient alors : ∞ e−tN (x) dν(x) ≥ ν C N (an + 1, an+1 ) e−tan+1 = ∞, E n=0 N donc t ≤ τν , d’o` la seconde formule. u 3.2 Contrˆle de la divergence o Nous dirons qu’une mesure de Radon a croissance concave ν sur E est ` N a croissance strictement divergente si τν > 0 (ce qui est ind´pendant de la ` e norme N choisie). Pour les mesures a croissance concave, on peut am´liorer ` e le lemme 3.1.1 : Proposition 3.2.1. Si ν est ` croissance concave strictement divergente, a pour toute norme N sur E, on a : log ν bN (0, a) N −→ N − − τν et ν bN (0, a) = O ar−1 eaτν . a a→∞ a→∞ Commen¸ons par it´rer la formule de d´finition : c e e Lemme 3.2.2. Supposons ν ` croissance concave. Soit N une norme sur E a et soient α, β, γ tels que, pour tous x, y dans E, ν bN (x + y, α) ≥ γν bN (x, β) ν bN (y, β) . Alors il existe des r´els θ > 0 et η > 0 tels que, pour tout entier k ≥ 2 et e pour tous x1 , . . . , xk dans E, on ait : ν bN (x1 + . . . + xk , (k − 1)α + (k − 2)β) ≥ θη k ν bN (x1 , β) . . . ν bN (xk , β) . La d´monstration fait appel au lemme suivant dont la d´monstration est e e imm´diate. e
  26. 26. 26 ` CHAPITRE 3. MESURES A CROISSANCE CONCAVE Lemme 3.2.3. Soient N une norme sur E et β > 0. Il existe un r´el M > 0 e telle que, pour tout x dans E et pour tout a > 0, il existe un entier p ≤ M (1 + a)r et des points x1 , . . . , xp de E avec bN (x, a) ⊂ p bN (xi , β). i=1 D´monstration du lemme 3.2.2. Soit N une norme sur E. Donnons-nous e α, β, γ comme ci-dessus et M comme dans le lemme 3.2.3. 1 Posons r = dim E et η = M (α+β+1)r et montrons par r´currence sur k ≥ 2 e l que, si l est le plus petit entier tel que 2 ≥ k, alors, pour tous x1 , . . . , xk dans E, on a : ν bN (x1 + . . . + xk , (k − 1)α + (k − 2)β) γ k−1 η k−2 ≥ ν bN (x1 , β) . . . ν bN (xk , β) . (22(l−1)+4(l−2)+8(l−3)+...+2l−1 )r Pour k = 2, il s’agit juste de la d´finition de la croissance concave ; pour e k = 3, c’est un raisonnement analogue a celui fait ci-apr`s. ` e Soit donc k ≥ 4 et supposons la formule vraie pour tous les entiers < k. Soient l le plus petit entier tel que 2l ≥ k et x1 , . . . , xk dans E. Si k est pair, on pose h = k ; s’il est impair, on pose h = k−1 . Dans les deux cas, on a 2 2 2l−1 ≥ h > 2l−2 et 2l−1 ≥ k − h > 2l−2 . D’apr`s le lemme 3.2.3, il existe un point y1 dans bN (x1 + . . . + xh , (h − 1)(α + e β)) tel que l’on ait : ν bN (x1 + . . . + xh , (h − 1)α + (h − 2)β) 2r(l−1) ≤ M (1 + (h − 1)α + (h − 2)β)r ν bN (y1 , β) ≤ ν bN (y1 , β) . η De mˆme, il existe un point y2 dans bN (xh+1 + . . . + xk , (k − h − 1)(α + β)) e tel que l’on ait : ν bN (xh+1 + . . . + xk , (k − h − 1)α + (k − h − 2)β) 2r(l−1) ≤ M (1 + (k − h − 1)α + (k − h − 2)β)r ν bN (y2 , β) ≤ ν bN (y2 , β) . η
  27. 27. ˆ 3.2. CONTROLE DE LA DIVERGENCE 27 On a alors : ν(bN (y1 + y2 , α)) ≥ γν(bN (y1 , β))ν(bN (y2 , β)) γη 2 ≥ 2r(l−1) ν bN (x1 + . . . + xh , (h − 1)α + (k − 2)β) 2 ν bN (xh+1 + . . . + xk , (k − h − 1)α + (k − h − 2)β) . Or, on a, par r´currence, e ν bN (x1 + . . . + xh , (h − 1)α + (h − 2)β) γ h−1 η h−2 ≥ ν bN (x1 , β) . . . ν bN (xh , β) . (22(l−2)+4(l−3)+...+2l−2 )r et ν bN (xh+1 + . . . + xk , (k − h − 1)α + (k − h − 2)β) γ k−h−1 η k−h−2 ≥ ν bN (xk+1 , β) . . . ν bN (xk , β) . (22(l−2)+4(l−3)+...+2l−2 )r Il vient : ν bN (y1 + y2 , α) γ k−1 η k−2 ≥ ν bN (x1 , β) . . . ν bN (xk , β) , (22(l−1)+4(l−2)+8(l−3)+...+2l−1 )r d’o` le r´sultat, puisque l’on a : u e bN (y1 + y2 , α) ⊂ bN (x1 + . . . + xk , (k − 1)α + (k − 2)β). Par r´currence, la formule est vraie pour tout k ≥ 2. Or, pour tout k ≥ 2, e si 2 < k ≤ 2l , on a : l−1 2(l − 1) + 4(l − 2) + 8(l − 3) + . . . + 2l−1 ∞ l l−1 l−2 l−3 1 l h =2 l−1 + l−2 + l−3 + . . . + ≤2 ≤ 4k 2 2 2 2 h=0 2h et, donc, pour tous x1 , . . . , xk dans E, on a : ν bN (x1 + . . . + xk , (k − 1)α + (k − 2)β) γ k−1 η k−2 ≥ ν bN (x1 , β) . . . ν bN (xk , β) , 4kr ce qu’il fallait d´montrer. e
  28. 28. 28 ` CHAPITRE 3. MESURES A CROISSANCE CONCAVE Des lemmes 3.2.3 et 3.2.2, on d´duit imm´diatement le e e Lemme 3.2.4. Supposons ν ` croissance concave. Soit N une norme sur E. a Il existe des r´els θ, η, κ > 0 tels que, pour tout r´el a ≥ 0 et pour tous r´els e e e a1 , . . . , ap tels que a = a1 + . . . + ap , on ait : ν bN (0, a + p + (p − 1)κ) θη p N N ≥ r−1 ν C (a1 , a1 + 1) . . . ν C (ap , ap + 1) . ((1 + a1 ) . . . (1 + ap )) Remarquons aussi le Lemme 3.2.5. Soit f : R+ → R une fonction croissante. Alors on a : f (a) f (n) f (a) f (n) lim sup = lim sup et lim inf a→∞ = lim inf n→∞ . a→∞ a n→∞ n a∈R∗ a n∈N∗ n a∈R∗ + ∗ n∈N + f ([a]) f (a) f ([a]+1) D´monstration. Pour tout r´el a ≥ 1, on a e e [a]+1 ≤ a ≤ [a] . D´monstration de la proposition 3.2.1. Soit N une norme sur E. e N log(ν (bN (0,a))) D’apr`s le lemme 3.1.1, on a τν = lim supa→∞ e a . Soient θ, η, κ > 0 comme dans le lemme 3.2.4. Soient m ≥ n ≥ 1 des entiers naturels et m = pn + q la division euclidienne de m par n. On a : κ+2 ν bN 0, m 1 + ≥ ν bN (0, m + (p + 1) + pκ) n θη p+1 ≥ ((1 + n)p (1 + q))r−1 p ν C N (n, n + 1) ν C N (q, q + 1) . Il vient, pour tout n ≥ 1, d’apr`s le lemme 3.2.5, e κ+2 log ν bN (0, a) 1+ lim inf n a→∞ a 1 η log ν C N (n, n + 1) ≥ log + . n (1 + n)r−1 n
  29. 29. 3.3. CROISSANCE DES SOUS-GROUPES DISCRETS 29 On en d´duit, en r´utilisant le lemme 3.1.1 : e e log ν bN (0, a) log ν C N (n, n + 1) N lim inf ≥ lim sup = τν a→∞ a n→∞ n log(ν (bN (0,a))) et, donc, a −→ N − − τν . a→∞ Mais alors, pour tout n ≥ 1, on a : N η (n + κ + 2) τν ≥ log + log ν C N (n, n + 1) (1 + n)r−1 d’o` u 1 N ν C N (n, n + 1) ≤ (1 + n)r−1 e(n+κ+2)τν . η En d’autres termes, il existe un r´el M ≥ 0 tel que, pour tout entier naturel e n, on ait : N ν C N (n, n + 1) ≤ M (1 + n)r−1 enτν . N Il vient, comme τν > 0, n−1 N N N ν b (0, n) ≤ M (1 + k)r−1 ekτν = O nr−1 enτν . n→∞ k=0 On en d´duit le r´sultat puisque, pour tout r´el a ≥ 0, on a bN (0, a) ⊂ e e e N b (0, [a] + 1). 3.3 Croissance des sous-groupes discrets La proposition 2.0.4 assure que, si Γ est un sous-groupe Zariski dense de G, l’image par κ de la mesure de comptage de Γ est ` croissance concave. a Pour appliquer la proposition 3.2.1 et conclure la d´monstration du th´or`me e e e 1.5.1, il nous reste ` montrer que les exposants de convergence de cette mesure a sont > 0. Lemme 3.3.1. Soit Γ un sous-groupe Zariski dense de G. Alors, on a 1 lim sup log {γ ∈ Γ| κ(γ) ≤ a} > 0. a→∞ a
  30. 30. 30 ` CHAPITRE 3. MESURES A CROISSANCE CONCAVE D´monstration. D’apr`s la proposition 1.3.1, Γ contient un ´l´ment loxodro- e e ee mique g. Comme Γ est Zariski dense dans G, il existe f dans Γ tel que f ξg = ξg , que f ξg ∈ Q− et que ξg ∈ f Q− . En raisonnant comme dans la + + + / g + / g proposition 1.4.7, on voit que ces conditions suffisent ` garantir que, quitte a −1 a remplacer g et h = f gf par une puissance, le semi-groupe engendr´ par ` e g et h est libre. Pour X = (X1 , X2 , X3 ) dans a, posons N (x) = max(|X1 | , |X2 | , |X3 |). Alors, pour tout γ dans G, on a N (κ(γ)) = log( γ ). En particulier, si C = max(log g , log h ), pour tout mot γ de longueur r en g et h, on a N (κ(γ)) ≤ rC. Il vient, pour r dans N, {γ ∈ Γ|N (κ(γ)) ≤ rC} ≥ 2r et, donc, 1 1 lim sup log {γ ∈ Γ|N (κ(γ)) ≤ a} ≥ log 2, a→∞ a C d’o` le r´sultat. u e Montrons aussi que ces exposants sont finis. Rappelons que, d’apr`s [9], il e r−1 existe δG > 0 et C > 0 tels que, dans G/K, on ait vol(b(x, a)) ∼ Ca 2 eδG a . a→∞ Lemme 3.3.2. Soit Γ un sous-groupe discret de G. Pour tout x dans G/K, on a r−1 {γ ∈ Γ|d(x, γx) ≤ a} = O(a 2 eδG a ). a→∞ D´monstration. Comme Γ est discret dans G et que G agit proprement sur e G/K, il existe un r´el r > 0 tel que, pour tout γ dans Γ tel que γx = x, on e ait γb(x, r) ∩ b(x, r) = ∅. Alors, pour tout a > 0, on a {γ ∈ Γ|d(x, γx) ≤ a} ≤ (Γ ∩ K)vol(b(x, a + r)). Le r´sultat en d´coule. e e Nous pouvons a pr´sent conclure la ` e D´monstration du th´or`me 1.5.1. D’apr`s la proposition 2.0.4, l’image par e e e e κ de la mesure de comptage de Γ est a croissance concave et, d’apr`s les ` e lemmes 3.3.1 et 3.3.2, elle est de type strictement divergent, a exposant fini. ` Le r´sultat d´coule alors de la proposition 3.2.1. e e
  31. 31. Bibliographie [1] H. Abels, G. Margulis, G.A. Soifer, Semigroups containing proximal linear maps, Israel J. Math. 91 (1995), no. 1-3, 1-30. [2] R. Alperin, An elementary account of Selberg’s lemma, Enseign. Math. 33 (1987), no. 3-4, 269-273. [3] Y. Benoist, Propri´t´s asymptotiques des groupes lin´aires, Geom. Funct. ee e Anal. 7 (1997), no. 1, 1-47. [4] A. Borel, Linear algebraic groups, Graduate Texts in Mathematics, 126, Springer-Verlag, New York, 1991, xii+288 pp. [5] A. Borel, Harish-Chandra, Arithmetic subgroups of algebraic groups, Ann. of Math. (2) 75 (1962), 485-535. [6] A. Eskin, C. McMullen, Mixing, counting, and equidistribution in Lie groups, Duke Math. J. 71 (1993), no. 1, 181-209. [7] S. Gallot, D. Hulin, Dominique, J. Lafontaine, Riemannian geometry, Universitext, Springer-Verlag, Berlin, 2004, xvi+322 pp. [8] S. Helgason, Differential geometry, Lie groups, and symmetric spaces, Graduate Studies in Mathematics, 34, American Mathematical Society, Providence, RI, 2001, xxvi+641 pp. [9] S. Helgason, Groups and geometric analysis. Integral geometry, invariant differential operators, and spherical functions, Mathematical Surveys and Monographs, 83, American Mathematical Society, Providence, RI, 2000, xxii+667 pp. [10] D. Johnson, J.J. Millson, Deformation spaces associated to compact hy- perbolic manifolds, Discrete groups in geometry and analysis (New Ha- ven, Conn., 1984), 48-106, Progr. Math., 67, Birkh¨user Boston, Boston, a MA, 1987. [11] G. Prasad, R-regular elements in Zariski-dense subgroups, Quart. J. Math. Oxford Ser. (2) 45 (1994), no. 180, 541-545. 31
  32. 32. 32 BIBLIOGRAPHIE [12] J.-F. Quint, Divergence exponentielle des sous-groupes discrets en rang sup´rieur, Comment. Math. Helv. 77 (2002), no. 3, 563-608. e [13] J.-F. Quint, Groupes de Schottky et comptage, Ann. Inst. Fourier (Gre- noble) 55 (2005), no. 2, 373-429. [14] M.S. Raghunathan, Discrete subgroups of Lie groups, Ergebnisse der Ma- thematik und ihrer Grenzgebiete, Band 68. Springer-Verlag, New York- Heidelberg, 1972, ix+227 pp. [15] J. Tits, Free subgroups in linear groups, J. Algebra 20 (1972), 250-270. [16] V.S. Varadarajan, Lie groups, Lie algebras, and their representations, Graduate Texts in Mathematics, 102, Springer-Verlag, New York, 1984, xiii+430 pp. [17] R.J. Zimmer, Ergodic theory and semisimple groups, Monographs in Ma- thematics, 81, Birkh¨user Verlag, Basel, 1984, x+209 pp. a

×