Travail d'initiative personnelle encadré par Mme. Isabelle Chalendar dans le cadre de la L3 Mathématiques à l'université de Paris-Est.

1. Etude des homographies
Analyse complexe, I.Chalendar, 2017-2018
Anthony Mairlot
Imad Berkani
1

2. Table des matières
I. Premières définitions · · · · · · · · · · · · · · · · · · · · · · · 3
II Image par une homographie · · · · · · · · · · · · · · · · · 5
III Le groupe des homographies · · · · · · · · · · · · · · · · 6
IV Les automorphismes du disque · · · · · · · · · · · · · · 9
V Les automorphismes du demi-plan supérieur · · · 13
VI Théorème de Denjoy-Wolf · · · · · · · · · · · · · · · · · · 14
VII La bibliographie · · · · · · · · · · · · · · · · · · · · · · · · · 20
2

3. I. Premières définitions
Définition I.1. Soient a, b, c, d des nombres complexes. Soit la fonction f définie par :
f(z) =
az + b
cz + d
sur une partie de C. On appelle f une homographie.
Proposition I.1. Si ad − bc = 0 alors f est constante.
Preuve I.1. ∀(z = z0), f(z) − f(z0) =
az + b
cz + d
−
az0 + b
cz0 + d
On a,
f(z) − f(z0) =
(az + b)(cz0 + d) − (az0 + b)(cz + d)
(cz + d)(cz0 + d)
=
aczz0 + adz + bcz0 + bd − (aczz0 − adz0 + bcz + bd
(cz + d)(cz0 + d)
=
aczz0 − aczz0 + adz − bcz + bcz0 − adz0 + bd − bd
(cz + d)(cz0 + d)
=
adz − bcz + bcz0 − adz0
(cz + d)(cz0 + d)
Or, ad = bc Donc, f(z) − f(z0) = 0 ∀(z = z0) Ainsi, si ad − bc = 0 alors f est
constante.
Remarque I.1. En tentant de calculer s = f(z)−f(z0)
z−z0
pour étudier la différentiabilité de
f en z0, on se rend compte que le fait que f(z) − f(z0) = 0 est suffisant pour conclure.
Proposition I.2. Soit f une homographie non constante (i.e telle que ad − bc = 0)
définie par f(z) =
az + b
cz + d
. f(z) est définie si : az + d = 0 donc l’ensemble de définition
est : S := {z = −d
c
}
1. Si c = 0 alors f est holomorphe sur C.
2. Si c = 0 alors f est holomorphe sur C{−d
c
}.
Preuve I.2. On supposera que ad − bc = 0 et f l’homographie définie par f(z) =
az + b
cz + d
f(z) est définie si : cz + d = 0.
Donc S := z = {−d
c
}
3

4. 1. Si c = 0 alors a = 0 et d = 0 avec ad − bc = 0. On en déduit que :
f(z) =
az + b
d
=
a
d
z +
b
d
est définie sur C.
De plus, f(z) est un polynôme et dans ce cas f(z) est holomorphe sur C.
2. Si c = 0 alors f(z) est définie par C{−d
c
} = I. p(z) = az + b est holomorphe sur I
et c’est un polynôme. De même, φ(z) = cz + d est aussi holomorphe sur I et c’est
un polynôme. Donc, φ−1
(z) = 1
cz+d
et c’est l’inverse d’une fonction holomorphe. On
en déduit que f(z) = p(z)×φ−1
(z) est holomorphe comme produit de deux fonctions
holomorphes.
Conclusion :
• f(z) est holomorphe sur C{−d
c
} si c = 0
• f(z) est holomorphe sur C si c = 0.
4

5. II Image par une homographie
Dans cette partie, nous déterminerons l’image par une homographie d’un cercle et par
d’une droite.
Proposition II.1. Soit f(z) = az+b
cz+d
, une homographie non constante
1. Si c = 0 et d = 0 :
a) l’image d’une droite par la transformation f(z) = az+b
d
est une droite d’équation : ¯αf(z) + d ¯f(z) = K
avec α = w.
¯d
¯a
et K = K + α + ¯α
b) l’image d’un cercle par la transformation f(z) = az+b
d
est un cercle de centre α =
b/a ¯d/a + w ¯( d
a
)
|d/a|2 et de rayon r = r
d/a
− ¯w−b/a
|d/a|2
2. Si c = 0 et α = −d
c
:
a) Si α appartient au cercle ou à la droite, alors l’image est une droite.
d’équation : ¯αz + α¯z = 0
b) Sinon l’image est un cercle de centre ¯c
|c|2−R2 et de rayon R
|c|2−R2
Preuve II.1. La preuve étant composée de beaucoup de calcul. Nous ne les détaillerons
pas tous.
Soit f(z) = az+b
cz+d
une homographie non constante (ad - bc = 0).
Lorsque c = 0 et d = 0 et a = 0 :
On part de f(z) = az+b
d
et on isole z pour finalement trouver : z = d
a
f(z) − b
a
et
on définit l’équation de la droite sous la forme suivante :
¯wz + w¯z = K avec w ∈ C privé de 0. On remplace z par sa valeur trouvé plus haut.
Après calcul, on trouve : w
¯d
a
¯f(z) + ( ¯w + d
a
)f(z) = K + w.¯b
a
+ ¯w.b
a
.
Donc l’image d’une droite par la transformation f(z) = az+b
d
est une droite d’équation : ¯αf(z) + d ¯f(z) = K
avec α = w.
¯d
¯a
et K = K + α + ¯α.
Par un raisonnement analogue :
mais cette fois-ci, en considérant l’équation du cercle suivante :
z¯z - ¯wz - w¯z = r2
− |w|2
On a que : l’image d’un cercle par la transformation f(z) = az+b
d
est un cercle de centre α =
b/a ¯d/a + w ¯( d
a
)
|d/a|2 et de rayon r = r
d/a
− ¯w−b/a
|d/a|2
Lorsque c = 0 : il suffit de considérer deux cas (2 pour la droite et 2 pour le cercle) :
Pour l’image d’une droite : lorsque la droite D du plan complexe passe par l’origine ou
lorsqu’elle ne passe pas par l’origine.
Pour l’image d’un cercle : lorsque le cercle C passe par 0 ou lorsqu’il ne passe pas par 0.
5

6. III Le groupe des homographies
Proposition III.1. Si f(z) = az+b
cz+d
et g(z) = a z+b
c z+d
sont des homographies non constantes.
Alors : f ◦ g et g ◦ f sont des homographies non constantes.
Preuve III.1.
1. Nous allons dans un premier temps montrer que f ◦ g et g ◦ f sont des homographies.
a)
(f ◦ g)(z) = f(g(z))
=
a(a z+b
c z+d
) + b
c(a z+b
c z+d
) + d
=
aa z+ab
c z+d
+ b
ca z+cb
c z+d
+ d
=
aa z+ab +b(c z+d )
c z+d
ca z+cb +d(c z+d )
c z+d
=
aa z + ab + bc z + bd
ca z + cb + dc z + dd
=
z(aa + bc ) + ab + bd
z(ca + dc ) + cb + dd
C’est par définition une homographie.
b)
(g ◦ f)(z) = g(f(z))
=
a (az+b
cz+d
) + b
c (az+b
cz+d
) + d
=
a az+a b
cz+d
+ b
c az+c b
cz+d
+ d
=
a az+a b+b (cz+d)
cz+d
c az+c b+d (cz+d)
cz+d
=
a az + a b + b cz + b d
c az + c b + d cz + d d
=
z(a a + b c) + a b + b d
z(c a + d c) + c b + d d
C’est par définition une homographie.
On a donc montré que f ◦ g et g ◦ f sont des homographies.
6

7. 2. Nous allons maintenant montrer qu’elles sont constantes.
Posons : A = aa’ + bc’, B = ab’ + bd’, C = ca’ + d’c et D = cb’ + dd’ ;
AD − BC = (aa + bc )(cb + dd ) − (ab + bd )(a a + b c)
= aca b + ada d + bcc b + bdd c − aca b − adb c − bdd c − bca d
= ad(a d ) − b c ) + bc(b c − a d )
AD − BC = (ad − bc)(a d − b c )
Puisque, par hypothèse f et g sont des homographies non constantes, alors
ad − bc = 0 et a d − b c = 0, donc AD − BC = 0. D’où le résultat. On réitère le même
processus avec :
A’ = a’a + b’c, B’ = a’b + b’d, C’ = c’a + dc’ et D’ = c’b + d’d.
Et on trouve par le même raisonnement A’D’ - B’C’ = 0
Remarque III.1. : Les éléments du produit matriciel
a b
c d
a b
c d
et
a b
c d
a b
c d
sont exactement les cœfficients de f ◦ g et g ◦ f.
Preuve III.2. Il suffit d’effectuer le produit matricielle des deux matrices.
a b
c d
a b
c d
=
aa + bc ab + bd
ca + dc cb + dd
=
A B
C D
a b
c d
a b
c d
=
a a + b c a b + b d
c a + d c c b + d d
=
A B
C D
Proposition III.2. L’ensemble des homographies non constantes forme un groupe non
commutatif pour la loi de composition.
Preuve III.3. : Posons H = "L’ensemble des homographies non constantes".
Preuve 1 : Notons Ψ l’application définie par :
Ψ : Gl2(C) −→ H
(a,b,c,d) −→ az+b
cz+d
o
Soit (u, u’) ∈ (GL2)2
alors Ψ(uu’) = Ψ(u) ◦ Ψ(u−1
) De plus, par construction Ψ est
surjective.
7

8. Ψ(u) = Ψ(u ) ⇔ Ψ(u) ◦ Ψ(u−1
) = Ψ(u’) ◦ Ψ(u−1
)
⇔ Ψ(uu−1
) = Ψ(u u−1
)
⇔ Ψ(I2) = Ψ(u u−1
)
⇔ z = az+b
cz+d
(En posant u u−1
=
a b
c d
)
⇔ a = 1, b = 0, c = 0, d = 1 (par identification)
⇔ u u−1
= I2
⇔ u’ = u
Par conséquent Ψ est injective.
Ainsi Ψ est bijective.
Donc, on peut alors transporter la structure de groupe de Gl2(C) sur H muni de la loi de
composition.
Conclusion : (H, ◦) est un groupe.
Preuve 2 :
Précédemment nous avons montré que si f et g sont des homographies non constantes alors
f ◦ g et g ◦ f sont des homographies constantes avec f ◦ g = g ◦ f. Donc si, H est un
groupe, il n’est pas abélien.
L’élément neutre est l’identité donnée par a = d = 1 et b = c = 0 ou a = d = −1 et
b = c = 1.
Toute homographie f(z) = az+b
cz+d
est inversible et a pour inverse. f−1
(z) = dz−b
−cz+a
Ainsi,
l’ensemble (H des homographies muni de la composition des applications est un groupe
non commutatif.
Car si l’on prend : f1(z) = z + 1 et f2(z) = 1
z
, on a f1(z) ◦ f2(z) = z+1
z
tandis que
f2(z) ◦ f1(z) = z
z+1
Remarque III.2. Le groupe H est engendré par les similitudes directes z → az + b
(a = 0) et l’application z → 1
z
.
Preuve III.4. En effectuant la décomposition en éléments simples de az+b
cz+d
; on obtient :
1. a
c
+ bc−ad
c
1
cz+d
., si c = 0
2. a
d
z + b
d
, si c = 0
8

9. IV Les automorphismes du disque
Dans cette partie nous allons montrer que l’ensemble des homographies f telles que
f(D) = D où D = disque unité ouvert = {z ∈ C, |z| < 1 },
est l’ensemble des fonctions homographiques de la forme :
f(z) = e
z − a
1 − ¯az
avec de e de module 1 et a de module strictement inférieur à 1
Pour cela, nous allons avoir besoin du lemme de Schwartz.
Lemme IV.1 (Lemme de Schwartz). Si ϕ est une application holomorphe de D dans
D avec ϕ(0) = 0 alors
a) |ϕ(z)| ≤ |z| ∀z ∈ D
b) |ϕ (0)| ≤ 1
De plus, si un z = 0 satisfait l’égalité en a) ou |f (0)| = 1, alors f(z) = eiθ
z
pour un θ ∈ [0, 2π] et donc on a l’égalité en a) pour tout z ∈ D
Preuve IV.1. En effet, la fonction ϕ étant holomorphe sur z ∈ D(0, 1),
elle est donc développable en série entière. La fonction g définie sur D(0, 1) par
g(z) =



ϕ(z)
z
si z = 0
ϕ (0) si z = 0
est holomorphe sur D(0, 1). D’après le principe du module maximum, on en déduit que le
maximum de |g(z)| dans le disque ¯D(0, ρ) = {z ∈ C : |z| ≤ p < 1} est atteint
en au moins un point z1 ∈ C(0, ρ) = {z ∈ C : |z| = ρ} Dès lors,
|g(z)| ≤ |g(z1)| =
ϕ(z1)
z1
≤
1
ρ
En faisant tendre ρ vers 1 dans cette inégalité, on obtient |g(z)| ≤ 1, d’où le résultat.
Proposition IV.1. Soit g un automorphisme de D tel que :
g(0) = 0. Alors, g(z) = eiθ
z
Preuve IV.2. Nous allons utiliser le lemme de Schwarz pour montrer la proposition.
Soit g un automorphisme de disque unité ouvert (D) tel que g(0) = 0. En appliquant à g
et à g−1
le lemme de Schwartz, on obtient :
|g(z)| ≤ |z|, ∀z ∈ D.
et |g−1
(ω)| ≤ ω
Pour ω = g(z), on a |z| ≤ |g(z)|.
Ainsi, |g(z)| = |z| et donc, g(z) = eiθ
z où 0 ≤ θ ≤ 2π. (Lemme de Schwarz)
9

10. Introduisons maintenant f : D −→ D
z → e.ga(z)
où e.ga(z) = e z−a
1−¯az
et |a| < 1
∀ z ∈ D et a ∈ C tel que |a| < 1, on a :
|ga(z)| < 1 ⇔ | z−a
1−¯az
| < 1
⇔ |z − a| < |1 − ¯az|
⇔ |z − a|2
< |1 − ¯az|2
⇔ (z − a)(¯z − ¯a) < (1 − ¯az)(1 − ¯az)
⇔ z¯z − ¯az − a¯z + a¯a < 1 − a¯z − ¯az + ¯aza¯z
⇔ z¯z + a¯a < 1 + ¯aza¯z
⇔ z¯z − ¯aza¯z < 1 − a¯a
⇔ z¯z(1 − a¯a) < (1 − a¯a)
Donc : ∀z ∈ D et ∀a ∈ C tel que |a| < 1, on a : |ga(z)| < 1 ⇔ z¯z < 1.
On en déduit que ga est bien à valeur dans D.
D’autre part, ga est une homographie. On a vu dans la partie II. que si g est une homo-
graphie alors elle envoie le cercle unité sur lui-même. Or ga(0) = 0, alors ga envoie D sur
lui-même.
De ce fait, on peut conclure que ga est un automorphisme de D et que par conséquent f
l’est également.
Soit f : D −→ D. Notons a = f−1
(0) et h = f ◦ g(z). vérifiant : h(0) = 0. D’après le
lemme de Schwartz :
On a : ∀z ∈ D, |h(z)| ≤ |z| et |h−1
(z)| ≤ |z|
En particulier : |h (0)| ≤ 1 et |(h−1
) (0)| ≤ 1
De plus, h ◦ h−1
= IdD (aut(D)). Donc, h (h−1
(0))(h−1
(0)) = 1. Ainsi, |h (0)| = 1.
Donc, d’après la proposition : ∃θ ∈ [0, 2π] tel que h(z) = eiθ
z.
Donc : ∀z ∈ D, f(z) = f ◦ ga(ga(z)) = h(ga(z)) = eiθ
ga(z)
D’où : f(z) = eiθ z−a
1−¯az
en posant e = eiθ
on a bien |e| = 1.
Conclusion :
f(z) = e
z − a
1 − bz
avec |a| < 1, a ∈ C , |e| = 1 et b = ¯a.
Remarque IV.1. L’ensemble des homographies telles que f(D) = D est noté Aut(D)
pour automorphisme du disque. D représente le disque unité ouvert.
Proposition IV.2. (Aut(D), ◦) est un groupe.
Preuve IV.3. Montrons que (Aut(D), ◦) est un groupe.
1. (Aut(D)) ⊂ H
2. (Aut(D)) = ∅ car IdH : H −→ H, x −→ x ∈ H
3. L’élément neutre est la fonction identité de H notée de
IdH : H −→ H, x −→ x
En effet, ga(z) ◦ IdH = IdH ◦ ga(z) = ga(z) donc IdH est le neutre.
10

11. 4. La composée de deux automorphismes de D est un automorphisme de D :
f(z) = eiθ z−a
1−¯az
= eiθ
. - a−z
1−¯az
. Par conséquent : f(z) = ei(θ+π) a−z
1−¯az
.
Posons, ga(z) = a−z
1−¯az
ga ◦ ga(z) =
a− a−z
1−¯az
1−¯a
(a−z)
1−¯az
= a−a¯az−a+z
1−¯az−a¯a+¯az
= z(1−a¯a)
(1−a¯a)
= z
Ainsi, on a montré que la composée de deux automorphismes de D est un automor-
phisme de D. Et donc la stabilité par la loi.
5. Montrons que l’inverse d’un automorphisme de D est un automorphisme de D.
. g−1
a (z) = ga(z) . f(z) = ei(θ+π)
(z) ◦ ga(z)
D’où, f−1
(z) = ga(z) ◦ ei(2π+θ)
.
Ainsi, on a prouvé que l’inverse d’un automorphisme de D est un automorphisme
de D.
Donc Aut(D) est un groupe pour la loi de composition.
Théorème IV.1. Le groupe Aut(D(0, 1)) des automorphismes du disque unité
D(0, 1) = {z ∈ C : |z| < 1} est
Aut(D(0, 1)) = {w = eiθ z − z0
1 − ¯z0z
: θ ∈ R, |z0| < 1}
Preuve IV.4. Les transformations homographiques de la forme
z → w = eiθ z − z0
1 − ¯z0z
= f(z) : θ ∈ R, |z0| < 1
définissent un automorphisme de D(0, 1). En effet on a
|z| = 1 => ¯z =
1
z
=> |w| =
z − z0
1 − ¯z0z
= 1
et
|z| < 1 => |z − z0|2
− |1 − ¯z0z|2
= (1 − |z0|2
)(1 − |z|2
).
Donc l’image de D(0, 1) par l’application ci-dessus est D(0, 1) et il en est de même pour
¯D(0, 1). Réciproquement, soit z0 = f−1
(0) ∈ D(0, 1). On désigne par f0 l’homographie
z → z−z0
1− ¯z0z
définie sur l’ouvert C − { 1
z0
} et on pose g = f ◦ f−1
0 . Notons que g est un
automorphisme de ¯D(0, 1) (composée d’automorphismes). Dès lors, g(0) = f ◦ f−1
0 (0) =
f(z0) = 0. D’après la propositions IV.1, on a g(z) = eiθ
z, θ ∈ R et
f(z) = g ◦ f0(z) = eiθ z − z0
1 − ¯z0z
= f(z) : θ ∈ R, |z0| < 1
11

12. Proposition IV.3. Les automorphismes du disque consistent en trois catégories :
1. Les automorphismes avec un point fixe dans le disque unité ouvert et l’autre point
fixe de module strictement supérieur à un.
2. Les automorphismes avec un point fixe unique sur le bord du disque.
3. Les automorphismes avec deux points fixes distincts sur le bord du disque.
Preuve IV.5. Soit f ∈ Aut(D),
f(z) = z ⇔ eiθ z−a
1−¯az
= z
⇔ eiθ
(z - a) = z - ¯az2
⇔ ¯az2
+ z(eiθ
− 1) eiθ
a = 0
⇔ z2
+ z
¯a
(eiθ
− 1) eiθ a
¯a
= 0
On reconnaît une équation du second degré à solutions complexes, de plus le système
est de la forme : z2
-Sz + P avec :



P = z1 − z2
S = z1 + z2
et (z1, z2) les solutions de l’équations.
Donc, z1 . z2 = −eiθ
. a
¯a
Il y a trois cas possibles :
1. z1 = z2 ⇔ |z1|2
= 1 ⇔ |z1| = 1. D’où 2.
2. z1 = z2, |z1|.|z2| = 1 et si |z1| = 1 alors |z2| = 1. D’où 3.
3. Si |z1| < 1 alors |z2| > 1 D’où 1.
Remarque IV.2.
La composée de deux automorphismes elliptiques n’admet pas de point fixe dans D(0, 1)
Preuve IV.6.
Soient ψ et ϕ deux automorphismes elliptiques.
ψ(z) = ( α−z
1−¯αz
) ◦ (- z) ◦ ( α−z
1−¯αz
) avec 0 < |α| < 1
ϕ(z) = −z
ψ ◦ ϕ n’a pas de point fixe dans D(0, 1).
12

13. V Les automorphismes du demi-plan
supérieur
Dans cette partie nous allons décrire les automorphismes du demi-plan supérieur :
Définition V.1. On appelle demi-plan supérieur l’ensemble H défini par :
H = {z ∈ C : Imz > 0}
Remarque V.1. Le demi-plan supérieur évoqué dans la définition précédente est aussi
appelé demi-plan de Poincaré (1882).
Exemple V.1. Voici un exemple d’une homographie qui transforme le disque unité en le
demi-plan supérieur.
La transformation z → 1
z−i
envoie le disque D sur le demi-plan de Poincaré.
Théorème V.1. Le groupe Aut(H) des automorphismes du demi-plan supérieur
H = {z = x + iy ∈ C : Imz = y > 0} est
Aut(H) = {w = az+b
cz+d
: (a, b, c, d ∈ R), ad − bc = 1}.
Preuve V.1. Pour obtenir un isomorphisme de H sur D(0, 1), il suffit de poser
w = h(z) =
z − i
z + i
,
d’où z = h−1
(w) = ii+w
i−w
. (En effet, z = x ∈ R implique |w| = |x−i
x−i
| = 1 et h(i) = 0).
Notons que h est une application conforme de H sur D(0, 1).
Pour obtenir un automorphisme de H, on pose
w = f(z) =
az + b
cz + d
, (a, b, c, d) ∈ R, ad − bc = 1.
En effet, pour z = x ∈ R, on a f(x) ∈ R et pour z = i ∈ C, on a
Imf(i) = Im
ai + b
ci + d
=
ad − bc
d2 + c2
> 0,
d’où, f(i) ∈ H. Au cas où c = 0, on aura une translation ou une similitude qui est encore
un automorphisme de H car
f(z) =
a
d
z +
b
d
,
a
d
> 0,
b
d
∈ R
Tout automorphisme de H peut se mettre sous la forme suivante : h◦f◦h−1
avec f ∈
Aut(D(0, 1)). On aura donc toujours une transformation homographique ou linéaire. Le
résultat découle de le théorème IV.1.
13

14. VI Théorème de Denjoy-Wolf
1. Position du problème et énoncé
Soit ϕ : D −→ D une application holomorphe. On se propose d’étudier le
comportement des itérées ϕ(n)
de ϕ. On désigne par I l’identité de D dans D,
soit I(z) = z avec z ∈ D, et par N(ϕ) le nombre de points fixes distincts de ϕ dans D.
Enfin, si b ∈ C, on désigne par γb la fonction constamment égale à b :
γb(z) = b ∀ z ∈ D
Proposition VI.1. Soit ϕ : D −→ D une application holomorphe. Alors :
1. Si N(ϕ) ≥ 2, on a ϕ = I.
2. Si N(ϕ) = 1 et si ϕ(a) = a avec a ∈ D, deux cas exclusifs se présentent :
a) |ϕ (a)| < 1 et ϕ(n) u.c
−→ γa
b) |ϕ (a)| = 1 et ϕ est un automorphisme de D, holomorphiquement conjugué à
la rotation z → ϕ (a)z, et est dit elliptique.
Preuve VI.1. Soient a, b deux ponts fixes distincts de ϕ dans D. Supposons d’abord que
a = 0. Par les cas d’égalité dans le lemme de Schwartz, nous avons ϕ(z) = λz pour une
constante λ de module 1 et la reation ϕ(b) = b nous donne λb = b, soit λ = 1 et ϕ(z) = z
pour tout z ∈ D. Si a = 0, soit Ψ = ϕa ◦ ϕ ◦ ϕa : D −→ D, qui admet deux points fixes
distincts 0 et c = ϕa(b) en vertu des flèches.
0
ϕa
−→ a
ϕ
−→ a
ϕa
−→ 0, c
ϕa
−→ b
ϕ
−→ b
ϕa
−→ c
On a donc Ψ = I, et par suite ϕ = ϕa ◦ Ψ ◦ ϕa = I, d’après le premier cas.
Pour 2., posons λ = ϕ (a) on a toujours |λ| ≤ 1 en vertu du lemme de Cartan, ou plus
simplement en vertu de l’inégalité de Schwartz-Pick :
Et |λ| < 1 => ϕ(n) u.c
−→ γa d’après le lemme de Cartan
Si |λ| = 1, nous avons en gardant les notations précédentes :
Ψ (0) = ϕa’(a)ϕ’(a)ϕa(0) = 1
1−|a|2 λ(1 − |a|2
) = λ
donc ψ(z) = λz et ϕ = ϕa ◦ ψ ◦ ϕa est conjugué à la rotation z → λz = ψ(z).
Remarque VI.1. La fonction ϕa : z → z−a
1−¯az
est appelée facteur de Blaschke.
14

15. Théorème VI.1. ϕ : D −→ D une application holomorphe sans point fixe dans D, i.e
N(ϕ) = 0. Alors, il existe un point ω ∈ D tel que ϕ(n) uc
−→ γω
Preuve VI.2.
Les itérés de ϕ vont être aspirées par un point du bord ω que l’on appelle point de Denjoy-
Wolff (en l’honneur de ses 2 découvreurs).
pour la preuve du théorème nous allons la traiter en 2 cas :
1. Lorsque ϕ ∈ G := Aut(D) par des calculs explicites.
2. Lorsque ϕ /∈ G par un raisonnement plus abstrait
2. Le cas des automorphismes
Supposons ici que ϕ ∈ G et ϕ = I. Nous allons démontrer le théorème de Denjoy-Wolff
dans de cas par des calculs directs. Par les résultats des parties précédentes nous avons :
f(z) = eiθ z − a
1 − ¯az
avec 0 ≤ θ ≤ 2π et p ∈ D.
Les points fixes de ϕ sont donnés par l’équation du second degré :
(1)
¯pz2
+ eiθ
− 1)z − peiθ
= 0
de discriminant :
∆ = (eiθ
) − 1)2
+ 4|p|2
eiθ
= 4eiθ
[|p|2
− sin2
(θ/2)]
Distinguons 3 cas :
1. (Cas hyperbolique) : |p| > sin(θ/2). posons δ = |p|2
− sin2
(θ/2).
Les points fixes a, b sont distincts et donnés par les formules :
a =
eiθ
¯p
[
√
δ − isin(θ/2)] et b =
−eiθ
¯p
[
√
δ + isin(θ/2)]
Ces points fixes sont tous deux de module 1 (et donc N(ϕ) = 0)
puisque
|a|2
= |b|2
=
1
|p|2
[δ + sin2
(θ/2)] =
|p|2
|p|2
= 1
Nous savons que ϕ (a) = eiθ 1−|p|2
(1−¯pa)2 = a(1−¯pa)
a−p
1−|p|2
|1−¯pa|2 = 1−|p|2
|1−¯pa|2 ,
puisque a
a−p
= 1
1−¯pa
. Ainsi, ϕ (a) > 0. Nous savons aussi que ϕ (a)ϕ(b) = 1 d’après
la théorie générale des homographies, et ϕ (a) = 1 car ϕ = I. Donc, on a par exemple
15

16. 0 < ϕ (a) < 1 et ϕ (b) > 1, le point fixe a est attractif, b est répulsif.
La relation
ϕ(n)
− a
ϕ(n) − b
= (ϕ (a))n z − a
z − b
montre que ϕ(n) uc
−→ γa. Le point a ∈ ∂D est le pont de Denjoy-Wolf de ϕ dans le
cas d’un automorphisme hyperbolique. Un cas particulier typique est
a = 1, b = −1 et
ϕ(z) =
z + r
1 + rz
, ϕ (1) =
1 − r
1 + r
, 0 < r < 1.
2. (Cas parabolique) : |p| = sin(θ/2). L’équation (1) a un point fixe double
a = −eiθ−1
2¯p
qui vérifie |a| = sin(θ/2)
|p|
= 1 et ϕ (a) = 1.. On a donc encore
N(ϕ) = 0, et le point fixe a est différent.
On sait alors que 1
ϕ(z)−a
− 1
z−a
= c avec c = 0 puisque ϕ = I. D’où en itérant :
1
ϕ(n)(z) − a
−
1
z − a
= nc.
Cela montre que ϕ(n) uc
−→ γa, et a ∈ ∂D est le point de Denjoy-Wolff de ϕ dans le
cas d’un automorphisme parabolique. Un cas particulier typique est :
ϕ(z) =
(2 − τ)z + τ
−τz + 2 + τ
, avec τ ∈ C tel que e τ ≥ 0
Avec ϕ qui envoie DdansD et ϕ est parabolique.
En effet, on a ϕ(1) = ϕ (1) = 1, car ϕ (z) = 4
(−τz+τ+2)2 .
Donc, ϕ = h−1
Twh avec h(z) = 1
1−z
transformation conforme de D sur
le demi-plan C1/2 = { ez > 1/2}, Tw(z = z + w) et w = 1
1−ϕ(0)
− 1
1−0
= τ/2. Par
suite, Tw : C1/2 −→ C1/2 et ϕ : D −→ D.
3. (Cas elliptique) : |p| < sin(θ/2) = : s. Ce cas ne se produit pas si N(ϕ) = 0.
En effet, si p = 0, on a ϕ(0) = 0 et N(ϕ) = 1, contrairement à l’hypothèse.
Et si p = 0, un des points fixes a est donnée par la formule
a =
−eiθ/2 2is + 2ieiθ/2
√
s2−|p|2
2¯p
= ieθ/2
¯p
[s - s2 − |p|2].
E nous avons s2
− |p|2
> (s − |p|)2
puisque p = 0. Cela montre que
|a| < 1
|p|
[s − (s − |p|)] = 1
Et nous sommes toujours dans le cas N(ϕ) = 1, qui est exclu.
L’étude du cas d’un automorphisme est ainsi achevée.
16

17. 3. Le cas des non-automorphismes
Nous supposons dans ce paragraphe que N(ϕ) = 0 et ϕ /∈ Aut(D).
Commençons par une forme affaiblie du résultat souhaité.
a) Le petit théorème de Denjoy-Wolff
Le théorème de Denjoy-Wolff, qui est à ce stade toujours pas démontré, nous dit que pour
tout z ∈ D, les itérées de ϕ(n)
(z) sont expulsées vers le point ω. Dans un premier temps,
nous allons voir que les itérées de ϕ(n)
(0) de l’origine sont expulsés vers la frontière ∂D.
Théorème VI.2 (Le petit théorème de Denjoy-Wolff). Soit ϕ : D −→ D sans point
fixe dans D, i.e, N(ϕ) = 0. Alors, on a
|ϕ(n)
(0)| −→ 1.
Preuve VI.3. posons zn = ϕ(n)
(0). Le lemme de Schwartz-Pick montre que
d(zn+1, zn) = d(ϕ(zn), ϕ(zn−1)) ≤ d(zn, zn−1)
donc d(zn, zn−1) décroît vers une limite δ ∈ [0, 1]. Si |zn| ne tend pas vers 1, soit a ∈ D
une valeur d’adhérence de (zn) et (nk) une suite strictement croissante d’entiers telles que
znk
−→ a et donc ϕ(znk
) −→ ϕ(a). On a en posant b = ϕ(a) :
d(z1+nk
, (znk
) −→ d(b, a) = δ et d(z2+nk
), (z1+nk
) −→ d(ϕ(b), ϕ(a)) = δ
Il s’en suit que d(ϕ(b), ϕ(a)) = d(b, a), et nous sommes dans les cas d’égalité du lemme
de Schwartz-Pick. Comme ϕ /∈ G, cela implique que b = a, autrement dit ϕ(a) = a,
contrairement à l’hypothèse N(ϕ) = 0.
De cette contraction, nous tirons le résultat.
b) Le grand théorème de Denjoy-Wolff
Supposons toujours que ϕ /∈ G et que N(ϕ) = 0. Et s’il s’agit d’aller chercher le fameux
point (ω). Notons que ϕ se prolonge en une fonction continue sur ¯D, elle possède un point
fixe dans ¯D par le théorème de Brouwer, et que donc ω ∈ ∂D puisque N(ϕ) = 0. Dans
le cas général, ω va apparaître comme un quasi-point fixe de ϕ de la manière suivante :
soit (rn) une suite de réels telle que 0 < rn < 1 et rn −→ 1. Puisque |ϕ(z)| < 1, on a
|z| = rn => |rnϕ(z)| < |z|
Le théorème de Rouché nous dit alors que la fonction z - rnϕ(z) a autant de zéros
dans {|z| < rn} que la fonction z, c’est-à-dire un. Il existe donc an ∈ D tel que
(2)
|an| < rn et que rn ϕ(an) = an
Notons que (2) implique |an| = rn |ϕ(an)| ≤ |ϕ(an)|. Modulo extraction,
17

18. nous pouvons supposer que an −→ ω ∈ ¯D et donc ϕ(an) −→ ω d’après (2) ; On a
ω ∈ ∂D, sinon le passage à la limite dans (2) donne ϕ(ω) = ω, contredisant N(ϕ) = 0.
Fixons z ∈ D et utilisons le lemme de Schwartz-Pick pour obtenir :
|1 − ¯ϕ(an)ϕ(z)|2
1 − |ϕ(z)|2
≤
|1 − ϕ(an|2
1 − |an|2
.
|1 − ¯an)|2
1 − |z|2
≤
|1 − ¯anz|2
1 − |z|2
Le passage à la limite nous donne cette inégalité :
|1 − ¯ωϕ(z)|2
1 − |ϕ(z)|2
≤
|1 − ¯ωz|2
1 − |z|2
.
Lemme VI.1 (Lemme de Julia). : Soit ϕ : D −→ D une application holomorphe sans
point fixe dans D. Alors, il existe ω ∈ ∂D tel que ϕ[H(ω, λ)] ⊂ H(ω, λ), pour tout λ > 0.
Remarque VI.2. ce lemme, dit que tous les horodisques de centre ω sont invariants
par ϕ, ce fait va se révéler décisif pour finir la preuve.
Fin de la preuve du théorème de Denjoy-Wolff :
La famille (ϕ(n)) est normale, car bornée par 1. Pour montrer que ϕ(n) u.c
−→ γω,
il nous suffit de montrer que si g est une valeur d’adhérence uc de ϕ(n)
, on a g = γω. Soit
g une telle valeur d’adhérence et (ϕ(nk)
) telle que ϕ(nk) uc
−→ g. D’après le corollaire du
théorème d’Hurwitz, on a g(D) ⊂ D ou bien g = u, une constante de module 1.
Le petit théorème de Denjoy-Wolff exclut la première possibilité, puisque
|g(0)| = limk→+∞ |ϕ(nk)
(0)| = 1
Et le lemme de Julia va faire le reste, en prenant u = ω ; Soit en effet H(ω, λ) un horo-
disque arbitraire de centre et fixons z0 ∈ H(ω, λ). Le lemme de Julia nous montre que
ϕ(nk)
(z0) ∈ H(ω, λ) et en passant à la limite nous avons que u = g(z0) ∈ ¯H(ω, λ). Mais
le seul point de contact de l’horodisque fermé ¯H(ω, λ) avec le cercle unité est le point ω !
On a donc u = ω, autrement dit g = γω, et la preuve est achevée.
Théorème VI.3 (Théorème de Brouwer). Toute application continue de la boule unité
fermée de Rn
dans elle-même admet un point fixe.
Lemme VI.2 (Lemme de Schwartz-Pick). Soit f une fonction holomorphe du disque
unité D = {z ∈ C, |z| < 1 } dans lui même.
Alors on a, pour tous a et z de D
f(z) − f(a)
1 − ¯f(a)f(z)
≤
z − a
1 − ¯az
et aussi
|f (a)| ≤
1 − |f(a)|2
1 − a2
18

19. Théorème VI.4 (Théorème de Rouché).
Soit ∆ un domaine étoilé, γ un circuit tracé dans ∆ telle que ∀z0 /∈ Supp(γ),
Ind(γ, z0) = 0 ou Ind(γ, z0) = 1
Si f et g sont deux fonctions holomorphes dans ∆ telle que :



∗ f(z) /∈ 0 ∀z ∈ Supp(γ)
∗ ∀z ∈ Supp(γ), |g(z)| < |f(z)|
Alors f et f + g ont le même nombre de zéros à l’intérieur de γ, chacun étant compté avec
son ordre de multiplicité.
19

20. VII La bibliographie
Références
[1] Claude Zuily et H. Queffélec, Analyse pour l’agrégation, 4e
édition, Dunod
[2] Ahmed Lesfari, Variables complexes, Ellipse.
[3] Joel H. Shapiro, Lecture on composition operators and analytic function theory
[4] I.Chalendar, Cours d’analyse complexe L3 mathématiques, Université Paris-Est-
Marne la Vallée.
20