converge vers 1 surD0 et donc ϕ(f(z)) =λϕ(z) etϕ(f(a)) =λ. On obtient donc ϕ(fn(z)) = λnϕ(z). Il existe des n tels que λn est tr`es proche de 1. Pour un tel n, ϕ(fn(D)) contient l’image deϕ(D\ {a}) par la rotation z 7→ λnz qui est tr`es proche de l’identit´e. On en d´eduit que ϕ n’est pas injective et donc elle est constante. On aϕ6=∞ car ϕ(f(a)) = 1. Donc λ= 1.
Donc 0 est un point fixe neutre rationnel avecf0(0) = 1. On se ram`ene donc `a la situation d´ecrite dans le th´eor`eme 3.2.10. Il suffit de montrer que Ω rencontre l’un des p´etales Πk(t). En effet, si c’est le cas, Ω contient ce p´etale car les p´etales sont contenus dans l’ensemble de Fatou. Supposons que ce n’est pas le cas. Fixons une constante > 0 assez petit. Notons D le disque de centre 0 et de rayon . On a f(D) ⊂ f(D2). Avec la description locale de f comme dans le th´eor`eme 3.2.10, on voit que si z ∈ D2 \ {0} n’appartient pas `a la r´eunion Π des p´etales, on a|f(z)|>|z|. Si z ∈Ω, son orbite converge vers 0 et rencontre n´ecessairement
Π. D’o`u le r´esultat.
Rappelons le th´eor`eme de Montel qu’on a utilis´e ci-dessus.
Th´eor`eme 3.3.12 (Montel). Soient a, b deux points distincts de C. Soit U un ouvert de C. Alors la famille des fonctions holomorphes sur U `a valeurs dans C\ {a, b} est normale.
En r´esumant, si aest un point dans l’ensemble de Fatou, d’apr`es le th´eor`eme de Sullivan, l’orbite dea rencontre une composante de Fatou p´eriodique Ω. Pour n assez grand, fn(a) appartient `a l’orbite de Ω qui est un cycle de composantes de Fatou. La dynamique sur ces composantes est d´ecrite ci-dessus. Sur l’ensemble de Julia, l’orbite d’un point d´epend sensiblement du point. On ne peut pas avoir une description dynamique aussi claire que dans le cas de l’ensemble de Fatou.
L’´etude de l’ensemble de Julia n´ecessite d’autres approches et conceptes qui seront introduits dans les paragraphes suivants.
3.4 Mesure d’´ equilibre et propri´ et´ es ergodiques
Le but de ce paragraphe est de construire une mesure de probabilit´e canonique µ totallement invariante par f dont le support est ´egal `a l’ensemble de Julia J.
On ´etudiera aussi quelques propri´et´es ergodiques de cette mesure. Nous avons besoin d’introduire des notions de base.
Commef d´efinit une application propre deCdansC, on peut d´efinir l’op´erateur image directef∗ sur les courants et en particulier sur les mesures. Soitν une me-sure positive `a support compact dans C. La mesure f∗(ν) est d´efinie de mani`ere suivante
hf∗(ν), ϕi=hν, ϕ◦fi pourϕ continue surC.
Il n’est pas difficile de v´erifier quef∗(ν) est aussi une mesure positive `a support compact et si B est un ensemble bor´elien dans C on a
f∗(ν)(B) =ν(f−1(B)).
En particulier, ν et f∗(ν) ont la mˆeme masse.
D´efinition 3.4.1. On dit qu’une mesure positive ν `a support compact dans C est invariantesi f∗(ν) = ν.
Siνest une telle mesure, on v´erifie sans peine que son support est un compact invariant par f. On en d´eduit que ν est port´ee par l’ensemble de Julia rempli de f. Si a0, a1, . . . , am−1 est un cycle p´eriodique, alors la mesure de probabilit´e
´
equidistribu´ee sur ce cycle 1
m(δa0 +· · ·+δam−1) est invariante.
Proposition 3.4.2. Soit K un compact non-vide de C invariant par f. Alors l’ensemble M(K) des mesures de probabilit´e invariantes `a support dans K est convexe et non-vide.
D´emonstration. Rappelons que l’ensemble des mesures de probabilit´e sur K est un compact convexe non-vide. Consid´erons maintenant les mesures invariantes.
Siν1 etν2 sont des mesures de probabilit´e invariantes alors (ν1+ν2)/2 l’est aussi.
Donc M(K) est convexe. Si νn converge vers ν, comme f∗ est continue, f∗(νn) converge vers f∗(ν). Si les νn sont invariantes, f∗(νn) =νn converge aussi vers ν et donc ν=f∗(ν). On en d´eduit que M(K) est compact.
Il reste `a montrer que M(K) est non-vide. Soit ν une mesure de probabilit´e support´ee par K. Comme K est invariant, les mesures (fn)∗(ν) sont aussi des probabilit´es sur K. Consid´erons les moyennes de Ces`aro
νN := 1 N
N−1
X
n=0
(fn)∗(ν).
Ce sont aussi des probabilit´es surK. Consid´erons une sous-suite (νNi) convergeant vers une mesure ν0. On a
f∗(νNi)−νNi = 1 Ni
(fNi)∗(ν)−ν
qui converge vers 0 car (fNi)∗(ν) etνsont de masse 1. On en d´eduit quef∗(ν0) = ν0 et que ν0 est un ´el´ement deM(K).
3.4. MESURE D’ ´EQUILIBRE ET PROPRI ´ET ´ES ERGODIQUES 91 Notons M l’ensemble des mesures de probabilit´e invariantes `a support com-pact. Rappelons qu’elles sont support´ees par l’ensemble de Julia rempli def. Cet ensemble est non-vide car il contient les points fixes def. DoncM est un convexe compact non-vide.
D´efinition 3.4.3. Une mesure dans M est ergodique si elle est extr´emale dans M, i.e. si ν= (ν1 +ν2)/2 avec ν1 et ν2 dans M, alors ν1 =ν2 =ν.
Proposition 3.4.4. Soit ν une mesure dans M. Alors les propri´et´es suivantes sont ´equivalentes ϕ◦f =ϕ ν-presque partout, est constante ν-presque partout.
5. Pour toutes fonctionsϕetψ dansL2(ν)(resp. born´ees, continues ou lisses) on a
a B et C\B respectivement. Comme B est totalement invariant, ν0 et ν00 sont invariantes. On d´eduit de l’ergodicit´e deν queν0 etν00 sont proportionnelles `a ν.
Commeν0 =1Bν, 1B est constante ν-presque partout. Cette constante doit ˆetre 0 ou 1. On constate queν0 = 0 ou ν0 =ν. Donc ν(B) = 0 ouν(B) = 1.
2) ⇒4) Pour toutes constantes c1, c2 et pour B ={c1 ≤ϕ≤c2}, l’ensemble f−1(B)∆B est de mesure 0. Posons B0 l’intersection desfn(B) avecn∈Z. C’est un ensemble totalement invariant. Il diff`ere deB d’un ensemble de mesure nulle.
On aν(B0) = 0 ou 1. Doncν(B) = 0 ou 1. Ceci est vrai pour toutc. On constate queϕ est constante ν-presque partout.
3)⇒ 5) Observons que l’op´erateur ϕ7→ 1
est de norme 1 dans L2(ν). Comme les fonctions L2 peuvent ˆetre approxim´ees par des fonctions en escalier, on peut approximer ϕ et ψ par des combinaisons
lin´eaires des fonctions indicatrices de la forme1A ou1B. On voit que 5) est une cons´equence de 3).
3)⇒ 5) Il suffit d’approximer 1A et1B par ϕ etψ respectivement.
4)⇒5) On peut supposer queϕetψ sont born´ees car on peut les approximer dansL2(ν) par des fonctions born´ees. Consid´erons une limite faible Φ dansL2(ν) de la suite
Donc Φ est constante. D’autre part, comme ν est invariante, on a hν, ϕNi= 1
5) ⇒ 1) Soit ν0 une mesure positive invariante plus petite que ν. Il suffit de montrer que ν0 est proportionnelle `a ν. On peut ´ecrire ν0 = ψν o`u ψ est une fonction dans L1(ν). Commeν0 est invariante, on a pour toute fonction born´eeϕ
Z
(ϕ◦fn)ψdν = Z
ϕψdν.
Ceci et la propri´et´e 5) impliquent que Z
Le r´esutat suivant est une version de la loi des grands nombres en th´eorie de probabilit´e.
Th´eor`eme 3.4.5 (th´eor`eme ergodique de Birkhoff). Soit ν une mesure inva-riante ergodique de probabilit´e. Soit ϕ une fonction int´egrable par rapport `a ν.
Alors pour ν-presque tout z ∈C on a
D´emonstration. Commeϕpeut ˆetre ´ecrit comme une somme infinie de fonctions born´ees, on peut supposer queϕ est born´ee. Consid´erons les fonctions
Φ0 := 0 et ΦN :=
N−1
X
n=0
ϕ(fn(z))
3.4. MESURE D’ ´EQUILIBRE ET PROPRI ´ET ´ES ERGODIQUES 93 existe une constante C >0 telle que
|ΦN ◦f−ΦN| ≤C := 2kΦk∞.
En utilisant le lemme de Fatou et l’invariance deν, on obtient ψ∗ =
En ajoutant `a ϕ une constante, on peut supposer que ψ∗ > 0 ν-presque partout et R
ϕdν < 0. Posons ΨN := max{Φ0, . . . ,ΦN} et AN := {ΨN > 0}.
Comme ψ∗ > 0 ν-presque partout, AN croit vers un ensemble de ν mesure 1.
D’autre part, par d´efinition de ΦN et comme Φ0 = 0, on a surAN ΨN◦f(x)+ϕ(x) = max{Φ0◦f(x), . . . ,ΦN◦f(x)}+ϕ(x)≥ max
1≤n≤NΦn(x) = ΨN(x).
Doncϕ(x)≥ΨN(x)−ΨN◦f(x) surAN. Ceci est le fait que ΨN ≥0 avec ´egalit´e en dehors deAN impliquent que
Z car ν est invariante. Ceci contredit les faits que R
ϕdν < 0 et que AN croit vers un ensemble de mesure ν totale.
D´efinition 3.4.6. Une mesureν dansM estm´elangeante si pour tous bor´eliens A etB on a
n→∞lim ν(f−n(A)∩B) =ν(A)ν(B).
D’apr`es la proposition 3.4.4 que siν est m´elangeante alors elle est ergodique.
Comme dans cette proposition, on obtient le r´esultat suivant.
Proposition 3.4.7. La mesure ν est m´elangeante si et seulement si pour toutes fonctions ϕ et ψ dans L2(µ) (resp. continues ou lisses) on a
Corollaire 3.4.8. Soit ν une mesure invariante ergodique. Alors pour ν-presque tout z∈C
n→∞lim |(fn)0(z)|1/n = expZ
log|f0|dν . D´emonstration. On a
log|(fn)0(z)|=
n−1
X
i=0
log|f0(fi(z))|.
Quand log|f0|est int´egrable par rapport `aν, il suffit donc d’appliquer le th´eor`eme de Birkhoff `a log|f0|. En revanche, on approxime log|f0|par une suite d´ecroissante de fonctions born´ees et on obtient le r´esultat en appliquant le th´eor`eme de Bir-khoff `a chaque ´el´ement de cette suite.
Dans un certain sens, lim|(fn)0|1/nmesure le taux de dilatation ou contraction du syst`eme dynamique observ´e avec la mesure invariante ν. Le dernier corollaire dit que par rapport `a ν, cette limite existe presque partout et est ´egale `a la constante
χν = Z
log|f0|dν.
C’est l’exposant de Lyapounov de f par rapport `a ν.
Notons que dans le cas de dimension sup´erieure `a 1, il y a plusieurs exposants de Lyapounov car le taux de dilatation ou de contraction d´epend de directions.
Leur d´efinition sera donn´ee dans le chapitre suivant.
Nous allons construire pour tout polynˆome f une fonction de Green et une mesure d’´equilibre. Cette mesure v´erifie une propri´et´e d’invariance tr`es forte que nous introduisons ci-dessous.
Soit ϕune fonction sur C. On d´efinit f∗(ϕ) :=ϕ◦f et f∗(ϕ)(z) := X
w∈f−1(z)
ϕ(w)
o`u les points def−1(z) sont compt´es avec multiplicit´e. Il est clair que les op´erateurs f∗ et f∗ sont lin´eaires. Il n’est pas difficile de voir que d1f∗(f∗(ϕ)) = ϕ. De plus, f∗(ϕ) est continue si ϕ est continue.
D´efinition 3.4.9. Soit ν une mesure positive `a support compact dans C. On d´efinit la mesure f∗(ν) par
hf∗(ν), ϕi:=hν, f∗(ϕ)i pour ϕcontinue.
Quand ϕ est positive, f∗(ϕ) l’est aussi. Donc f∗(ν) est une mesure positive.
Pour ϕ = 1, on voit que la masse de f∗(ν) est d fois la masse de ν. Il n’est pas difficile de montrer que l’op´erateurf∗ est continu pour la topologie faible sur les mesures. De plus, on a f∗(f∗(ν)) = dν. Siν est la masse de Dirac ena,f∗(δa) est la somme des masses de Dirac aux points de f−1(a).
3.4. MESURE D’ ´EQUILIBRE ET PROPRI ´ET ´ES ERGODIQUES 95 D´efinition 3.4.10. Une mesure positiveν `a support compact dansC est totale-ment invariante si 1df∗(ν) =ν.
On d´eduit de la relation f∗(f∗(ν)) = dν que toute mesure totalement inva-riante est invainva-riante. On construit maintenant une mesure totalement invainva-riante pour tout polynˆome f de degr´e d≥2.
Consid´erons les fonctions
Gn(z) := d−nlog+|fn(z)| o`u log+= max(log,0).
Elles sont continues et sous-harmoniques.
Th´eor`eme 3.4.11. La suite(Gn)est presque d´ecroissante et converge uniform´ement vers une fonction sous-harmonique continue G. Plus pr´ecis´ement, il existe une suite de nombres r´eels (cn) d´ecroissant vers0 telle que (Gn+cn) d´ecroit vers G.
De plus, G(z)−log|z| admet une limite finie quand n tend vers l’infini.
D´emonstration. Observons qu’il existe une constantec > 0 telle que
|d−1log+|f(z)| −log+|z|| ≤c.
On d´eduit de cette in´egalit´e que
|Gn+1(z)−Gn(z)| ≤cd−n.
Donc (Gn) converge uniform´ement vers une fonction continue G. Comme Gn est sous-harmonique, G l’est aussi. De plus G− G0 est born´e. On en d´eduit que G−log|z| est born´e pr`es de l’infini.
Posons cn := c(d−n+d−n−1 +· · ·). Il est clair que (cn) d´ecroit vers 0. Les in´egalit´es ci-dessus impliquent que
Gn+1+cn+1 ≤Gn+cn. Donc la suite (Gn+cn) est d´ecroissante.
Proposition 3.4.12. On a G= 0 exactement sur l’ensemble de Julia rempli de f. De plus, on a d−1G◦f =G.
D´emonstration. Comme d−1Gn+1 = Gn, on a G◦ f = dG. Si z appartient `a l’ensemble de Julia rempli, la suite (fn(z)) est born´ee et donc G(z) = 0. Il suffit maintenant de montrer queG > 0 sur Ω∞.
CommeG(z)−log|z|est born´e pr`es de l’infini,Gest positive sur un voisinage U de l’infini. La relation d’invariance de G ci-dessus implique que G >0 sur la r´eunion des f−n(U) qui est exactement Ω∞.
Notons
dc= 1
2π(∂−∂) et ddc= i π∂∂
et posons
µ:=ddcG sur C.
Th´eor`eme 3.4.13. µ est une mesure de probabilit´e totalement invariante dont le support est exactement l’ensemble de Julia de f.
D´emonstration. CommeG= 0 sur l’ensemble de Julia rempliC\Ω∞, on aµ= 0 sur l’int´erieur de C\Ω∞, i.e. C\Ω∞.
Fixons une constante R > 0 suffisament grande. On a pour |z| > R et pour une constante c >0
|f(z)| ≥c|z|d>|z|> R.
Donc f envoie {|z| > R} dans lui-mˆeme. En particulier, on a |fn(z)| > 1 pour
|z| > R et n ≥ 0. Ceci implique que Gn = d−nlog|fn(z)| est harmonique sur {|z| > R}. On d´eduit que G est harmonique sur {|z| > R}. L’invariance de G implique que G est harmonique sur Ω∞ et doncµ= 0 sur Ω∞. On constate que µ est port´ee par l’ensemble de Julia. L’invariance de G entraine aussi que µ est totalement invariante.
Pour montrer que le support de µ est exactement l’ensemble Julia, il faut v´erifier queGn’est pas harmonique au voisinage deapour toutadans l’ensemble de Julia. Comme G >0 sur Ω∞ et G(a) = 0, G ne peut pas ˆetre harmonique au voisinage de a d’apr`es la formule de la moyenne pour les fonctions harmoniques.
Donc supp(µ) = J.
Il reste `a montrer que la masse deµest 1. Pour ceci, il suffit de remarquer que µ0 =ddclog+|z|est la mesure de probabilit´e ´equidistribu´ee sur le cercle unit´e. On d´eduit que ddcGn = d−n(fn)∗(µ0) est aussi une mesure de probabilit´e. Comme ces mesures sont port´ees par {|z| ≤ R}, leur limite µ est aussi une mesure de probabilit´e. Ceci compl`ete la preuve du th´eor`eme.
D´efinition 3.4.14. On appelle G la fonction de Green (dynamique) et µ la mesure d’´equilibre def.
Corollaire 3.4.15. L’ensemble de Julia est parfait, i.e. il ne contient pas de point isol´e.
D´emonstration. Supposons que a est un point isol´e de J. Comme supp(µ) = J, on a µ(a)>0. On ´ecrit
µ=µ0+cδa
avec c >0 et µ0 une mesure positive sans masse au voisinage de a. On a ddc(G−clog|z−a|) =µ0.
3.4. MESURE D’ ´EQUILIBRE ET PROPRI ´ET ´ES ERGODIQUES 97 Donc G−clog|z−a| est ´egal presque partout `a une fonction sous-harmonique au voisinage de a. C’est une contradiction car cette fonction ne peut ˆetre ´egale presque partout `a une fonction born´ee sup´erieurement au voisinage dea. Rappe-lons ici que la fonctionG est continue.
Dans le reste de ce paragraphe, on d´emontre le r´esultat suivant.
Th´eor`eme 3.4.16. La mesure µ est m´elangeante. En particulier, elle est ergo-dique et v´erifie le th´eor`eme de Birkhoff.
D´efinition 3.4.17. Soit ν une mesure positive sur un ouvert de C. On appelle potentieldeν sur un ouvert U toute fonction sous-harmonique usur U telle que ddcu=ν.
Observons que si elle existe u est unique `a une fonction harmonique pr`es.
Comme les fonctions harmoniques sont lisses, on peut parler de mesures `a po-tentiel local born´e ou continu. La notion ne d´epend pas du choix du potentiel local.
Lemme 3.4.18. Soitνune mesure positive `a potentiel local born´e (resp. continu).
Siν0 est une mesure positive plus petite ou ´egale `a ν, alorsν0 est aussi `a potentiel local born´e (resp. continu).
D´emonstration. On ´ecrit ν =ν0 +ν00. Soient u0 et u00 des potentiels locaux deν et ν0. Alorsu0 +u00 est un potentiel local de ν. Cette somme est donc une fonc-tion born´ee (resp. continue). Commeu0 etu00 sont born´ees (resp. semi-continues) sup´erieurement, on en d´eduit qu’elles sont born´ees (resp. continues).
Proposition 3.4.19.Soitν une mesure de probabilit´e `a support compact dansC. Supposons que ν est `a potentiel local born´e. Alors la suite d−n(fn)∗(ν) converge faiblement vers µ.
D´emonstration. Soitule potentiel de Newton deν. C’est une fonction localement born´ee et par d´efinitionu−log|z|est born´ee au voisinage de l’infini. On en d´eduit queu−G est born´ee. Comme µest totalement invariante, on a
d−n(fn)∗(ν)−µ=d−n(fn)∗(ν−µ) =d−n(fn)∗(ddc(u−G)) = ddc[d−n(u◦fn−G◦fn)].
La suite de fonctions d−n(u ◦ fn − G ◦ fn) tend uniform´ement vers 0. Donc d−n(fn)∗(ν) converge faiblement vers µ.
Fin de la d´emonstration du th´eor`eme 3.4.16.Soient ϕetψ deux fonctions lisses surC. Il suffit de montrer que
Z
(ϕ◦fn)ψdµ→Z
ϕdµZ
ψdµ .
En ajoutant `a ϕ une constante, puis la multipliant par une autre constante, on peut supposer que ν=ϕµest une mesure de probabilit´e. Il suffit de montrer que la suite de mesure (ϕ◦fn)µtend faiblement vers µ.
On a
(ϕ◦fn)µ= (ϕ◦fn)d−n(fn)∗(µ) =d−n(fn)∗(ν).
Commeϕest born´ee,νest born´ee par une constante foisµ. Comme le potentielG deµest continu, on d´eduit queν est `a potentiel continu. La derni`ere proposition
donne le r´esultat.
Th´eor`eme 3.4.20. L’exposant de Lyapounov associ´e `a µest plus grand ou ´egal
` a logd.
D´emonstration. Il s’agit de montrer que
hµ,log|f0|i ≥logd.
Quitte `a effectuer un changement lin´eaire de coordonn´ee, on peut supposer que le coefficient dominant de f est 1. On v´erifie sans peine que ce changement ne modifie par l’int´egrale hµ,log|f0|i.
D’apr`es le th´eor`eme de B¨ottcher, il existe une application holomorphe h d’un voisinage de l’infini dans un voisinage de 0 tel que h(z) = z−1 +o(z−1) et h◦ f ◦h−1(w) =wd. On a aussi h−1(w) =w−1+o(w−1). On en d´eduit que h◦fn◦ h−1(w) =wdn. Par cons´equent, la fonction de GreenG v´erifie pourw proche de 0
G(h−1(w)) = lim
n→∞
1
nlog|fn(h−1(w))|= lim
n→∞
1
nlog|h−1(wdn)|=−log|w|.
Posons pour r assez petit Gr := min(G,−logr). Cette fonction est harmo-nique en dehors de la r´eunion de l’ensemble de Julia et la courbe {|h(z)| = r}.
On v´erifie sans difficult´e queddcGr =µ−µr o`uµr est une mesure de probabilit´e sur la courbe {|h(z)|=r}. D’autre part, sur la sph`ere de Riemann P1, on a
ddclog|f0|= X
ccritique
δc−(d−1)δ∞. Donc
hµ,log|f0|i = hddcGr,log|f0|i+hµr,log|f0|i
= hGr, ddclog|f0|i+hµr,log|f0|i
= X
ccritique
Gr(c) + (d−1) logr+hµr,log|f0|i.
Dans la coordonn´ee w, µr est la mesure de Haar sur le cercle {|w| = r} et log|f0|est approximativement log(d|w|d−1). La derni`ere somme ci-dessus converge donc vers P
G(c) + logd quand r tend vers 0. Le r´esultat s’en d´ecoule.