Semi­continuité de J

La preuve présentée ici du résultat classique sur la semi­continuité inférieure de l'ensemble de Julia repose essentiellement sur deux théorèmes : le théorème des fonctions implicites (théorème A. 1.2 de l'annexe A) et une caractérisation de l'ensemble de Julia d'une fonction rationnelle en termes des points périodiques répulsifs de celle­ci.

Définition 4.3.4. Soit / : C —> C une fonction rationnelle. Un point ZQ G C est appelé périodique, de période m G N si fm(zo) = z0. Un tel point est alors dit :

(i) a t t r a c t i f si |(/m)'(z0)| < 1,

(ii) indifférent si |(/m)'(z0)| = 1,

(iii) répulsif si \(fm)'(z0)\ > 1.

La terminologie de la définition 4.3.4 est justifiée par le comportement des points qui se trouvent à proximité d'un point périodique z0 lorsqu'on applique la fonction / ;

et le cas indifférent donne lieu à plusieurs scénarios possibles. x Un peu de travail suffira

alors à convaincre le lecteur que les points périodiques attractifs se trouvent toujours dans l'ensemble de Fatou, alors que les répulsifs se trouvent, pour leur part, toujours dans l'ensemble de Julia. Ce qui est plus compliqué à démontrer, et ce dont on se servira, est le théorème suivant, qui constitue le théorème 6.9.2 du livre de Beardon [Bel]. T h é o r è m e 4 . 3 . 5 . Les points périodiques répulsifs d'une fonction rationnelle forment

un sous­ensemble dense de son ensemble de Julia.

On peut maintenant démontrer le résultat classique sur la semi­continuité de l'en­ semble de Julia d'une fonction rationnelle. D'abord, pour pouvoir parler de semi­ continuité, il nous faut une topologie sur l'ensemble des fonctions rationnelles. Comme plus haut, on dira qu'une suite (/n)neN de fonctions rationnelles c o n v e r g e p o n c t u e l ­

l e m e n t vers une fonction rationnelle foo si les coefficients des / „ convergent vers ceux de foc. Plus formellement, une fonction rationnelle de degré inférieur ou égal à d peut être identifiée au vecteur de ses coefficients dans C2^d + 1\ que l'on peut munir de notre

norme favorite (et ce choix n'a aucune importance puisque C2'd + 1^ est de dimension

finie). Alors, étant données deux fonctions rationnelles / et g de la forme : _ adzd H h Oiz + a0 _ udzd H h u^z + Up J^Z' " bdzd + ­­­ + biz + b0 ' 9^Z' " vdzd + ■ ■ ■ + vxz + v0

dont on suppose, pour rendre l'écriture de celles­ci unique, que les coefficients directeurs des numérateurs de / et de g sont tous les deux égaux à 1, la d i s t a n c e p o n c t u e l l e entre f et g sera donnée par la norme du vecteur à 2(d + 1) composantes suivant :

((ad ­ ud) , . . . , (a0 ­ n0), (bd ­ vd), . . . , ( b0­ v0) ) .

Ainsi, on dira que / „ —> / ^ p o n c t u e l l e m e n t si la distance ponctuelle entre / „ et foo tend vers 0 lorsque n —> oo.

T h é o r è m e 4 . 3 . 6 . Soit foo '■ C —» C une fonction rationnelle de degré < d, et (/n)neN

une suite de fonctions rationnelles, toutes de degré < d, telle que fn —> foo ponctuel­

lement. Alors 5H(J7"(/OO), J ( f n ) ) —> 0 lorsque n —» oo. En d'autres mots, J dépend

semi­continûment inférieurement de ses coefficients.

Démonstration. On utilisera la caractérisation du théorème 4.2.5 pour obtenir le résul­ tat. Soit donc V ouvert tel que V ïl J ( f o o ) ¥" 0­ Pa r le théorème 4.3.5, il existe un

point ZQ G V n j ( f o o ) et un ra G N tels que /™(z0) = z0 et |(/™)'(zo)| > 1. On suppose

ici, puisque l'ensemble de Julia est infini (voir [Bel, Théorème 4.2.1]), que z0 ^ oo.

Or, on peut voir toute fonction rationnelle de degré < d comme une coupe particu­ lière de la fonction à (2d + 3) variables complexes définie par :

, . udzd H h uxz + u0

F(z, U Q , . . . , ud, v0, . . . , vd) := ­r­ ■ ■ .

vdzd ­\ h­ V\Z + Vo

Ainsi, si pour tout n G NU {oo} on dénote par an le vecteur des coefficients de /„, alors

en appliquant le théorème des fonctions implicites (théorème A. 1.2) à la fonction Fm

(où l'itération se fait par la variable z), il existe un voisinage U C C2'd+1^ de a^ et

une fonction holomorphe h : U —f C tels que ^(a^) = z0 et, pour toute fonction

rationnelle g dont le vecteur des coefficients w se trouve dans U, on a gm(h(w)) = h(w)

et \(gm)'(w)\ > 1.

Enfin, puisque /„ —» foo ponctuellement, alors il existe un no tel que pour tout n > n0, on ait an G U. Donc, pour tout n > n0, le point h(an) est un point périodique

répulsif de /„, d'où il découle, encore par le théorème 4.3.5, que h(an) G J ( fn) ­ Fina­

lement, puisque h est continue en doo, on peut s'assurer, quitte à augmenter la valeur de no, que pour tout n > no, on ait h(an) G V. On conclut que V fl J ( fn) ^ 0 , comme

voulu. D

Si on désirait adapter la preuve du théorème 4.3.6 à la théorie de l'itération aléatoire, plus précisément au cas des suites bornées de polynômes, il faudrait entre autres choses se servir d'un résultat analogue au théorème 4.3.5, qui fournit non seulement un un sous­ensemble dense de J , mais aussi une condition suffisante pour déterminer qu'un point zo appartient à J (c'est­à­dire : être un point périodique répulsif). Le fait qu'aucun tel phénomène ne soit connu à propos des suites bornées de polynômes nous oblige donc, pour l'heure, à trouver une nouvelle idée, et reviendra cruellement nous hanter au chapitre 6 de ce mémoire.

Notre amie la théorie du potentiel nous fournira les outils nécessaires pour démon­ trer que l'ensemble de Julia d'une suite bornée de polynômes varie semi­continûment inférieurement. En effet, la capacité logarithmique de l'ensemble de Julia, calculée au théorème 3.6.1, sera utile, ainsi que le lemme suivant.

Définition 4.3.7. Un compact if C C est dit polynomialement convexe si C \ K

XT

est connexe.

Lemme 4.3.8. Soient K\,K2 C C deux compacts polynomialement convexes. Suppo­

sons, de plus, que K2 est finement parfait. Alors, si K\ Ç K2 et cap(A"i) = cap(A"2)>

on a Ki = K2.

XI. Le lecteur aura deviné, par l'utilisation de l'adverbe « polynomialement », qu'une définition équi­ valente, faisant intervenir des polynômes, est d'usage dans la littérature. Cette dernière, contrairement à la nôtre, se généralise dans C". Voir [Aup, page 77] pour plus de détails.

On ne démontre pas le lemme 4.3.8 ici, puisqu'il faudrait introduire encore plusieurs pages d'annexé sur la théorie du potentiel pour familiariser le lecteur, notamment, avec l'usage des fonctions de Green et avec les propriétés des ensembles polynomiale- ment convexes et finement parfaits. La preuve peut toutefois être retrouvée dans [BRR. Lemme 3.6]. On utilise tout de même le lemme 4.3.8 pour démontrer la semi-continuité inférieure de J .

Théorème 4.3.9. Soit P ^ G V{d) une suite bornée de polynômes, et (Pm)meN C V(d)

une suite uniforme de suites bornées de polynômes telle que Pm —> Poo ponctuellement.

Alors 8H(ur(Poo),J(Pm)) -* 0 lorsque ra -> oo. Fn d'autres mots, J dépend semi-

continûment inférieurement de ses coefficients.

Démonstration. On utilisera la caractérisation du théorème 4.2.5 pour obtenir le résul- tat. Soit donc V ouvert tel que V n J{Poo) i1 ®-

Notons d'abord que /C(Poo) et /C(Poo) \ V sont des compacts polynomialement convexes, puisque V C\Aoo{Poo) ¥" 0- Comme, de plus, K(Poo) est finement parfait par

le théorème 3.6.2, il suit, du lemme 4.3.8 et de la propriété (i) de la proposition B.2.1, que cap(/C(Poo) \ V) < cap(/C(Poo)). Il est donc possible, en utilisant la propriété (iii) de la proposition B.2.1, de trouver un voisinage ouvert W de /C(Poo) suffisamment petit pour avoir cap(W \ V) < cap(£(Poo)).

Puisque K est semi-continue supérieurement en P ^ (théorème 4.3.3), il existe un m tel que, pour tout n > ra, on a K(Pn) Ç W. On peut, de plus, affirmer qu'il existe ra'

tel que, pour tout n > ra', V r\K(Pn) ^ 0, car supposons qu'au contraire, il existe une

infinité de n > ra tels que ce ne soit pas le cas. Alors, pour chacun de ces n, on aurait K(Pn) Ç W \ V . Par la proposition B.2.1, on aurait alors cap(/C(P„)) < cap(W \ V).

Mais en examinant la capacité de l'ensemble de Julia rempli (théorème 3.6.1), on constate qu'elle dépend continûment des coefficients de la suite bornée de polynômes, donc on a

Jirn cap(£(Pn)) = cap(/C(PO0)),

et ceci contredit le fait que cap(W/ \ V) < cap(/C(P00)).

Ainsi, V fl K(Pn) ^ 0 à partir d'un certain rang, et encore par la semi-continuité

supérieure de K, on sait également que V (£. K(Pn) à partir d'un certain rang. Puisque

J ( Pn) = dK(Pn), il suit donc que V C\ J { Pn) / 0 à partir d'un certain rang, comme

Les multifonctions méromorphes