Sur une question de Bergweiler

Sur une question de Bergweiler (*).

CLAUDIOMENEGHINI(**)

ABSTRACT- We prove the density of repelling cycles in the Julia set of transcen- dental meromorphic functions in one complex variable, without using either Ahlfors' five islands theorem or Nevanlinna theory.

1. Introduction.

Dans [5] p. 161, Bergweiler posa la question s'il eÂtait possible de montrer la densite des cycles reÂpulsifs dans l'ensemble de Julia des fonctions meÂ- romorphes transcendantes aÁ une variable complexe, sans utiliser le theÂoreÁme des cinq õÃles d'Ahlfors: Bolsch (voir [4]) a montre que la reÂponse est oui, mais il fait appel au theÂoreÁme des quatre valeurs compleÁtement ramifieÂes.

On peut donc se poser la question si cette deÂmonstration est encore possible sans invoquer la theÂorie de Nevanlinna

Le but de cette note-ci est de montrer que la reÂponse est encore oui.

Tout d'abord, on utilisera, comme Bolsch, un theÂoreÁme de Lehto sur la croissance de la deÂriveÂe spheÂrique d'une fonction meÂromorphe sur un disque eÂpointeÂ, ayant une singularite essentielle isoleÂe au centre du disque (voir [7] th. 1). L'utilisation de ce theÂoreÁme-laÁ sera tout-aÁ-fait diffeÂrente: en effet cet eÂnonce sera combine avec des techniques de renormalisation aÁ la Zalcman (voir [8]) et d'autre type, aÁ partir aussi d'un lemme meÂtrique de M.Gromov (voir [6], p. 256).

Si la fonctionf en consideÂration a au moins deux poles ouÁ un pole qui n'est pas une valeur omise, alors la composition def aÁ la source avec une famille de contractions bien choisies nous permetra de construire une application holomorphe limite sur le plan eÂpointe et d'appliquer aux objets ainsi obtenus un raisonnement semblable aÁ [2] (voir aussi [3], p. 46) pour les

(*) AMS MSC: 37F25, 37F05

(**) Indirizzo dell'A.: Dipartimento di Matematica dell'UniversitaÁ di Parma, Parco Area delle Scienze, 53/A - 43100 Parma. e-mail: [email protected]

applications rationelles deP. Cependant, on ne sera pas concerne avec une famille non normale d'applications, mais on envisagera la seule fonctionf, au voisinage d'une singularite essentielle isoleÂe.

Par contre, sifn'a que un polequiestune valeur omise, alorsla composition des iteÂreÂesfⁿaÁ la source avec une bonne famille de contractions nous per- metra de construire une application entieÁre limite et d'invoquer, dans ce nouveau contexte, le raisonnement de [2], presque tel quel (voir aussi [3] p. 46).

2. PreÂliminaires.

Rappelons ici quelques deÂfinitions classiques: une fonction meÂ- romorphe f sur C est dite transcendante si elle n'est pas une fraction rationnelle; (voir par exemple [5]):l'ensemble de FatouF_f def est deÂfini comme l'ensemble des points au voisinage desquels les iteÂreÂes def sont bien deÂfinies et forment une famille normale de fonctions holomorphes;

l'ensemble de JuliaJ_f est le compleÂmentaire deF_f.

La condition que les iteÂreÂes ffⁿg soyent bien deÂfinies est geÂneÂrale- ment neÂcessaire: consideÂrons par exemple une fonction avec au moins deux poles, ou bien un pole n'eÂtant pas une valeur omise; l'orbite en arriere du point a l'infini est non vide, ce qui entraõÃne, graÃce au theÂoreÁme de Picard, qu'elle est un ensemble infini. Ainsi, l'ensemble des singulariteÂs essen- tielles de chaque fⁿ sera eÂgalement infini. Notons que cela comporte, graÃce au theÂoreÁme de Montel, la normalite des iteÂreÂes sur les ouverts ouÁ elles sont deÂfinies.

Au contraire, sifa un seul pole eÂtant une valeur omise, alors les iteÂreÂes sont toujours bien deÂfinies, mais la normalite n'est pas garantie: dans ce cas, la deÂfinition d'ensemble de Fatou et de Julia est semblable a celle du cas des fractions rationnelles (voir par exemple [5], p. 153-155).

Rappelons maintenant la notion dedistance spheÂriqueet la notion sous- jacente de deÂriveÂe spheÂrique d'une fonction meÂromorphe. La distance spheÂrique s(z;z⁰) de deux points de la spheÁre de Riemann est deÂfinie comme la distance euclideÂenne de leurs projections steÂreÂographiques.

On voit aiseÂment ques(z;z⁰)ˆ2jz z⁰j= 

(1‡jzj²)(1‡jz⁰j²) q

siz;z⁰2C, ets(z;1)ˆ2= 

(1‡ jzj²) q

.

EÂtant donneÂe une fonction meÂromorphe au voisinage dez2C, on deÂ- finit sadeÂriveÂe spheÂriqueenzcomme

g^](z):ˆlim

z!z

s(f(z);f(z)) s(z;z) :

Cette limite existe et on ag^]ˆ(1=g)^], d'ouÁ l'utilite de cette notion dans le domaine des fonctions meÂromorphes; par exemple on sait, graÃce au theÂoreÁme de Marty, que la normalite d'une famille de fonctions meÂromorphes est equivalente au fait que la famille de leurs deÂriveÂes spheÂriques soit borneÂe.

Rappelons aussi les eÂnonceÂs du theÂoreÁme 1 de [7] et du lemme de Hurwitz (voir par exemple [3], p. 8):

THEÂOREÁME1. Soit v2C, W un voisinage de v dansC; soit g une application holomorphe (aÁ valeurs en P) sur W n fvg, ayant une singularite essentielle aÁ v et g^] la deÂriveÂe spheÂrique de g. Alors lim sup_z!vjz vj g^](z)1=2.

LEMME 2. Soit V une reÂgion de C et fhng une suite d'applications holomorphes deÂfinies surVet aÁ valeurs enP: si h_nconverge uniformeÂment sur tout compact de V vers une application holomorphe non constante h:V!P et celle-ci prend la valeura2P, alors h_n prend aussi bien la valeurapour tout n assez grand.

Rappelons enfin qu'uncycled'une fonctionf est un point fixe de l'une de ses iteÂreÂesfⁿ, que sonmultiplicateurest la deÂriveÂe defⁿaÁ ce point et que le cycle estreÂpulsifsi son multiplicateur est de module plus grand que 1.

Le lemme suivant est connu comme lelemme de l'espace meÂtrique(voir [6], p. 256).

LEMME3. Soit(X;d)un espace meÂtrique complet et M:X![0;‡ 1) une fonction localement borneÂe. Soit s>0: alors pour tout u2M ¹(0;‡1) il existe w2X tel que: (i) d(u;w)[sM(u)] ¹; (ii) M(w)M(u)et(iii)d(x;w)[sM(w)] ¹)M(x)2M(w).

DEÂMONSTRATION. Supposons par l'absurde que le lemme soit faux: alors il existeu2Xtel que, pour toutw2X, l'un au moins des eÂnonceÂs (i), (ii) et (iii) est faux. En particulier,v0:ˆudoit violer la condition (iii). Donc on peut trouverv12Xtel queM(v1)>2M(v0) maisd(v1;v0)1=sM(v0). Cela en- traõÃne que (i) et (ii) sont vrais pourwˆv1et, par conseÂquent, (iii) doit eÃtre faux pourwˆv₁. Donc on peut trouverv₂2Xtel queM(v₂)>2M(v₁) mais d(v₂;v₁)>[sM(v₁)] ¹, et doncd(v₂;v₀)>¹₂[sM(v₀)] ¹. Ceci entraõÃne que (i) et (ii) sont vrais pourwˆv₂ et, par conseÂquent, (iii) doit eÃtre faux meÃme pourwˆv2.

En continuant ce proceÂdeÂ, on peut construire, par induction, une suite fv_ng telle que v₀ˆu, M(v_n)>2M(v_{n 1})>2ⁿM(v₀) et d(v_n;v_{n 1})

2^{1 n}‰sM(v0))Š ¹. Cette suite-laÁ est de Cauchy: en soitlla valeur limite.

On voit queMn'est pas borneÂe au voisinage del: c'est une contradiction.

Le lemme suivant renormalise (moyennant composition aÁ la source avec des contractions bien choisies) une famille d'applications holomorphes (aÁ valeurs dans la spheÁre de Riemann). La preuve ci-deÂcrite peut se trouver en [1]; voir aussi [8].

LEMME 4. (Zalcman). Si une famille F :ˆ ffag d'applications holo- morphes surD, aÁ valeurs enP, n'est pas normale sur aucun voisinage de v2D, alors il existe des suites v_n !v, r_n#0,ff_ng Fet une application holomorphe non constante h surC, aÁ valeurs enP, telles que f_n(v_n‡r_nz) est bien deÂfini ±pour n assez grand± sur tout compact de Cet on ya, uniformeÂment, fn(vn‡rnz)!h.

DEÂMONSTRATION. GraÃce aÁ la non normalite aÁv, on peut trouver des suitesj_n!venDetff_ng F telles que f_n^](j_n)n³. On peut supposer, sans nuire aÁ la geÂneÂraliteÂ, que fj_ng soit contenu dans un sous-ensemble fermeÂXdeD.

Pour toutn, appliquons le lemme 3 aÁX avec la meÂtrique euclideÂenne, Mˆf_n^],uˆj_n etsˆ1=n. Appelons (), () et ( ) les conseÂquences des eÂnonceÂs (i), respectivement (ii) (iii) du lemme: on obtient v_n2X tel que: ()d(j_n;v_n)1=n², ()f_n^](v_n)n³et ( )jx v_nj n[f_n^](v_n)] ¹) )fn^](x)2fn^](vn).

Posons maintenantrn :ˆ[fn^](vn)] ¹ethn(w):ˆfn(vn‡rnw). Chaquehn

est bien deÂfini sur D(0;n) car, graÃce aÁ () et () ci-dessus, vn !v et nr_n1=n². La famillefh_ngest normale, car, graÃce aÁ ( ) (h_n)^]2 sur D(0;n): graÃce au theÂoreÁme d'Ascoli, on peut extraire defh_ngune sous-suite uniformeÂment convergente, sur tout compact deC, vers une fonction meÂro- morphe limitehtelle queh^](0)ˆlimn!1hn](0)ˆ1; cela prouve quehn'est pas constante. Finalement, par holomorphie,h^](z)ˆlimn!1hn](z)2 pour toutz2C.

Le lemme suivant «renormalise» une application holomorphe (aÁ valeurs dans la spheÁre de Riemann) au voisinage d'une singularite essentielle isoleÂe.

LEMME5. Soient v2C,Wun voisinage ferme de v, g une application holomorphe, aÁ valeurs enP, surW n fvg, ayant une singularite essentielle aÁ v. Alors il existe des suites v_n!v, fr_ng R^‡, avec r_n !0, telles que

g(vn‡rnz)est bien deÂfini sur tout compact deDet g(vn‡rnz)yconverge vers une application holomorphe non constante h:D!P.

DEÂMONSTRATION. Soit a_n une suite de nombres reÂels positifs, avec an !0. GraÃce au theÂoreÁme 1, on peut trouver une suitefj_ng enW telle quejj_n vj ˆan et g^](j_n)[an] ¹ pour n assez grand. Posons Xn:ˆ W nD(v;an=4); pour toutn2N, appliquons le lemme 3 aÁXnavec la meÂtrique euclideÂenne, Mˆg^], uˆj_n et sˆ8. Appelons (}), (}}) et (}}}) les conseÂquences des eÂnonceÂs (i), respectivement (ii) (iii) du lemme:

cela fournitv_n2X_ntel que: (}) jj_n v_nj a_n=8 , (}}) g^](v_n)[a_n] ¹et (}}}) jx vnj 1=(8g^](vn))

)g^](x)2g^](vn).

Posons maintenantrn:ˆ[16g^](vn)] ¹ethn(z):ˆg(vn‡rnz). GraÃce aÁ (}) et (}}) ci-dessus, on a jv_n vj jv_n j_nj ‡ jj_n vj ⁹₈a_n etjv_n vj jj_n vj jj_n v_nj ⁷₈a_n. Ainsi, jv_n‡r_nz vj (9=8‡ jzj=16)a_n2a_n etjv_n‡r_nz vj (7=8 jzj=16)a_n ¹₄a_nce qui entraõÃne quev_n‡r_nz2X_n et que hn est bien deÂfini sur D pour nassez grand. La famille fhng est normale, car, graÃce aÁ (}}})h^]n1=8 surD. GraÃce au theÂoreÁme d'Ascoli, on peut en extraire une sous-suite uniformeÂment convergente, sur tout compact deD, vers une limitehtelle queh^](0)ˆlim_n!1h_n^](0)ˆ1=16; cela prouve que h n'est pas constante; par holomorphie, h^](z)ˆlim_n!1h_n^](z)1=8 pour toutz2D.

3. Le reÂsultat principal.

Soient maintenant: f une fonction meÂromorphe non constante sur C, ayant au moins deux poles, ou bien un pole qui n'est pas une valeur omise;

F_f etJ_f les ensembles de Fatou et Julia respectivement;C^‡_f l'ensemble post-critique def etE_f son ensemble exceptionel (voir encore [5], p. 156).

Rappelons queC^‡_f est deÂfini comme l'orbite de l'ensemble critique de f: c'est un ensemble deÂnombrable. En outre, Ef est l'ensemble des points z2Ctels queS₁

nˆ1f ⁿ(z) est un ensemble fini. GraÃce aux theÂoreÁmes de Montel et de Picard, cet ensemble-ci peut contenir au plus deux points.

Par ailleurs, on n'a pas forceÂment E_f F_f pour les fonctions trans- cendantes.

THEÂOREÁME6. Les cycles reÂpulsifs de f sont denses dansJf. DEÂMONSTRATION. Rappelons queJ_f ˆO (1)ˆ[¹

nˆ0

f ⁿ(1). C'est un ensemble parfait (voir [5] p. 154 et p. 161). CommeC^‡_f [E_f est deÂnombrable, il suffit d'approcher tout pointp2 Jf n(C^‡_f [ Ef)\f ^l(1) l2N.

LEMME7. S_l

lˆ0f ^l(1)ne peut pas s'accumuler sur p.

DEÂMONSTRATION. Supposons par l'absurde qu'il existe une suite fp_yg S

lˆ0 f ^l(1) telle que p_y !p; on peut en extraire une sous-suite qy!ptelle quefqyg f ⁿ(1), pour un 1nl. Alors:

a) si 1nl 1, fⁿ est holomorphe aÁ p, fⁿ(p)2C mais f(qy) 1pour touty2N: c'est une contradiction;

b) sinˆl,fⁿa un pole aÁp,fⁿ(p)ˆf(q_y) 1pour touty2N: ceci

entraõÃnefⁿ 1, une contradiction. (lemme 7)

FIN DE LA DEÂMONSTRATION DU THEÂOREÁME6. Donc, graÃce au lemme 7, f^l‡1 a une singularite essentielle isoleÂe aÁp.

On peut alors appliquer le lemme 5 avecg:ˆf^l‡1,vˆpet trouver des suitespn!petrn#0 telles quef^l‡1(pn‡rnz) converge uniformeÂment sur tout compact (pourn! 1) deDvers une application holomorphe non constante h:D!P. GraÃce au theÂoreÁme de Picard, on peut choisir les fa_ngdu lemme 5 de facËon telle que`:ˆlim<sub>n!1</sub>g(j<sub>n</sub>) existe et appartient aÁ J<sub>f</sub>. Par ailleurs, on voit aiseÂment que, suite aÁ ce choix,j(j<sub>n</sub> v<sub>n</sub>)=r<sub>n</sub>j 1=8 pour toutn, ainsi`2h(D).

Soit donc UD un ouvert tel que `2h(U): alors, puisque h(U) rencontreJ_f, on a[q1f^q(h(U)) J_f n E_f; ainsi, il existez02Ueth2N tels que pˆf^hh(z₀); on peut supposer, sans nuire aÁ la geÂneÂraliteÂ, h(U)Ceth⁰6ˆ0 surU.

Or, f^hf^l(p_n‡r_nz) (p_n‡r_nz) converge, apres eventuelle extrac- tion, versf^hh p, donc, le lemme de Hurwitz (lemme 2) nous passe une suite de pointsfzng !z0telle quef^hf^l(pn‡rnzn)ˆ(pn‡rnzn): ainsi les pointsqn:ˆpn‡rnznforment une suiteqn!vde points peÂriodiques def. Ces points sont reÂpulsifs (pournassez grand), puisque on a, d'un coteÂ,

rn(f^h‡l)⁰(pn‡rnzn)![(f^h)⁰(h(z0))]h⁰(z0);

et de l'autre coteÂ,rn !0,h⁰(z0)6ˆ0 eth(z0) n'est pas un point critique def^h: en effet,f^hh(z0)ˆp62 C^‡_f . Cela conclut la deÂmonstration.

Il reste aÁ montrer le cas d'une fonctionf meÂromorphe ayant un pole aÁ un point qui est une valeur omise parf: pour ce faire, nous adaptons la meÂthode de renormalisations des iteÂreÂes deÂpeinte en [2]. Supposons, sans perte de geÂneÂraliteÂ, que la singularite soit placeÂe aÁ 0. Alors les iteÂreÂesffⁿg sont bien deÂfinies partout en Cn f0g etp2 J_f si et seulement si ffⁿg n'est pas une famille normale au voisinage dep. On a encore:

THEÂOREÁME8. Les cycles reÂpulsifs de f sont denses dansJf.

DEÂMONSTRATION. Appliquons le lemme 4 aÁ la familleffⁿg, avecvˆp:

cela fournit des suites fp_ng !p et fr_ng #0 telles que ffⁿ(p_n‡r_nz)g converge uniformeÂment sur tout compact deCvers une application holo- morphe non constante eh:C!P. Comme C^‡_f [ Ef est deÂnombrable, on peut supposer, sans nuire aÁ la geÂneÂraliteÂ,p2 Jf n(C^‡_f [ Ef).

Soit maintenant UC un ouvert tel que eh(U)\ J_f 6ˆ0; puisque [_q1f^q(h(U)) J_fn E_f, il existez₀2U eth2Ntels quepˆf^heh(z₀);

on peut supposer, sans nuire aÁ la geÂneÂraliteÂ,eh(U)Ceteh⁰6ˆ0 surU.

Or, f^hfⁿ(p_n‡r_nz) (p_n‡r_nz) converge, apres eventuelle extrac- tion, vers f^heh p, donc, le lemme de Hurwitz nous passe une suite de points fzng !z0 telle que f^hfⁿ(pn‡rnzn)ˆ(pn‡rnzn): ainsi les pointsq_n:ˆp_n‡r_nz_nforment une suiteq_n!vde points peÂriodiques def. Ces points sont reÂpulsifs comme au theÂoreÁme 6.

Remerciement: l'auteur tient aÁ remercier le referee pour beaucoup d'observations et suggestions qui ont permis d'ameÂliorer la redaction de cet article.

REFERENCES

[1] F. BERTELOOT, MeÂthodes de changement d'eÂchelles en analyse complexe, preprint.

[2] FRANCËOISBERTELOOT - JULIEN DUVAL, Une deÂmonstration directe de la densite des cycles reÂpulsifs dans l'ensemble de Julia, Progress in Mathe- matics, vol.188, BirkhaÈuser Verlag (2000), pp. 221±222.

[3] FRANCËOISBERTELOOT - VOLKER MAYER, Rudiments de dynamique holo- morphe, SocieÂte MatheÂmatique de France, EDP Sciences, 2001.

[4] A. BOLSCH, Repulsive periodic points of meromorphic functions, Complex Variables Theory Appl.,31(1996), pp. 75±79.

[5] WALTERBERGWEILER,Iteration of meromorphic functions, Bull. Amer. Math.

Soc. (N.S.),29(1993), pp. 151±188.

[6] M. GROMOV,Foliated Plateau problem: part II: harmonic maps of foliations, Geom. Func. Anal.,1(1991), pp. 253±320.

[7] OLLI LEHTO, The spherical derivative of meromorphic functions in the neighbourhood of an isolated singularity, Commentarii Mathematici Helve- tici,33(1959), pp. 196±205.

[8] L. ZALCMAN, Normal Families: new perspectives, Bull. Amer. Math. Soc.

(N.S.),35(1998), pp. 215±230.

Manoscritto pervenuto in redazione il 24 giugno 2004