Le Q-processus d’un superprocessus inhomogène

L’objectif est maintenant de passer à la limite enh dans le théorème précédent. Ceci ne pose pas de difficultés en ce qui concerne la loi des superprocessus que l’on greffe : la restriction à {H_max≤h₀−s} dans l’énoncé du théorème s’en trouve simplement levée. La difficulté concerne la convergence du mouvement spatial P^(h). Pour cela, on a besoin de la notion de valeur propre généralisée, et ceci nous amène à nous restreindre aux deux cas où nous savons que cette valeur propre est bien définie, à savoir les cas où Y est une chaîne de Markov à espace d’état fini ou une diffusion dans R^K. NotonsD le domaine du générateurL. La valeur propre généraliséeλ₀ de l’opérateurβ− Lest définie dans ces deux cas par :

λ0 = sup{`∈R,∃u∈ D(L), u >0 telle que (β− L)u=` u}·

Une interprétation plus probabiliste de cette quantité est fournie par la relation suivante : λ₀=−sup

A⊂E t→∞lim

1

t log E_xe⁻ Rt

0ds β(Ys)

1_{τ

Ac>t}

,

où le supremum est pris sur les sous-ensembles compactsAdeE, et A^cdésigne le complémentaire dansE de l’ensembleA. On renvoie au livre de Pinsky [107] lorsque Y est une diffusion surR^d, et au livre de Seneta [121] lorsque Y est une chaîne de Markov à espace d’état fini. Dans ce cas, la valeur propre généralisée correspond à la valeur propre de Perron Frobenius.

Nous définissons maintenant l’hypothèse de "product-criticality" d’après Pinsky [107]. L’opérateur (β−λ₀)− Lest dit critique lorsque l’espace des fonctions harmoniques positives associées est non vide, mais la fonction de Green est infinie. Dans ce cas, l’espace vectoriel des fonctions harmoniques positives pour l’opérateur (β−λ0)− Lest de dimension 1, engendré par une fonction notée φ0

appelée vecteur propre généralisé. De plus, l’ensemble des fonctions harmoniques positives de l’opérateur adjoint de (β−λ₀)− Lest de dimension 1, engendré par une fonction notée ˜φ₀. Si en outre ^R_Sdx φ0(x) ˜φ0(x)<∞, l’opérateur (β−λ0)− Lest dit "product-critical", et la mesure de probabilité P^φ0, donnée par :

∀t≥0, dP^φ_x⁰_|D

t

dP_x|Dt = φ₀(Y_t) φ₀(Y₀)e⁻

Rt

0ds (β(Ys)−λ0),

définit alors un processus de Markov récurrent au sens où il existe une mesure de probabilitéν sur E telle que :

sup

f∈bE,kfk∞≤1

|E^φ_x⁰[f(Yt)]−ν(f)| −−−−→

t→+∞ 0,

avec bE les fonctions mesurables de E dans R et kfk_∞ = sup_x∈E|f(x)|la norme infinie de f, voir le Théorème 9.9 p. 192 de Pinsky [107]. Ainsi, la notion d’opérateur "product-critical" est étroitement liée à la notion de récurrence positive. Nous énonçons maintenant un résultat de convergence des superprocessusZ^(h0), sous cette hypothèse de "product-criticality".

Théorème. [31]. Supposons que la valeur propre généralisée est positive ou nulle, λ0 ≥0, que le vecteur propre généralisé φ0 est minoré et majoré par des constantes strictement positives, que l’opérateur (β−λ₀)− Lest "product critical". Supposons enfin α et β continues bornées et α∈ C⁴ bornée inférieurement par une constante positive dans le cas de la superdiffusion.

SoitY de loi P^φ_x⁰, et, conditionnellement à Y, soit ^P_j∈Iδ_(sj,Z^j₎(ds, dZ) une mesure de Poisson d’intensité :

21_R+(s)ds α(Y_s)NYs[dZ].

On considère le processus Z^(∞) = (Z_t^(∞), t≥0), défini par : Z_t^(∞)= ^X

j∈J, sj<t

Z_t−s^j _j, t≥0,

et on noteN^(∞)x sa distribution. Alors le processus(Zs^(h0), s∈[0, t])converge en loi vers(Zs^(∞), s∈ [0, t]) lorsque h₀ tend vers +∞.

1.4 Les superprocessus inhomogènes : généalogie, décomposition de Williams etQ-processus 21

On précise, pour faire le lien entre les hypothèses des deux théorèmes précédents, que le caractère positif ou nul deλ₀ associé au fait que φ₀ soit minorée et majorée par deux constantes positives implique la propriété d’extinction presque sûre, d’après un argument de couplage explicité au lemme 2.6.1. En outre, ce théorème énonce un résultat sur le Q-processus, puisqu’on vérifie au lemme 2.5.1 que N^(∞)x correspond encore à la limite en loi deN^(≥hx ⁰⁾=Nx[· |H_max≥h₀] lorsque h₀ tend vers +∞, ce qui constitue la définition du Q-processus. Ce théorème s’inscrit dans la littérature comme suit. Il permet de préciser la remarque 2.8 de Champagnat et Roelly [25], dans laquelle, après avoir défini le Q-processus en terme deh-transformée, les auteurs précisent qu’une construction de celui-ci en terme d’une “immigration interactive” est envisageable. Un processus similaire à Z^(∞) avait été défini auparavant dans Engländer et Kyprianou [43], et, à la discussion 2.2, les auteurs suggéraient que ce processus devait coïncider avec le Q-processus.

Notre Théorème confirme donc cette suggestion.

Nous l’avons expliqué, notre intérêt dans ce travail réside principalement dans la façon dont le mouvement de la lignée généalogique la plus longue se trouve affecté par le caractère inhomogène du mécanisme de branchement. Engländer et Pinsky [44] s’intéressent à des superprocessus avec des mécanismes de branchement inhomogènes qui ne vérifient pas la propriété d’extinction presque sûre. Ils montrent que les lignées généalogiques infinies forment un arbre de Galton-Watson à temps continu, et que la loi de ces lignées infinies est P^w définie par (1.27) avecw une fonction positive telle queL(w)−ψ(w) = 0. Ainsi, la loi P^w de ces lignées infinies dépend de L,β etα, alors que la loi P^φ0 de l’unique lignée infinie duQ-processus ne dépend que de L etβ.

Un dernier résultat concerne le superprocessus Z sous N^(h)x vu depuis l’instant d’extinction h.

Son énoncé nécessite l’introduction de P^(−h) la loi de Y sous P^(h) translatée deh : P^(−h)((Y_s, s∈[−h,0])∈ •) = P^(h)((Y_h+s, s∈[−h,0])∈ •).

L’hypothèse de “product criticality” associée à λ₀>0 implique alors l’existence d’une mesure de probabilité P^(−∞) telle que pour toutx∈E,t≥0 :

P^(−h)_x ((Y_s, s∈[−t,0])∈ •) −−−−→

h→+∞ P^(−∞)((Y_s, s∈[−t,0])∈ •).

Théorème. [31]. On suppose λ0 >0, φ0 minorée et majorée par deux constantes strictement positives, et(β−λ₀)− Lde type “ product critical”. De plus, on supposeα etβ continues bornées et α∈ C⁴ bornée inférieurement par une constante positive dans le cas où Y est une diffusion.

Soit Y de loi P^(−∞), et, conditionnellement à Y, soit ^P_j∈Jδ_(sj,Z^j₎ une mesure ponctuelle de Poisson d’intensité :

21_{s<0}α(Y_s)ds1_{{Hmax(X)<−s}} NYs[dZ].

On considère le processus (Zs^(−∞), s≤0), défini pours≤0 par : Z_s^(−∞)= ^X

j∈J, s_j<s

Z_s−s^j _j.

Alors le processus (Z_h^(h0)

0+s, s∈[−t,0]) converge en loi vers (Zs^(−∞), s∈[−t,0]) lorsque h₀ tend vers +∞.

Du fait de l’indépendance entre structure généalogique et mouvement spatial dans la construction du superprocessus homogène explicitée en section 1.3.3, le Q-processus d’un superprocessus

homogène peut être défini à partir du Q-processus du CB, comme nous l’avons déjà remarqué. La condition de récurrence que nous imposons sur le mouvement spatial pour obtenir le Q-processus peut donc sembler superflue dans ce cas. En revanche, cette condition est naturelle pour obtenir la convergence depuis le “sommet” énoncée dans le dernier Théorème.

On définit enfin la mesure de probabilité P^(B,t)_x suivante : dP^(B,t)_x|D

t

dP_x|Dt = e⁻ Rt

0ds β(Ys)

E_x

e⁻ Rt

0ds β(Ys)·

Cette mesure de probabilité peut être vue comme la loi de la lignée ancestrale d’un individu choisi au hasard dans la population à l’instantt, voir la formule (2.44). Il s’agit également d’une pénalisation de “Feynman Kac” du mouvement spatial P_x, selon la terminologie de Roynette et Yor [115]. On prouve dans [31] que siφ0 est minorée et majorée par deux constantes strictement positives, et si l’opérateur (β−λ0)− Lest “product -critical”, alors P^(B,t)_x|D

s converge en loi vers P^φ_x⁰_|D

s pour s≥0 fixé lorsquet→ ∞. Ceci peut aussi être interprété comme un état globulaire dans un modèle de polymère aléatoire, voir Cranston, Koralov and Molchanov [27].