Quelques propriétés des superprocessus

HAL Id: tel-00007575

https://pastel.archives-ouvertes.fr/tel-00007575 Submitted on 30 Nov 2004

HAL is a multi-disciplinary open access

archive for the deposit and dissemination of sci-entific research documents, whether they are pub-lished or not. The documents may come from teaching and research institutions in France or abroad, or from public or private research centers.

L’archive ouverte pluridisciplinaire HAL, est destinée au dépôt et à la diffusion de documents scientifiques de niveau recherche, publiés ou non, émanant des établissements d’enseignement et de recherche français ou étrangers, des laboratoires publics ou privés.

Quelques propriétés des superprocessus

Jean-François Delmas

To cite this version:

Jean-François Delmas. Quelques propriétés des superprocessus. Mathématiques [math]. Université Pierre et Marie Curie - Paris VI, 1997. Français. �tel-00007575�

Sp cialit :

Math matiques

Pr sent e par Jean-Franois DELMAS

Pour obtenir le grade de Docteur de l'Universit Paris 6

Sujet de la thse :

QUELQUES PROPRITS DES

SUPERPROCESSUS

Soutenue le 28 Mars 1997 devant le jury compos de :

Mr Jean BERTOIN

Mr Bernard LAPEYRE

Mr Jean-Franois LE GALL

Mr Yves LE JAN

Mr Jacques NEVEU

Mr Marc YOR

Table des mati res

I Introduction

4

I.1 Un exemple: une population de bactries . . . 4

I.2 Modlisation  l'aide d'un superprocessus . . . 4

I.3 Les superprocessus . . . 5

I.4 Expos des rsultats . . . 6

I.4.1 Chapitre II: Le super-mouvement brownien avec catalyse . . . 6

I.4.2 Chapitre III: Quelques proprits de l'image du super-mouvement brow-nien . . . 9

I.4.3 Chapitre IV: Proprits trajectorielles des superprocessus avec mca-nisme de branchement gnral . . . 11

II Super-mouvement brownien avec catalyse

14

II.1 Introduction . . . 14

II.2 Notations et rsultats prliminaires . . . 17

II.2.1 Hypothse d'intgrabilit (H) . . . 17

II.2.2 Notations et quelques rappels . . . 17

II.3 Construction du super-mouvement brownien avec catalyse comme limite de systmes de particules avec branchement . . . 20

II.3.1 Construction du systme de particules avec branchement. . . 20

II.3.2 Le passage  la limite. . . 22

II.3.3 Notations et remarques . . . 26

II.4 Proprits de continuit . . . 26

II.5 Des mesures alatoires associes 

X

. . . 35

II.6 Le temps local associ 

D

. . . 39

II.7 Formules de reprsentation . . . 41

II.8 Existence et rgularit de la densit du superprocessus

X

par rapport  la mesure de Lebesgue en dehors de

D

. . . 43

II.9 Mesure martingale orthogonale associe 

X

. . . 45

IIIQuelques proprits de l'image du super-mouvement brownien

49

III.1 Introduction . . . 49

III.2 Preliminaries on the Brownian snake and super-Brownian motion . . . 51

III.2.1 The Brownian snake . . . 51

III.2.2 Super-Brownian motion . . . 53

III.2.3 Hitting probabilities for the Brownian snake . . . 54

III.3 A property of the range of super-Brownian motion . . . 56

III.4.1 An upper bound on

I

. . . 61

III.4.2 A lower bound on

J

. . . 63

III.4.3 End of the proof of proposition III.3.3 . . . 67

III.4.4 Proof of lemma III.4.1 . . . 67

III.5 Capacity equivalence for the support and the range of

X

. . . 69

III.6 Appendix . . . 76

III.6.1 Formula for moments of the Brownian snake . . . 76

III.6.2 Some properties of the function

u

1 . . . 77

III.6.3 A comparison theorem for the law of " _{. . . 78}

IV Proprits trajectorielles des superprocessus avec mcanisme de

branche-ment gnral

80

IV.1 Introduction . . . 80

IV.2 Notation and results . . . 81

IV.3 Preliminary estimates . . . 84

IV.4 The subordination approach to superprocesses . . . 87

IV.4.1 The Brownian snake . . . 87

IV.4.2 Exit measures . . . 88

IV.4.3 The subordinate superprocess . . . 90

IV.4.4 The support of the exit measure . . . 91

IV.5 Proof of theorem IV.2.1 . . . 91

IV.5.1 Preliminary reduction . . . 91

IV.5.2 The lower bound of proposition IV.5.1 . . . 92

IV.5.3 The upper bounds of proposition IV.5.1 . . . 94

IV.6 Hitting probability of small balls and proof of theorem IV.2.2 . . . 102

IV.6.1 Upper bound for the hitting probability of small balls . . . 102

IV.6.2 Lower bound for the hitting probability of small balls . . . 104

IV.6.3 Proof of theorem IV.2.2 . . . 106

IV.6.4 Proof of theorem IV.2.3 . . . 106

IV.7 Absolute continuity of the superprocess in the Brownian case and in the sym-metric

-sable case . . . 107

Introduction

Ce travail se dcompose en trois parties indpendantes qui traitent de questions relatives aux superprocessus. Nous donnons dans un premier paragraphe une description intuitive des phnomnes tudis. Puis, dans les paragraphes suivants nous dtaillons les rsultats math-matiques obtenus et prsentons l'essentiel des travaux relatifs aux mmes sujets. Les chapitres II  IV peuvent tre lus sparment. Ils possdent chacun les rappels et leurs notations propres qui assurent leur cohrence.

I.1 Un exemple: une population de bactries

On considre une population d'tres uni-cellulaires, des bactries par exemple, qui se dplacent au hasard et indpendamment les uns des autres. Les bactries se reproduisent par division cellulaire. Supposons que cette reproduction ne puisse s'eectuer que dans certains lieux. Ces rgions particulires seront appeles rgions de catalyse. De plus la division cellulaire n'a lieu qu' partir d'un certain temps (alatoire) pass dans les rgions de catalyse. Enn elle a un taux de russite de 50% on obtient deux bactries qui vivent alors indpendamment l'une de l'autre. En cas d'chec, la bactrie meurt et n'a donc pas de descendance. On s'intresse  la rpartition de la population et  son volution. Remarquons que le poids d'une bactrie est faible et que les vitesses de reproduction sont leves, comparativement aux chelles humaines (kilogramme, jour). Si on ne regarde pas l'volution d'une bactrie au microscope avec un chronomtre, mais si on regarde la population sur le globe et sur plusieurs mois, on observe alors un nuage qui se dplace au hasard et dont la densit volue alatoirement au cours du temps.

I.2 Modlisation  l'aide d'un superprocessus

Pour tudier la population de bactries, on construit le modle particulaire suivant: - Chaque particule (bactrie) nat et meurt  deux instants alatoires.

- La loi de la trajectoire d'une particule ne  l'instant

t

en

x

est la loi d'un processus de Markov



issu de

x

2Rd  l'instant

t

. Les trajectoires des direntes particules sont indpendantes.

- tant donn la trajectoire d'une particule, sa probabilit de survivre sur l'intervalle de temps (

st

) est donne par e;(At;As), o

A

t est une fonctionnelle additive de la

trajectoire (cette fonctionnelle rend compte des rgions de catalyse).

- Une particule qui meurt donne naissance indpendamment de ce qui prcde  0 ou 2 enfants avec probabilit 1/2. On caractrise le branchement critique  l'aide de la fonction gnratrice

'

(



) = (1 +



2)

=

2, en fait plus particulirement  l'aide de la fonction (



) =



;1 +

'

(1;



) =



2

=

2.

Si on note

Y

t(

C

) le nombre de particules qui sont  l'instant

t

dans l'ensemble

C

de

Rd, alors (

Y

t

t

 0) dnit un processus de Markov  valeurs dans l'ensemble des mesures ponctuelles nies sur Rd. Si on aecte un poids 1

=n

 toutes les particules, et si on acclre le phnomne de branchement en remplaant la fonctionnelle

A

par

nA

, alors les processus correspondants

Y

n _{convergent en loi vers un processus}

_X

_{, appel superprocessus,  valeurs}

dans l'ensemble des mesures nies surRd.

C'est ce processus qui modlise le nuage alatoire de bactries. Ce processus est carac-tris par le triplet(

dA

t



) sur lequel nous allons revenir plus prcisment.

I.3 Les superprocessus

Les superprocessus sont des processus de Markov  valeurs mesures. Introduits par Wa-tanabe 61] en 1968, ils ont connu un grand dveloppement  partir des annes 1980. Nous renvoyons aux travaux de Dynkin 24, 28] et de Dawson 10, 11] pour la construction de tels processus comme limite de systmes de particules avec branchement. Nous renvoyons galement aux travaux de Fitzsimmons 30], Perkins 49] et de Dawson et Perkins 19] pour les proprits gnrales de ces processus  valeurs mesures. Un superprocessus sur l'espace euclidien Rd est caractris par la donne de trois lments.

- Un processus de Markov droit



= (



t

t

 0)  valeurs dans Rd issu  l'instant initial de



0 =

x

sous la probabilit

Px. (Par exemple le mouvement brownien



surRd.) - Une fonctionnelle additive continue positive

A

= (

A

t

t

 0) du processus



, dont les

moments exponentiels  tous ordres et  tous temps sont nis. (Par exemple

A

t =

Rt 0

1D(



s)

ds

o

D

est un sous ensemble deRd.) - Et enn une fonction  dnie surR

+ mesurable positive, de la forme (



) = 2

b

2+ Z (0
1) h e;u ;1 +

u

i 0(

du

)

 

0



(I.1) o 0 est une mesure positive sur (0



1) telle que R (0
1)(

u

^

u

2)0(

du

)

<

1. (Par exemple (



) =



2 ou encore (



) =



1+ avec

2 (0



1). Dans ce dernier cas

b

= 0 est 0(

du

) est proportionelle 

u

;;2

du

.)

On peut associer au triplet (

dA

t



) un processus de Markov fort unique

X

 valeurs

dans

M

f, l'ensemble des mesures nies sur Rd. L'ensemble

M

f sera toujours muni de la topologie de la convergence faible. Si

2

M

f et si

'

est une fonction dnie sur Rd positive mesurable, on note(

'

) =R

'

(

x

)

(

dx

). La loi du processus

X

= (

X

t

t

0) est caractrise de la manire suivante sousPX,

2

M

f.

-

X

0 =

,

- Pour toute fonction

'

borne positive mesurable dnie sur Rd, pour tous

t



s

0, on a: EX h e;(Xt
') j



(

X

u



0

u



s

) i = exp ;(

X

s

v

(

t

;

s

))]



o la fonction

v

dnie surR

+

Rd est l'unique solution positive mesurable de l'quation intgrale

v

(

tx

) +Ex Z t 0 (

v

(

t

;

s

s))

dA

s
=Ex

'

(



t)

:

(I.2) Les superprocessus sont des objets complexes et riches. Ils permettent d'aborder des pro-blmes d'quations direntielles non linaires (voir Dynkin 25, 26, 27] et Le Gall 40, 41]). Ils apparaissent galement comme un outil naturel pour modliser l'volution de populations (cf l'exemple de la population bactrienne).

Nous allons maintenant prsenter nos rsultats concernant les proprits des superproces-sus. Ils traitent des trois thmes suivants.

- Le super-mouvement brownien avec catalyse.

- Quelques proprits de l'image du super-mouvement brownien.

- Proprits trajectorielles des superprocessus avec mcanisme de branchement gnral.

I.4 Expos des rsultats

I.4.1 Chapitre II: Le super-mouvement brownien avec catalyse

Ce chapitre correspond  l'tude du processus qui modlise intuitivement l'volution de la population de bactries dcrite ci-dessus.

En dimension

d

= 1, le super-mouvement brownien

X

associ au triplet (

 dt

2), o



est un mouvement brownien dans Rd, et

>

0, est  chaque instant

t >

0 p.s. absolument continu par rapport  la mesure de Lebesgue. En revanche en dimension

d

2, p.s. pour tout

t >

0 la mesure alatoire

X

t est trangre  la mesure de Lebesgue. Un phnomne dirent

apparat si le branchement n'a pas lieu dans tout l'espace.

Dawson, Fleischmann et Roelly 17] ont montr en dimension

d

= 1 que pour une classe gnrale de superprocessus

X

, la mesure alatoire

X

t, 

t >

0 x, est absolument continue

par rapport  la mesure de Lebesgue. Plus prcisment, Dawson et Fleischmann 14] se sont intress en dimension

d

= 1 au super-mouvement brownien avec un point de catalyse

X

associ au triplet (

 dl

ct



2), o

>

0 et o

l

c est le temps local du mouvement brownien unidimensionnel



au niveau

c

. L'ensemble de catalyse

D

= f

c

g est alors rduit  un point. Les auteurs montrent un rsultat d'existence et de continuit du processus  valeurs mesures

X

(en eet ce cas particulier ne satisfait pas les hypothses gnrales des superprocessus traits par Dynkin 24], Dawson 11] ou Fitzsimmons 30]). Ce thorme peut s'exprimer de la manire suivante.

Thorme A (14])

Le superprocessus

X

associ au triplet (

 dl

ct



2) peut
tre construit sur

C

(R

+

M

f) l'espace des fonctions continues  valeurs dans

M

f. Et ce processus v rie

On note

dx

la mesure de Lebesgue sur R.

Thorme B (14])

P.s., il existe un processus

z

(

tx

) continu en les deux variables (

tx

)2 (0



1)Rnf

c

g tel que

X

t(

dx

) =

z

(

tx

)

dx

pour tout

t >

0.

Dawson et Fleischmann 14] donnent galement la caractrisation de la loi de

z

 l'aide de sa transforme de Laplace.

Dawson et Fleischmann 15] ont tendu ce rsultat en dimension suprieure en considrant par exemple pour l'ensemble de catalyse une famille (alatoire) d'hyperplans parallles. En fait d'aprs les auteurs, d'un point de vue technique, les exemples traits peuvent se rduire au cas unidimensionnel.

Pour le superprocessus tudi dans 14], associ (

 dl

ct



2), Fleischmann et Le Gall 32] donnent en dimension

d

= 1 une formule de reprsentation de la densit

z

(

tx

) pour

x

6=

c

. Pour cela ils considrent la densit

y

t(

b

),

b

2 R, de la mesure d'occupation

Y

t =

Rt 0

ds X

s qui peut tre choisie continue en les variables (

tb

) 2 (0



1)R (cf 14]). Pour tout

b

x,

y

t(

b

) est une fonction croissante de

t

, et on peut donc considrer la mesure associe



b(

dt

)

dnie par



b₍₍

_uv

_{]) =}

_y

_v(

_b

₎;

y

u(

b

). Le thorme B implique que p.s. pour tout

t >

0,

b

6=

c

,



b₍

_dt

_{) =}

_z

₍

_tb

₎

_dt

_{. Dans 16], les auteurs montrent que}

_

c _{est singulire bien que son support}

soit de dimension gale 1. Notons

Q

tle semi-groupe de transition du mouvement brownien

tu sur

D

= f

c

g, et

q

(

tab

) sa densit. On note



(

tb

) la densit de la loi de l'excursion brownienne  l'instant

t

au niveau

b

, sous la mesure d'It" des excursions hors def

c

g.

Thorme C (32])

Pour tout

2

M

f, PX-p.s. la densit

z

(

tb

) de

X

peut s' crire

z

(

tb

) = Z

(

da

)

q

(

tab

) + Z t 0



c₍

_ds

₎

_

₍

_t

;

sb

)



t >

0

 b

6=

c:

(I.3) Intuitivement le premier terme de droite de l'quation (I.3) correspond  la densit des par-ticules qui n'ont pas encore touch l'ensemble de catalyse f

c

g. Le second terme correspond aux particules issues de l'ensemble de catalyse, avec intensit



c_{, qui sont distribues selon la}

loi des excursions browniennes hors def

c

g. De plus les auteurs montrent que p.s. la densit

z

(

tb

) est une fonction

C

1 des variables (

tb

)

2 (0



1)Rnf

c

g et satisfait l'quation de la chaleur sur(0



1)Rnf

c

g.

Dans le chapitre I nous tendons les rsultats prcdents en dimension suprieure pour des ensembles de catalyse gnraux. Pour cela considrons une mesure



-nie



sur Rd vriant l'hypothse (H) suivante: il existe



2(0



1) tel que

d

;2 + 2



0 et

sup x2Rd Z B(x
1)



(

dy

) j

x

;

y

j d;2+2

<

1



o

B

(

x

1) est la boule ouverte de centre

x

et de rayon 1.

Pour

d

= 1 toutes les mesures nies vrient cette condition d'intgrabilit (prendre



= 1

2). Pour

d

quelconque, il est clair que la mesure de Lebesgue convient galement. Soit



un mouvement brownien sur Rd issu de

x

sous Px. On note

A

la fonctionnelle additive continue de



ayant



comme mesure de Revuz. Pour toute fonction mesurable positive

f

, on a: Ex Z 1 0

f

(

s

s)

dA

s = Z 1 0

ds

Z



(

dy

)

p

(

sx

;

y

)

f

(

sy

)



o

p

est la densit de transition du mouvement brownien. On note

a

T = supx2Rd

Ex

A

T

<

1. Remarquons que la fonctionnelle

A

ne satisfait pas en gnral les conditions de 24]. En eet elle ne possde pas a priori des moments exponentiels nis. On construit donc le superprocessus

X

associ au triplet(



1 2

dA

t



2) comme limite de systmes de particules avec branchement. Dans le cas

d

= 1 et



=



c, la fonctionnelle

A

est le temps local de



au niveau f

c

g. On retrouve alors le cas trait dans 14] et 32]. En dimension suprieure, l'objet qui caractrise la catalyse n'est pas l'ensemble

D

mais la mesure



.

A l'aide d'un calcul de moments pour le processus

X

et en utilisant le lemme de Kol-mogorov, on montre l'existence d'une version continue pour la topologie de la convergence troite.

Thorme 1

Soit

2

M

f. Il existe un processus de Markov homogne continu

X

= (

X

t

t

 0)  valeurs dans

M

f dont la loi est caract ris e sousPX par

-

X

0 =

,

PX-p.s.

- Pour tout

T >

0, pour tous 0 

s



t



T

, pour toute fonction

'

mesurable positive born e sur Rd, telle que

a

Tk

'

k

1

<

1, EX h e;(Xt
') j



(

X

u



0

u



s

) i = e;(Xs
v(t;s
))



o la fonction

v

est l'unique solution positive mesurable de l' quation

v

(

tx

_{) + 12}Ex Z t 0

v

(

t

;

s

s) 2

dA

s=Ex

'

(



t)



(

tx

)2 0

T

]Rd

:

De plus pour toute fonction

'

mesurable positive born e sur Rd, le processus ((

X

t

'

)

t >

0) est PX-p.s. continu.

Comme mentionn ci-dessus, la construction du processus

X

repose sur une approximation par des systmes de particules browniennes soumises  un phnomne de branchement discret gouvern par la fonctionnelle additive

A

. Ce thorme limite d'intrt indpendant permet aussi une meilleure comprhension intuitive du comportement de

X

.

Les rsultats de Maisonneuve 44] assurent l'existence d'un temps local

L

pour l'ensemble de catalyse

D

associ au mouvement brownien, et permettent de dnir des mesures d'excur-sions hors de

D

. On note

H

x _{la mesure d'excursion hors de}

_D

_{issue de}

_x

2

D

. Supposons que la mesure de Revuz



associe au temps local

L

satisfasse la condition d'intgrabilit (H). Cette condition est automatiquement satisfaite en dimension

d

= 1. En dimension su-prieure, elle est vrie ds que

D

satisfait une hypothse de rgularit assez faible dcrite dans l'appendice du chapitre II. Entre autres elle est satisfaite en dimension

d

3, lorsque

D

est l'adhrence ou la frontire d'un domaine lipschitzien (born) ou bien encore si

D

est une sous-varit de dimension

d

;1. Lorsque

d

= 2, la mesure de Revuz du temps local associ  tout compact connexe non rduit  un point vrie (H). On peut alors construire une me-sure alatoire; surR

+

Rd, qui intuitivement rend compte des instants de visites et de la quantit de particules qui rencontrent le support de



. On peut rapprocher cette mesure des temps locaux de collision (voir Barlow, Evans, Perkins 2] et Dawson et Fleischmann 12]). On note

Q

t le noyau de transition du mouvement brownien tu sur

D

.

Thorme 2

On d nit pour tout

t >

0 la mesure al atoire t sur Rd par ( t

'

) :=

Z 1

0u<t

H

On a alors la repr sentation suivante sur

D

c_{: pour toute mesure}

2

M

f, PX-p.s. pour tout

t >

0, on a

1Dc

:X

t=

Q

t+ t

:

Remarquons que, si

D

est de mesure de Lebesgue nulle, alors p.s. pour tout

t >

0, la mesure

X

t ne charge pas

D

,  cause de la dernire assertion du thorme 1. La formule ci-dessus

donne alors une formule de reprsentation pour

X

t et pas seulement pour 1Dc

:X

t. Ainsi le thorme prcdent tend la formule de reprsentation du thorme C. Enn on montre  partir de ces formules que

Corollaire 3

Pour tout

2

M

f,PX-p.s. pour tout

t >

0, la mesure al atoire

X

t possde sur

D

c _{une densit}

_z

₍

_tx

_{) par rapport  la mesure de Lebesgue. Cette densit est de classe}

_C

1 sur (0



1)

D

c. De plus on aPX-p.s.

@z

(

tx

)

@t

= 12 

z

(

tx

) (

tx

)2(0



1)

D

c

:

On a donc gnralis les rsultats de Fleischmann et Le Gall 32] en dimension quelconque. On retrouve galement comme cas particulier les rsultats de Zhao (thorme 2.3 dans 62]) concernant le super-mouvement brownien associ au triplet (

h

(



t)

dt

2), o

h

est une fonction mesurable positive borne (prendre



(

dx

) =

h

(

x

)

dx

).

Enn les outils introduits permettent de caractriser la mesure de covariance de la mesure martingale orthogonale associe 

X

. Cette mesure tait dj connue dans le cas particulier

dA

t=

dt

(cf 45]) et pour le super-mouvement brownien avec un point de catalyse (cf 14]).

I.4.2 Chapitre III: Quelques proprits de l'image du super-mouvement

brownien

Considrons le super-mouvement brownien usuel

X

associ  (

 dt

2). Par des argu-ments de changement d'chelle, on se ramne au cas

= 2. Pour tout

2

M

f, on note supp

le support topologique de la mesure

, et pour tout borlien

A

2Rd, on noteC

l

(

A

) la fermeture de

A

. On noteRt(

X

) =C

l

( s

tsupp

X

t) l'image (le range) du superprocessus  partir de l'instant

t

. L'ensemble R

0(

X

) apparat naturellement dans l'tude des limites pour les arbres sur rseaux en grande dimension (voir les travaux de Derbez et Slade 21, 22]). Pour tout borlien

A

2Rd, on note j

A

j la mesure de Lebesgue de

A

et

A

" = f

x



d

(

xA

)

"

g o

d

(

xA

) = inffj

x

;

y

j

y

2

A

g. Nous montrons la convergence suivante pour les

"

-voisinages deRt(

X

).

Thorme 4

Soit

d

5. Il existe une constante a

0

>

0 d pendant uniquement de

d

telle que pour tout

2

M

f pour tout bor lien

A

2Rd, pour tout

t >

0, PX-p.s.

lim "!0

"

4;d j Rt(

X

)"\

A

j= a 0 Z 1 t

ds

(

X

s



1A)

:

(I.4) De plus s'il existe

<

4 tel que lim"!0

"

;d

j(supp

)"j = 0, alors la convergence (I.4) a galement lieu pour

t

= 0 PX-p.s.

Thorme D (59])

Soit

A

un bor lien born de Rd,

d

3. Soit

t >

0 et

2

M

f. Alors il existe une constante

0

>

0, d pendant uniquement de

d

telle que

lim "!0

"

2;d j(supp

X

t) " \

A

j=

0(

X

t



1A)



o la convergence a lieu PX-p.s. et dans

L

2( PX).

Notre dmonstration utilise toutefois une mthode entirement dirente. Elle repose sur l'utilisation du processus  valeurs trajectoires appel serpent brownien, introduit par Le Gall 38, 40]. Plus prcisment, on utilise les rsultats de Le Gall 39] sur les probabilits d'atteinte d'ensembles pour les trajectoires du serpent brownien ainsi que la loi de la premire trajectoire qui touche un ensemble compact donn.

Rappelons la dnition d'ensembles quivalents en capacit introduite par Pemantle et Peres 47]. Soit

f

: 0



1) 7! 0



1] une fonction dcroissante. On dnit la capacit par rapport au noyau

f

d'un ensemble borlien  Rd par

capf() = inf ZZ

f

(j

x

;

y

j)



(

dx

)



(

dy

)
;1



o l'inmum est pris sur l'ensemble des mesures sur Rd telles que



() = 1. On dit que deux ensembles 1 et2 sont quivalents en capacit, s'il existe deux constantes strictement positives

c

1 et

c

2, telles que pour tout noyau

f

on a

c

1capf(1)

capf( 2)



c

2capf(1)

:

On considre l'image du mouvement brownien



surRd:



0



1] =f



(

t

)

t

2 0



1]g. Pemantle, Peres et Shapiro 48] ont montr que

Thorme E (48])

Pour

d

3, l'image



0



1] est p.s. quivalente en capacit  0



1] 2

Rd. En d'autres termes, avec probabilit un, il existe deux constantes al atoires

c

1

c

2

>

0 telles que

c

1capf(



0



1]) capf( 0



1] 2) 

c

2capf(



0



1])



pour tout noyau

f

.

En utilisant les thormes 4 et D, on peut obtenir le thorme analogue suivant.

Thorme 5

(i) Supposons

d

3. Soient

t >

0,

2

M

f.PX-p.s. surf

X

t6= 0g, l'ensemble supp

X

t est quivalent en capacit  0



1]2.

(ii) Supposons

d

 5. Soient

t >

0,

2

M

f. PX-p.s. sur f

X

t6= 0g, l'ensemble Rt(

X

) est quivalent en capacit  0



1]4. De plus s'il existe

<

4 tel que lim

"!0

"

;d

j(supp

)"j= 0, alors PX-p.s. l'ensembleR

0(

X

) est quivalent en capacit  0



1] 4.

N.B. Si on note cap la capacit associe  la fonction

f

(

r

) =

r

; ,

>

0, alors pour tout borlien  Rd, la dimension de Hausdor de  est gale  supf

cap ()

>

0g (cf Kahane 37] p133). On retrouve les rsultats bien connus suivants: dimsupp

X

t= 2 si

d

3 etdimsuppRt(

X

) = 4 si

d

5 (voir Perkins 50] et Dawson, Iscoe et Perkins 18] pour des rsultats plus prcis).

I.4.3 Chapitre IV: Proprits trajectorielles des superprocessus avec

m-canisme de branchement gnral

De nombreuses proprits trajectorielles sont connues pour le super-mouvement brow-nien usuel. En revanche quand le mcanisme de branchement est gnral, on dispose d'assez peu de rsultats. Les comportements des superprocessus associs aux triplets (

 dt

2) et (

 dt

1+), o

2 (0



1), sont dirents. Par exemple le premier possde des moments  tous ordres, alors que pour le second le moment d'ordre 2 est divergent.

Rcemment Bertoin, Le Gall et Le Jan 5] ont donn une reprsentation des superprocessus avec mcanisme de branchement gnral  l'aide du processus  valeurs trajectoires, le serpent brownien, et d'une mthode de subordination. Cette approche nous a permis d'tablir des rsultats nouveaux pour une classe assez large de superprocessus. Sauf pour le thorme 7, o l'on considre



_,

2 (0



2], un processus

-stable symtrique, le processus de Markov sous-jacent sera le mouvement brownien dans Rd. La fonctionnelle additive sera donne par

A

t=

t

. Enn on considre le mcanisme de branchement suivant (cf 5]):

(



) = 2

b

2+ Z

(0
1) 2

h

2

1 + 2

h

(

dh

)



o

b

 0 et  est une mesure de Radon sur (0



1) qui intgre (1 ^

h

). Remarquons que l'on englobe le cas stable (



) =



1+ o

2 (0



1] (pour

2 (0



1) prendre

b

= 0 et (

du

) =

cu

;1;

du

)). La fonction  peut galement s'crire sous la forme usuelle (I.1) en prenant 0(

du

) = h R (0
1)(

dh

)e ;u=2h(4

h

2);1 i

du

. On utilisera les deux constantes suivantes:

=;1 + liminf

!1

log(



)

log

 

and

=;1 + limsup

!1

log(



) log

 :

Comme R (0
1)(1

^

h

)(

dh

)

<

1, il est facile de vrier que 0 



 1. On considrera les deux conditions suivantes:

(H1):

On a0

<

.

(H2):

Il existe

2(0



1] tel que lim

!1 (

t

)

(



) =

t

1+ pour tout

t >

0.

La condition (H2) implique (H1). Remarquons que le cas stable(



) =



1+ vrie (H2). On rappelle la dnition de la dimension de Hausdor et de la dimension suprieure de boite. Soit un ensemble borlien born

A

Rp. On note

C

"(

A

) l'ensemble de tous les recouvrements

C

=f

B

i

i

2

I

g de

A

 l'aide de boules

B

i de rayon j

B

ij

"

. Pour

r

 0 on considre:

H

_r"(

A

) = inf_C 2C"(A) X i2I j

B

ij r

_:

La quantit

H

r"(

A

) est croissante quand

"

dcrot vers 0. On note

H

r₍

_A

_{) la limite. Il est}

facile de voir que si

H

r₍

_A

₎

_<

1, alors

H

r 0

(

A

) = 0 pour tout

r

0

> r

 et si

H

r(

A

)

>

0, alors

H

r0

(

A

) =1 pour tout

r

0

< r

. La valeur critique

est la dimension de Hausdor de

A

. Considrons maintenant le nombre minimal

N

"(

A

) de

boules de rayon

"

ncessaires pour recouvrir

A

. La dimension suprieure de boite de

A

est dnie par

dim

A

= limsup_" !0+

log

N

"(

A

)

log 1

=" :

Il est facile de voir que dim

A

dim

A

.

On considre le superprocessus

X

associ  (

dt

). On note



X = inff

s >

0

X

s= 0g la dure de vie du processus

X

. On dmontre le thorme suivant:

Thorme 6

On suppose (H1). Alors pour tout

2

M

f, pour tout bor lien compact non vide

B

(0



1), on a PX-p.s. surf

B

(0



X)g,  2

+ 2dim

B

 ^

d

dimC

l

  t2B supp

X

t !   2

+ 2dim

B

 ^

d:

De plus, si la condition (H2) est satisfaite, alorsPX-p.s. sur f

B

(0



X)g,

dimC

l

  t2B supp

X

t ! =  2

+ 2dim

B

 ^

d:

Pour le super-mouvement brownien usuel, un rsultat plus prcis est obtenu par Tribe 57] (thorme 2.13). Ces rsultats sont  rapprocher de ceux de Perkins 49, 50] et de Dawson, Iscoe et Perkins 18] qui traitent le cas particulier o(



) =



2. Nos rsultats prcisent aussi le thorme 9.3.3.5 de Dawson 11] o (



) =



1+ (voir galement Dawson et Vinogradov 20]).

On note

X

_{le superprocessus associ au triplet(}

_

_dt

_{), o}

_

_{est un processus}

_-stable

symtrique sur Rd, d'indice

2 (0



2] (pour

= 2,



2 =



est le mouvement brownien sur Rd). Nous donnons une condition su#sante pour que la mesure alatoire

R



(

dt

)

X

t, o



est une mesure nie sur(0



1), soit absolument continue par rapport  la mesure de Lebesgue.

Thorme 7

On suppose (H1). Soit



une mesure nie  support dans (0



1) et

q

2 0



1) tel que

ZZ



(

dt

)



(

ds

)j

t

;

s

j ;q

<

1

:

Si

+

q > d

, alors pour tout

2

M

f,PX-p.s. la mesure

R



(

dt

)

X

t est absolument continue par rapport  la mesure de Lebesgue.

On retrouve ainsi le cas particulier suivant. Dans le cas o

X

_{est associ  (}

_

_dt

1+), Fleischmann 31] montre que la mesure alatoire R

1

0

ds X

s est absolument continue ds que

+

> d

. Toujours pour ce cas particulier, Dawson 11] (thorme 8.3.1) montre que 

t >

0

x la mesure alatoire

X

_t est absolument continue si et seulement si

= > d

.

On ne considre plus maintenant que le super-mouvement brownien

X

associ (

dt

), o



est le mouvement brownien dans Rd. On note

B

"(0) la boule de centre 0 et de rayon

" >

0, et

p

la densit de transition du mouvement brownien dansRd:

p

(

tx

) = ₍₂

_t

1_)d=2 exp ;

j

x

j 2

On dit qu'une fonction positive mesurable,

l

, varie lentement en 0+, si pour tout

t >

0, on a lim!0+

l

(

t

)

=l

(



) = 1. On note



x la masse de Dirac au point

x

. On montre le rsultat suivant sur les probabilits d'atteinte des petites boules.

Thorme 8

On suppose (H2) et

d >

2. Il existe une fonction positive mesurable,

l

1, qui varie lentement en 0+, telle que pour tous

t >

0,

" >

0,

x

2Rd, on a

PXx  (

X

t



1B" (0))

>

0  

t

;d=2

"

d;2=

l

1( p

t

^

"

)

:

Si de pluslimsup!0+



;1;(



)

<

1, alors pour tout

M >

0, il existe une fonction positive mesurable,

l

2, qui varie lentement en 0+, telle que pour tous

M

p

t > " >

0,

x

2Rd, on a PXx  (

X

t



1B" (0))

>

0   1 2^

"

d ;2=

p



t

1 +

x



l

2(

"

)

:

Dans le cas stable (



) =



1+, on peut remplacer les fonctions

l

1 et

l

2 par des constantes strictement positives. Ainsi lorsque(



) =



2, le thorme prcdent correspond au thorme 3.1 de Dawson, Iscoe et Perkins 18]. Dans le cas gnral, l'absence de proprit de changement d'chelle accrot sensiblement la di#cult des dmonstrations. Enn en utilisant des arguments de Perkins (voir 52]), le rsultat prcdent nous permet de dmontrer que:

Thorme 9

Supposons (H2) et

d >

4

=

. Alors pour tous

2

M

f,

t >

0,PX-p.s. le support de

X

t est totalement discontinu.

Ce rsultat tait connu dans le cas particulier o(



) =



2 (cf Perkins 52], voir aussi Tribe 58] pour un rsultat trs voisin, et Abraham 1] pour une approche du rsultat de Tribe utilisant le serpent brownien).

Super-mouvement brownien avec

catalyse

(
paratredansStoch. andStoch.Reports)

Abstract

We study a general class of catalytic super-Brownian motions. Informally, such a process

X

describes the evolution of a large number of small particles which move according to independent Brownian motions in Rd and branch only when they visit a given set

D

(the catalyst), which may be of zero Lebesgue measure. We rst construct the processus

X

as a weak limit of branching particle systems. We then obtain detailed information about the continuity properties of

X

. Using excursion theory for Brownian motion in Rd, we prove a representation theorem for

X

outside the catalyst

D

. In the special case when

D

has zero Lebesgue measure, this representation theorem shows that a.s. for every

t >

0, the measure

X

t is absolutely continuous with respect to Lebesgue measure, and its density solves the heat

equation outside

D

.

Mathematics Subject Classication: 60G57 KEY WORDS: super-Brownian motion, catalyst.

II.1 Introduction

L'objet du prsent travail est de dvelopper une tude gnrale des super-mouvements browniens avec catalyse dans Rd. Les superprocessus, ou processus de branchement  va-leurs mesures, rendent compte de l'volution d'un grand nombre de particules soumises  un double phnomne de dplacement spatial et de branchement. Dans la situation classique la plus tudie, le phnomne de branchement se produit de manire homogne dans l'espace. Rcemment sont apparus des modles o le phnomne de branchement ne se produit que sur une partie de l'espace, appele ensemble de catalyse, qui peut tre de mesure nulle. Dawson et Fleischmann 13], 14], 15] (voir aussi Fleischmann et Le Gall 32]) ont tudi notamment des situations o le dplacement spatial est le mouvement brownien dansRd, et l'ensemble de catalyse est un point en dimension un, ou bien une famille dense d'hyperplans parallles en di-mension plus grande. Les processus ainsi obtenus, appels super-mouvements browniens avec

catalyse, sont aussi des cas particuliers des superprocessus trs gnraux tudis par Dynkin 24]. Une particularit remarquable de ces modles avec catalyse est que, au moins dans les exemples traits par Dawson et Fleischmann, la valeur  un instant x du superprocessus avec catalyse est une mesure absolument continue par rapport  la mesure de Lebesgue, ce qui n'est videmment pas le cas pour le super-mouvement brownien usuel en dimension2.

Nous tablissons ici un certain nombre de rsultats gnraux sur les superprocessus avec catalyse, en nous limitant au cas o le dplacement spatial est le mouvement brownien dans Rd. La donne importante est la mesure



qui gouverne le phnomne de branchement. L'en-semble de catalyse

D

est ensuite dni comme le support topologique de



. Les rsultats principaux, obtenus sous des hypothses convenables sur



et

D

, sont les suivants. Nous construisons le super-mouvement brownien avec catalyse comme limite en loi de systmes de particules browniennes avec branchement. Ce rsultat est implicite dans Dynkin 24] (pour des dplacements spatiaux bien plus gnraux) mais comme nos hypothses sont direntes nous avons choisi d'en donner une preuve indpendante. Nous tudions ensuite les proprits de continuit du super-mouvement brownien avec catalyse, puis nous tablissons un thorme de reprsentation en dehors de l'ensemble de catalyse, qui montre en particulier que la va-leur du superprocessus  un instant donn est une mesure absolument continue par rapport  la mesure de Lebesgue sur

D

c_{. Ce thorme de reprsentation gnralise un rsultat de}

Fleischmann et Le Gall concernant le cas particulier d'un point de catalyse en dimension un. Dcrivons maintenant plus en dtail le contenu des dirents paragraphes. Le paragraphe II.2 prsente un lemme prliminaire et donne surtout l'hypothse clef (H) sur la mesure



qui gouverne le branchement. Cette hypothse entraine entre autre l'existence d'une fonctionnelle additive continue

A

associe  la mesure



.

Dans le paragraphe II.3, on considre un systme de particules rgi par les rgles suivantes: $ Chaque particule a des instants de naissance et de mort alatoires.

$ tant donn l'instant de naissance

t

et le lieu de naissance

x

, la trajectoire de chaque particule a pour loi la loi du mouvement brownien issu de

x

 l'instant

t

. Les trajectoires des direntes particules sont indpendantes.

$ tant donn la trajectoire d'une particule, sa probabilit de survivre sur l'intervalle de temps (

st

) est donne par e;(At;As).

$ Une particule qui meurt donne naissance indpendamment de ce qui prcde  0 ou 2 enfants avec probabilit 1/2 (phnomne de branchement critique).

Si on note

Y

t(

C

) le nombre de particules qui sont  l'instant

t

dans le sous-ensemble borlien

C

deRd, alors(

Y

t

t

0) dnit un processus de Markov homogne  valeurs dans l'ensemble des mesures ponctuelles nies sur Rd. Si on aecte un poids 1

=n

aux particules et si on remplace la fonctionnelle additive

A

par

nA

, les processus correspondants

Y

n _{convergent en}

loi vers un processus de Markov homogne  valeurs dans l'espace des mesures nies sur Rd (thorme II.3.2). Ce processus limite not

X

est le super-mouvement brownien avec mesure de catalyse



. La loi de

X

est caractrise par sa fonctionnelle de Laplace, solution d'une quation intgrale (cf (II.10)).

En valuant les moments de

X

et en utilisant le lemme de Kolmogorov, on montre, dans le paragraphe II.4, que le processus

X

possde une version continue pour la topologie de la convergence troite (thorme II.4.7). On montre aussi gr%ce  un rsultat de Perkins 51], que pour toute fonction mesurable borne

'

, p.s. le processus (R

(thorme II.4.9). Les calculs des moments qui permettent d'aboutir  ces rsultats constituent un outil important pour les parties suivantes.

Dans le paragraphe II.5, on construit pour toute mesure

vriant la condition d'intgra-bilit (H) une mesure alatoire ; surR

+

Rd. Ces mesures alatoires jouent un r"le capital dans la suite de ce travail et en particulier dans le thorme de reprsentation en dehors du support de



. En termes intuitifs, la mesure ; rend compte des instants de visite et de la

quantit de particules qui rencontrent le support de

. On peut aussi rapprocher les mesures ; des temps locaux de collision qui ont t tudis par plusieurs auteurs (Barlow, Evans,

Perkins 2] et tout rcemment Dawson et Fleischmann 12]). Formellement l'approximation conduisant  ; est la mme que pour le temps local de collision,  ceci prs que la mesure

dtrministe

remplace le deuxime superprocessus indpendant.

En vue du thorme de reprsentation, on rappelle dans le paragraphe II.6 des rsultats gnraux de Maisonneuve 44] concernant l'existence pour le mouvement brownien d'un temps local

L

sur l'ensemble

D

et d'une famille universellement mesurable de mesures d'excursion en dehors de

D

. On note

H

x _{la mesure d'excursion hors de}

_D

_{partant de}

_x

_.

On nonce dans le paragraphe II.7 le thorme de reprsentation sous la condition (hypo-thse (H')) que la mesure de Revuz



associe au temps local

L

vrie la condition d'intgra-bilit (H). Cette condition est automatiquement vrie si

d

= 1, en dimension suprieure, elle est vrie ds que

D

satisfait une hypothse de rgularit assez faible (cf Appendice). On peut alors considrer la mesure alatoire ; avec

:=



construite dans le paragraphe

II.5. On dnit pour

t >

0 une mesure alatoire tsur Rd par: ( t

'

) :=

Z 1

0u<t

H

x

_'

₍

_!

₍

_t

;

u

))];(

dudx

)

:

Si

Q

t dsigne le noyau de transition du mouvement brownien tu sur

D

, alors on a la

repr-sentation suivante sur le complmentaire de

D

(thorme II.7.1):PX-p.s. pour tout

t >

0, 1Dc

:X

t= t+

Q

t

:

Remarquons que, si

D

est un ensemble de mesure de Lebesgue nulle, alors p.s. pour tout

t >

0 la mesure

X

t ne charge pas

D

. Le thorme prcdent donne donc une formule de

reprsentation pour

X

t et pas seulement pour 1Dc

:X

t.

Dans le paragraphe II.8,  l'aide des formules de reprsentation, on montre que le processus (

X

t(

dx

)

t >

0) possde sur

D

cune densit

z

(

tx

) par rapport  la mesure de Lebesgue. Cette

densit est de classe

C

1sur(0



1)

D

c et est solution de l'quation de la chaleur (thorme II.8.1).

Enn, dans le paragraphe II.9, on donne une autre application des mesures ;.

Prcis-ment, on identie la mesure de covariance de la mesure martingale orthogonale associe 

X

 la mesure ; pour

:=



.

Aprs avoir rdig la premire version de cet article, nous avons eu connaissance des rsul-tats obtenus indpendamment par Dawson et Fleischmann 12], qui dans le but de construire un super-mouvement brownien dans un milieu super-brownien, tudient des superprocessus avec catalyse gnraux. Sous des hypothses direntes des n"tres, Dawson et Fleischmann obtiennent aussi des rsultats d'absolue continuit, mais sans thorme de reprsentation et sans information sur la rgularit des densits.

II.2 Notations et rsultats prliminaires

II.2.1 Hypoth se d'intgrabilit (H)

On considre l'espace euclidien Rd. On dit qu'une mesure positive



-nie

vrie l'hypo-thse d'intgrabilit (H), s'il existe un rel



2(0



1) tel que

d

;2 + 2



0 et

sup x2Rd Z B(x
1)

(

dy

) j

x

;

y

j d;2+2

<

1



o

B

(

x

1) est la boule ouverte de centre

x

et de rayon 1.

Pour

d

= 1 toutes les mesures nies vrient cette condition d'intgrabilit (prendre



= 1

2). Pour

d

quelconque, il est clair que la mesure de Lebesgue convient galement. Remarquons de plus que sous l'hypothse (H), la mesure

ne charge pas les ensembles polaires du mouvement brownien. En eet pour que la mesure

ne charge pas les ensembles polaires, il est su#sant que j

x

;

y

j

;d+2

(respectivement log(j

x

;

y

j ;1

)) soit localement in-tgrable par rapport 

(

dy

) si

d

 3 (resp. si

d

= 2) (cf 53]). On vrie facilement ces conditions pour toute mesure

satisfaisant (H).

A cause des relations classiques entre capacit et mesure de Hausdor (cf 29]), on remarque que la condition (H) implique que la dimension de Hausdor du support de

est suprieure ou gale 

d

;2 + 2



.

II.2.2 Notations et quelques rappels

Pour allger les dmonstrations, on notera

c

une constante qui peut changer d'une ligne de calcul  l'autre. On note(

M

f



Mf) l'espace des mesures positives nies surRd muni de la topologie de la convergence troite. De manire gnrale, pour tout espace mesurable(



G), on noteG

 la compltion universelle de

G, et pour tout espace polonais

S

, on note respectivement B(

S

), Bb+(

S

),

C

(

S

),

C

b+(

S

), l'ensemble des fonctions de

S

 valeurs dansR respectivement mesurables, mesurables positives bornes, continues, continues positives bornes. Par abus de notation, on crit aussiB(

S

) pour la tribu borlienne sur

S

. On note(

M

f(

S

)



Mf(

S

)) l'espace des mesures positives nies sur

S

muni de la topologie de la convergence troite. L'espace (

M

f(

S

)



Mf(

S

)) est polonais. Pour toute fonction

f

2B(

S

), on notek

f

k:= supx

2S

j

f

(

x

)jet pour toute mesure



2

M

f(

S

), on crit indiremment

R

f

(

y

)



(

dy

) = (

f

).

On note

P

sle noyau de transition du mouvement brownien en dimension d et

p

sa densit

de transition:

p

(

sx

) := ₍₂

_s

1_)d=2 exp ; j

x

j 2 2

s

(

xs

)2Rd (0



1)

:

On utilisera les rsultats lmentaires suivants:

Lemme II.2.1

Soit

une mesure sur Rd v riant (H). On a les majorations suivantes: soit

" >

0, il existe une constante

c >

0 telle que pour tout (

xst

)2Rd (0



1)(0



1),

j

p

(

sx

);

p

(

tx

)j

c

Z s
t] 1

u p

(

u

(1 +

"

)

x

)

du

 (II.1) pour tout(

xs

)2Rd (0



1), Z

p

(

sx

;

y

)

(

dy

)

c

1 (

s

^1) 1; (II.2)

pour tout(

xx

0

s

) 2Rd Rd (0



1), Z

(

dy

)

p

(

sx

;

y

);

p

(

sx

0 ;

y

) 

c

(

s

^1) ;3=2

x

;

x

0  (II.3) et pour tout(

xx

0

s

)

2Rd Rd (0



1), pour toute fonction

f

2B(Rd) born e,

P

s

f

(

x

);

P

s

f

(

x

0) 

c

1 p

s

k

f

k

x

;

x

0

:

(II.4)

Preuve.

Considrons la majoration (II.1). Il existe une constante

c

dpendant de

"

telle que pour tout

r

0, on a (

r

+

d

)e ;r=2 

c

exp; r 2(1+"), et donc j

p

(

sx

);

p

(

tx

)j= Z s
t]

p

(

ux

)  j

x

j 2 2

u

2 ;

d

2

u

!

du



c

Z s
t] 1

u p

(

u

(1 +

"

)

x

)

du:

Pour la majoration (II.2), remarquons que si

v >

0, la fonction

s

7!

s

;v=2e;c=s dnie sur (0



1) atteint son maximum pour

s

= 2

c=v

. Il en dcoule que pour tout (

xsv

) 2 Rd (0



1)(0



1) 1 (2

s

)v=2 e ;jxj 2= 2s 

v

2



v= 2 j

x

j ;v e;v=2

:

Comme Z B(x
1)

p

(

sx

;

y

)

(

dy

) =

c

Z B(x
1) 1

s

1; 1

s

(d;2+2)=2 e ; jx;yj 2 2s

(

dy

)



en prenant

v

=

d

;2 + 2



dans la majoration prcdente et en utilisant l'hypothse (H), on obtient: Z B(x
1)

p

(

sx

;

y

)

(

dy

)

c

1

s

1;



(II.5) o

c

est indpendant de

x

et

s

. Ensuite, on peut recouvrir

B

(

x

1)c _{par une famille}

dnom-brable; 

B

(

z

i



1

=

4)

i

2

I

de boules fermes de rayon1

=

4, dont les centres

z

i appartiennent 

x

+ 1 2

p

dZd. On peut supposer que pour tout

i

2

I

,j

x

;

z

ij1

=

2, de sorte que si

y

2

B

(

z

i



1

=

4), alorsj

x

;

y

j

1 2

j

x

;

z

ij. En remarquant que gr%ce  (H), ;

( 

B

(

z

i



1

=

4))

i

2

I

est uniform-ment born, il vient:

Z B(x
1)c

p

(

sx

;

y

)

(

dy

) 

c

s

d=2 X i2I exp  ; 1 4 j

x

;

z

ij 2 2

s

! 

c

s

d=2 e ; 1 16d 1 4s X z2Zdnf0g exp  ; 1 16

d

j

z

j 2 4

s

! 

c

s

d=2 e ;1=(64ds) " X n2N exp  ; 1 16

d

n

2 4

s

 #d

:

Comme l'application

x

7! e ;x

2

est dcroissante sur R

+, on peut majorer les sommes de Riemann par l'intgrale de Lebesgue. On obtient alors pour tout

h >

0:

h

X n>0 e;(hn) 2  Z 1 0 e;x 2

dx:

En appliquant cette majoration au rsultat prcdent avec

h

:= (64

ds

);1=2, il vient pour tout

s

2(0



1): Z B(x
1)c

p

(

sx

;

y

)

(

dy

)

c

1

s

d=2 h 1 + 8p

ds

id exp;1

=

(64

ds

) 

c:

On dduit alors de cette ingalit et de (II.5) la majoration (II.2). Pour montrer (II.3), on utilise la majoration

r

e;r

2 

c

e ;r 2= 2 (

r

0) qui implique Z

(

dy

)

p

(

sx

;

y

);

p

(

sx

0 ;

y

)  Z

(

dy

)₍₂

_s

1_)d=2 Z 1 0 1

s

(

u

(

x

;

x

0) +

x

0 ;

y

j

x

;

x

0) e ; ju (x;x 0 )+x 0 ;y j 2 2s

du



c

1 p

s

x

;

x

0 Z 1 0

du

Z

(

dy

) 1

_s

_d=2 e ; ju(x;x 0 )+x 0 ;yj 2 4s



o on a not (

x

j

y

) le produit scalaire dans Rd. En utilisant (II.2), on obtient la majoration souhaite.

Enn, la majoration (II.4) dcoule facilement de l'ingalit ci-dessus, en remplaant sim-plement

(

dy

) par j

f

(

y

)j

dy

. 2 On note



un point cimetire ajout  Rd comme point  l'inni. On considre  := D ; R +



Rd S f



g

l'espace des fonctions dnies surR

+  valeurs dans Rd

S

f



g continues  droite et limites  gauche. On note

B

:= (



F



Ft

B

t



t



(Px)x

2Rd) la ralisation canonique du mouvement brownien sur  (cf 9]). Pour toute la suite, on xe



une mesure positive satisfaisant l'hypothse (H) avec un rel

2(0



1). On note

D

le support topologique de cette mesure. On a vu que la mesure



ne charge pas les ensembles polaires pour le processus

B

. En utilisant (II.2), on remarque que pour tous

r >

0,

x

2Rd, l'intgrale

R



(

dy

)R 1 0

p

(

sx

;

y

)e;rs

ds

est nie. D'aprs le chapitre VI de 9], il existe une unique fonctionnelle additive continue du processus

B

, note

A

, telle que pour tout

f

2 Bb+(Rd), pour tout (

xr

) 2 Rd (0



1), Ex Z 1 0

f

(

B

s)e;rs

dA

s= Z 1 0

ds

Z



(

dy

)

p

(

sx

;

y

)e ;rs

f

(

y

)

:

On en dduit par un argument de classe monotone que pour toute fonction

f

2Bb+(R

+ Rd), Ex Z 1 0

f

(

sB

s)

dA

s = Z 1 0

ds

Z



(

dy

)

p

(

sx

;

y

)

f

(

sy

)

:

(II.6) On utilisera galement la famille de constantes (

a

T)T2(0
1] dnies par:

a

T := sup x2Rd Ex

A

T = sup x2Rd Z T 0

ds

Z



(

dy

)

p

(

sx

;

y

)

:

La majoration (II.2) montre que pour tout temps

T <

1,

a

T 

c

(

T

_

T

)

<

1.

L'objectif du prsent travail est l'tude du superprocessus

X

associ au triplet(

BA

2 2 ), dans la terminologie de 24]. Remarquons cependant que l'article 24] impose la nitude des moments exponentiels de tous ordres de la fonctionnelle additive

A

, ce qui n'est pas forcment vri ici.

II.3 Construction du super-mouvement brownien

avec catalyse comme limite de systmes de particules avec

branchement

II.3.1 Construction du syst me de particules avec branchement.

Nous dveloppons dans ce paragraphe une construction prcise du systme de particules avec branchement dj prsent dans l'introduction. On note W l'ensemble des triplets w = (

'


) o

2 0



1),



2 0



1],





et

'

est une application continue de



] dansRd (de



1) si



=1). Soit

g

une application continue strictement croissante de 0



1] dans 0



1]. La distance surW est dnie par:

d

(w1



w2) := j

1 ;

2 j+j

g

(



1) ;

g

(



2) j + 1 X k=1  2;k ^ sup t20
k] j

'

1((

1 _

t

)^



1) ;

'

2((

2 _

t

)^



2) j !

:

Alors (W

d

) est un espace polonais. On dnit pour tout (

rx

) 2 R +

Rd une probabilit r
x sur W comme tant la loi d'un mouvement brownien

B

issu de

x

 l'instant

=

r

et arrt  un instant alatoire



tel que pour tout

t



r

,

r
x(

 > t

j

B

s

r



s



t

) = e ;At ;r (en particulierr
x(



=1j

B

s

r



s

) = e ;A 1).

On introduit le modle d'arbre suivant 46]. Soit l'ensemble

U

:= f

@

g S

(S 1

n=1

f1



2gn). L'lment

@

est interprt comme l'anctre de la population. Pour

u

2

U

, on note j

u

j= 0 si

u

=

@

,j

u

j=

n

si

u

2f1



2gn. Si

u

6=

@

,

u

= (

i

1

::: i

n) on note 

u

:= (

i

1

::: i

n;1) le pre de

u

.

Fixons

x

2 Rd. A chaque

u

2

U

, on associe un lment alatoire wu = (

'

u



u



u) de W

S

fg, o est un point cimetire ajout W comme point isol. On construit la famille (wu

u

2

U

) par rcurrence surj

u

j.

Si

u

=

@

, w@ a pour loi 0
x. Ensuite supposons construit wu pour

j

u

j 

n

. Alors les trajectoires wv, j

v

j=

n

+ 1 sont indpendantes conditionnellement  (wu



j

u

j 

n

). De plus soit

v

avecj

v

j=

n

+ 1, alors

$ si wv =  ou si



v =

1 on awv =  $ si wv

6

=  et



v

<

1 la loi conditionnelle dewv sachant (wu



j

u

j

n

) est   v
'v

(  v). Il reste  introduire le phnomne de branchement. Pour cela on considre un arbre alatoire

A

de loi de reproduction



(0) =



(2) = 1

donne une famille

u,

u

2

U

de variables alatoires indpendantes et indpendantes de (wu,

u

2

U

) de loi



et on pose

A

=f

@

g  n (

u

1

::: u

n) 2

U



(u 1
:::uj )= 2



8

j

2f0

::: n

;1g o (pour

j

= 0,

(u 1
:::uj )=

@).

Pour tout

t

0, on dnit une mesure ponctuelle

Y

tsur Rd par la formule (

Y

t



1C) := cardf

u

2

A



u

t < 

u

'

u(

t

)2

C

g

:

Remarquons que

Y

0 =



x. Par des mthodes classiques, on vrie que le processus(

Y

t

t

0) est un processus de Markov homogne  valeurs dans l'espace des mesures ponctuelles surRd. On note

Q

x la loi de (

Y

t

t

0). Si



:=

Pn

i=1



xi est une mesure nie, on note

Q

 la loi du processusPn

i=1

Y

i _{o les processus}

_Y

i _{sont indpendants et de lois respectives}

_Q

_xi.

Le caractre critique du branchement assure que le nombre total de particules cres est ni p.s.. En revanche, il n'y a pas forcment extinction car certaines particules peuvent aprs un certain temps ne plus tre soumises au phnomne de branchement (c'est le cas en particulier si

d

 3 et



 support compact). La famille de probabilits (

Q

) satisfait par construction au principe de superposition suivant: soit une fonction

f

2Bb+(Rd), soient des mesures ponctuelles nies



1

::: 

n telles que



=

Pn i=1



i, alors on a

Q

 exp;(

Y

t

f

)] = n Y i=1

Q

i exp;(

Y

t

f

)]

:

Cela suggre d'tudier la fonction

v

dnie sur R

+ Rd par:

v

(

tx

) :=

Q

x exp;(

Y

t

f

)]



(

tx

)2R + R d

_:

Sous

Q

x, on a

Y

t =



'@(t) sur

f



@

> t

g, c'est  dire si la particule anctre est encore en vie  l'instant t. En revanche surf



@

t

g on a

Y

t= 0 si

@ = 0 et si

@ = 2,

Y

t=

Y

1

t +

Y

2

t

o les

Y

it sont indpendants et de loi conditionnelle

Q

@
_'@(@) connaissant w@. Cela conduit  la formule suivante:

v

(

tx

) =Ex e ;Ate;f(Bt) +12 Z t 0 e;As 1 +

v

(

t

;

sB

s) 2]

dA

s

:

(II.7) En remplaant

v

(

t

;

uB

u) par son expression donne par (II.7), on trouve:

Ex Z t 0

v

(

t

;

uB

u)

dA

u =Exe ;f(Bt)  1;e ;At  + 12Ex Z t 0

dA

u Z t u e ;As+Au  1 +

v

(

t

;

sB

s) 2 

dA

s =Exe ;f(Bt)  1;e ;At  + 12Ex Z t 0 ; 1;e ;As  1 +

v

(

t

;

sB

s) 2 

dA

s

:

En ajoutant cette dernire quation  l'quation (II.7), il vient:

v

(

tx

) =

P

t exp;

f

](

x

) + 12Ex Z t 0 1;

v

(

t

;

sB

s)] 2

dA

s

:

(II.8)

Cette quation est plus utile que l'quation (II.7) pour le passage  la limite que l'on consid-rera dans la suite du paragraphe. Remarquons dj que (II.8) permet de calculer les moments d'ordre un de

Y

t.

Lemme II.3.1

Soit

f

2Bb+(Rd), on a

Q

x(

Y

t

f

) =

P

t

f

(

x

).

Preuve.

Soit un rel

"

0, on note

v

"(

tx

) :=

Q

xexp;

"

(

Y

t

f

). On ak

v

"k1. On dduit de l'quation (II.8) que

0 1;

v

"(

tx

)

"



P

t 1;e ;"f

"

(

x

)k

f

k

:

En utilisant de nouveau (II.8) et le fait queEx

A

t

a

t

<

1, on obtient quelim" !0

+

1;v"(t
x)

" =

P

t

f

(

x

). Or par convergence monotone on a:

Q

x(

Y

t

f

) = lim_" !0 + 1

" Q

x h 1;e ;"(Yt
f) i

:

On en dduit le rsultat recherch. 2

II.3.2 Le passage  la limite.

Soit (



n)n2N une suite de mesures ponctuelles nies. Pour tout entier

n

, on considre un processus(

Y

nt

t

0) associ par la construction du paragraphe prcdent  la fonctionnelle additive

A

n _:=

_nA

_{et de valeur initiale}

_

_{n. On a un thorme similaire au thorme 1.1 de}

24].

Thorme II.3.2

Supposons que 1

n



n converge troitement vers



2

M

f. Alors la suite de processus (1

n

Y

n)n2N converge au sens de la convergence troite des lois marginales de dimen-sion nie vers un processus (

X

t

t

0). Ce processus est un processus de Markov homogne  valeurs dans

M

f. Sa loi est caract ris e par:



X

0

p:s:₌

_

 pour tout

T >

0, pour tout entier

p

1, pour tous 0 =

t

0

<



< t

p 

T

, pour toute fonction

f

2

C

b+(Rd) telle que

a

Tk

f

k

<

1, on a

E  exp;(

X

tp

f

)j

X

t 0

::: X

tp;1  = exp;(

X

tp ;1

w

(

t

p ;

t

p ;1))



(II.9) o

w

est l'unique solution positive mesurable de l' quation int grale:

w

(

tx

) =

P

t

f

(

x

); 1 2Ex Z t 0

w

(

t

;

sB

s) 2

dA

s



(

tx

)2 0

T

]Rd

:

(II.10)

Preuve.

Soit

f

2 Bb+(Rd) telle que

a

Tk

f

k

<

1. Remarquons dans une premire tape que l'quation intgrale (II.10) possde au plus une solution positive. En eet toute solution positive est borne park

f

k. Donc si

w

en faisant la dirence dans l'quation (II.10), et en utilisant la dnition des constantes

a

T, il vient: k

w

1 ;

w

2 k sup x2Rd
t20
T] 1 2 Z t 0

ds

Z



(

dy

)

p

(

sx

;

y

)

w

1(

t

;

sy

) 2 ;

w

2(

t

;

sy

) 2 k

f

k k

w

1 ;

w

2 k

a

T

:

Comme

a

T k

f

k

<

1, on en dduit que

w

1 =

w

2. On pose

w

n(

tx

) :=;

n

log

Q

x exp; 1

n

(

Y

nt

f

)

:

(II.11)

Lemme II.3.3

La suite de fonctions

w

n converge uniform ment sur 0

T

]Rd vers une fonction

w

positive mesurable solution de (II.10) sur 0

T

]Rd. Pour0

< t



T

, les fonctions

w

(

t:

) sont continues sur Rd, et

w

(0

x

) =

f

(

x

).

La dmonstration du lemme II.3.3 est reporte  la n de cette partie. On tablit dans une deuxime tape que la valeur initiale

X

0

p:s:₌

_

_{et la relation (II.9)}

dterminent uniquement la loi du processus de Markov

X

. En eet, soit

X

0un autre processus avec les mmes proprits, un raisonnement par rcurrence simple montre que pour toutes fonctions

f

0

::: f

p 2

C

b +( Rd) et

 >

0 tels que

a

T



Pp i=0 k

f

ik

<

1 et pour 0 =

t

0

<



<

t

p

T

, on a: Eexp;



p X i=0 (

X

ti

f

i) =Eexp;



p X i=0 (

X

0 ti

f

i)

(remarquer que la solution de (II.10) associe 

f

vrie pour tout

t

 0 k

w

(

t

)k  k

f

k et

w

(

t

) 2

C

b

+(

Rd) d'aprs le lemme II.3.3). Un raisonnement de prolongement analytique montre que l'galit prcdente est vraie pour tout



0. On conclut que les processus

X

et

X

0 ont les mmes lois marginales de dimension nie.

Montrons dans une troisime tape que la suite 1

n(

Y

nt0

::: Y

ntp) converge en loi dans

M

f vers la variable alatoire(

X

t0

:::X

tp) vriant

X

0=



p.s. et la relation (II.9). Pour cela on utilise un argument classique de compactication.

On note ^Rd le compacti d'Alexandrov deRd. Les ensembles f

2

M

f(^Rd) (



1)

K

g

sont compacts dans l'espace polonais

M

f(^Rd). Le lemme II.3.1 montre que

Q

n(1

n

Y

nt



1) = (nn



1). On a alors pour tout

n

assez grand et pour tout rel positif

K

,

Q

n 1

_n

(

Y

nt



1)

> K

]

1

K Q

n 1

_n

(

Y

nt



1)]

(



1) + 1

K :

Donc pour tout

t

2 0

T

], la suite des lois 1

n

Y

ntest tendue dans

M

f(

M

f(^Rd)). De mme, pour 0 =

t

0

< ::: < t

p



T

, la famille des lois de 1

n(

Y

nt0

::: Y

ntp) est tendue dans

M

f(

M

f(^ Rd)]p

+1). On en dduit l'existence d'une sous-suite 1

nk(

Y

tn0k

::: Y

nk

tp ) qui converge en loi vers une va-riable alatoire  valeurs dans

M

f(^Rd)]p

+1, que l'on note (

X