Around some selfsimilar processes with stationary increments

HAL Id: tel-01108624

https://tel.archives-ouvertes.fr/tel-01108624

Submitted on 23 Jan 2015

HAL is a multi-disciplinary open access archive for the deposit and dissemination of sci- entific research documents, whether they are pub- lished or not. The documents may come from teaching and research institutions in France or abroad, or from public or private research centers.

L’archive ouverte pluridisciplinaire HAL, est destinée au dépôt et à la diffusion de documents scientifiques de niveau recherche, publiés ou non, émanant des établissements d’enseignement et de recherche français ou étrangers, des laboratoires publics ou privés.

Around some selfsimilar processes with stationary increments

Benjamin Arras

To cite this version:

Benjamin Arras. Around some selfsimilar processes with stationary increments. Probability

[math.PR]. ECOLE CENTRALE DE PARIS, 2014. English. �tel-01108624�

ECOLE CENTRALE DES ARTS

ET MANUFACTURES

“ECOLE CENTRALE PARIS”

Th` ese

pr´ epar´ ee par Benjamin Arras pour l’obtention du grade de Docteur

Sp´ ecialit´ e: Math´ ematiques

Laboratoire d’accueil: Math´ ematiques Appliqu´ ees aux Syst` emes (MAS)

Autour de quelques processus ` a accroissements stationnaires et autosimilaires

M. Jacques L´ evy-V´ ehel Directeur de th` ese M. Mihai Gradinaru Rapporteur

M. Ciprian Tudor Rapporteur

N ^◦ d’ordre : 2014ECAP0061 Soutenu le 11 d´ ecembre 2014 devant un jury compos´ e de :

M. Mihai Gradinaru Universit´ e de Rennes 1 Rapporteur M. Massimiliano Gubinelli Universit´ e Paris Dauphine Examinateur M. Jacques L´ evy-V´ ehel Ecole Centrale Paris/INRIA Directeur de th` ese M. Ivan Nourdin Universit´ e du Luxembourg Examinateur M. Ciprian Tudor Universit´ e Lille 1 Rapporteur

M. Frederi Viens Purdue University Examinateur

Contents

Introduction 9

1 R´ egularit´ e des trajectoires de processus stochastiques. . . . 9

2 G´ eom´ etrie fractale. . . . . 17

3 Analyse stochastique. . . . 19

4 Organisation et r´ esultats principaux. . . . 22

1 On a class of self-similar processes with stationary increments in higher order Wiener chaoses. 30 1 Definitions and notations . . . . 33

2 Wavelet decomposition . . . . 34

3 Uniform and Local Regularity of the sample paths . . . . 40

4 Hausdorff Dimensions of SSSI processes represented by multiple Wiener-Itˆ o integrals 50 2 A white noise approach to stochastic integration with respect to the Rosen- blatt process. 59 1 White noise setting. . . . 62

2 Second order Wiener chaoses and Rosenblatt process. . . . 65

3 Stochastic calculus and Itˆ o formula with respect to the Rosenblatt process. . . . 72

4 Comparison with other approaches . . . . 85

5 Variance formula . . . . 90

3 From forward integrals to Wick-Itˆ o integrals: the fBm and the Rosenblatt process cases. 101 1 Hida distribution and Sobolev-Watanabe-Kree spaces. . . 103

2 Stochastic analysis of fractional Brownian motion and of the Rosenblatt process. 107 3 From forward integrals to Wick-Itˆ o integrals. . . 112

3.1 Fractional Brownian motion. . . 113

3.2 The Rosenblatt process. . . 119

3.2.1 Trace term of order 1 . . . 127

3.2.2 Trace term of order 2 . . . 130

Bibliography 135

Remerciements

Tout d’abord, je remercie mon directeur de th` ese, Jacques L´ evy-V´ ehel, pour m’avoir initi´ e aux th´ eories des ondelettes et des distributions stochastiques de Hida. Je le remercie ´ egalement de m’avoir laiss´ e beaucoup de libert´ e dans mes recherches au cours de ces trois ann´ ees de travail.

J’exprime de chaleureux et sinc` eres remerciements ` a Mihai Gradinaru et ` a Ciprian Tudor pour avoir accept´ e la lourde tˆ ache de rapporter mon manuscrit. Leurs pr´ esences dans mon jury, ainsi que celles de Massimiliano Gubinelli, d’Ivan Nourdin et de Frederi Viens m’honorent v´ eritable- ment. A diff´ erents instants de ces trois ann´ ees, leurs travaux respectifs ont influenc´ e de pr` es comme de loin mes r´ eflexions scientifiques.

Je pense que je n’en serai pas l` a aujourd’hui sans les conseils avis´ es d’Erick Herbin. Grˆ ace

`

a lui, j’ai red´ ecouvert les math´ ematiques ` a Centrale, ai appris la rigueur des probabilit´ es et ai poursuivi l’´ etude de celles-ci en master. Sans lui, je n’aurais jamais continu´ e dans cette voie.

C’est pourquoi, je te remercie beaucoup, Erick, pour les nombreuses discussions ´ echang´ ees et les nombreux conseils prodigu´ es. Ces ann´ ees de th` ese auraient ´ et´ e sˆ urement plus difficiles sans l’environnement joyeux du laboratoire MAS et tout particuli` erement de certaines personnes le constituant. Je remercie donc avec plaisir mes anciens compagnons de bureau, Alexandre et Paul, et des bureaux voisins, Blandine, Benoit, Gautier, Ludovic, Marion et Pierre-Andr´ e.

Je remercie ´ egalement Sylvie pour son humour d´ ecapant et sa franchise ` a toute ´ epreuve. Je souhaiterais en particulier remercier Pauline pour ses conseils ´ eclair´ es concernant le monde de la recherche et pour les discussions que nous avons pues partager.

Ces trois ann´ ees de th` ese ne se r´ eduisent bien ´ evidemment pas ` a l’environnement de travail. Je n’aurai sˆ urement pas termin´ e cette th` ese sans le soutien de mes amis et de ma famille. Ainsi, je remercie, avec joie, Jacques avec qui c’est toujours un plaisir d’´ echanger politiquement, lit- t´ erairement, scientifiquement et culturellement, et Sarah et Thibaut pour les nombreuses ann´ ees d’amiti´ e qui nous lient. Je remercie profond´ ement ma soeur et mes parents pour leur pr´ esence et leur soutien inconditionnels, quels que furent mes choix de vie parfois difficiles. Je ne saurai exprimer par de simples mots toute la gratitude que j’ai pour ma m` ere et mon p` ere.

Enfin, je souhaite remercier avec tendresse, Charlotte: ta rencontre a profond´ ement marqu´ e

mes deux derni` eres ann´ ees de th` ese et ta pr´ esence ` a mes cˆ ot´ es ainsi que ta personnalit´ e joyeuse

et rare ont ´ eclair´ e mon caract` ere t´ en´ ebreux, mon moral souvent d´ efaitiste et mes doutes r´ ecur-

rents. Les beaux moments que nous avons partag´ es furent des rep` eres importants au cours des

ses trois ann´ ees parfois difficiles. J’esp` ere qu’ils seront encore nombreux !

R´ esum´ e: Dans ce travail de th` ese, nous nous int´ eressons ` a certaines propri´ et´ es d’une classe de processus stochastiques ` a accroissements stationnaires et autosimilaires. Ces processus sont repr´ esent´ es par des int´ egrales multiples de Wiener-Itˆ o. Dans le premier chapitre, nous ´ etu- dions les propri´ et´ es g´ eom´ etriques des trajectoires de ce type de processus. En particulier, nous obtenons un d´ eveloppement en ondelettes presque-sˆ ur. Celui-ci permet alors de trouver une borne sup´ erieure pour le module de continuit´ e uniforme, une borne sup´ erieure pour le comporte- ment asymptotique du processus et un r´ esultat presque-sˆ ur concernant les coefficients ponctuel et local de H¨ older. De plus, nous obtenons des bornes inf´ erieures et sup´ erieures pour les dimen- sions de Hausdorff du graphe et de l’image des versions multidimensionnelles anisotropes de la classe de processus consid´ er´ ee. Dans le deuxi` eme et le troisi` eme chapitre de cette th` ese, nous nous int´ eressons au calcul diff´ erentiel stochastique relatif au processus de Rosenblatt. A l’aide de la th´ eorie des distributions de Hida, nous d´ efinissons une int´ egrale stochastique par rapport au processus de Rosenblatt. Nous obtenons une formule d’Itˆ o pour certaines fonctionnelles du processus de Rosenblatt. Nous calculons explicitement la variance de l’int´ egrale stochastique par rapport au processus de Rosenblatt pour une classe sp´ ecifique d’int´ egrandes al´ eatoires. En- fin, nous comparons l’int´ egrale introduite avec d’autres d´ efinitions utilis´ ees dans la litt´ erature et proc´ edons ` a une ´ etude fine des termes r´ esiduels faisant le lien entre ces diff´ erentes d´ efinitions.

Mots-clefs: Calcul stochastique, D´ eveloppement en ondelettes, Dimension de Hausdorff, In- t´ egrale multiple de Wiener-Itˆ o, Processus autosimilaires, Processus de Rosenblatt, R´ egularit´ e H¨ old´ erienne, Th´ eorie des distributions stochastiques de Hida.

Summary: In this PhD thesis, we are concerned with some properties of a class of self-similar stochastic processes with stationary increments. These processes are represented by multiple Wiener-Itˆ o integrals. In the first chapter, we study geometric properties of the sample path of this type of processes. Specifically, we obtain an almost sure wavelet expansion which, in turn, allows us to compute an upper bound for the uniform modulus of continuity, an upper bound for the asymptotic growth at infinity of the processes and the almost sure values of the pointwise and local H¨ older exponents at any points. Moreover, we obtain lower and upper bounds for the Hausdorff dimensions of the graph and the image of multidimensional anisotropic versions of the class of processes previously considered. In the second and in the third chapters, we are interested in the stochastic calculus with respect to the Rosenblatt process. Using Hida distributions theory, we define a stochastic integral with respect to the Rosenblatt process. We obtain an Itˆ o formula for some functional of the Rosenblatt process. We compute explicitly the variance of the stochastic integral with respect to the Rosenblatt process for a specific class of stochastic integrands. At last, we compare the considered integral with other definitions used in the literature and provide a careful analysis of the residual terms linking the different definitions of integrals.

Key words: H¨ older regularity, Hausdorff dimension, Multiple Wiener-Itˆ o integral, Self-similar

processes, Rosenblatt process, Stochastic calculus, Wavelet expansion, White noise distribution

theory.

Introduction

1 R´ egularit´ e des trajectoires de processus stochastiques.

En analyse, la premi` ere rencontre avec la notion de r´ egularit´ e se fait ` a travers celle de continu- it´ e. La question naturelle qui suit ce concept, permettant un approfondissement de l’´ etude des fonctions, est celle de la d´ erivabilit´ e. N´ eanmoins, d` es la fin du XIXi` eme si` ecle, des math´ emati- ciens tel que K. Weierstrass ont introduit et d´ ebut´ e l’´ etude de fonctions continues partout mais d´ erivables nulle part. Ces objets, qualifi´ es de pathologiques par la communaut´ e math´ ematique du d´ ebut du XXi` eme si` ecle, ont rencontr´ e un essor particuli` erement important sous l’influence du math´ ematicien B. Mandelbrot par l’introduction du concept d’ensemble fractal. En effet, l’image et le graphe de ce type de fonctions sont des exemples de fractales. Ainsi, il a fallu d´ evelopper de nouveaux outils d’analyse afin d’´ etudier de fa¸con quantitative la r´ egularit´ e des trajectoires de ces fonctions. Dans ce contexte de recherche, sont apparus l’espace de H¨ older ponctuel et l’exposant ponctuel de H¨ older d’une fonction. Il sont d´ efinis comme suit:

D´ efinition 1.1: Soit α > 0 et t ₀ ∈ R . La fonction f : R → R appartient ` a l’espace C ^α (t ₀ ) s’il existe C > 0, δ > 0 et un polynˆ ome P de degr´ e au plus bαc tels que:

∀|t − t ₀ | ≤ δ, |f (t) − P (t)| ≤ C|t − t ₀ | ^α . De plus, l’exposant ponctuel de H¨ older de f en t ₀ est d´ efini par:

α f (t 0 ) = sup{α > 0; f ∈ C ^α (t 0 )}.

Lorsque cet exposant est compris entre (0, 1), il admet la repr´ esentation utile suivante:

α _f (t ₀ ) = sup

α > 0; lim sup

ρ→0

|f (t ₀ + ρ) − f (t ₀ )|

|ρ| ^α < ∞

.

De fa¸con analogue ` a cette repr´ esentation, un autre exposant de r´ egularit´ e, l’exposant local de

H¨ older, peut s’av´ erer compl´ ementaire dans l’´ etude de la r´ egularit´ e d’une fonction continue mais

nulle part d´ erivable. Il est d´ efini par:

˜

α f (t 0 ) = sup (

α > 0; lim sup

ρ→0

sup

t,s∈B(t

,ρ)

|f(t) − f (s)|

|t − s| ^α < ∞ )

.

L’exemple paradigmatique de fonction pour laquelle ces exposants de r´ egularit´ e diff` erent est la fonction dite de ”chirp”. Pour α ∈ (0, 1) et β > 0, elle est d´ efinie par:

∀x ∈ R , f _ch (x) = |x| ^α sin 1

|x| ^β

.

Cette fonction poss` ede un comportement local non-trivial en 0. En effet, on a le r´ esultat suivant:

α _f

(0) = α, α ˜ _f

(0) = α 1 + β .

Parall` element aux d´ eveloppements d’outils analytiques tels que les exposants de r´ egularit´ e, le XXi` eme si` ecle a vu l’´ emergence et le d´ eveloppement de la th´ eorie des probabilit´ es et notamment des processus stochastiques. Le repr´ esentant central de cette th´ eorie est incontestablement le mouvement brownien. Observ´ e empiriquement pour la premi` ere fois par le botaniste R. Brown, puis introduit plus tardivement en physique par A. Einstein [35],[34], cet objet n’a ´ et´ e d´ efini math´ ematiquement qu’en 1923 par N. Wiener [120]:

D´ efinition 1.2: Le mouvement brownien standard, not´ e {B _t ; t ∈ R ⁺ }, est l’unique processus gaussien centr´ e de fonction de covariance donn´ ee par:

∀s, t ∈ R + , E [B _t B _s ] = s ∧ t.

Les trajectoires du mouvement brownien pr´ esentent des propri´ et´ es similaires ` a celles de la fonction de Weierstrass. Notamment, elles sont continues partout mais d´ erivables nulle part.

De plus, concernant les exposants de H¨ older ponctuel et local, le r´ esultat suivant a ´ et´ e d´ emontr´ e ([83]):

p.s. ∀t ∈ R ⁺ , α B (t) = ˜ α B (t) = 1 2 .

Malgr´ e son caract` ere central et son apparition naturelle comme processus limite de certains ph´ enon` emes discrets al´ eatoires ind´ ependants (ou faiblement d´ ependants), le mouvement brown- ien appartient ` a une classe plus g´ en´ erale de processus ` a savoir les mouvements browniens frac- tionnaires (not´ es mBf dans la suite). Cette classe est param´ etr´ ee par un r´ eel H ∈ (0, 1) appel´ e l’exposant de Hurst. Ces processus sont d´ efinis comme suit:

Definition 1.3: Soit H ∈ (0, 1). Le mouvement brownien fractionnaire de param` etre H,

not´ e {B _t ^H : t ∈ R + }, est l’unique processus gaussien centr´ e de fonction de covariance donn´ ee

par:

∀s, t ∈ R + , E

B _t ^H B _s ^H

= 1 2

t ^2H + s ^2H − |t − s| ^2H .

On remarque que pour H = 1/2, on retrouve le mouvement brownien standard. Originellement introduit par A. Kolmogorov en 1940, [57], afin de rendre compte des ph´ enom` enes de turbulence dans les fluides, cette classe de processus ne fut d´ emocratis´ ee que bien plus tard par les travaux de B. Mandelbrot et J. Van Ness, [75]. De mˆ eme que les trajectoires du mouvement brownien, celles du mBf sont continues partout mais d´ erivables nulle part et le r´ esultat suivant a ´ et´ e d´ emontr´ e [11],[42],[17]:

p.s. ∀t ∈ R + , α _B

(t) = ˜ α _B

(t) = H.

Afin d’approfondir l’´ etude des trajectoires du mouvement brownien et du mouvement brown- ien fractionnaire, d’autres outils plus fins que les exposants de H¨ older peuvent ˆ etre employ´ es.

Puisque les trajectoires de ces deux processus sont continues sur un compact, elles y sont en par- ticulier uniform´ ement continues. Ainsi, il existe des fonctions croissantes positives (al´ eatoires ` a priori), not´ ees φ _H , telles que:

p.s. lim

h→0

φ _H (h) = 0, p.s. lim sup

h→0

sup

0≤t≤1−h

|B _t+h ^H − B _t ^H | φ _H (h) ≤ 1.

Des r´ esultats bien plus pr´ ecis furent d´ emontr´ es par P. L´ evy (1937, [64]) pour les trajectoires du mouvement brownien, par M. B. Marcus pour les trajectoires du mBf avec H ∈ [0, 1/2] (1968, [76]), et par D. Khoshnevisan et Z. Shi (2000, [56]), pour le mouvement brownien fractionnaire avec H ∈]1/2, 1[. En effet, on a:

p.s. lim sup

h→0

sup

0≤t≤1−h

|B _t+h ^H − B _t ^H | q

2h ^2H log _h ¹

= 1.

De plus, le comportement local en tout point des trajectoires de ces processus est d´ ecrit de fa¸con pr´ ecise par le module de continuit´ e local suivant:

∀t ∈ R + , p.s. lim sup

h→0

|B _t+h ^H − B _t ^H | q

2h ^2H log(log( ¹ _h ))

= 1.

Un tel r´ esultat fut d´ emontr´ e par A. Khinchin (1933, [55]) pour le mouvement brownien et par

S. Orey (1972, [91]) pour le mouvement brownien fractionnaire. Il est important de noter que

ce r´ esultat sur le comportement local des trajectoires se d´ eduit de l’asymptotique de celles-ci

en temps long par inversion du temps et par la stationnarit´ e des accroissements du mBf.

Diff´ erentes m´ ethodes peuvent ˆ etre employ´ ees afin de d´ emontrer ces r´ esultats de r´ egularit´ e.

L’une d’entre elles tire son origine de la construction du mouvement brownien par P. L´ evy ([64]

et [83] pour une pr´ esentation moderne des r´ esultats). Cette construction s’apparente, en effet, ` a une d´ ecomposition en ondelettes du mouvement brownien dans la base des fonctions de Haar de L ² ([0; 1]). Avant d’aller plus loin dans la description des r´ esultats obtenus par cette m´ ethode, un bref rappel concernant la th´ eorie des ondelettes et son lien avec la r´ egularit´ e ponctuelle de fonction est n´ ecessaire (voir [80] et [28] pour plus de d´ etails). Une base d’ondelettes de classe N ≥ 0 est une base orthonormale de L ² ( R ) (ou de L ² ([0; 1])) d´ efinie de la fa¸con suivante:

• Il existe une fonction, ψ, telle que elle-mˆ eme et ses d´ eriv´ ees d’ordre N soient dans L ^∞ ( R ).

• Pour tout 0 ≤ n ≤ N et pour tout p ∈ N , sup

x∈ R

(1 + |x|) ^p |ψ ⁽ⁿ⁾ (x)| < ∞.

• Pour tout 0 ≤ n < N , R

R x ⁿ ψ(x)dx = 0.

• La collection de fonctions {ψ _j,k = 2 ^j/2 ψ (2 ^j . − k); j ∈ Z , k ∈ Z } forme une base orthonor- m´ ee de L ² ( R ).

Il existe diff´ erentes bases orthonorm´ ees d’ondelettes v´ erifiant des propri´ et´ es suppl´ ementaires souvent cruciales suivant le probl` eme consid´ er´ e. Ainsi, l’´ el´ ement ψ, de la base de Lemari´ e- Meyer appartient ` a l’espace de Schwartz, des fonctions C ^∞ ( R ) et ` a d´ ecroissance rapide, et l’´ el´ ement ψ des ondelettes de Daubechies poss` ede une certaine r´ egularit´ e prescrite et est ` a sup- port compact. Concernant la r´ egularit´ e ponctuelle de fonction, le r´ esultat suivant fut d´ emontr´ e par S. Jaffard ([48], voir aussi [50]):

Th´ eor` eme 1.4: Soit α > 0 et t 0 ∈ R . Soit f ∈ C ^α (t 0 ). Alors, il existe une constante C > 0 telle que:

|hf ; ψ _j,k i| ≤ C2 ⁻⁽

^+α)j (1 + |2 ^j t ₀ − k|) ^α .

R´ eciproquement, si l’in´ egalit´ e pr´ ec´ edente est v´ erifi´ ee et s’il existe > 0 telle que f ∈ C ( R ) (l’espace des fonctions uniform´ ement -H¨ old´ eriennes), alors il existe un polynˆ ome, P , de degr´ e au plus bαc, δ > 0 et C > 0 tels que:

∀|t − t ₀ | < δ, |f (t) − P (t)| ≤ C|t − t ₀ | ^α | log(|t − t ₀ |)|.

Il est important de remarquer que presque toutes les trajectoires du mouvement brownien frac-

tionnaire appartiennent ` a un espace H¨ old´ erien uniforme. De fa¸con plus pr´ ecise, les invariances

statistiques du mBf telles que la H-autosimilarit´ e et la stationnarit´ e des accroissements as-

surent, par le crit` ere de continuit´ e de Kolmogorov, que ce processus admet une modification

dont les trajectoires sont presque-sˆ urement H − η H¨ old´ eriennes, pour tout 0 < η < H , sur tout

compact de R ⁺ .

La d´ ecomposition en ondelettes du mouvement brownien fractionnaire fut introduite par Meyer et al. ([81]) et sous une forme l´ eg` erement diff´ erente par Benassi et al. [20]. Plus pr´ ecis´ ement, plusieurs d´ ecompositions sont pr´ esent´ ees dans [81], l’une d’entre elles ´ etant particuli` erement

´

el´ egante et utile pour l’´ etude de la r´ egularit´ e des trajectoires du mouvement brownien fraction- naire. Elle correspond ` a une g´ en´ eralisation directe de la construction du mouvement brownien de P. L´ evy.

Proposition 1.5: Soit H ∈ (0, 1) et K ⊂ R compact. Presque-sˆ urement, on a:

∀t ∈ K, B _t ^H =

+∞

X

j=−∞

+∞

X

k=−∞

2 ^−jH [ψ _H (2 ^j t − k) − ψ _H (−k)] _j,k ,

o` u la s´ erie ` a droite de l’´ egalit´ e converge uniform´ ement sur K, { _j,k , (j, k) ∈ Z × Z } est une collection de variables al´ eatoires gaussiennes standards ind´ ependantes et ψ _H est d´ efinie par:

∀t ∈ R , ψ _H (t) = 1 2π

Z

R

F (ψ)(ξ) (iξ) ^H+

e ^itξ dξ,

o` u F est l’op´ erateur de transform´ ee de Fourier et ψ l’ondelette m` ere de la base d’ondelettes de Lemari´ e-Meyer.

N´ eanmoins, l’´ etude de la r´ egularit´ e des trajectoires ` a l’aide de cette d´ ecomposition en ondelettes n’a pas ´ et´ e faite dans [81], les auteurs s’int´ eressant plutˆ ot aux diff´ erentes repr´ esentations pos- sibles du mBf. En revanche, les auteurs de l’article [20] ont v´ eritablement initi´ e l’´ etude de la r´ egularit´ e en calculant les modules de continuit´ e uniforme et les lois du logarithme it´ er´ e pour une large classe de champs al´ eatoires gaussiens, ` a partir d’une d´ ecomposition en ondelettes ad´ equate. Cette m´ ethode a alors ´ et´ e utilis´ ee afin d’´ etudier diff´ erentes g´ en´ eralisations du mou- vement brownien fractionnaire.

En particulier, dans la premi` ere partie de [16], les auteurs ont ´ etudi´ e la d´ ecomposition en ondelettes du drap brownien fractionnaire. Ils en ont tir´ e plusieurs r´ esultats de r´ egularit´ e: un module de continuit´ e uniforme du drap brownien fractionnaire ainsi que le comportement ` a l’infini et la non-d´ erivabilit´ e presque-sˆ ure de ce champs al´ eatoire.

Dans [14], les auteurs ont consid´ er´ e le drap stable fractionnaire lin´ eaire, g´ en´ eralisation non- gaussienne du drap brownien fractionnaire. A partir d’une d´ ecomposition en ondelettes, les auteurs ont obtenu des bornes sup´ erieures fines pour le module de continuit´ e uniforme, pour le comportement ` a l’infini et pour le comportement autour des axes cart´ esiens.

De plus, dans [11], les auteurs ont consid´ er´ e une classe de processus appel´ es les processus

multifractionnaires g´ en´ eralis´ es ` a exposant al´ eatoire. Cet article fait suite aux travaux de A.

Ayache et J. L´ evy-V´ ehel ([13], [12]) et A. Ayache ([10]) sur les mouvements browniens mul- tifractionnaires g´ en´ eralis´ es. Sommairement, l’id´ ee de leurs constructions est la suivante: on consid` ere, par exemple, la d´ ecomposition en ondelettes du mouvement brownien fractionnaire sur tout compact et on remplace, d’une certaine fa¸con, l’exposant de Hurst, H, par une suite de fonctions Lipschitziennes, {H <sub>n</sub> (.)} (ou par une suite de processus admissibles) de sorte que le processus obtenu soit bien d´ efini, ` a trajectoires continues et ´ etende naturellement le mouve- ment brownien fractionnaire. L’important r´ esultat de r´ egularit´ e ponctuelle suivant a alors ´ et´ e d´ emontr´ e dans [11]:

p.s. ∀t ∈ R , α _Z (t) = lim inf

n→+∞ H _n (t),

o` u {Z <sub>t</sub> } d´ esigne le processus multifractionnaire g´ en´ eralis´ e associ´ e ` a la suite {H _n }. Il est impor- tant de noter que, de ce r´ esultat g´ en´ eral de r´ egularit´ e ponctuelle, se d´ eduit le r´ esultat uniforme concernant les exposants de H¨ older ponctuel et local du mouvement brownien fractionnaire

´

enonc´ e plus haut.

De surcroˆıt, les s´ eries al´ eatoires d’ondelettes ont ´ et´ e utilis´ ees par S. Jaffard dans [49] et par J.M. Aubry et S. Jaffard dans [8] afin de construire des exemples de processus stochastiques exhibant un caract` ere multifractale. De fa¸con plus pr´ ecise, certains exposants de r´ egularit´ e, cap- turant des comportements plus fins que les exposants ponctuel et local, sont consid´ er´ es dans ces deux articles. Ces exposants varient le long des trajectoires des s´ eries al´ eatoires d’ondelettes et leurs ensembles de niveau sont des fractales dont la dimension de Hausdorff est non-triviale.

Enfin, dans [19], la construction de P. L´ evy du mouvement brownien a ´ et´ e utilis´ ee afin de modeler des processus dits autor´ egul´ es. Ces processus poss` edent un exposant ponctuel de H¨ older variant le long de leurs trajectoires et dont la valeur en un point d´ epend de l’amplitude du processus en ce point. En particulier, sous certaines hypoth` eses concernant le processus autor´ egul´ e, les auteurs ont obtenu le r´ esultat suivant (voir section 4 de [19]):

p.s. ∀t ∈ R + , α _X (t) = ˜ α _X (t) = g(X _t ),

o` u g est une fonction C <sup>1</sup> ( R ) ` a valeurs dans (0, 1) intervenant dans la construction de {X t }.

En outre, d’autres extensions du mouvement brownien fractionnaire existent. Celles-ci font appel aux int´ egrales multiples de Wiener-Itˆ o. Introduites par N. Wiener en 1938 [121] sous le terme de chaos polynomial, les int´ egrales multiples de Wiener-Itˆ o furent d´ efinies et ´ etudi´ ees par K. Itˆ o en 1951 dans [47]. Comme l’int´ egrale de Wiener simple, elles sont d´ efinies ` a par- tir d’une proc´ edure limite et d’une isom´ etrie entre l’espace des fonctions sym´ etriques de carr´ e sommable sur R <sup>n</sup> et l’ensemble des variables al´ eatoires ` a variance finie mesurables par rapport

`

a la tribu engendr´ ee par un mouvement brownien standard. Les processus g´ en´ eralisant le mou-

vement brownien fractionnaire aux chaos de Wiener apparaissent comme objets limites dans

des th´ eor` emes g´ en´ eraux de la limite non-centrale. En effet, R. L. Dobrushin et P. Major ([32]) ainsi que M. Taqqu ([108],[109]) ont montr´ e le r´ esultat suivant:

Theorem 1.6: Soient H ∈ (1/2, 1) et d ∈ N ^∗ . Soit {ξ _n , n ∈ Z } une suite gaussienne sta- tionnaire centr´ ee de variance unitaire telle que:

E [ξ _n ξ ₀ ] = n

.

Soit g une fonction mesurable telle que E [g(ξ ₀ )] = 0, E [g(ξ ₀ ) ² ] < ∞ et:

g(x) =

+∞

X

j=d

c j H j (x), o` u H <sub>j</sub> est le j-i` eme polynˆ ome de Hermite et c _j = 1/(j!2π) R

R g(x)H _j (x) exp(−x ² /2)dx. Alors, on a, pour tout (t ₁ , ..., t _p ) ∈ ( R ⁺ ) ^p :

1 n ^H

bnt

c

X

i=1

g(ξ _i ), ..., 1 n ^H

bnt

c

X

i=1

g(ξ _i ) _(d)

n→+∞ ⇒

I _d (h ^H,d _t

), ..., I _d (h ^H,d _t

) , avec,

I _d (h ^H,d _t ) = Z

R

c(H, d) Z t

0 d

Y

j=1

(s − x _j ) ⁻⁽

1 2

+

)

+ ds

| {z }

=h

!

dB _x

...dB _x

o` u {B _x , x ∈ R } est un mouvement brownien index´ e par R et c(H, d) est une constante stricte- ment positive telle que E [( R

R

h ^H,d ₁ (x ₁ , ..., x _d )dB _x

...dB _x

) ² ] = 1.

Les objets limites ainsi obtenus sont appel´ es processus de Hermite. Pour d = 1, on retrouve la repr´ esentation du mouvement brownien fractionnaire ` a l’aide d’une int´ egrale de Wiener simple introduite dans [75]. Pour d = 2, le processus obtenu est appel´ e le processus de Rosenblatt. Il est important de noter que ces processus poss` edent plusieurs propri´ et´ es en commun avec le mBf.

En particulier, ils sont ` a accroissements stationnaires, H-autosimilaires et leurs trajectoires sont presque toutes H-η H¨ old´ eriennes, pour tout 0 < η < H, sur tout compact. N´ eanmoins, pour d 6= 1, ce ne sont plus des processus gaussiens. De plus, alors que le mouvement brownien frac- tionnaire est l’unique (` a une constante multiplicative pr` es) processus gaussien ` a accroissements stationnaires et H-autosimilaire, plusieurs noyaux d´ eterministes peuvent ˆ etre consid´ er´ es afin de construire, ` a d 6= 1 fix´ e, des processus ` a accroissements stationnaires et H-autosimilaires mais de lois diff´ erentes.

L’´ etude de la r´ egularit´ e uniforme et locale de ces processus n’a ´ et´ e que partiellement initi´ ee

depuis leur d´ ecouverte. Dans [82], T. Mori et H. Oodaira ont consid´ er´ e une large classe de processus H-autosimilaires et ` a accroissements stationnaires repr´ esent´ es par:

∀t ∈ R + , X _t ^H,d = Z

R

Q _t (x ₁ , ..., x _d )dB _x

...dB _x

,

o` u Q _t est une fonction sym´ etrique de carr´ e sommable v´ erifiant les propri´ et´ es suivantes:

• Q _t (x ₁ , ..., x _d ) = R t

0 q(s − x ₁ , ..., s − x _d )ds,

• ∀c > 0, q(cx ₁ , ..., cx _d ) = c ^H−

⁻¹ q(x ₁ , ..., x _d ),

• R

R

|q(x ₁ , ..., x _d )q(x ₁ + 1, ..., x _d + 1)|dx ₁ ...dx _d < ∞.

On remarque que le noyau des processus de Hermite v´ erifie les propri´ et´ es pr´ ec´ edentes. Pour cette classe de processus, les auteurs ont obtenu une loi du logarithme it´ er´ e fonctionnelle. Celle- ci permet d’obtenir les enveloppes sup´ erieures et inf´ erieures exactes du comportement ` a l’infini des processus ainsi consid´ er´ es. L’ordre des fluctuations apparaissant alors dans ce comporte- ment asymptotique est h ^H (log log(h)) ^d/2 . En revanche, il est important de noter qu’on ne peut pas en d´ eduire le comportement local en 0 contrairement au cas du mBf. L’inversion du temps n’est a priori pas valable pour d ≥ 2.

Dans [106], des r´ esultats partiels de r´ egularit´ e sont pr´ esent´ es concernant des processus auto- similaires ergodiques. En particulier, le r´ esultat suivant concernant les exposants ponctuel et local de processus H-autosimilaires et ` a accroissements stationnaires repr´ esent´ es par des int´ e- grales multiples de Wiener-Itˆ o est d´ emontr´ e:

∀t ∈ R ⁺ , p.s. α _X

(t) = ˜ α _X

(t) = H.

L’ordre des quantificateurs est ici primordial. Ce r´ esultat s’av` ere bien moins fort que celui concernant les exposants de r´ egularit´ e du mBf.

Dans [93], V. Pipiras d´ emontre plusieurs d´ eveloppements de type ondelette pour le processus de Rosenblatt. On remarque, en particulier, qu’une repr´ esentation analogue ` a celle pr´ esent´ ee plus haut pour le mBf et utile pour l’´ etude de la r´ egularit´ e des trajectoires n’est pas obtenue dans [93].

Enfin, dans [118], les auteurs obtiennent, par des arguments de chaˆınage, une borne sup´ erieure

concernant le module de continuit´ e uniforme de processus H-autosimilaires et ` a accroissements

stationnaires repr´ esent´ es par des int´ egrales multiples de Wiener-Itˆ o. De mˆ eme que pour le

comportement asymptotique ` a l’infini, l’ordre des fluctuations locales au voisinnage de 0 ⁺ est

h ^H (log(1/h)) ^d/2 .

2 G´ eom´ etrie fractale.

Afin d’approfondir l’´ etude des propri´ et´ es de r´ egularit´ e des processus stochastiques, un examen compl´ ementaire des trajectoires peut se faire ` a travers le prisme de la g´ eom´ etrie fractale. Au coeur de ce domaine se trouve le concept de dimension fractale ([74]). Introduite en 1919 par F. Hausdorff ([41]) et d´ evelopp´ ee par A. S. Besicovitch, la dimension de Hausdorff est la d´ efinition la plus r´ epandue. Elle repose sur la notion de recouvrement d’ensembles et permet de d´ efinir une quantit´ e intrins` eque ` a tout sous-ensemble non vide de R <sup>N</sup> mesurant, d’une certaine fa¸con, son taux d’occupation de l’espace ambient. Avant d’aller plus loin, il est essentiel de rappeler quelques d´ efinitions et notations (voir [36],[78] pour plus de d´ etails). Pour tout sous- ensemble, F , non vide de R <sup>N</sup> , on note, |F | = sup{kx − yk <sub>2</sub> , x, y ∈ F }, le diam` etre de F pour la norme euclidienne dans R ^N . Pour tout δ > 0, on appelle δ-recouvrement de F toute collection d´ enombrable ou finie d’ensembles, {F i }, telle que F ⊂ ∪ ^∞ _i=1 F i et |F i | ≤ δ pour tout i ∈ N ^∗ . Pour tout s ≥ 0, on d´ efinit la mesure de Hausdorff s-dimensionnelle de F par:

H ^s (F ) = lim

δ→0

inf ( _+∞

X

i=1

|F _i | ^s , F ⊂

∞

[

i=1

F _i , |F _i | ≤ δ )

.

On remarque de plus que s’il existe s ≥ 0 tel que H ^s (F ) < ∞ alors pour tout r > s, on a H ^r (F ) = 0. Ceci autorise alors la d´ efinition suivante pour la dimension de Hausdorff de F :

dim H (F ) = inf {s ≥ 0, H ^s (F ) = 0} = sup{s ≥ 0, H ^s (F ) = ∞}.

Sauf sur des exemples simples, le calcul explicite de cette quantit´ e peut s’av´ erer bien d´ elicat.

De fa¸con g´ en´ erale, des bornes sup´ erieure et inf´ erieure peuvent ˆ etre obtenues par des m´ ethodes bien distinctes.

Dans un premier temps, les ensembles fractales al´ eatoires auxquels se sont int´ eress´ es de nom- breux probabilistes sont l’image et le graphe de processus stochastiques ([110], [111] pour les travaux initiaux sur le mouvement brownien et [112],[123] et [124] pour des articles de synth` ese plus ou moins r´ ecents sur la g´ eom´ etrie fractale de processus stochastiques).

D´ efinition 2.1: Soient N ≥ 1 et { X ^t , t ∈ R ⁺ } un processus multidimensionnel ` a valeurs dans R ^N . Soit F ⊂ R ⁺ . On d´ efinit l’image et le graphe de { X ^t } sur F respectivement par:

R _F ( X ) = { X t , t ∈ F } ⊂ R ^N , Gr _F ( X ) = {(t, X t ), t ∈ F } ⊂ R ^{N +1} .

Le r´ esultat suivant concernant le mouvement brownien fractionnaire N -mutlidimensionnel de

param` etre de Hurst H ∈ (0, 1) a ´ et´ e d´ emontr´ e par H. McKean dans [79] pour H = 1/2 et par

J-P. Kahane dans [54] pour H quelconque dans (0, 1).

Th´ eor` eme 2.2: Soit { B <sup>t</sup> = (B <sub>t</sub> <sup>1,H</sup> , ..., B <sub>t</sub> <sup>N,H</sup> ), t ∈ R <sup>+</sup> } un mouvement brownien fractionnaire N -dimensionel de param` etre de Hurst H. Soit F ⊂ R + . On a, presque-sˆ urement:

dim H (R _F ( B )) = min

N, 1

H dim H (F )

, dim H (Gr _F ( B )) = min

1

H dim H (F ), dim H (F ) + (1 − H)N

.

En outre, un r´ esultat beaucoup plus g´ en´ eral concernant les processus multidimensionels dont les composantes sont des copies ind´ ependantes d’un processus auto-similaire et ` a accroissements stationnaires fut d´ emontr´ e par Y. Xiao et L. Huoan dans [122].

Th´ eor` eme 2.3: Soit { X t = (X <sub>t</sub> <sup>1</sup> , ..., X <sub>t</sub> <sup>N</sup> ), t ∈ R + } tel que, pour tout i ∈ {1, ..., N }, {X <sub>t</sub> <sup>i</sup> } soit un processus auto-similaire de param` etre H _i et ` a accroissements stationnaires. On suppose que 0 < H ₁ ≤ ... ≤ H _N ≤ 1 et que:

∀i ∈ {1, ..., N }, ∃p _i > 1 H i

, E [|X ₁ ⁱ | ^p

] < +∞,

∃K > 0, ∀i ∈ {1, ..., N }, P (|X ₁ ⁱ | ≤ x) ≤ Kx.

Alors, on a, pour tout F ⊂ R ⁺ , presque-sˆ urement:

dim H (R _F ( X )) = min (

N, dim H (F ) + P k

j=1 (H _k − H _j ) H k

, k = 1, ..., N )

,

dim H (Gr _F ( X )) = min

( dim _H (F ) + P k

j=1 (H _k − H _j )

H _k , k = 1, ..., N, dim H (F ) +

N

X

j=1

(1 − H _j ) )

.

Il est important de noter que la premi` ere hypoth` ese, portant sur la finitude de certains moments des variables al´ eatoires X ₁ ⁱ , permet d’obtenir la borne sup´ erieure des ´ egalit´ es pr´ ec´ edentes. De mˆ eme, la seconde hypoth` ese permet d’obtenir la borne inf´ erieure.

Ainsi, si les composantes de { X ^t } sont des copies ind´ ependantes d’un processus H i -autosimilaire

et ` a accroissements stationnaires repr´ esent´ e par une int´ egrale multiple de Wiener-Itˆ o d’ordre d ≥

1, la borne sup´ erieure pour l’image et le graphe de { X t } sur F est valable. En effet, comme pour

les variables al´ eatoires gaussiennes, chaque X ₁ ⁱ admet des moments de tout ordre. En revanche,

la seconde hypoth` ese s’av` ere beaucoup plus difficile ` a v´ erifier. En effet, sauf pour d = 1 et pour

le cas de la distribution de Rosenblatt (loi de la variable al´ eatoire repr´ esent´ ee par un processus de

Rosenblatt au temps 1), une telle borne n’est a priori pas ´ etablie. N´ eanmoins, pour le processus

de Rosenblatt N -multidimensionnel, le r´ esultat pr´ ec´ edent s’applique donc. Enfin, dans l’article

[103], un r´ esultat concernant la dimension de packing (autre dimension fractale compl´ ementaire

de celle de Hausdorff) de l’image du processus de Rosenblatt N -multidimensionnel sur F est

d´ emontr´ e.

3 Analyse stochastique.

L’analyse stochastique est un domaine relativement r´ ecent regroupant de nombreuses th´ eories li´ ees ` a l’´ etude des processus stochastiques. Depuis la fin des ann´ ees 70, elle a rencontr´ e un d´ eveloppement particuli` erement important, notamment grˆ ace aux travaux de P. Malliavin (voir [72] et [73]) et ` a l’introduction par celui-ci du calcul diff´ erentiel qui porte maintenant son nom.

En effet, le calcul de Malliavin est un calcul diff´ erentiel en dimension infinie permettant une extension dans ce contexte des notions de d´ erivation, d’espaces de Sobolev et d’int´ egration.

L’exemple paradigmatique d’un tel calcul est celui associ´ e ` a l’espace de Wiener standard, ` a savoir (C 0 ([0, 1], R ), H ₀ ¹ ([0, 1]), W ), o` u C 0 ([0, 1], R ) d´ esigne l’ensemble des fonctions continues sur [0, 1], ` a valeurs dans R et s’annulant en 0, H ₀ ¹ ([0, 1]) l’ensemble des fonctions absolument continues sur [0, 1], s’annulant en 0 et dont la d´ eriv´ ee faible est de carr´ e sommable sur [0, 1]

et W la mesure de Wiener sur C ₀ ([0, 1], R ). Le calcul de Malliavin poss` ede de nombreuses applications en math´ ematiques ([87], [84]) et constitue un champ encore tr` es actif de recherche.

En particulier, il pr´ esente des liens ´ etroits avec la th´ eorie de l’int´ egration stochastique. En effet, depuis les travaux de B. Gaveau et P. Trauber ([38]), les outils du calcul de Malliavin se sont av´ er´ es efficaces afin de d´ efinir et d’´ etudier certaines extensions de l’int´ egrale stochastique par rapport au mouvement brownien ([89], [88]). De fa¸con pr´ ecise, cet article ´ etablit la connexion entre l’int´ egrale de Skorohod ([104]) et l’op´ erateur adjoint de la d´ erivation stochastique associ´ ee

`

a l’espace de Wiener standard.

Simultan´ ement aux travaux de P. Malliavin, T. Hida (voir [44] et [43]) a d´ evelopp´ e un calcul diff´ erentiel en dimension infinie appel´ e le calcul du bruit blanc. Celui-ci poss` ede de nombreuses similarit´ es avec le calcul de Malliavin mais pr´ esente n´ eanmoins une diff´ erence de points de vue.

En effet, l’objet central de cette th´ eorie n’est plus le mouvement brownien, contrairement au calcul de Malliavin, mais sa ”d´ eriv´ ee”, le bruit blanc. Ainsi, l’espace sous jacent de cette th´ eorie est le triplet suivant (S ⁰ ( R ), L ² ( R ), µ), o` u S ⁰ ( R ) d´ esigne l’ensemble des distributions tempr´ er´ ees

`

a valeurs dans R , L ² ( R ) l’ensemble des fonctions de carr´ e sommable sur R et µ la mesure gaussienne sur l’espace conucl´ eaire S ⁰ ( R ), appel´ ee mesure bruit blanc. De plus, dans ce cadre th´ eorique, I. Kubo et S. Takenaka ([59]) ont construit une extension de l’int´ egrale stochastique par rapport au mouvement brownien qui co¨ıncide, dans certains cas, avec l’extension introduite par A. Skorohod et reli´ ee aux op´ erateurs du calcul de Malliavin.

Avec la popularisation du mouvement brownien fractionnaire, des questions relatives ` a un calcul stochastique par rapport ` a celui-ci se sont alors naturellement pos´ ees. En effet, sauf pour H = 1/2, un mBf d’indice de Hurst, H, n’est ni une semimartingale ni un processus de Markov.

Ainsi, la th´ eorie classique de l’int´ egrale stochastique ne s’applique pas au mBf et de nouveaux

outils ont dˆ u ˆ etre d´ evelopp´ es afin de construire une int´ egrale par rapport ` a celui-ci. De fa¸con

naturelle, plusieurs math´ ematiciens se sont alors tourn´ es vers le calcul diff´ erentiel en dimension

infinie, que ce soit celui de Malliavin ou celui de Hida, pour r´ epondre ` a ce probl` eme.

En particulier, dans l’article [30], les auteurs ont initi´ e l’analyse stochastique du mBf ` a l’aide du calcul de Malliavin sur l’espace de Wiener naturellement associ´ e ` a ce processus, not´ e (C ₀ ([0, 1], R ), H _H , W _H ). Ils ont alors d´ efini deux types d’int´ egrales stochastiques par rapport au mBf ` a l’aide de l’op´ erateur adjoint de la d´ erivation stochastique sur cet espace. Pour H > 1/2 et pour chacune des deux int´ egrales, ils ont entre autre obtenu les formules d’Itˆ o respectives pour des fonctionnelles C <sup>2</sup> ( R ) ` a d´ eriv´ ees born´ ees de processus d’Itˆ o ”fractionnaires”.

Suite ` a ces r´ esultats partiels, une pl´ ethore d’articles a vu le jour sur l’int´ egrale stochastique par rapport au mouvement brownien fractionnaire, utilisant le calcul de Malliavin (par exemple [3], [25], [4], [26]). Notamment, dans [3], les auteurs ont d´ evelopp´ e un calcul stochastique pour une large classe de processus gaussiens (dits de Volterra) repr´ esent´ es par:

W _t = Z t

0

K(t, s)dB _s ,

o` u K (., .) est un noyau d´ eterministe v´ erifiant certaines propri´ et´ es et K (t, .) est de carr´ e sommable sur [0, t]. L’id´ ee fondamentale de cet article est de relier l’op´ erateur adjoint de la d´ eriva- tion stochastique associ´ e ` a {W _t } ` a celui de {B <sub>t</sub> } grˆ ace ` a la repr´ esentation pr´ ec´ edente. Ainsi, l’int´ egrale stochastique par rapport ` a {W <sub>t</sub> } d’un processus al´ eatoire se ram` ene ` a une transfor- mation d´ eterministe de ce processus et ` a une int´ egration stochastique par rapport ` a {B t }. De plus, pour H > 1/4 et pour toute fonction f ∈ C ² ( R ) telle que:

∃c > 0, 0 < λ < 1

4T ^2H , ∀x ∈ R , max {|f(x)|, |f ⁰ (x)|, |f ⁰⁰ (x)|} ≤ c exp(λx ² ), la formule d’Itˆ o suivante est vraie:

∀t ∈ [0, T ], f (B _t ^H ) − f(0) = Z t

0

f ⁰ (B _s ^H )δB _s ^H + H Z t

0

f ⁰⁰ (B ^H _s )s ^2H−1 ds.

Dans [21], C. Bender d´ efinit une int´ egrale stochastique par rapport au mouvement brownien fractionnaire (pour tout H ∈ (0, 1)) ` a l’aide des outils du calcul du bruit blanc. De fa¸con plus pr´ ecise, l’auteur calcule la d´ eriv´ ee, au sens des distributions de Hida, du mouvement brownien fractionnaire. Ensuite, l’int´ egrale stochastique par rapport au mBf est alors d´ efinie ` a l’aide de cette d´ eriv´ ee, du produit de Wick et de l’int´ egrale au sens de Pettis. Ainsi, il obtient une formule d’Itˆ o valable pour tout H ∈ (0, 1), pour tout f ∈ S ⁰ ( R ) et pour tout 0 < a ≤ b, au sens des distributions de Hida:

f(B _b ^H ) − f (B _a ^H ) = Z b

a

f ⁰ (B _s ^H )dB _s ^H + H Z b

a

s ^{2H −1} f ⁰⁰ (B _s ^H )ds.

Il est important de noter que, dans cet article, la repr´ esentation du mBf introduite par B.

Mandelbrot et J. Van Ness ([75]) est utilis´ ee alors que, dans [3], la repr´ esentation du mBf sur

un compact est employ´ ee. Le cas H = 1/2 fut d´ emontr´ e par I. Kubo dans [58].

Enfin, dans [26], les auteurs d´ efinissent une int´ egrale stochastique par rapport au mBf ` a l’aide d’un op´ erateur adjoint ´ etendu. Cela leur permet en retour d’obtenir une formule d’Itˆ o pour H ∈ (0, 1/2), pour f ∈ C ² ( R ) et mˆ eme plus g´ en´ eralement, pour f convexe.

On note ´ egalement qu’il existe d’autres approches pour traiter l’int´ egration stochastique par rapport au mouvement brownien fractionnaire valables suivant les valeurs de H. On renvoie pour cela ` a l’article de synth` ese [27] et aux articles plus r´ ecents [115], [116] traitant du cas multidimensionnel.

L’´ etat actuel de la recherche concernant le calcul stochastique par rapport aux extensions du mBf aux chaos gaussiens d’ordre sup´ erieur ` a 1 est beaucoup moins avanc´ e. Plusieurs math´ emati- ciens se sont donc naturellement pench´ es sur la question de d´ efinir une int´ egrale stochastique par rapport aux processus de Hermite (introduits ` a la section 1). Une premi` ere interrogation dans cette direction est d’identifier la classe d’integrandes d´ eterministes pouvant ˆ etre int´ egr´ ee par rapport ` a ces processus. Les auteurs de [69] ont obtenu le r´ esultat suivant:

D´ efinition-Th´ eor` eme 3.1: Soit H = {f : R → R , R

R × R f (u)f(v)|u − v| ^2H−2 dudv < ∞}.

On note, pour tout f ∈ H:

kf k ² _H = H(2H − 1) Z

R × R

f (u)f (v)|u − v | ^2H−2 dudv.

Alors il existe une isom´ etrie, ˜ X ^H,d , de (H, k.k H ) dans (L ² (Ω, F , P ), k.k _L

_(Ω) ) telle que:

∀(a ₁ , ..., a _p ) ∈ R ^p , t _i < t _i+1 , f (t) =

p

X

i=1

a _i I (t

,t

] (t), X ˜ ^H,d (f ) =

p

X

i=1

a _i ( ˜ X _t ^H,d

− X ˜ _t ^H,d

), o` u ˜ X _t ^H,d = R

R

h ^H,d _t (x ₁ , ..., x _d )dB _x

...dB _x

.

Ainsi, la classe d’int´ egrandes d´ eterministes est identique ` a celle du mBf pour H ∈ (1/2, 1).

Cette classe contient notamment des distributions (voir [94], [52], [53]).

Concernant des int´ egrandes al´ eatoires, une analyse fine des int´ egrales stochastiques par rapport

au processus de Rosenblatt a ´ et´ e initi´ ee dans [113] par C. Tudor. Un rappel concernant les r´ e-

sultats obtenus dans cet article est de mise. Tout d’abord, puisque la variation quadratique des

processus de Hermite est nulle (H > 1/2) et puisque leurs trajectoires sont presque-sˆ urement

H − η H¨ old´ eriennes (pour tout 0 < η < H), l’auteur remarque que l’approche dite par ”r´ egu-

larisation”, d´ evelopp´ ee par F. Russo et P. Vallois dans [97] (voir aussi [98]), peut ˆ etre employ´ ee

avec succ` es afin de d´ efinir une int´ egrale stochastique par rapport aux processus de Hermite

pour des int´ egrandes al´ eatoires suffisamment r´ eguliers. En particulier, pour tout f ∈ C ² ( R ),

on a la formule d’Itˆ o-Stratonovich suivante:

∀t ∈ R + , f ( ˜ X _t ^H,d ) = f ( ˜ X ₀ ^H,d ) + Z t

0

f ⁰ ( ˜ X _s ^H,d )d X ˜ _s ^H,d .

Il est important de noter que l’int´ egrale stochastique pr´ ec´ edente est d´ efinie de la fa¸con suivante:

Z t 0

f ⁰ ( ˜ X _s ^H,d )d X ˜ _s ^H,d = lim-ucp

→0

Z t 0

f ⁰ ( ˜ X _s ^H,d )

X ˜ _s+ ^H,d − X ˜ _s− ^H,d

2 ds,

o` u ucp d´ esigne l’uniforme convergence en probabilit´ es sur [0, T ], pour tout T > 0. N´ eanmoins, une telle int´ egrale paraˆıt difficile ` a manipuler d’un point de vue de la th´ eorie des probabil- it´ es. En effet, un calcul explicite de sa moyenne et de sa variance semble ardu ` a priori. C’est pourquoi, dans [113], l’auteur a d´ efini une int´ egrale stochastique de type ”Skorohod” par rap- port au processus de Rosenblatt. De fa¸con plus pr´ ecise, grˆ ace ` a l’adjoint de la d´ eriv´ ee seconde stochastique associ´ ee au mouvement brownien et ` a l’aide d’une repr´ esentation int´ egrale du pro- cessus de Rosenblatt sous la forme d’une int´ egrale double de Wiener sur un compact, l’int´ egrale stochastique d’une certaine classe d’int´ egrandes al´ eatoires par rapport au processus de Rosen- blatt est d´ efinie. Les propri´ et´ es de l’op´ erateur adjoint intervenant dans la d´ efinition de cette int´ egrale rendent alors possible une estimation de ses moments d’ordre p > 1. Une question alors naturelle est de savoir si un lien existe entre les deux int´ egrales stochastiques ainsi d´ efinies pour une certaine classe d’int´ egrandes. Le th´ eor` eme 2 de [113] pr´ esente un tel r´ esultat. La diff´ erence fondamentale avec les r´ esultats connus pour le mBf pour H > 1/2 (voir [4]) est l’apparition d’un terme, dit de ”trace”, suppl´ ementaire. Pour le processus de Rosenblatt, ces termes ne sont pas explicites ni leurs conditions d’existence. De plus, une formule d’Itˆ o faisant intervenir l’int´ egrale de type Skorohod par rapport au processus de Rosenblatt est obtenue.

Pour tout f ∈ C ² ( R ) et pour tout t ∈ [0, T ], celle-ci s’´ ecrit:

f ( ˜ X _t ^H,2 ) = f( ˜ X ₀ ^H,2 ) + Z t

0

f ⁰ ( ˜ X _s ^H,2 )δ X ˜ _s ^H,2 + H Z t

0

f ⁰⁰ ( ˜ X _s ^H,2 )s ^2H−1 ds + N _t ,

o` u {N <sub>t</sub> } est un processus limite explicite uniquement pour des instances particuli` eres de f, ` a savoir x <sup>2</sup> et x <sup>3</sup> (voir th´ eor` eme 4 de [113]). La remarque fondamentale concluant cet article (remarque 8 de [113]) mentionne l’apparition, pour f (x) = x ³ , de la d´ eriv´ ee troisi` eme de f ainsi que de certains cumulants (d’ordre sup´ erieur ` a 2) de la distribution de Rosenblatt dans le calcul de {N _t }.

4 Organisation et r´ esultats principaux.

Cette th` ese comporte trois chapitres. Ceux-ci peuvent se lire de fa¸con ind´ ependante les uns des

autres. Le premier chapitre traite des propri´ et´ es g´ eom´ etriques des trajectoires de certains pro-

cessus auto-similaires et ` a accroissements stationnaires repr´ esent´ es par des int´ egrales multiples de Wiener-Itˆ o d’ordre quelconque. De fa¸con pr´ ecise, dans la premi` ere partie de ce chapitre, une classe particuli` ere de processus est consid´ er´ ee :

∀t ∈ R , X _t ^α = Z

R

h ||t ^∗ − x|| ^{H −}

d 2

2 − ||x|| ^H−

d 2

2

i

dB _x

...dB _x

o` u t <sup>∗</sup> = (t, ..., t). Il est important de noter que cette classe n’appartient pas ` a la classe de processus pour laquelle les r´ esultats de l’article [82] s’appliquent. A partir d’une repr´ esentation en ondelettes de ce processus (proposition 2.1 du chapitre 1), les r´ esultats suivants sont obtenus:

Proposition 4.1: Il existe un espace de probabilit´ e, Ω ^∗ , de mesure pleine, une variable al´ eatoire strictement positive A _d dont les moments de tout ordre sont finis et une constante, b _d > 1, tels que:

∀ω ∈ Ω ^∗ sup

(s,t)∈[0,1]

|X _t ^α (ω) − X _s ^α (ω)|

|t − s| ^H (log(b _d + |t − s| ⁻¹ ))

≤ A _d (ω).

Proposition 4.2: Il existe un espace de probabilit´ e, Ω ^∗ , de mesure pleine, une variable al´ eatoire strictement positive B _d dont les moments de tout ordre sont finis et une constante c _d > 3, tels que:

∀ω ∈ Ω ^∗ sup

t∈ R

|X _t ^α (ω)|

(1 + |t|) ^H (log log(c _d + |t|))

≤ B d (ω).

Th´ eor` eme 4.3: Presque-sˆ urement,

∀t ∈ (0, 1), α _X

(t) = ˜ α _X

(t) = H.

Il est important de noter que ce r´ esultat est uniforme sur les trajectoires du processus {X _t ^α }.

De plus, l’ordre du chaos n’apparait pas dans la valeur des exposants ponctuel et local.

Dans la deuxi` eme partie de ce chapitre, on s’int´ eresse ` a des processus N -multidimensionnels,

{ Y ^H t = (Y _t ^H

, ..., Y _t ^H

), t ∈ R ⁺ }, dont les composantes sont des copies ind´ ependantes d’un pro-

cessus auto-similaire et ` a accroissements stationnaires repr´ esent´ e par une int´ egrale multiple de

Wiener-Itˆ o d’ordre d ≥ 1 fix´ e. Chaque composante admet un exposant d’auto-similarit´ e dis-

tinct. Ces exposants v´ erifient 1/2 < H ₁ < ... < H _N < 1. Le r´ esultat suivant concernant la

dimension de Hausdorff du graphe et de l’image de ces processus multidimensionnels est obtenu.

Th´ eor` eme 4.4: Soit F ⊂ R ⁺ . Presque-sˆ urement,

min



N ; dim H F +

P

j=1

(H

−H

) d

H _k , k = 1, ..., N



 ≤ dim _H R _F ( Y ^H )

≤ min N ; dim H F + P k

j=1 (H _k − H _j )

H _k , k = 1, ..., N

! ,

min





dim _H F +

P

j=1

(H

−H

) d

H _k , k = 1, ..., N ; dim H F +

N

X

i=1

(1 − H i ) d



 ≤ dim H Gr _F ( Y ^H )

≤ min dim H F + P k

j=1 (H _k − H _j )

H _k , k = 1, ..., N ; dim H F +

N

X

i=1

(1 − H _i )

! .

Les deuxi` eme et troisi` eme chapitres de cette th` ese sont ind´ ependants du premier dans la mesure o` u ils s’int´ eressent ` a des questions relatives au calcul stochastique par rapport au processus de Rosenblatt. Dans le deuxi` eme chapitre, en utilisant la th´ eorie des distributions de Hida, une int´ egrale stochastique par rapport au processus de Rosenblatt est introduite dont la d´ efinition est motiv´ ee par celles de l’int´ egrale bruit blanc ([59, 60]) et de l’int´ egrale bruit fractionnaire ([21]). De fa¸con pr´ ecise, la d´ eriv´ ee du processus de Rosenblatt, au sens des distributions de Hida, est calcul´ ee (voir lemme 3.4 du chapitre 2). L’int´ egrale du bruit de Rosenblatt est alors d´ efinie par multiplication de Wick de l’int´ egrande avec cette d´ eriv´ ee et par int´ egration au sens de Pettis (voir d´ efinition-th´ eor` eme 3.10 du chapitre 2). La formule d’Itˆ o suivante est alors obtenue.

Th´ eor` eme 4.5: Soit (a, b) ∈ R <sup>∗</sup> + tel que a ≤ b < ∞. Soit F une fonction analytique en- ti` ere de la variable complexe v´ erifiant:

∃N ∈ N , ∃C > 0, ∀z ∈ C |F (z)| ≤ C(1 + |z|) ^N exp 1

√ 2b ^H |=(z)|

. Alors, on a dans (S) ^∗ :

F ( ˜ X _b ^2,H ) − F ( ˜ X _a ^2,H ) = Z b

a

F ⁽¹⁾ ( ˜ X _t ^2,H ) X ˙˜ _t ^2,H dt +

∞

X

k=2

Hκ _k ( ˜ X ₁ ^2,H ) Z b

a

t ^Hk−1

(k − 1)! F ^(k) ( ˜ X _t ^2,H )dt

+

∞

X

k=2

2 ^k−1

Z b a

F ^(k) ( ˜ X _t ^2,H ) X ˙ _t ^H,k dt

,

o` u, d´ esigne le produit de Wick relatif au mouvement brownien, κ _k ( ˜ X ₁ ^2,H ) d´ esigne le cumulant

d’ordre k ≥ 2 de la distribution de Rosenblatt et ˙ X _t ^H,k la d´ eriv´ ee au sens des distributions de

Hida du processus {X _t ^H,k } d´ efini par:

X _t ^H,k = Z

R

Z

R

(...((h ^H,2 _t ⊗ ₁ h ^H,2 _t ) ⊗ ₁ h ^H,2 _t )... ⊗ ₁ h ^H,2 _t )

| {z }

k−1×⊗

(x ₁ , x ₂ )dB _x

dB _x

.

Le symbole ⊗ ₁ d´ esigne le produit tensoriel contract´ e d’ordre 1.

Il est important de noter l’apparition dans cette formule d’Itˆ o des cumulants de tout ordre de la distribution de Rosenblatt ainsi que des d´ eriv´ ees de tout ordre de la fonction F . Cette formule confirme les attentes exprim´ ees dans l’article [113] ` a la remarque 8.

Dans la quatri` eme partie de ce chapitre, une comparaison est faite entre l’int´ egrale du bruit de Rosenblatt associ´ ee ` a une repr´ esentation du processus de Rosenblatt en int´ egrale double de Wiener-Itˆ o sur un compact, not´ ee {Z _t ^H , t ∈ [0, T ]}, et l’int´ egrale de type Skorohod d´ efinie dans l’article [113]. Le r´ esultat est le suivant:

Proposition 4.6: Soit {Φ _t ; t ∈ [0; T ]} un processus stochastique tel que Φ ∈ L ² (Ω; H) ∩ L ² ([0, T ]; D ^2,2 ) et E [ R T

0

R T

0 ||D _s ²

_,s

φ|| ² _H ds ₁ ds ₂ ] < ∞. Alors, {Φ _t } est int´ egrable au sens de Sko- rohod et (S) ^∗ -int´ egrable par rapport au processus de Rosenblatt, {Z _t ^H } t∈[0;T ] , et on a:

Z T 0

Φ _t δZ _t ^H = Z T

0

φ _t Z ˙ _t ^H dt.

D ^2,2 d´ esigne l’espace de Sobolev-Watanabe-Kree d’ordre (2, 2) et D ² _s

1

,s

l’op´ erateur de d´ eriv´ ee seconde stochastique, tous deux associ´ es ` a un mouvement brownien standard.

Enfin, la variance de l’int´ egrale stochastique par rapport au processus de Rosenblatt est calcul´ ee explicitement pour une certaine classe de processus int´ egrandes. Des conditions suffisantes sont impos´ ees sur la classe d’int´ egrandes et notamment sur leur d´ ecomposition en chaos de Wiener.

Afin d’´ enoncer pr´ ecis´ ement le r´ esultat, quelques notations doivent ˆ etre introduites. Un outil r´ ecurrent intervenant dans l’analyse stochastique associ´ ee au mouvement brownien fractionnaire est l’int´ egrale fractionnaire d’ordre β ∈ (0, 1) sur l’axe r´ eel, d´ enot´ ee I ₊ ^β . Elle est d´ efinie comme suit sur l’espace de Schwartz des fonctions infiniment d´ erivables et ` a d´ ecroissance rapide:

∀f ∈ S( R ), ∀x ∈ R , I ₊ ^β (f )(x) = 1 Γ(β)

Z

R

f (y)(x − y) ^β−1 ₊ dy.

Bri` evement, on suppose que les noyaux de la d´ ecomposition en chaos de Wiener du processus int´ egrande {Φ t , t ∈ (a, b)} v´ erifient, pour tout m ≥ 2 et pour tout t:

H ₁ : ∃g _m (., t) ∈ L ² ( R ^m ), F (f _m (, t))(ξ ₁ , ..., ξ _m ) = (−iξ m−1 )

(−iξ _m )

Q m

i=m−1 (1 + |ξ _i | ² )

F(g _m (, t))(ξ ₁ , ..., ξ _m ),

o` u Φ t = P +∞

m=0 I m (f m (., t)) et (−iξ) ^H/2 = |ξ| ^H/2 exp(−iH sign(ξ)π/4). Le r´ esultat s’´ enonce alors de la fa¸con suivante:

Th´ eor` eme 4.7: Soit (a, b) ⊂ R + tels que 0 ≤ a < b < ∞. Soit {Φ _t ; t ∈ (a, b)} un pro- cessus stochastique tel que pour tout t ∈ (a, b), Φ _t ∈ (L ² ). De plus, on suppose que:

∀t ∈ (a, b), ∀m ≥ 2, f _m (., t) v´ erifie H1,

+∞

X

m=2

(m + 2)!

Z

(a,b)

kg _m (.; t)k ^q _L

( R

) dt

< +∞, o` u q = _H ¹ (1 + ) pour un certain ∈ ( _3H−1 ^1−H ∨ (2H − 1); 1). Alors, on a:

E

( Z

(a,b)

Φ t X ˙ _t ^2,H dt) ²

= H(2H − 1) Z

(a,b)×(a,b)

|t − s| ^2(H−1) E [Φ t Φ s ]dsdt + 4d(H)

r H(2H − 1) 2

Z

(a,b)×(a,b)

|t − s| ^{H −1} E [ ˜ D

δ

◦I

H 2 +

(Φ _t ) ˜ D

δ

◦I

H 2 +

(Φ _s )]dsdt + d(H) ²

Z

(a,b)×(a,b) E [( ˜ D

δ

◦I

H 2 +

) ² (Φ _t )( ˜ D

δ

◦I

H 2 +

) ² (Φ _s )]dsdt, o` u d(H) > 0 est une constante connue explicitement et ˜ D _δ

s

◦I

(Φ t ) et ( ˜ D _δ

s

◦I

) ² (Φ t ) deux

´

el´ ements de L ² ((a, b) × (a, b)) ⊗ (L ² ) co¨ıncidant avec D _δ

s

◦I

(Φ _t ) et (D _δ

s

◦I

) ² (Φ _t ) pour {Φ _t } plus r´ eguliers.

Il est important de remarquer l’apparition d’un terme faisant intervenir une d´ eriv´ ee seconde stochastique dans la formule pr´ ec´ edente, ce qui diff` ere significativement du cas gaussien.

Dans le dernier chapitre de cette th` ese, on ´ etudie le lien entre les int´ egrales d´ efinies par r´ egu- larisation par rapport au mouvement brownien fractionnaire et par rapport au processus de Rosenblatt et les int´ egrales bruit fractionnaire et bruit de Rosenblatt. Pour ce faire, on com- bine des outils issus de la th´ eorie du bruit blanc et du calcul de Malliavin. En particulier, en utilisant les espaces de Sobolev-Watanabe-Kree, not´ es (W ^r,2 ) pour r ≥ 0 dans ce chapitre, on d´ efinit des familles d’op´ erateurs sur ces espaces associ´ ees au mBf et au processus de Rosenblatt (voir propositions 2.4 et 2.6 du chapitre 3). Ceux-ci sont not´ es ∇ ^{H −1/2} pour le mBf et ∇ ^H/2 ,

∇ ^(2),H/2 pour le processus de Rosenblatt. Le r´ esultat concernant le mouvement brownien frac- tionnaire est alors le suivant:

Proposition 4.8 : Soit {Φ _t : t ∈ (a, b)} un processus stochastique tel que pour tout t ∈ (a, b), Φ _t ∈ (W ^1,2 ). De plus, on suppose que:

Z b a

kΦ t k ² _(L

) dt < +∞,