M ´ethode de Monte Carlo

FIG. 8.3 – Vraisemblance (8.2.9) dans un voisinage de2 935 142 778, o `u elle prend sa valeur maximale 1.

8.3 M ´ethode de Monte Carlo

8.3.1 Algorithmes utilis ´es

On consid `ere deux diff ´erents algorithmes qui, suivant l’emploi courant, on appelle – algorithme de Metropolis ind ´ependant (utilis ´e comme base de comparaison) – algorithme de Metropolis-Hastings `a marche al ´eatoire,

Dans les deux cas on se donne de fac¸on al ´eatoire une constitution de d ´epart n₀ et on construit un chemin al ´eatoire {n₀, n₁, . . . , n_i, . . .} ayant les propri ´et ´es d’une chaˆıne de Markov gr ˆace `a des r `egles de proposition et acceptation des candidats appropri ´ees. Les algorithmes employ ´e ne diff `erent que pour ces r `egles.

A chaque pasiun candidatn?est choisi sur la base d’une distribution qu’on appelle loi instrumentale ou candidate,π(n?|n_i), telle que

X

n?∈N

π(n?|n_i) = 1 ∀n_i ∈ N, (8.3.1) et accept ´e (c’est `a dire ni+1 =n?) ou rejet ´e avec probabilit ´e d’acceptation

π_{M H}(n_i+1 =n^?) = min ½ π(n?|m)π(ni|n?) π(n_i|m)π(n?|n_i)^,1 ¾ (8.3.2) Le choix de la loi candidate fait la diff ´erence entre les deux algorithmes consid ´er ´es ; elle est uniforme pour le Metropolis ind ´ependant, ce qui r ´eduit dans ce cas la probabi-lit ´e d’acceptation `a

πM(ni+1=n^?) = min ½ π(n?|m) π(n_i|m)^,1 ¾ (8.3.3) 8.3.2 Loi candidate

Les algorithmes qu’on va ´etudier reposent sur une loi candidate de la forme

π(n?|n_i) =π(n?−n_i), o `un?−n<sub>i</sub> est un glissement den<sub>i</sub> `an?.

Pour d ´efinir le type de glissements entre constitutions qui seront pris en compte dans l’algorithme, on rappelle la d ´efinition donn ´ee§8.2.1. Pour une constitution donn ´ee

n (vue comme sommet d’un hypercube), l’op ´eration

n → n+e

p

X

j=1

o `u e ∈ {−1,1}, {q_j|j = 1, . . . , p} est une liste d’entiers successifs modulo 31, qu’on appellera indices d’ar ˆetes, et {a_j ∈ {0,1} |j = 1, . . . , p} sont les amplitudes d’ar ˆetes, identifie une constitution dans un voisinage de psommets autour de n.

On appelle pas surp sommets n’importe quel glissement qui peut ˆetre d ´efini par le choix de

1. sa longueur p ∈ {0, . . . ,31}, c’est `a dire le nombre maximale de sommets qui seront ´eventuellement int ´eress ´e par le mouvement,

2. sa directione(gauche,+1, ou droite, −1),

3. son premier indice d’arr ˆete q1 ∈ {0, . . . ,31}(car tout autre glissement d’arr ˆete qui compose le mouvement pourra ˆetre choisi par la r `egle q_j = (q₁ +j −1) mod 31,

j = 2, . . . , p),

4. les amplitudes a_j ∈ {0,1}, j = 1, . . . , p (c’est `a dire l’ensemble des glissements d’arr ˆete qui sera effectivement pris en compte dans la liste{q_j}).

Avec la d ´efinition de pas donn ´ee, pour un choix de p, une constitution n? est hors

d’atteinte en un seul pas `a partir d’une autre constitution n sin?−n est donn ´e par la

somme de plus de p glissement d’arr ˆete cons ´ecutifs (20 ´etant pris apr `es 231), ou s’il a des amplitudes d’arr ˆete de signe oppos ´e. Ces relations ´etant sym ´etriques, il s’av `ere quen? est hors d’atteinte `a partir densi et seulement si nl’est `a partir den?.

Dans le but de construire un chemin al ´eatoire il est utile de proposer de pas sur l’hypercube de longueur bien choisie, de fac¸on `a assurer le compromis demand ´e entre le besoin de propager le chemin dans des zones diff ´erentes et celui d’ ´economiser les rejets.

Pour un choix depon introduit :

1. une probabilit ´eπ(e)sur la direction du pase∈ {−1,1},

2. une probabilit ´eπ(q₁)de faire un pas ayantq₁ comme premi `ere arr ˆete de la liste, 3. p−1probabilit ´esπ(q_j),j = 2, . . . , p, qu’un pas emprunte simultan ´ement d’autres

arr ˆetes.

Les diff ´erents choix qui correspondent `a cette liste conduisent `a l’algorithme (8.3.3) ou (8.3.2) suivant si la sym ´etrieπ(n?|ni) =π(ni|n?)est conserv ´ee ou non `a tous pasi.

On consid `ere effectivement ces deux cas :

– on construit une chaˆıne de Markov en proposant na¨ıvement et en testant `a chaque pas par le biais de (8.3.3) des mouvements g ´en ´er ´es par des probabilit ´es π(e) et

π(q_j),j = 1, . . . , p, qui ne d ´ependent pas des r ´esultats pr ´ec ´edents ;

– on adopte une loi candidate qui d ´epend de l’issue d’un certain nombre de pas pr ´ec ´edents (et on se donne une probabilit ´e d’acceptation modifi ´ee `a fin de conser-ver la r ´econser-versibilit ´e du processus), de fac¸on `a ´eviter des pas avant qu’ils donnent lieu `a un candidat, et donc avant avoir men ´e un test, qui sera de type (8.3.2). Ce deuxi `eme algorithme est pris en compte en vue d’applications dans lesquelles l’effort, en termes de calcul num ´erique, n ´ecessaire pour l’ ´evaluation de π(n?|m) dans (8.3.2) doit ˆetre ´evit ´e dans les limites du possible.

Dans le premier cas la probabilit ´eπ(q1)est choisie uniforme dans{0, . . . ,31}, tandis que les autresp−1arr ˆetes ont probabilit ´e1/2de faire partie du glissement. La direction est aussi choisie sur la base d’une probabilit ´e uniforme π(e) = 1/2.

Par ces choix, aucun des param `etres et des lois de distribution qui contribuent `a la d ´efinition d’un nouveau candidat ne d ´epend ni de la constitution correspondante au dernier pas du chemin ni des pas pr ´ec ´edents. Par cons ´equent π(n?|n_i) (qui est la

8.3 M ´ethode de Monte Carlo 177 probabilit ´e que la constitution n? soit atteinte au (i+ 1)- `eme pas du chemin) est nulle si et seulement si n? est hors d’atteinte `a partir de n_i. En tout cas π(n?|n_i) = π(n_i|n?) et (8.3.3) peut ˆetre utilis ´e de fac¸on imm ´ediate pour construire une chaˆıne de Markov.

L’algorithme qu’on obtient ainsi peut ˆetre vu comme un cas particulier d’un hit-and-run discret de [KSZ]. Suivant des d ´efinitions proches de celles donn ´ees `a la fin du

§8.2.1, l’ensemble des constitutions peut ˆetre consid ´er ´e comme un r ´eseau d’entiers dans un hypercube de dimension Qet taille 32/Q, Q ∈ {1,2,4,8,16,32} (au§8.2.1 on se place dans le cas Q = 32). Cet ensemble peut alors ˆetre encadr ´e dans une boˆıte dont la taille et les dimensions sont celles donn ´ees ci-dessus, et on peut suivre [KSZ] pour construire son chemin al ´eatoire markovien. La taille de la boˆıte qu’il faut prendre `a cette fin correspond `a la longueur maximale des pas qu’on fixe dans l’algorithme que nous venons de proposer. Notez que ledit algorithme hit-and-run s’obtient du n ˆotre pour n’importe quelQ≤16.

Dans le cas du seconde algorithme propos ´e, on d ´efini chaque pas sur la base d’une proc ´edure `a deux ´etapes :

1. on choisi un ensemble de glissement par la proc ´edure na¨ıve de l’algorithme pr ´ec ´e-dent,

2. on teste chacun des glissements de cet ensemble par un crit `ere qui d ´epend du r ´esultat de tout test d’acceptation men ´e pr ´ec ´edemment (8.3.2), et ´eventuellement on en rejette un certain nombre.

Cela donne lieu, ´eventuellement, `a un rejet anticip ´e des candidats. La probabilit ´e de rejet anticip ´e sera faite ´evoluer comme suit : chaque fois que un candidat est rejet ´e sur la base du test (8.3.2), les directions menant de l’ ´etape actuelle du chemin vers ce candidat seront p ´enalis ´ees, alors que leur choix dans un mouvement successif sera favoris ´e dans le cas contraire. Pour obtenir ce r ´esultat on introduit un handicap h⁽rⁱ⁾,

r ∈ {−32, . . . , −1,1,. . . ,32}, pour chaque glissement d’arr ˆete orient ´e sgn(r)2|r|−1, qu’il sera augment ´e d’une unit ´e `a chaque rejet, r ´eduit `a chaque acceptation. On fait ensuite appel `a l’handicap total pour fixer une barri `ere lors du choix des amplitudes d’arr ˆetea_j

qui d ´efinissent le pas n? =n_i+e^Pp_j=1a_j2qj (e∈ {−1,1}) :

– a_j = 0si un tirage au sort de probabilit ´e uniforme dans I(i) est inf ´erieur `a l’handi-caph⁽_ejⁱ⁾,

– aj = 1sinon.

Par cet algorithme un pas peut ˆetre rejet ´e (si par exemple toute direction de glisse-ment qu’il comporte se font refuser `a cause de leur handicap) avant de devenir un vrai candidat `a tester pour faire partir de la chaˆıne en construction. Si un tel ´ev ´enement se produit sfois successives, la borne sup ´erieure de l’intervalle de barrage I(i) est lev ´ee des÷munit ´es, de sorte `a d ´ebloquer le processus (seule cette borne d ´epend donc de

idansI(i)).

Le rejet anticip ´e modifie la probabilit ´e `a priori surN; plus exactement, si un glisse-ment donn ´e (positif ou n ´egatif) d’un certaine zone du fil s’est montr ´e inutile dans des pas pr ´ec ´edents, alors l’algorithme r ´esistera avant de le prendre en compte `a nouveau ; si, au contraire, il existe des glissements d’une partie du fil qui se sont montr ´es utiles, alors l’algorithme aura tendance `a les proposer nouveau.

Ce comportement peut ˆetre r ´egl ´e par le choix de trois param `etres : la largeur initiale de la fen ˆetre de l’handicap I(0), la valeur initiale de celui-ci h<sup>(0)</sup>r (pris uniform ´ement surr ∈ {−32, . . . ,−1,1, . . . ,32}au d ´ebut du chemin) et le param `etre de d ´eblocagem. Dans les exemples num ´eriques pr ´esent ´es ci-dessus on prendI(0) ≡[0,10] eth⁽⁰⁾r = 2

pour toutr∈ {−32, . . . ,−1,1, . . . ,32}, et on fixe m= 5.

Pour r ´etablir la r ´eversibilit ´e du chemin il faut inclure le rapport entre lois candidates

π(ni|n?)/π(n?|ni)dans la probabilit ´e d’acceptation, comme montr ´e dans (8.3.2).

Si on analyse, dans le cas du rejet anticip ´e, la probabilit ´e des constitution qui peuvent ˆetre atteintes `a partir de ni, on voit que π(n?|ni) = π1(n??|ni)π2(n?|n??), o `u

π₁ est le m ˆeme que dans la loi candidate na¨ıve du premier algorithme etπ₂ est la pro-babilit ´e que un candidat r ´eussisse le test de rejet anticip ´e. La sym ´etrie de π₁ implique

π(n_i|n?)

π(n?|ni) ⁼

π₂(n??|n?)

π2(n?|n??)^{, (8.3.5)} et donc on peut se concentrer sur le rapport au membre droit de (8.3.5) pour expliciter le ratio des lois candidates dans (8.3.2).

Soientn? etn?? tels qu’on puisse atteindre l’un `a partir de l’autre ; par d ´efinition, on peut d ´ecomposer n? −n?? en p glissement d’arr ˆete de signe ´egale, et n?? −n? sera donn ´e par la somme oppos ´ee :

∃|q₁ ∈ {0, . . . ,31},{a_j} ∈ {0,1}p, e∈ {−1,1} :

n?−n?? =e^Pp_j=1a_j2q1+j−1; ^(8.3.6) la probabilit ´e d’une transition de n?? `an? au pas i suivant la direction es’obtient alors en combinant les p probabilit ´es ind ´ependantes des diff ´erents glissements d’arr ˆete qui compose ce pas, π₂(n?|n??) = p Y j=1 min à 1,^maxI (i)−h⁽_ejⁱ⁾ measI(i) ! , (8.3.7)

et la probabilit ´e π₂(n??|n?) de revenir en arri `ere de n? `a n?? est obtenue de (8.3.7) en changeanth⁽_ejⁱ⁾ avech⁽₋ⁱ⁾_ej.

En conclusion (8.3.5) et (8.3.7) nous permettent d’expliciter le ration des lois candi-dates qui apparaˆıt dans (8.3.2) :

π(n_i|n?) π(n?|ni) ⁼ Q_p j=1min ³ measI(i), maxI(i)−h⁽₋ⁱ⁾_ej ´ Q_p j=1min ³ measI(i), maxI(i)−h⁽_ejⁱ⁾ ´ . (8.3.8)