Modèle continu

L’approche par convolution introduite par Higdon [1998], Higdon et al. [1999] consiste à représenter une fonction aléatoire non-stationnaire (gaussienne) comme la convolution d’un noyau déterministe variant spatialement avec un bruit blanc (gaussien). Higdon [1998], Higdon et al. [1999] définissent une fonction aléatoire gaussienneZ= {Z(x),x∈

5. L’absence d’un modèle global ne permet pas par exemple, de calculer la covariance en toute paire de points non-observés.

G⊆_R^p}comme suit : spatialement ;X(.)est le bruit blanc gaussien standard. Par bruit blanc gaussien stan-dard, on entend une fonction aléatoire telle que :W(A) ≡ R

AX(_u)du ∼ _N(_0,ν(A))_et Cov(W(A),W(B)) = ν(A∩B), pour tout ensemble mesurable A,B ⊂ _R^p;ν(.)étant la mesure de Lebesgue surR^p.

Même si dans la pratique, la fonctionk(., .)est souvent prise dans la classe des fonctions symétriques et définies positives, il important de noter que ce n’est pas une nécessité. En effet, il suffit que sup_xR

R^pk²_x(_u)du<+_∞pour que le modèle spécifié en (1.14) conduit à une covariance non-stationnaire définie positive surR^p×_R^p:

Cov(Z(x),Z(y))≡C(x,y) =

Z

R^pk_x(u)k_y(u)du. (1.15) Le noyauk(., .)contrôle la régularité de la fonction aléatoireZ[Abrahamsen, 1997]. En effet, si la fonctionk_x(.)est différentiable en toutx∈ G, alors la fonction aléatoireZest différentiable et : De cette manière, il est possible d’obtenir des fonctions aléatoires gaussiennes ré-gulières en utilisant un noyau régulier. Si le noyauk(., .) est invariant par translation (stationnaire), c’est-à-direk_x(_u) =k₀(_x−u)_{pour toutx, alors}Zest de covariance k₀(.)est donnée par le théorème de convolution pour les transformées de Fourier :

(2π)^p|_F(k₀)|²=_F(C₀) =S₀, (1.18) oùF(.)est la transformée de Fourier.

Ainsi,C₀(_.)est la transformée de Fourier inverse du carré de la transformée de Fourier dek₀(.). Réciproquement, pourC₀(.)donnée, k₀(.)est obtenue comme l’inverse de la

6. Le terme noyau a plusieurs significations distinctes en statistique. Sauf mention contraire, tout au long du document, un noyau (que nous appellerons aussi fonction de pondération) surR^p×_R^pest une fonction positivek:R^p×_R^p→_R+.

1.6. CONVOLUTION 39 transformée de Fourier de la racine carrée de la densité spectrale de C₀(.). Si en plus k₀(_.)est isotrope,C₀(_.)l’est aussi et la correspondance entre C₀(_.)_et k₀(_.)est bijective [Gaetan and Guyon, 2009]. Une famille flexible de noyaux stationnaires isotropes est obtenue à partir de la classe de corrélations stationnaires isotropes de type Matérn [Stein, 1999]. La densité spectrale d’une fonction de corrélation stationnaire isotrope de type Matérn dansR², de paramètres d’échelle a > 0 et de régularitéν > 0 est donnée par f(ω) _∝ 1/(a²+ω²)^ν/2+1. Le noyau correspondant est l’inverse de la transformée de Fourier de 1/(a²+ω²)^ν/4+1/2qui est proportionnel à :

(ak_uk)^νK_ν(ak_uk), a>0,ν>0, (1.19) oùKν(.)est la fonction de Bessel modifiée de second espèce d’ordreν[Gradshteyn and Ryzhik, 2007].

La relation entre le noyauk₀(.)et la covarianceC₀(.)est discutée en détail par Matérn [1986], Oliver [1995], Ver Hoef and Barry [1998] et Kern [2000]. Le tableau 1.1 présente des exemples de noyaux (stationnaires et isotropes) et leur covariances (stationnaire et isotrope) associées [Matérn, 1986].

TABLEAU1.1 – Modèle de convolution : exemples de noyaux et leur covariance associée.

Dans le cas oùk₀(_.)est un noyau stationnaire isotrope, on peut dériver une covariance elliptique en remplaçantk0(kuk)park0(√

u^TAu)oùAest une matrice définie positive. La covariance stationnaire isotropeC₀(khk)correspondant alors àk₀(kuk)est ainsi changée enC₀(√

h^TAh).

La représentation par convolution présente quelques atouts. Elle permet de modéliser le noyau k(_{., .}) plutôt que la covariance C(_{., .}) qui doit être définie positive. Ainsi, la formule de convolution permet d’obtenir les modèles du second ordre sans avoir à vérifier la condition de définie positivité d’une covariance. Par ailleurs, elle permet de générer des modèles non-gaussiens dès que la convolution est valide. Une simple extension du modèle (1.14) est de modifier la spécification régissant la fonction aléatoire latenteX(.). Par exemple, Wolpert and Ickstadt [1998] spécifientX(.)comme un processus de Lévy (dont un cas particulier est celui oùX(.)est une mesure aléatoire de Poisson). Ainsi, le processus résultant n’est pas gaussien. Une telle approche peut être appropriée dans la modélisation

de taux ou de concentrations qui ne suivent généralement pas une distribution gaussienne.

De plus, l’approche par convolution fournit un moyen direct et simple de simulation de fonctions aléatoires sans recourir à des inversions de matrices ou calcul de déterminants.

Un point crucial dans cette approche est la définition ou le choix du noyau défini en tout point. Les noyaux généralement utilisés sont des noyaux isotropes ou elliptiques.

Contrairement à ce à quoi on pourrait s’attendre, on est limité dans le choix de la famille de noyaux. En effet, l’inférence des modèles de convolution n’est aisé que dans le contexte de stationnarité locale. Dans ce contexte, l’estimation n’est possible qu’avec des noyaux qui localement sont connectés à des covariances stationnaires paramétriques. Tel est le cas des noyaux présentés dans le tableau 1.1. De la sorte, l’estimation des paramètres de la covariance locale stationnaire permet d’obtenir ceux du noyau correspondant.

Pour une fonction aléatoire non-stationnaire sur R², Higdon [1998], Higdon et al.

[1999] choisissentk_x(.)comme une densité gaussienne bivariée centrée enx, de matrice de covarianceΣx(appelée matrice de noyau) variant spatialement :

k_x(u) = ¹

La covariance non-stationnaire de la fonction aléatoireZa une expression analytique donnée par :

PourΣx =_Σune matrice constante, on retrouve la covariance gaussienne à anisotro-pie géométrique où les axes principaux deΣdéterminent les directions de la structure anisotrope.

Pour paramétrer la matrice de noyauΣx, Higdon [1998] et Higdon et al. [1999] utilisent la correspondance bijective qui existe entre une ellipse standard d’un noyau gaussien et le noyau lui-même. Une ellipse peut être définie de plusieurs façons ce qui implique différentes formes de paramétrisation. D’une part, une ellipse peut être définie à travers un ensemble de trois paramètres : centre, un des deux foyers, et aire ; d’autre part, par la donnée de l’excentricité et la direction du grand axe. Bien que ces propriétés géométriques peuvent être dérivées l’une de l’autre, cette approche ne se limite pas à la paramétrisation qu’ils ont choisie. D’autres paramétrisations sont possibles et peuvent être plus facilement applicables dans certaines situations.

1.6. CONVOLUTION 41 En utilisant la définition bi-focale de l’ellipse et en considérantF(x) = (F₁(x),F₂(x))^T et−_F(_x) = (−F₁(_x)_,−F₂(_x))^T_,∀_x ∈ G, les points focaux (foyers) de l’ellipse centrée à l’origine et d’aire fixe A, Higdon et al. [1999] modélisent la matrice de covariance Σx

comme suit :

Pour écrireΣx en fonction de ces paramètres, on utilise certaines propriétés géomé-triques des ellipses. Cela permet d’utiliser une ellipse comme un moyen plus intuitif de paramétrerΣx. Ainsi, l’expression (1.22) fournit une correspondance entre une ellipse défi-nie par son centre, foyer et aire, et le noyau gaussien bivarié qu’elle représente. Travaillant dans le contexte bayésien, Higdon et al. [1999] spécifient une distribution spatiale a priori du noyauk_x(.)en modélisant F₁(_x)etF₂(_x)comme des fonctions aléatoires gaussiennes, indépendantes, chacune de covariance stationnaire isotrope gaussienne : exp(−r²/τ_F²). Ceci signifie queF(x)a une distribution bivariée gaussienne standard en tout point x.

Le choix deτ_Fdépend de l’application et celui deAest fixé à une valeur qui donne des ellipses raisonnables lorsqueF₁(_x)_etF₂(_x)sont tirés de la distribution gaussienne. Ces choix se font après une analyse exploratoire des données. Swall [1999] a constaté des problèmes de sur-apprentissage lorsque l’aire de l’ellipse Aest autorisée à varier. C’est la raison pour laquelle elle fixe l’aire de l’ellipse à une valeur constante commune à tous les emplacements. Un facteur d’échelleτ_zest autorisé à varier en chaque endroit.

Une autre paramétrisation de la matrice de noyauΣxpeut se faire par décomposition spectrale. L’anisotropie locale est alors capturée en permettant une rotation et un étirement ou contraction des axes de coordonnées [Higdon, 1998] :

Σx¹² = ^λ1(_x) ₀

Toujours dans le contexte bayésien, afin d’assurer que les noyaux varient lentement sur le domaine d’intérêt, Neto et al. [2013] intègrent une certaine régularité dans le comportement deΣx. Les distributions a priori de log{λ_j(.)}sont modélisées comme des fonctions aléatoires gaussiennes stationnaires, indépendantes de moyenneµ_λj, de variance

σ_λ²et de covariance stationnaire isotrope gaussienne :σ_λ²exp(−r²/τ_λ²). Le paramètreθ(.) lui est modélisé comme suit :θ(_x) = ^π_2Φ{_Ξ(_x)}_{, oùΦ}(_.)est la fonction de répartition d’une loi gaussienne standard etΞ(.)est une fonction aléatoire gaussienne de moyenne µ_Ξet de covariance stationnaire isotrope gaussienne :σ_Ξ²exp(−r²/τ_Ξ²).

FIGURE1.4 – Modèle de convolution : représentation de la matrice de noyau.

La structure de dépendance spatiale définie en (1.21) est caractérisée par les paramètres de la matrice d’anisotropieΣxdéfinie en tout pointx∈ G. L’estimation de ces paramètres est requise en tout point du domaine d’intérêt. Pour que l’inférence soit possible, Higdon [1998] s’appuie sur l’hypothèse de stationnarité locale et de la connexion entre le vario-gramme gaussien et le noyau de convolution gaussien. Tout d’abord, les paramètres du noyau sont estimés pour un sous-ensemble de sites pour limiter le temps de calcul. En chaque site du sous-ensemble, les paramètres de variogramme sont estimés dans le voisi-nage local et transformés pour correspondre aux paramètres du noyau gaussien. Il s’agit d’une simple transformation puisqu’une fonction aléatoire spécifiée par un variogramme stationnaire gaussien est équivalente à une fonction aléatoire obtenue par convolution d’un bruit blanc avec un noyau gaussien. Enfin, les paramètres estimés du noyau sont interpolés de telle sorte que le noyau varie lentement sur l’ensemble du domaine. Plus précisément, les paramètres du noyau gaussien aux points non-estimés sont calculés par une moyenne pondérée des paramètres aux points estimés. Higdon [1998] applique cette méthode à la prédiction de températures dans l’Océan Atlantique.

Habituellement, l’inférence des modèles de convolution se fait dans le contexte bayé-sien. Higdon et al. [1999] considèrent le noyau de convolution comme une fonction inconnue que l’on contraint à être lisse. Ils prennent en compte l’incertitude dans la spécification de la non-stationnarité en développant un modèle hiérarchique qui peut intégrer cette incertitude dans l’inférence. Le processus sous-jacent est considéré comme un paramètre du modèle, et sa distribution a posteriori peut être trouvée directement dans une version simple du modèle ou en ayant recours à des algorithmes de Monte Carlo

1.6. CONVOLUTION 43 par chaîne de Markov. L’exemple d’application est l’estimation de la concentration en dioxines sur un site dans le Missouri, aux États-Unis d’Amérique. Higdon [2002] discute de l’utilisation de la procédure de maximum de vraisemblance restreint pour ajuster les modèles de convolution.

Higdon [1998], Higdon et al. [1999] choisissent un noyau gaussien principalement pour sa commodité de calcul et de tractabilité analytique. Ce choix conduit à une expression explicite de la covariance non-stationnaire, et par conséquent de la vraisemblance. La méthode de paramétrisation s’étend au-delà de l’utilisation du noyau gaussien, mais les auteurs n’ont pas implémenté d’autres formes de noyaux. Une conséquence de l’utilisation du noyau gaussien est que le modèle de covariance locale est également gaussien. Ceci implique que la fonction aléatoire est infiniment différentiable. Dans le cadre stationnaire, Stein [1999] prévient que la modélisation des phénomènes réels avec une telle covariance n’est pas réaliste. En effet, il montre qu’en utilisant un développement de Taylor d’une telle fonction aléatoire à une origine arbitraire, il est facile de voir qu’on peut prédire exactement la fonction aléatoire en tout autre point du domaine simplement en connaissant la fonction aléatoire dans un certain voisinage arbitrairement petit.

Calder and Cressie [2007] discutent d’un certain nombre de sujets liés à la modélisation par convolution, y compris des problèmes numériques pour les grands ensembles de données. D’Hondt et al. [2007] applique le modèle de convolution à noyau gaussien dans l’analyse de la texture d’images radar.