Modélisation de la norme des vecteurs et de la source en utilisant un mélange

Dans le paragraphe (2.3 du chapitre 2) sur l’orientation des vecteurs, nous avons vu que la norme des vecteurs pouvait être considérée comme une mesure de l’activité locale du signal. Dans cet exemple, on utilisait la norme L¹pour les vecteurs qui représente la moyenne (en valeur absolue) des coordonnées du vecteur. Ainsi, dans le cas de signaux creux et agglutinés comme les coefficients d’ondelettes, la distribution de la norme dépend principalement des corrélations entre les échan-tillons. Par conséquent, comme l’efficacité d’un schéma de QVA sur une source non uniforme est principalement liée au codage entropique des vecteurs, les performances de codage sont le résultat des dépendances entre les échantillons. Nous appellerons cela le gain de parcimonie. Notons que celui-ci est différent du gain classique de corrélation qui est exploité par des dictionnaires elliptiques [38], puisque cela concerne la magnitude des coefficients et non les polarisations.

Pour rappeler cet aspect, nous faisons une comparaison entre les histogrammes de la norme de trois sortes de vecteurs : Les figures 4.5 (A) et (B) correspondent aux vecteurs de la sous-bande V3 de l’image de Lena avec deux orientations différentes : verticale (8× 1) et horizontale (1 × 8) respectivement. La figure 4.5 (C) correspond à des vecteurs de forme 4× 2 d’une source synthétique i.i.d, avec le même écart type (σ = 7.7) que la sous-bande considérée. Trois remarques peuvent être déduites de la figure 4.5 :

1. Les distributions empiriques (A) et (B) ont un mode proche de zéro. Ce mode est dû au voisinage des coefficients de faible valeur qui conduit à un grand nombre de vecteurs avec une petite norme.

2. La distribution (A) est plus piquée que la (B) puisque des vecteurs avec la même orienta-tion que les détails capturent mieux les voisinages de coefficients significatifs et, inversement augmentent la concentration des vecteurs autour du vecteur nul.

3. La distribution i.i.d laplacienne sur la figure 4.5 (C) est très différente de celle de la sous-bande puisque son mode est éloigné de zéro (maximum en ^σ(n√⁻¹⁾

2 = 38, 1 >> 0). Ainsi, le modèle i.i.d laplacien ne permet pas de représenter ce type de source.

Dans la plupart des travaux, la distribution de la norme est déduite de la distribution des échantillons de la source, que l’on suppose souvent i.i.d. Cette hypothèse conduit à des développe-ments analytiques simples mais ne donne pas une description correcte des propriétés de la norme (et évidemment ne prend pas en compte les dépendances à l’intérieur des blocs de la source). En effet, si on fait l’hypothèse d’une distribution sur les échantillons suivant une loi gaussienne géné-ralisée, la valeur du mode est seulement liée à l’écart-type. Ainsi, un grand écart-type conduira à un mode éloigné de zéro et entrainera un modèle non fiable pour la norme. En supposant qu’un

Fig. 4.5: Histogrammes de la norme L¹pour : des vecteurs verticaux (A), des vecteurs horizontaux (B) de la sous-bande V3 de Lena et (C) des vecteurs distribués i.i.d laplacien (orientation : 4× 2).

modèle statistique réaliste de la norme donne une description précise de celle-ci, nous proposons une approche inverse : nous déterminons un modèle flexible pour la norme qui permettra de déduire la distribution conjointe de la source des vecteurs.

4.3.2.1 Modélisation de la norme en utilisant un modèle de mélange de lois gamma L’histogramme de la distribution de la norme de la figure 4.5, avec un mode proche de zéro et une longue queue nous amène à tester un modèle consistant en un mélange de densités. De plus, comme la norme des vecteurs est non négative, le mélange de lois gamma semble un bon candidat. Nous rappelons qu’une variable aléatoire ε qui est distribuée suivant une loi gamma (dans la suite ε représente la norme des blocs) a la densité de probabilité suivante :

G(ε; a, b) = ^b a Γ(a)^ε

a−1exp[−b ε]Iε>0, (4.21)

où Γ(a) est la fonction gamma, Iε>0 est la fonction indicatrice et les paramètres (a > 0, b > 0) permettent d’ajuster la forme de la densité gamma (noté G(ε; a, b)). Conne nous pouvons le remarquer sur la figure 4.6, pour 0 < a < 1 la distribution est pointue et bien adaptée à des signaux parcimonieux ; pour a > 1, la distribution possède un mode en (a− 1)/b et est très allongée.

En supposant que la norme des vecteurs ε appartient à Nmixclasses S_kde poids c_k= P (ε∈ Sk), nous obtenons le modèle de mélange suivant :

p(ε; a, b) = NXmix

k=1

c_kG(ε; ak, b_k), (4.22)

avec a = [a1, ..., aNmix], b = [b1, ..., bNmix]. Dans le cadre de notre application, la norme des vecteurs est supposée appartenir à deux classes notées S₁ et S₂ : l’état des normes de faible valeur

4.3 Modèles débit-distorsion dédiés aux mélanges de densités par blocs

111

Fig. 4.6: Formes typiques de distributions gamma (équation 4.21).

et l’état correspondant aux normes de grande valeur. Les paramètres (c1, c2) sont estimés en utilisant une simulation Monte-Carlo par chaîne de Markov (MCMC) [81]. Les paramètres des lois gamma a et b sont simulés en utilisant les algorithmes donnés dans [76]. Par exemple, nous testons ce modèle de mélange sur la sous-bande de l’image de Lena précédemment considérée (V3). La figure 4.7 montre que le mélange de deux lois gamma approxime bien la distribution de la norme L¹, c’est à dire un pic proche de zéro et une longue queue. La précision du modèle souligne le fait qu’une distribution conjointe conduisant pour la norme à une distribution de mélange de gamma semble être un bon représentant pour la distribution de la source elle-même.

4.3.2.2 Détermination de la distribution de la source

A partir de la distribution de la norme des vecteurs introduite en (4.22), la distribution conjointe f d’un vecteur aléatoire X représentant la source est donnée par :

f (X) = NXmix

k=1

c_kf (X|kXk^α_α ∈ Sk) (4.23)

où f (X|kXkα

α ∈ Sk) est la distribution du vecteur aléatoire X conditionnellement à l’état Sk. Le choix de la distribution suivante f (X|kXkα

α∈ Sk) est motivé par la proposition suivante : Proposition 3 Si nous considérons un ensemble de variables aléatoires X = (x₁, ..., x_n), distri-buées suivant une loi gaussienne généralisée, la norme L^α à la puissance α, ε =

n P j=1

|xj|α, est distribuée suivant une loi gamma avec les paramètres a = n/α et b = 1/β^α, où α et β sont respec-tivement la puissance et la forme de la densité de la gaussienne généralisée, qui s’écrit :

GG(xi; α, β) = ^{α β} 1/α

2Γ(1/α)exp(−β|xi|α) (4.24)

Preuve. Comme la distribution de chaque variable x∈ {xj; j = 1, ..., n} est donnée par pX(x) = ^α 2β 1 Γ(1/α) ^exp µ −^|x| β α¶

Fig. 4.7: Histogramme de la norme L¹ des vecteurs (2× 4) de la sous-bande V3 de Lena et la densité correspondante d’un mélange de deux lois gamma estimées avec les paramètres a = [5, 12 1, 49], b = [0, 92 0, 03] et c = [0, 24 0, 76].

alors la distribution de sa valeur absolue est p_|X|(|x|) = ^α β 1 Γ(1/α) ^exp µ −^|x| α β^α ¶

La distribution de v =|x|α est déduite selon p_V(v) = p_X(x) ¯ ¯ ¯ ¯ |x|=v1/α µ dv d|x| ¶₋₁ où ^dv d|x| ^{= α v} (α−1)/α. Ainsi, pV(v) = ¹ β 1 Γ(1/α)^v 1/α−1 exp µ − ¹ β^αv ¶

ce qui montre que les variables vj = |xj|α sont distribuées selon une loi gamma de paramètres (1/α, 1/β^α).

Par ailleurs, comme la somme S_n de n variables aléatoires mutuellement indépendantes et distribuées selon des loi gamma de paramètres (ai, b) est également distribuée selon un loi gamma de paramètres (Pn

i=1a_i, b)[35], il en résulte que la norme ε =Pn

j=1v_j =Pn

j=1|xj|α est distribuée selon un loi gamma de paramètres (a = n/α, b = 1/β^α).

A partir de cela, nous pouvons déduire la proposition suivante Proposition 4 Sous les hypothèses suivantes :

- (H1) les n éléments de chaque vecteur source dans une classes S_k sont mutuellement indé-pendants et identiquement distribués suivant une densité de gaussienne généralisée de paramètre α_k, β_k.

- (H2) les éléments des vecteurs appartenant aux différentes classes sont indépendant et iden-tiquement distribués suivant des densités de gaussienne généralisée de paramètres de puissance identique α_k= α mais avec des paramètres de forme β_k différents.

4.3 Modèles débit-distorsion dédiés aux mélanges de densités par blocs

113 Les paramètres de la distribution conjointe des vecteurs de la source qui suit un modèle MMGG, sont déduits de la manière suivante

α_k= α, et β_k= (1/b_k)^1/α ∀k = 1, ..., Nmix, (4.25) Preuve. C’est une généralisation de la proposition précédente au cas du modèle de mélange. L’hy-pothèse (H1) permet simplement d’écrire que la norme de chaque vecteur appartenant à la classe Sk, noté X^(k), est distribuée selon une loi gamma de paramètres (ak = n/αk, bk = 1/(β_k)^α). De plus, l’hypothèse (H2) permet d’écrire que les différentes classes sont distinguées par leur paramètre de forme et permet de déduire à partir de la proposition précédente que les paramètres du mélange MMGG sont les suivants : (

α_k = ^ak n ^{= α,}

β_k= (1/bk)^1/αk = (1/bk)^1/α,

Ainsi, la distribution conjointe de chaque vecteur X conditionnellement à l’état S_k est : f (X|kXkα α ∈ Sk) = n Y j=1 GG(xj; αk, β_k). (4.26)

Avant de montrer dans le paragraphe suivant l’efficacité du modèle MMGG en évaluant les modèles R-D correspondants pour la QVA, nous insistons sur quelques points importants :

1. Le modèle MMGG est différent d’un modèle consistant en un mélange de distributions gaus-siennes généralisées scalaires avec des étiquettes indépendantes parce que celui-ci ne prend pas en compte les dépendances des échantillons.

2. Les dépendances entre échantillons sont estimées d’une manière simple puisque le modèle MMGG est déduit des paramètres du mélange de gamma avec des étiquettes indépendantes représentant la distribution de la norme des vecteurs.

3. Comme il sera montré par la suite, notre approche permet de réutiliser les travaux relatifs à l’hypothèse classique i.i.d pour bénéficier de propriétés mathématiques avantageuses. Les co-ordonnées des vecteurs sont supposées identiquement distribuées, les distributions condition-nelles sont séparables et, finalement, la densité gaussienne généralisée i.i.d est une hypothèse très courante en QVA. En d’autres termes, la densité gaussienne généralisée i.i.d peut être vue comme un cas particulier de notre modèle MMGG.