Mod`eles convexes et algorithmes d’optimisation en imagerie.

(1)

Mod` eles convexes et algorithmes d’optimisation en imagerie.

Pierre Weiss.

April 18, 2011

(2)

II/ Le principe du Maximum A Posteriori (MAP) et son application

en reconstruction d’images.

(3)

Probl` emes inverses : mal position

Hypoth` eses : Les donn´ ees u

0

∈

Rⁿ

sont obtenues ` a partir du mod` ele

u

₀

= B(Au) o` u :

•

u ∈ H est la donn´ ee exacte

(dans ce cours, on supposera que H =

R^m

).

•

A est un op´ erateur lin´ eaire ou affine (d´ eterministe).

•

B mod´ elise les pertubations al´ eatoires.

Probl` eme Inverse : retrouver u ` a partir de u

₀

. Mal position : l’op´ erateur A :

•

n’est pas de rang plein.

•

a de petites valeurs singuli` eres.

•

est compact (cadre Hilbertien).

(4)

Probl` emes inverses : mal position

Un probl` eme mal pos´ e typique : la d´ econvolution

u

0

= h ? u + b

•

u ∈

Rⁿ

: donn´ ee exacte.

•

u

₀

∈

Rⁿ

: donn´ ee observ´ ee.

•

h : noyau de convolution.

•

b : bruit gaussien de variance σ

²

.

La d´ econvolution sans r´ egularisation : u ˆ

0

= ˆ h · u ˆ + ˆ b ' ˆ h · u. ˆ

Raisonnement fallacieux :

u ˆ '

^u^ˆ_ˆ⁰

h

⇒ u ' F

⁻¹

ˆ u0

ˆh

(5)

Probl` emes inverses : mal position

Figure: La d´econvolution directe sans bruit.

(6)

Probl` emes inverses : mal position

Figure: La d´econvolution directe avec bruit.

Probl` eme : si | h(ζ)| ˆ est faible

^ˆ^b(ζ)

|ˆh(ζ)|

explose, et on amplifie

fortement certaines fr´ equences.

(7)

R´ egularisation des probl` emes inverses et MAP

L’id´ ee du MAP : On sait que :

u

₀

= h ? u + b Id´ ee :

Trouver u

^∗

∈ arg max

u∈Rⁿ

P (u|u

₀

) Loi de Bayes :

P (u|u

₀

) = P(u

₀

|u) · P (u)

P (u

0

)

(8)

R´ egularisation des probl` emes inverses et MAP

Donc :

arg max

u∈Rⁿ

P (u|u

₀

) (1)

= arg max

u∈Rⁿ

P (u

₀

|u) · P(u)

P (u

₀

) (2)

= arg min

u∈Rⁿ

− log

P (u

₀

|u) · P (u) P (u

0

)

(3)

= arg min

u∈Rⁿ

− log (P(u

₀

|u)) − log (P (u)) . (4)

(9)

Que vaut P (u

₀

|u) ?

Ca d´ epend des cas, mais en g{en´ eral, on peut le calculer.

Exemple :

Bruit additif ind´ ependant de u.

u

₀

= Au + b

P (u

₀

|u) = P (Au + b|u) (5)

= P (b). (6)

•

Bruit blanc gaussien : P (u

0

|u) ∝ exp

−

^kAu−u_2σ₂⁰^k²

.

•

Bruit blanc laplacien : P (u

0

|u) ∝ exp(−λkAu − u

0

k

₁

).

•

Bruit blanc uniforme : P (u

₀

|u) ∝

1 si kAu − u

₀

k

_∞

≤ α

0 si kAu − u

0

k

∞

> α .

(10)

Que vaut P (u) ? A priori sur les images naturelles.

Une question bien plus complexe ! 1. Qu’est-ce qu’une image ?

2. Y’a-t-il un sens ` a d´ efinir une densit´ e de probabilit´ e sur l’espace des images ?

3. Doit-on se limiter a des classes d’images (e.g. les images de cerveau...) ?

4. Est-ce que les probl` emes d’optimisation r´ esultants peuvent ˆ

etre r´ esolus ?

Dans cet expos´ e, on tranche hardiment, sans po´ esie : 1. Un tableau de pixels.

2. Peu importe puisqu’on vient de l’´ ecrire !

3. Oui, des images “r´ eguli` eres” sur des ensembles ` a bords r´ eguliers.

4. Bien sˆ ur si P (u) = exp(−J (u)) o` u J est convexe.

(11)

Que vaut P (u) ? A priori sur les images naturelles.

Une question bien plus complexe ! 1. Qu’est-ce qu’une image ?

2. Y’a-t-il un sens ` a d´ efinir une densit´ e de probabilit´ e sur l’espace des images ?

3. Doit-on se limiter a des classes d’images (e.g. les images de cerveau...) ?

4. Est-ce que les probl` emes d’optimisation r´ esultants peuvent ˆ

etre r´ esolus ?

Dans cet expos´ e, on tranche hardiment, sans po´ esie : 1. Un tableau de pixels.

2. Peu importe puisqu’on vient de l’´ ecrire !

3. Oui, des images “r´ eguli` eres” sur des ensembles ` a bords r´ eguliers.

4. Bien sˆ ur si P (u) = exp(−J(u)) o` u J est convexe.

(12)

Que vaut P (u) ? A priori sur les images naturelles.

Que vaut P (u), la probabilit´ e a priori des images?

Une longue histoire....

Mais deux types de probabilit´ es a priori surnagent :

•

Les a priori de parcimonie.

•

Les a priori de r´ egularit´ e.

(13)

Mod´ elisation des images : a priori de parcimonie

L’image u ∈

Rⁿ

s’´ ecrit : u =

m

X

i=1

y

i

ψ

i

|{z}

“atome”

= Ry Avec

•

m ≥ n.

•

R = [ψ

1

, ψ

2

, ..., ψ

m

] surjectif (notation Matlab).

La probabilit´ e satisfait :

P (x) ∝ min

y,Ry=x

||y

_i

||

₀

(Exemple de sinus + diracs).

(14)

Mod´ elisation des images : a priori de parcimonie

N’a-t-on pas juste d´ eplac´ e le probl` eme?

Comment choisir R pour bien repr´ esenter les images ?

•

Th´ eorie de l’information : La meilleure transform´ ee pour repr´ esenter des fonctions C

²

par morceaux ` a bord C

²

est la transform´ ee en curvelets, bandlets...

•

Exp´ erimentalement : choisir des transform´ ees en ondelettes redondantes ou des unions de transform´ ees harmoniques.

Ce sont des mod` eles assez grossiers!

(15)

Mod´ elisation des images : a priori de parcimonie

N’a-t-on pas juste d´ eplac´ e le probl` eme?

Comment choisir R pour bien repr´ esenter les images ?

•

Th´ eorie de l’information : La meilleure transform´ ee pour repr´ esenter des fonctions C

²

par morceaux ` a bord C

²

est la transform´ ee en curvelets, bandlets...

•

Exp´ erimentalement : choisir des transform´ ees en ondelettes redondantes ou des unions de transform´ ees harmoniques.

Ce sont des mod` eles assez grossiers!

(16)

Mod´ elisation des images : a priori de parcimonie

N’a-t-on pas juste d´ eplac´ e le probl` eme?

Comment choisir R pour bien repr´ esenter les images ?

•

Th´ eorie de l’information : La meilleure transform´ ee pour repr´ esenter des fonctions C

²

par morceaux ` a bord C

²

est la transform´ ee en curvelets, bandlets...

•

Exp´ erimentalement : choisir des transform´ ees en ondelettes redondantes ou des unions de transform´ ees harmoniques.

Ce sont des mod` eles assez grossiers!

(17)

Mod´ elisation des images : a priori de parcimonie

Un exemple de MAP pour le d´ ebruitage : Trouver arg min

y∈Rⁿ

||Ry − x

⁰

||

²₂

+ ||y||

₀

Probl` eme NP - complet.

⇒ Relaxation convexe : Trouver arg min

y∈Rⁿ

||Ry − x

⁰

||

²₂

+ ||y||

₁

Probl` eme d’optimisation convexe non lisse.

(18)

Mod´ elisation des images : a priori de r´ egularit´ e

Une image est essentiellement “r´ eguli` ere”

(19)

Mod´ elisation des images : a priori de r´ egularit´ e

Une image est essentiellement “r´ eguli` ere”

(20)

Mod´ elisation des images : a priori de r´ egularit´ e

Si P(x) = exp(−J (x)), alors le probl` eme devient : arg min

x∈H

||Ax − x

⁰

||

_b

+ J(x) O` u J mesure la “r´ egularit´ e”. Exemples :

Continu Discret

J(x) = ||x||

²_H₁_(Ω)

J(x) = ||∇x||

²₂

. J (x) = T V (x) J(x) = ||∇x||

₁

. J(x) = ||x||

_B

(Besov) J (x) = ||R

^∗

x||

₁

(7)

(21)

Mod´ elisation des images : a priori de r´ egularit´ e

(22)

Mod´ elisation des images : comparaison.

Figure: Comparaison a priori de r´egularit´e et a priori de parcimonie.

(23)

Mod´ elisation des images : comparaison.

R´ esultat th´ eorique : cas du d´ ebruitage A priori de r´ egularit´ e :

Soit U = arg min

x∈Rⁿ

||x − x

⁰

||

²₂

+ ||Dx||

₁

A priori de parcimonie :

Soit V = arg min

y∈Rⁿ

||Ry − x

⁰

||

²₂

+ ||y||

₁

Th´ eor` eme : Pour tout D de rang plein, il existe R tel que pour tout x

₀

, U = RV .

L’inverse n’est pas vrai !

Elad etal, Analysis versus synthesis in signal priors, Inverse Problems, vol. 23, n 3, p. 947-968, 2007.

(24)

Ecriture g´ en´ erale des probl` emes inverses

Trouver arg min

x∈Rⁿ n

X

i=1

λ

i

φ

i

(A

i

x − b

i

)

Minimiser une somme de compos´ ees de fonction convexes avec des transform´ ees affines... Ou

Trouver arg min

x∈Rⁿ n

X

i=1

λ

i

φ

i

(A

i

x − b

i

) sous les contraintes :

φ

_k

(B

_k

x − b

_k

) ≤ α

_k

∀k

(simplifie l’estimation de param` etres)

(25)

Analyse num´ erique : premi` eres remarques

Difficult´ es num´ eriques importantes

•

Non diff´ erentiabilit´ e.

•

Dimensions gigantesques (> 10

⁷

inconnues).

•

Contraintes de temps interactif/r´ eel.

⇒

•

Utilisation de m´ ethodes de premier ordre.

•

Obtenir des solutions de pr´ ecision mod´ er´ ee.

•