Dans cet appendice, nous établissons quelques faits bien connus liés aux noyaux reproduisants et aux paires de Gelfand. Les noyaux reproduisants sont notamment utilisés pour définir les espaces polynomiaux multiplicatifs, et les paires de Gelfand fournissent des exemples naturels de tels espaces (sections 1.4 et 2.1). Les résultats de cet appendice sont aussi utilisés sporadiquement en d’autres endroits.
5.3.1 Notations Soit Ω un espace localement compact muni d’une mesure de proba-
bilité µ de support Ω. On désigne par C(Ω), respectivement C(Ω, R), l’espace des fonctions continues sur Ω à valeurs complexes, respectivement réelles, muni du produit scalaire
hf | gi = Z
Ω
f (u) g(u) dµ(u). Dautre part, on pose
CRF(Ω× Ω) = ( Φ∈ C(Ω × Ω) {Φ(x, ·)}x∈Ω et {Φ(·, y)}y∈Ω
engendrent des sous-espaces de C(Ω) de dimension finie
) .
Cet espace est muni de la convolution Φ∗ Ψ(x, z) = Z Ω Φ(x, y) Ψ(y, z) dµ(y) et de l’involution Φ∗(x, y) = Φ(y, x).
On définit de manière similaire CRF(Ω× Ω, R). Si un groupe G opère sur Ω en préservant
la mesure µ, alors G opère sur CRF Ω× Ω par l’action (γ · Φ)(x,y) = Φ(γ−1x, γ−1y).
Si V est un espace vectoriel, on rappelle que LRF(V )désigne l’algèbre des endomor-
phismes linéaires de rang fini de V . Si un groupe G opère sur V , il opère sur LRF(V )par
conjugaison.
Pour un sous-espace V de dimension finie de C(Ω), et pour tout x ∈ Ω, comme x7→ ϕ(x) est une forme linéaire sur V , il existe un unique ϕV
x ∈ V tel que
ϕVx
ϕ = ϕ(x) pour tout ϕ ∈ V .
Pour X ⊆ C(Ω), notons span X le sous-espace de C(Ω) linéairement engendré par X
5.3.2 Théorème Soit Ω un espace localement compact muni d’une mesure de pro-
babilité µ de support Ω. On a un morphisme de C-algèbres involutives α :CRF(Ω× Ω) → LRF C(Ω)
α(Φ)ϕ(x) = Z
Ω
Φ(x, y) ϕ(y) dµ(y),
c’est-à-dire que α est un morphisme linéaire vérifiant α(Φ ∗ Ψ) = α(Φ) α(Ψ) et α(Φ∗) =
α(Φ)∗. De plus, on a les propriétés suivantes :
(i) α est un isomorphisme ;
(ii) im α(Φ) = span{Φ(·, y) | y ∈ Ω} pour tout Φ ∈ CRF(Ω× Ω) ;
(iii) Pour tout Φ ∈ CRF(Ω× Ω), on a Φ(x, y) =Pni=1 α(Φ)ei(x) e∗i(y), où {ei}ni=1 est
une base de im α(Φ) + im α(Φ)∗ et {e∗
i}ni=1 est sa base duale ;
(iv) tr α(Φ) =RΩΦ(x, x) dµ(x) pour tout Φ ∈ CRF(Ω× Ω) ;
(v) Pour Φ ∈ CRF(Ω× Ω), l’opérateur α(Φ) est positif, c’est-à-dire hϕ | α(Φ)ϕi >
0 pour tout ϕ ∈ C(Ω), si et seulement si Φ est de type positif, c’est-à-dire Pm
j,k=1cjckΦ(xj, xk)> 0 pour tout c1, . . . cm∈ C ;
(vi) si G est un groupe opèrant sur Ω en préservant µ, alors α est G-équivariant. On a également un morphisme de R-algèbres involutives
αR:CRF(Ω× Ω, R) → LRF C(Ω, R)
défini par la même formule avec les mêmes propriétés. Démonstration Pour Φ ∈ CRF(Ω× Ω), soit
VΦ = span
{Φ(·, y) | y ∈ Ω} ∪ {Φ(x, ·) | x ∈ Ω}, qui est de dimension finie. Alors on a une application linéaire bien définie
α(Φ)∈ L(VΦ), α(Φ)ϕ(x) =hΦ(x, ·) | ϕi =
Z
Ω
Φ(x, y) ϕ(y) dµ(y),
qui se prolonge, par la même formule, en une application linéaire α(Φ) ∈ LRF C(Ω)
telle que α(Φ)ϕ = 0 pour ϕ orthogonal à VΦ. Cela montre que α est une application bien
La linéarité de α est évidente, ainsi que la propriété α(Φ ∗ Ψ) = α(Φ)α(Ψ). Pour montrer α(Φ∗) = α(Φ)∗, on écrit ϕ α(Φ)ψ = Z Ω Z Ω ϕ(x) Φ(x, y) ψ(y) dµ(x) dµ(y) =α(Φ∗)ϕ ψ pour tout ϕ, ψ ∈ C(Ω).
Montrons la propriété (ii). Il est clair que im α(Φ) ⊆ span{Φ(·, y) | y ∈ Ω}. Inversé- ment, soit U = span{Φ(x, ·) | x ∈ Ω}. On a
α(Φ) ϕU y(x) = Z Ω Φ(x, z) ϕU y(z) dµ(z) = ϕUy Φ(x, ·) = Φ(x, y), de sorte qu’on a bien Φ(·, y) ∈ im α(Φ).
Montrons (i). Pour A ∈ LRF C(Ω), soit
VA = im A + im A∗,
qui est de dimension finie. Soit l’application
β :LRF C(Ω)→ CRF(Ω× Ω),
β(A)(x, y) = Z
Ω
ϕVA
x (u) (AϕVyA)(u) dµ(u) = (AϕVyA)(x) = (A∗ϕVxA)(y).
On a
α(β(A))ϕ(x) = Z
Ω
β(A)(x, y) ϕ(y) dµ(y) = Z
Ω
(A∗ϕVA
x )(y) ϕ(y) dµ(y)
=A∗ϕVA x ϕ =ϕVA x Aϕ = (Aϕ)(x), et β(α(Φ))(x, y) = α(Φ)ϕVα(Φ) y (x) = Z Ω Φ(x, z) ϕVα(Φ) y (z) dµ(z) =ϕVα(Φ) y Φ(x, ·) = Φ(x, y).
Dans la dernière égalité, on a utilisé Φ(x, ·) = Φ∗(·, x) ∈ im α(Φ∗) = im α(Φ)∗ ⊆ V α(Φ).
Ainsi, β = α−1.
Pour (iii), soit
Ψ(x, y) =
n
X
i=1
α(Φ)ei(x) e∗i(y)
où {ei}ni=1 est une base de Vα(Φ)= im α(Φ) + im α(Φ)∗ et {e∗i}ni=1 est sa base duale. On
vérifie alors que Z
Ω
Ψ(x, y) ei(y) dµ(y) = ei(x).
De (i) et (ii), on déduit que Ψ = Φ.
La propriété (iv) se déduit de (iii) en posant y = x et en intégrant sur x ∈ Ω. Pour (v), en utilisant Φ(xj, xk) =ϕ Vα(Φ) xj α(Φ)ϕVα(Φ) xk , on obtient m X j,k=1 cjckΦ(xj, xk) = Xm j=1 cjϕ Vα(Φ) xj α(Φ) Xm k=1 ckϕ Vα(Φ) xk > 0,
ce qui montre que Φ est de type positif si et seulement si hϕ | α(Φ)ϕi > 0 pour tout ϕ∈ span{ϕVα(Φ)
x | x ∈ Ω} = Vα(Φ). Or, comme α(Φ)ϕ = 0 pour ϕ ∈ Vα(Φ)⊥ , on a bien la
propriété (v).
Enfin, la vérification de la propriété (vi) est directe. Le cas de αRse traite de la même manière que α.
5.3.3 Soit Ω un espace localement compact muni d’une mesure de probabilité µ de
support Ω. Soit V un sous-espace de C(Ω) ou C(Ω, R) de dimension finie. Soit pV la
projection orthogonale sur V . On définit le noyau reproduisant de V par ΦV = α−1(pV),
où α est défini comme au paragraphe précédent. Du théorème 5.3.2, on déduit les propriétés suivantes :
(i) span{ΦV(·, y) | y ∈ Ω} = V ;
(ii) ΦV(x, y) = ΦV(y, x);
(iii) ΦV est de type positif ;
(iv) si V ⊥ W, alors ΦV ∗ ΦW = ΦW ∗ ΦV = 0et ΦV⊕W = ΦV + ΦW;
(v) dim(V ) =RΩΦV(x, x) dµ(x).
5.3.4 Théorème Soit Ω un espace localement compact muni d’une mesure de pro-
babilité µ de support Ω, et soit G un groupe compact opérant sur Ω en préservant la mesure µ. Alors les conditions suivantes sont équivalentes :
(a) les sous-G-modules irréductibles de C(Ω) sont deux à deux inéquivalents ; (b) CRF(Ω× Ω)G est une algèbre commutative pour la convolution ;
(c) CRF(Ω×Ω)Gest linéairement engendré par les noyaux reproduisants des composantes
isotypiques du G-module C(Ω).
De plus, si l’une de ces conditions est vérifiée, alors G est transitif sur Ω.
Remarque. Soit G un groupe compact et H un sous-groupe fermé de G. Si Ω = G/H vérifie l’une des conditions du théorème ci-dessus, on dit que (G, H) est une paire de Gelfand.
Démonstration Écrivons
C(Ω) =M
λ∈Λ
Vλ,
où les Vλ sont les composantes isotypiques de C(Ω) en tant que G-module. On a une
décomposition orthogonale LRF C(Ω) G =M λ∈Λ L(Vλ)G.
D’autre part, on déduit du théorème 5.3.2 un isomorphisme de C-algèbres α :CRF(Ω× Ω)G → LRF C(Ω)
G
.
Montrons (a ⇒ c). La condition (a) signifie que les Vλ sont irréductibles, donc, par le
lemme de Schur (proposition 5.2.2), LRF C(Ω)
G
=M
λ∈Λ
C pVλ.
Selon l’isomorphisme α ci-dessus, cela signifie que CRF(Ω× Ω)G=
M
λ∈Λ
CΦVλ.
Montrons (c ⇒ b). Par la condition (c), on a CRF(Ω× Ω)G=
M
λ∈Λ
et, comme les Vλ sont deux à deux orthogonaux, on a ΦVλ ∗ ΦVµ = 0 si λ 6= µ. Par
conséquent, CRF(Ω× Ω)G est commutatif.
Montrons (b ⇒ a) par la contraposée. Si (a) n’est pas vérifié, C(Ω) possède au moins deux sous-G-modules non-triviaux équivalents W1 et W2; de plus, on peut les choisir
orthogonaux. Soit A : W1→ W2 un morphisme linéaire G-équivariant non-nul, que l’on
prolonge en un morphisme A ∈ LRF C(Ω)G. On a A pW1 = A 6= 0 = pW1A, de sorte
que l’algèbre LRF C(Ω)Gn’est pas commutative, donc l’algèbre involutive CRF(Ω× Ω)G
non plus.
Enfin, comme C(Ω)G =
C(G\Ω), la condition (c) implique dim C(G\Ω) = 1, donc G est transitif sur Ω.
5.3.5 Théorème Soit Ω un espace localement compact muni d’une mesure de pro-
babilité µ de support Ω, et soit G un groupe opérant sur Ω en préservant la mesure µ. Alors les conditions suivantes sont équivalentes :
(a) les sous-G-modules irréductibles de C(Ω, R) sont absolument irréductibles et deux à deux inéquivalents ;
(b) pour tout Φ ∈ CRF(Ω× Ω, R)G, on a Φ∗= Φ;
(c) CRF(Ω× Ω, R)G est linéairement engendré par les noyaux reproduisants des compo-
santes isotypiques du G-module C(Ω, R) ;
(d) G est généreusement transitif sur Ω, c’est-à-dire pour tout x, y ∈ Ω, il existe γ ∈ G tel que γx = y et γy = x.
De plus, si l’une de ces conditions est vérifiée, alors les conditions du théorème 5.3.4 sont aussi vérifiées.
Remarque. Soit G un groupe compact et H un sous-groupe fermé de G. Si Ω = G/H vérifie l’une des conditions du théorème ci-dessus, on dit que (G, H) est une paire de Gelfand symétrique.
Démonstration Comme pour la démonstration du théorème 5.3.4, écrivons C(Ω, R) =M
λ∈Λ
Vλ,
où les Vλ sont les composantes isotypiques de C(Ω, R) en tant que G-module. On a une
décomposition orthogonale LRF C(Ω, R) G =M λ∈Λ L(Vλ)G.
D’autre part, on déduit du théorème 5.3.2 un isomorphisme de R-algèbres αR:CRF(Ω× Ω, R)G → LRF C(Ω, R)
G
. La preuve de (a ⇒ c) est similaire à celle du théorème 5.3.4. Montrons (c ⇒ b). Si (c) est vérifié, on a
CRF(Ω× Ω, R)G=
M
λ∈Λ
RΦVλ,
et on a ΦVλ ∗ ΦVµ = 0 et ΦV∗λ = ΦVλ. Par conséquent, les éléments de CRF(Ω× Ω, R)
G
sont autoadjoints.
Si la condition (b) est vérifiée, alors la condition (b) — et donc toutes les conditions — du théorème 5.3.4 est aussi vérifiée, car (Φ ∗ Ψ)∗= Ψ∗∗ Φ∗.
Montrons (b ⇒ a) par la contraposée. D’une part, si les Vλ ne sont pas tous irré-
vérifiée. D’autre part, si tous les Vλsont irréductibles mais non pas absolument, il existe
un λ0tel que Vλ0⊗RC = W ⊕ W , où W est un sous-G-module complexe irréductible, et
W et W sont orthogonaux. Soit l’application linéaire G-invariante A = i(pW− pW)∈ LRF C(Ω)G.
On a
Vλ0 ={v ∈ Vλ0⊗RC | v = v} = {w + w | w ∈ W }.
Comme A(w + w) = A(w + w) = iw − iw, alors A(Vλ0) = Vλ0. Par suite, A se restreint
à un élément AR ∈ LRF C(Ω, R)G. Comme A∗R = −AR 6= AR, on en déduit, via
l’isomorphisme αR, que les éléments de CRF(Ω× Ω, R) ne sont pas tous autoadjoints.
Finalement, l’équivalence (d ⇔ b) est évidente.