Critères d'irréductibilité et d'équivalence des représentations régulières de Gauss du groupe des matrices triangulaires supérieures finies d'ordre infini

P UBLICATIONS DU D ÉPARTEMENT DE MATHÉMATIQUES DE L ^YON

V. K ^OZYAK

Critères d’irréductibilité et d’équivalence des représentations régulières de Gauss du groupe des matrices triangulaires supérieures finies d’ordre infini

Publications du Département de Mathématiques de Lyon, 1992, fascicule 2A , p. 1-72

<http://www.numdam.org/item?id=PDML_1992___2A_1_0>

© Université de Lyon, 1992, tous droits réservés.

L’accès aux archives de la série « Publications du Département de mathématiques de Lyon » im- plique l’accord avec les conditions générales d’utilisation (http://www.numdam.org/conditions).

Toute utilisation commerciale ou impression systématique est constitutive d’une infraction pé- nale. Toute copie ou impression de ce fichier doit contenir la présente mention de copyright.

Article numérisé dans le cadre du programme Numérisation de documents anciens mathématiques

C R I T E R E S D ' I R R E D U C T I B I L I T E E T D ' E Q U I V A L E N C E D E S

R E P R E S E N T A T I O N S R E G U L I E R E S D E GAUSS DU G R O U P E D E S M A T R I C E S T R I A N G U L A I R E S S U P E R I E U R E S F I N I E S D ' O R D R E I N F I N I

V. K O S Y A K (Kiev)

R é s u m é : Dans cette étude, on construit des équivalents des représentations régulières liées à la mesure de Gauss sur le sous-groupe du groupe des matrices finies triangulaires supérieures d'ordre infini et on trouve leur critère

d'irréductibilité et d'équivalence.

INTRODUCTION

L a r e p r é s e n t a t i o n régulière joue un rôle i m p o r t a n t en t h é o r i e des r e p r é s e n t a t i o n s des groupes localement c o m p a c t s . T o u t e s les r e p r é s e n t a t i o n s irréductibles des groupes finis e t des groupes c o m p a c t s , ainsi que de nombreuses r e p r é s e n t a t i o n s irréductibles de groupes de Lie localement c o m p a c t s sont c o n t e n u s d a n s la décomposition de la r e p r é s e n t a t i o n régulière en r e p r é s e n t a t i o n s irréductibles. Dans le c a s des groupes l o c a l e m e n t c o m p a c t s , la r e p r é s e n t a t i o n régulière elle-même e s t toujours réductible puisqu'il e x i s t e , parallèlement à la r e p r é s e n t a t i o n régulière d r o i t e , une r e p r é s e n t a t i o n régulière gauche, qui c o m m u t e a v e c celle-ci. On sait

[1] que le t h é o r è m e suivant e s t v r a i pour les groupes unimodulaires : T h é o r è m e A. L e c o m m u t a t e u r de la r e p r é s e n t a t i o n régulière d r o i t e e s t engendré p a r les o p é r a t e u r s de la r e p r é s e n t a t i o n régulière g a u c h e , t a n d i s que le c o m m u t a t e u r de la r e p r é s e n t a t i o n régulière g a u c h e e s t engendré p a r les o p é r a t e u r s de la r e p r é s e n t a t i o n régulière d r o i t e .

Il e s t d o n c n a t u r e l de vouloir c o n s t r u i r e l'équivalent de la r e p r é s e n t a t i o n régulière d a n s le c a s de groupes de dimension finie e t d'étudier ses p r o p r i é t é s . On entend p a r équivalent de la r e p r é s e n t a t i o n régulière (droite e t gauche) du groupe de dimension finie G les homomorphismes

tt*,ï^L:G - > u ( ï = L ( G , G , d ^ ) ) , f ( x ) G îl - » ( ï * f ) ( x ) = ( d / / ( x t )fd/u (x x

x f ( x t ) G I , f (x) e l - ) ( ï^Lf ) ( x ) = ( d ^ ( t^{_ 1}x ) y d ^ ( x ) ) ² f ( t^{- 1}x ) G Ï ,

où G e s t un groupe topologique (soit un e s p a c e topologique, soit un

i

G-espace topologique) c o n t e n a n t G c o m m e sous-groupe dense : G c G , IÀ e s t une G-mesure quasi-invariante s u r G .

A p p a r e m m e n t , l'équivalent de la r e p r é s e n t a t i o n régulière O ->

-> (O', <D, d / / ) ) d'un groupe c o m m u t a t i f de dimension infinie de l'espace nucléaire O, où 0 ' e s t l'adjoint de l'espace O, a é t é m e n t i o n n é p o u r la p r e m i è r e fois d a n s l'étude [ 2 ] . L a r e p r é s e n t a t i o n régulière R~ - > U(L (R~, R", da>)) du groupe c o m m u t a t i f R~ des suites finies de n o m b r e s réels c o r r e s p o n d a n t a u x différentes R~ - m e s u r e s q u a s i - i n v a r i a n t e s s u r le groupe R~ = R¹ x R¹ x - , R^M c R~, a é t é é t u d i é e d a n s la monographie [ 3 ] . L e s é t u d e s [4-9] s o n t c o n s a c r é e s à la r e p r é s e n t a t i o n E dite r e p r é s e n t a t i o n énergétique du groupe C ( X , G ) des applications lisses à s u p p o r t c o m p a c t de la v a r i é t é riemannienne X d a n s le groupe de Lie semi-simple G c o m p a c t .

L a r e p r é s e n t a t i o n E a é t é introduite d a n s l'étude [4] p o u r G = S U² e t le X-domaine d a n s Rⁿ e t elle a é t é i n t r o d u i t e d a n s le c a s général d a n s [ 5 , 6 ] . L'irréductibilité e t la non équivalence r é c i p r o q u e de r e p r é s e n t a t i o n s de c e t y p e p o u r différentes m a t r i c e s o n t é t é d é m o n t r é e s p o u r la première fois dans [4] lorsque d = dimX > 5 e t que G = SU². On a d é m o n t r é [5] l'irréductibilité e t la non équivalence lorsque d > 4 e t que G e s t un groupe de Lie c o m p a c t semi-simple. On a d é m o n t r é d a n s l'étude [8] l'irréductibilité p o u r d > 3 e t d = 2 a v e c des h y p o t h è s e s c o m p l é m e n t a i r e s . L'irréductibilité p o u r d = 1 a é t é d é m o n t r é e d a n s les é t u d e s [7] e t [ 8 ] .

On a mentionné le lien a v e c la r e p r é s e n t a t i o n régulière lorsque d = l d a n s les é t u d e s [ 6 - 9 ] . On m o n t r e [6] que lorsque X = [0, t ) , la

r e p r é s e n t a t i o n énergétique E e s t u n i t a i r e m e n t équivalente à la r e p r é s e n t a t i o n régulière droite U* r c¹ ([0, t),G ) ->

- > Ï ( L (c ( [ C t X G ^ C¹ ( [ 0 , t ) , G ) , d w ) )^f où C ( [ 0 , t ) , G ) e s t r e s p a c e de chemins lisses d a n s G, w e s t une m e s u r e de Wiener s u r c ( [ 0 , t ) , G ) définie p a r un m o u v e m e n t brownien gauche s u r G. On a m o n t r é dans T é t u d e [7] p o u r le groupe C^q~ ( ( 0 , 1 ) , G ) qu'à c ô t é de la r e p r é s e n t a t i o n d r o i t e , équivalente à la r e p r é s e n t a t i o n énergétique E , il e x i s t e une r e p r é s e n t a t i o n g a u c h e U^L e t on a prouvé ainsi la réductibilité de la r e p r é s e n t a t i o n énergétique lorsque d = l . Ce fait a é t é établi dans Tétude [8] où Ton a également étudié la r e p r é s e n t a t i o n d r o i t e k^R e t g a u c h e t^L des groupes C "(R¹ ,G ) e t c " ( s¹ ,G ) . On a m o n t r é [9] que les r e p r é s e n t a t i o n s tt* e t Ï^L c o n s t r u i t e s en [8] sont des r e p r é s e n t a t i o n s f a c t o r i s a b l e s e t que le t h é o r è m e A e s t v r a i pour celles-ci e t on y t r o u v e la décomposition des r e p r é s e n t a t i o n s e t t^L en intégrale d i r e c t e de r e p r é s e n t a t i o n s irréductibles.

On c o n s t r u i t [10] des r e p r é s e n t a t i o n s régulières, une r e p r é s e n t a t i o n régulière gauche tt^L et une r e p r é s e n t a t i o n régulière d r o i t e il*, ï \ ï * : 0 ( E ) -> îf^l = L ^(E ® E ) , 0 ( E ) , d v j j du groupe O (E ) = 1 im O (m), où E « R~, O (m) e s t un groupe orthogonal sur R^m

m

*

e t (E <8> E ) « M l'espace des m a t r i c e s réelles d'ordre infini, v une m e s u r e s t a n d a r d de Gauss bi-invariante sur O (E ) e t on m o n t r e que la r e p r é s e n t a t i o n (g , g„ ) e O (E ) x O (E ) - > œ± ( g^], g² ) = ll^L ^ )u^R e ï (If ) se d é c o m p o s e en somme d i r e c t e de r e p r é s e n t a t i o n s irréductibles. On

t r a n s p o s e d a n s [11] les r é s u l t a t s de l'étude [10] au groupe unitaire U où E = C ~ ( X , R ) e s t l'espace des fonctions réelles C^M s u r la v a r i é t é riemannienne c o m p a c t e X , l (E ) est un groupe d ' o p é r a t e u r s inversibles s u r E , qui sont des isométries de l'espace L (X ) . Dans l'étude [12] on c o n s t r u i t une r e p r é s e n t a t i o n g a u c h e régulière ttL:ï(oo) - » Ï ( L (M^ , H ( o o ) , d v )) du groupe ï ( o o j = 1 im U(m), où M^c e s t l'espace de t o u t e s les m a t r i c e s c o m p l e x e s d'ordre infini, v e s t

G

une m e s u r e s t a n d a r d de Gauss s u r M,„ e t on m o n t r e que tI^L se d é c o m p o s e en somme d i r e c t e de r e p r é s e n t a t i o n s irréductibles. E n [ 13] on c o n s t r u i t une r e p r é s e n t a t i o n droite régulière : Bo° - >

-> 1Ï(L ( B ~ , B o ~ , d v ) ) du groupe Bo~ des m a t r i c e s de la forme X = exp t + S , où t e s t une m a t r i c e diagonale a v e c un n o m b r e fini d'éléments réels non nuls, S est une m a t r i c e c o m p l e x e triangulaire s u p é r i e u r e finie, §7 e s t un groupe de m a t r i c e s a r b i t r a i r e s de la forme X = exp t + S , v une m e s u r e de Gauss s t a n d a r d s u r Bo~ e t on a d é m o n t r é l'irréductibilité de %^R .

Dans l'étude de l'auteur [14] on a d é m o n t r é l'existence d'une famille de m e s u r e s de Gauss / /^p sur le groupe B ~ des m a t r i c e s triangulaires supérieures d'ordre infini a v e c des unités s u r la diagonale principale, qui possèdent la p r o p r i é t é (LR) : une a c t i o n d r o i t e du groupe B ~ est admissible e t ergodique t a n d i s que l'action g a u c h e n'est p a s admissible e t Ton c o n s t r u i t la famille des r e p r é s e n t a t i o n s droites régulières T^{R , b} : B " - > U (L (B~, B ° ° ,^dt f ) ) du groupe B ~ des m a t r i c e s triangulaires supérieures finies B " c B^{0 0}.

R. S. Ismahilov a émis l'hypothèse selon laquelle p o u r t o u t e s

c e s r e p r é s e n t a t i o n s , la p r o p r i é t é (LR) e s t équivalente à une irréductibilité. G. I. Olchansky a c o n j e c t u r é que des r e p r é s e n t a t i o n s non équivalentes c o r r e s p o n d e n t à des m e s u r e s non équivalentes. Ce t r a v a i l e s t c o n s a c r é à la d é m o n s t r a t i o n de c e s c o n j e c t u r e s p o u r le groupe B " des m e s u r e s de Gauss produits (Cf. également [ 1 5 ] ) .

Il e s t vraisemblable que c e s h y p o t h è s e s sont justifiées p o u r t o u s les a u t r e s groupes infinis e t p a s obligatoirement p o u r les m e s u r e s de Gauss. L a question de la décomposition de la r e p r é s e n t a t i o n régulière irréductible du groupe B ~ e s t o u v e r t e .

Au § 1, on c o n s t r u i t s u r le groupe B ~ une famille de m e s u r e s de Gauss /A^P p o s s é d a n t la p r o p r i é t é (LR) e t une famille de

b

r e p r é s e n t a t i o n s régulières droites T^R,b du groupe B " . Au § 2 on d é m o n t r e que la p r o p r i é t é (LR) e s t équivalente à l'irréductibilité de T ^{R b} . L a d é m o n s t r a t i o n de l'irréductibilité deT^{R b} r e p o s e s u r la B ~ -

0

ergodicité de la m e s u r e e t s u r le fait que Ton p e u t a p p r o x i m e r les

b

o p é r a t e u r s de multiplication p a r des variables i n d é p e n d a n t e s p a r des g é n é r a t e u r s de groupes à un p a r a m è t r e . Au § 3 on d é m o n t r e que des r e p r é s e n t a t i o n s non équivalentes c o r r e s p o n d e n t à des m e s u r e s non équivalentes. L a d é m o n s t r a t i o n e s t fondée s u r un calcul utilisant des t r a n s f o r m a t i o n s de F o u r i e r partielles s u r le groupe B " des m e s u r e s s p e c t r a l e s de la famille des sous-groupes c o m m u t a t i f s

B - m ^C B ~ , m e N ainsi que s u r la c o m p a r a i s o n de c e s m e s u r e s

0 0

s p e c t r a l e s à l'aide des intégrales de Helinger. Au § 4 on donne la d é m o n s t r a t i o n de quelques lemmes techniques.

R. S. Ismahilov ne s'est p a s c o n t e n t é d ' a t t i r e r l'attention de l ' a u t e u r s u r c e t t e c o n j e c t u r e , il a également a c c o r d é son soutien

c o n s t a n t e t formulé de nombreuses r e m a r q u e s qui ont simplifié p r o f o n d é m e n t quelques démonstrations. L e s discussions a v e c G. I.

Olchansky ont é t é t r è s utiles à l'auteur.

§ 1. R e p r é s e n t a t i o n régulière

Soit B " le groupe des m a t r i c e s triangulaires supérieures finies réelles d'ordre infini a v e c des unités sur la diagonale principale, B ~ e s t le groupe de t o u t e s les m a t r i c e s triangulaires supérieures a v e c des unités s u r la diagonale principale, b~ e s t son algèbre de Lie, c'est- à-dire l'ensemble de t o u t e s les m a t r i c e s triangulaires supérieures s t r i c t e s . Si l'on désigne p a r E , k, n € N les unités matricielles

k n

d'ordre infini, alors les m a t r i c e s I + x , x = V x E où seul un

k n k n k <n

n o m b r e fini d'éléments x e s t distinct de zéro (X é t a n t des

k n k n

é l é m e n t s quelconques) sont des éléments du groupe B "

( r e s p e c t i v e m e n t B ~ ) .

b ~ = i x = Y x

\

k n k n \

k <n J

groupe des m a t r i c e s de B ~ d e la forme

0

B (m, R ) = \ t = I + Y X E L II e s t évident que

k n k n

L k <n <.m J

B " = 1 im B (m, R ) . Munissons B ~ de la topologie de limite inductive.

0 > o

m

E t a n t donné que le groupe G = B ~ n'est p a s localement c o m p a c t , alors il n'existe p a s de groupe de m e s u r e G-invariante (A.

Weil [ 1 6 ] ) , ni de m e s u r e G-quasi-invariante (Sia-Do-Chin [ 1 7 ] ) . P a r c o n s é q u e n t , on doit c o n s t r u i r e un équivalent s u r le c o m p l é m e n t G du groupe G. Si l'on choisit pour complément G le groupe B ~ , alors il e x i s t e s u r le groupe B " de nombreuses m e s u r e s différentes B ~ quasi- i n v a r i a n t e s ( p a r e x e m p l e des m e s u r e s de Gauss). Il n'y a a u c u n e raison de p r é f é r e r l'une d'entre elles ; il e s t donc raisonnable

d'étudier t o u t e s les m e s u r e s ou les m e s u r e s d'une classe donnée.

Il e s t plus c o m m o d e de c o n s t r u i r e d'abord une m e s u r e s u r l'algèbre de Lie c o r r e s p o n d a n t e b~, puis de la t r a n s p o s e r a u groupe B ~ à l'aide de l'application exponentielle.

P o u r une m a t r i c e de nombres positifs b = (b ) (désignons p a r S l'ensemble de c e s n o m b r e s ) , définissons la m e s u r e de Gauss JÀ

b

s u r l'espace b " :

du ( x ) = <g> i - ^ - e x p f - b X² )dX = <8> dy. (x )

b k <n \ Jl ^* k n k n / k n k <n & \ k n / ' k n

Soit ju^p la m e s u r e sur B " , image de la m e s u r e fi p a r l'application

b b

p:X e b " - > p ( X ) = I + X e B ~ , ^ " ( A ) = // ( A ) ) ,

E n réalité, x = Y x E r e p r é s e n t e les c o o r d o n n é e s de

^•"^ k n k n k <n

m

s e c o n d o r d r e p o u r p ( X ) = I + X . Posons donc X = Y x E . 1 1

m k m k m k = 1

e s t a l o r s évident que p(x ) = I + X =—(1 + X^m) — ( i + X )(l + ) =

• • • e x p ( X^w )---exp(x jexp(x ) . Etudions l'action à d r o i t e R e t l'action à g a u c h e L du groupe B " sur B ~ : R s = st, L s = ts, t e B ~ , s e B ~ .

Désignons p a r (^^{b P}) ' > ' ^{l e s} images de la m e s u r e / /^p p a r les applications R L : B ~ - » B ~ . Il s'avère que la m e s u r e ju^p e s t toujours B ~ - q u a s i - i n v a r i a n t e droite (lemme 1.1), mais p a s toujours B ~ -quasi- i n v a r i a n t e g a u c h e (lemme 1.2). C'est pourquoi on p e u t c o n s t r u i r e une famille d'équivalents des r e p r é s e n t a t i o n s régulières d r o i t e s T ^{R b} e t

g a u c h e s l^{L b} (si elles e x i s t e n t ) dans l'espace X ^{( b )} = L ( B ~ , d ^^p) :

f (x) € I ( b ) -> ^{( ï72 b}f ) ( x ) = ( d ^ ^P( X t ) / d ^ ^P ( x ) ) ^ f ( X t ) G JT(b) ( 1 . 1 )

1 /

f (x) 6 I ( b ) -> ( T^{L b}f ) ( x ) = ( d ^ j t ^ x j / d ^ l x l p j t ^ x t ) G I ( b ) (1.2) T h é o r è m e 1.1. L a r e p r é s e n t a t i o n régulière d r o i t e T *^{, b} du groupe B^{0 0} e s t irréductible seulement e t seulement si a u c u n

0

d é p l a c e m e n t g a u c h e L ,t e B " n'est admissible p o u r la m e s u r e u^p. Les r e p r é s e n t a t i o n s (1.1) e t (1.2) ont é t é c o n s t r u i t e s dans l'étude [14] de l'auteur, mais les questions d'irréductibilité n'y ont p a s é t é étudiées. L a r e p r é s e n t a t i o n T * '¹ p o u r la m e s u r e de Gauss s t a n d a r d 1 = ( b ) , b = 1 a é t é c o n s t r u i t e i n d é p e n d a m m e n t p a r

V ^{k n lk <n k n}

N. I. Nessonov [13] e t on a m o n t r é son irréductibilité. C e p e n d a n t , la m é t h o d e de Nessonov qui e s t fondée s u r la t r a n s f o r m a t i o n de F o u r i e r e t s u r la loi des g r a n d s nombres n'englobe p a s le c a s général b e l .

L e m m e 1.1. P o u r t G B~, les m e s u r e s (yu^p) ' e t ii^p s o n t toujours équivalentes.

D é m o n s t r a t i o n . E t a n t donné que p o u r une t r a n s f o r m a t i o n R : B^{0 0} - > B ~ , seul un nombre fini de c o o r d o n n é e s v a r i e :

X G B ~ = I + Y X E - > R ( X ) = I + Y X E G B ~

k <n V <Q

q - 1

où X = x + t + Y x t quand p < q < N ( t ) e t X = X

p q p q p q p k k q v q p q

k = p + l

quand q > N < t ) , alors la question se réduit à l'équivalence de d e u x m e s u r e s de Gauss dégénérées dans un e s p a c e de dimension finie qui

équivalente à la m e s u r e de Lebesgue.

L e m m e 1.2. Soit t e b~. Les m e s u r e s (tf)' e t ' sont équivalentes si e t seulement si

S^L (b) = y b b^{- 1} < o o , k € N (1.3)

k k + 1 k m k + 1 m m =k +2

Démonstration. Posons t = I + t E , t e R¹ e t m o n t r o n s

k k + 1 k k +1

que la condition ( ^^p)¹ ~/j.^p est équivalente à (1.3). E n réalité, puisque

( V ^\

0 ••• 1 t ••• o 0 1 x ••• X

L ( X ) = k k +i k m —

t o ••• 0 1 ••• 0 ••• 0 ••• 0 1 ••• x

K K + i k + 1 m

v À "•• )

( •"• ^

o . . . i x + 1 x + tx

k k +1 / c m + 1 m

0 — 0 1 ••• X .

k + 1 m

alors ^ ^{k k l} est une m e s u r e produit ^ = ^(ju^p)^Lt j

^ '* *+ 1 (X ) = ® ^ (X ) <g> ¡1 '* ^{k + 1} fx ) <g>

Vn , k + 1 y * K 1

<8> <8> n <8> fj. ^{k k} '^l (x , X )

m =fc +2 ^b ^ V k m k +1 m '

V ^{m k +1 m /}

de plus les densités de ses f a c t e u r s p a r r a p p o r t a u x f a c t e u r s de la m e s u r e s o n t é g a u x :

( Lt 1

d u k k l

b ( ^{2 ^}

—^{k J}^^L- ( x ) = exp - b (x + t ) + b x * H ^II V k k + 1 / * ^{k + 1} V k k + 1 / * Jfc + 1 Jfc * + 1

V )

d « M / N

V *^m * ^ M r fx , x ) = exp - b fx + t x ) + b X²

' \ \ k m k + 1 m I k m \ k m k + l m / k m k m

O D

\ k m k +1 m /

E n v e r t u du c r i t è r e d'équivalence de la m e s u r e produit [18, § 16,

L t

t h é o r è m e 1 ] , la condition /u * * ¹ -¡1 e s t équivalente à la c o n v e r g e n c e

b b

du p r o d u i t n :

( ^L< ^

n = f "

( x )d,u ( x ) x

J A n k k + 1 b k k +1 l UA * ^{Jfc k +1}

R 1 b

k k +1

V J

( ( \^Lt ^

k k +1

d

»

® ^ ( \

x f [ f - A * j : ( x , x )d ^ ® / z ( x , x A X J / \ k m k +1 m b b k m k +1 m

m = k + 2 Rz dU <8> U ^{V k m k +lm J} V k m k +1 mb b J

V J

( ^{2 ^} f b ^{y z} - b fx + t ) + b X²

J k J k + 1 f Jfc fc + 1 \ fc * + 1 / * A: + 1 fc * + 1 / . _ _ z \ ^{1 V}

= exp exp - b X u x

- f b b - b fx + tx ) + b X²

n

J exp

m = * +2 V J ^{R 2 ^}

e x p f - b X² - b X² )dX dX

V k m k m k +1 m k + lm / * m k + l m

f b t2 ) - fb \ / (-b t2x2 1

= exp - " k + i Vf _j_±¡_jn_ r _ ^ j n —

V J m - k + z \ J R i { )

( ^

f ^b O - ^b

exp - b X dX = exp

- "

V * + 1 m k + 1 m I k + 1 m 4 D

m =k +2 , 2 t m

V / b + t

^ * + 1 m 4 >

f b t²

V -

= exp - k k + 1 T 7 1 + — — S J - 4 ^mt^k\^? 4 b

Ainsi, la c o n v e r g e n c e du produit n e s t équivalente à la c o n v e r g e n c e de la série S^L (b) = Y b b"¹ . E t a n t donné que les groupes à

m =k +2

un p a r a m è t r e

G = ft G B - t = I + tE , t € R¹

1

k k + 1 L k k + 1 0 k k + 1 A ^{+ 1} J

L

e n g e n d r e n t le groupe B " , alors ^ ~jU , t G B ~ e s t équivalent à

L t

u ^{k k 1} ~u , k G N, e t le t h é o r è m e est d é m o n t r é .

R e m a r q u e 1.1. On en déduit n o t a m m e n t l'équivalence des conditions s ^L (b) < ©o k e N e t

k k + 1

S^L (b) = y b b"¹ < ~ , k , n e N,k < n

k n ¿ * k m n m

m - n + 1

L e m m e 1.3 L a m e s u r e ^ définie s u r B°° e s t B~-ergodique p a r r a p p o r t à F a c t i o n à droite.

D é m o n s t r a t i o n . T o u t e fonction mesurable s u r R ~ d o n t la m e s u r e s t a n d a r d de Gauss e s t i n v a r i a n t e lors d'une v a r i a t i o n a r b i t r a i r e d'une c o o r d o n n é e première quelconque, coïncide p r e s q u e

p a r t o u t a v e c une c o n s t a n t e [19, § 3, c o n s é q u e n c e 1 ] . C'est pourquoi la d é m o n s t r a t i o n découle du fait que le sous-groupe B (n, R ) du groupe B ~ a une a c t i o n t r a n s i t i v e s u r le sous-groupe B (n, R ) c B ~ et, du fait

0

que la m e s u r e ¡1 e s t un produit tensoriel de mesures.

§ 2. Irréductibilité des r e p r é s e n t a t i o n s

L a d é m o n s t r a t i o n de l'irréductibilité d'une r e p r é s e n t a t i o n régulière r e p o s e s u r l'ergodicité de la m e s u r e / /^p p a r r a p p o r t a u x

b

d é p l a c e m e n t s d r o i t s s u r les éléments du groupe B " e t s u r le fait que l'on p e u t a p p r o x i m e r les o p é r a t e u r s de multiplication p a r des v a r i a b l e s i n d é p e n d a n t e s p a r des g é n é r a t e u r s de groupes à un p a r a m è t r e .

D é m o n s t r a t i o n du t h é o r è m e 1.1. L a condition n é c e s s a i r e e s t évidente. D é m o n t r o n s que la condition e s t suffisante. Soit

y^j¹ ± t e B~, alors d'après le lemme 1.2

S^L (b) = oo, k , n G N , k < n .

k n

Désignons p a r w (b) l'ensemble des o p é r a t e u r s a u t o - a d j o i n t s ou

a n t i a u t o - a d j o i n t s de Jf (b), associés à l'algèbre w (b) = j r *^b t e B~J e t m o n t r o n s que :

W (b )

3

k n

A = — T ^R '^b fi + tE ) k < n, k, k e N.

k n dt ^v * ⁷¹ ' ^{t = 0} Un calcul d i r e c t donne

A = I X (d - b X ), X s l , k < n , d = ^d/)Y • ( 2 -¹)

k n m k \ m 71 m n m n r k k m 71 / OX

m = 1 / m n

L e m m e 2 . 1 . ( y , d - b x |m < n, p < q , m , n , p,q e n } c w (b)-

L ^{m n 7} p q P Q P Q 1 J

Nous d é m o n t r o n s c e lemme p a r r é c u r r e n c e . E t a p e initiale de la r é c u r r e n c e . Montrons que :

{x ,<? - b X ⁹d - b X , k = 2 , 3 , . . . } c W ( b ) .

1 1 2 l k 1 k Ik k 2 k + 1 2 k + 1 2 k + 1 J

Effectivement, l ' o p é r a t e u r X ² peut ê t r e a p p r o x i m é p a r des combinaisons linéaires des o p é r a t e u r s A , A , n > 2. Utilisons pour

1 n 2 71

c e t t e d é m o n s t r a t i o n la m é t h o d e de calcul p r o p o s é e p a r R. S.

Ismahilov (lemme 2.3-2.4) (la m é t h o d e initiale (Cf. [ 1 5 ] ) é t a i t plus c o m p l e x e ) .

L e m m e 2.2. L ' o p é r a t e u r X ^ p e u t ê t r e a p p r o x i m é p a r des combinaisons linéaires des o p é r a t e u r s A A si e t seulement si

1 71 2 71

a ( b ) = V b b^{- 1} = oo

1 2 ^W ^ 1 n 2 n 71 =3

D é m o n s t r a t i o n . Calculons la d i s t a n c e de X I p a r r a p p o r t à l'enveloppe linéaire des v e c t e u r s A A 1, N < n < N . E t a n t donné

1 71 2 71 1 2

que

A = d - b X , A = X (d - b X ) + - b X ) (2.2)

l n l n l n l n 2 n 1 2 V 1 n l n l n / \ 2 n 2 n 2 n /

(Cf. ( 2 . 1 ) ) , nous a v o n s

A A 1 = X f b²X² - b ) + b b X X

l n 2 n 1 2 V 1 n 1 n l n / I n 2 n l n 2 n

= - ^ b X + b ² X y + b b X X .

2 l n l 2 1 n 1 2 1 n I n 2 n l n 2 n

E n e f f e c t u a n t le c h a n g e m e n t de variables f \

X² = X² + = y + , alors f y du = 0 e t

î n i n 2b 2b ^{1 n} 2b ^mJ ^{• i} n ^r b

^ 1 n y 1 n 1 w

f y² d|i = f ( x⁴ - X ² b'¹ - 4 -^lb "² )d/i ( X ) = 2 - ' b -² .

J 1 «

6

Multiplions les d e u x m e m b r e s de ( 2 . 2 ) p a r tⁿ, N < n < N² d e s o r t e

N

que £ b tⁿ = -2 e t faisons la sommation s u r n :

N 1

N N N 2 2 2

Y t A A 1 = X + Y t ^b2 X y + Y t ^{b b} X X ,

^ ^{7 1} 1 n 2 n 1 2 ^ ⁿ 1 n 1 2 1 n ^w 1 n 2 n 1 n 2 n n =AT n =JST n =N

1 1 1

P o s o n s

N N N 2 2 2 û > = Y t A A 1 - X = Y t ^b2 X y + Y t ^{b b} X X ,

n 1 n 2 n 1 2 " ^w 1 n 1 2 1 w ^ ⁿ 1 n 2 n 1 n 2 n 71 =AT 71 = t f 71 = t f

1 1 1

puisque t o u s les t e r m e s sont non c o r r é l é s , alors

N ( | 2 i 2 ^\ N ( ² \

2 1 1 D D 2 1 b

la,!* = V ^{t 2 b4 — — + l n Z n} = Y t ² ± - ± - ^ + b b .

n ^ ^{n 1} * 2 b 2 b² 2 b 2 b ⁿ ~ ⁿ 4 b

1 V 1 2 1 » l n 2 n y n"iV1 ^ 1 2 )

Choisissons à p r é s e n t | t^w } de s o r t e que œ soit minimal. Il e s t facile de voir que

{

m m m j

K ^a „ 2 a = 1 f =

1 - >

n = 1 n = 1 J = 1 ⁿ y

i r ^w i Y ¹

de plus on obtient un e x t r e m u m pour tⁿ = — ^ — ; c'est

\ \ n = 1^{a n} y

pourquoi

N Z ^N 2 ( ^N b^Z \ ^l

m]n

\i<r

n =N n =N n =N Yⁿ

1 1 J ^{V i} J

2 b f ^{" 2 b2}

Y

de plus l ' e x t r e m u m e s t a t t e i n t p o u r tⁿ = — ]|T , c'est

2

pourquoi l'on obtient a p r è s avoir choisi [tⁿ J de m a n i è r e optimale :

( "z

Y

E x i g e o n s que V b² y~^l = <*>, c'est-à-dire

n

b² b "¹ + b b ) = y ( b^{- 1} + b b "¹ I = oo <=> y b b "¹ = oo.

1 n 1 2 1 n 2 n / V 1 2 2 n 1 w / " 1 n 2 n

n n n

Alors, X e W (b ), <? - b X = A e W (b ), k > 2,

1 2 1 * 1 k 1 ifc 1 *

(? - b X = A - X (d - b X ) e W ( b ) , k > 3

Z k Z k Z k 2 k 1 2 V 1 * 1 ' Je 1 * /

N Z

Montrons à p r é s e n t que la convergence tⁿA A - > X

n = tf 1

N Z

des o p é r a t e u r s auto-adjoints A ⁼ X ^tn A A c a r a ct è r e

1 ' 2 n =N 1

auto-adjoint de l ' o p é r a t e u r A découle de la relation de

1 * 2

c o m m u t a t i o n A , A = 0 , n , q > 3 , du c a r a c t è r e anti-adjoint de

, 1 n 2 q J

A : A* = - A e t de la n a t u r e réelle de t ) Vers l ' o p é r a t e u r a u t o -

k n k n k n n

adjoint A = X a lieu au sens de la r é s o l v a n t e d e W e i l . Il suffît p o u r cela de m o n t r e r [20, t h é o r è m e VIII.25], que la c o n v e r g e n c e A f - » A f e s t v r a i e pour t o u t f e S, où 3 e s t un domaine réel

N , N 1 2

quelconque p o u r t o u s les o p é r a t e u r s A , A. Soit A un ensemble

1 2

dense c o n s t i t u é des combinaisons linéaires finies des monômes libres

X ^a = x ^ x ^ x " ^{2 3} - X ^ X ^ . . . . a = 0 , 1 , . . . , i < j On voit que J

1 2 1 3 2 3 1 k 2 k i j ^

e s t un domaine réel quelconque p o u r t o u s les o p é r a t e u r s A e t A

1 ' 2

puisque J e s t c o n s t i t u é de v e c t e u r s a n a l y t i q u e s p o u r les o p é r a t e u r s A e t A. Soit f € J . Puisque f e s t cylindrique, il e x i s t e n G N tel

N ,N 0 1 2

que f ne dépend p a s des variables X , X q u a n d n > n . Soit

1 n 2 n 0

N > n , a l o r s i o

[

x - y t A A f = x - y t | X (b² X - b ) + b b X X 1 f =

1 2 ^{7 1} 1 n 2 n 1 2 ⁿ \ 1 2 V 1 n l n l n / l n 2 n l n 2 n /

n =N n=N ^{v y}

1 / IV ¹ y

f N \ ² \f N \ ² 2 2

= x i - y t b²x ² - b f + y t b b x x f =

1 2 w V 1 n 1 n l n / * ^ w l n 2 n l n 2 n n=N n=N

I V i y K i y

T ^N2 1 ^{2 ï N z}

lk ^fll • i - É t f a ' x ² ~^b ) i + H f . Y t b b x x n - > o , If ^{1 2} K ⁷¹ V 1 n 1 n 1 n / ,r " ^ w 1 n 2 n 1 n 2 n 1

n =/V n =iV [I

v i y IV * y H

puisque c o m m e on vient de le d é m o n t r e r

I f

Y \ , A '

\ ï

x - y t A A i = i - y t b² X² - b 1 1 + 1 y t b b X X I I Il ^{1 2 7 1 1 n 2 n} |l ⁿ V 1 n 1 n 1 n / U ⁿ 1 n 2 n l n 2 n | H

I ^{n =jV} I ⁿ =AT fi n=N ||

llv i y llv i y IV i y H

e s t négligeable p o u r N , N convenablement choisis.

P a s de r é c u r r e n c e . L'inclusion suivante e s t v r a i e .

f x , n < m < p , d - b X , 1 < n < p,m > n j c W ( b ) . P r o u v o n s qu'alors

fx , d - b X ,1 < p + 1 < m l c W ( b ) . Nous L l V + 1 p + 1 m p +1 m p +1 m J

p r é s e n t o n s la d é m o n s t r a t i o n de c e t t e proposition sous la forme de

plusieurs lemmes.

Il semblerait que les o p é r a t e u r s X ,1 < k puissent ê t r e

l k

a p p r o x i m é s p a r analogie a v e c x , p a r les o p é r a t e u r s A A , n > k .

1 2 l n k n

C e p e n d a n t , les considérations suivantes m o n t r e n t que c e n'est p a s t o i y o u r s possible quand s^L ( b ) = k < n .

k n

L e m m e 2.3. L ' o p é r a t e u r X , l < k peut ê t r e a p p r o x i m é p a r les combinaisons d ' o p é r a t e u r s A A , n > k si e t seulement si

l n k n

b²

à (b ) = Y !-= = oo, i < k

» = *+ 1 y V b b

j = 1 m = 1

D é m o n s t r a t i o n . D'après la formule (2.1)

l k

A = Y x (d - b X ) , A = Y x (d - b x ),

l n ^ j l \ j n j n j n J k n m n \ m n m n m n / j = 1 m = 1

c'est pourquoi

A A i = Y x (d - b x ) Y x (d - b X ) l =

l n k n j l V j n j n j n J m n \ m n m n m n f j -1 m -1

l k l k

= Y x (d - b x ) Y x ( - b x ) i = Y Y b b x x x x -

j i \ j n j n j n J m k \ m 7 1 m 7 1 i *-* j n m 7 1 j l j n m k 171 7 1

j = 1 m = 1 j =1 m = 1

; i k

- Y b x x = Y Y b b x x x x + J—t ™ n m i w k Â-U A-d j n m n j t j n m k m n

m -1 j = 1 m -1 j +m

l l

+ Y b ² x² x x - Y b x x . 4md ^{m n m n m t m k} +md ^{m n m t m k}

m = 1 m = 1

ÇÉn posant X² = y + — - — , f y dju = 0 , )

^ m n J m n 2 5 J ^{m 7 1 b}

m n

1 k l

A A 1 = y £ b b X X X X + Y b 2 y X X

j = 1 ^m - 1 m = 1

l

- ^l- Y b x x .

2 m n m t m k

m = 1

Multiplions les d e u x p a r t i e s de l'égalité p a r des n o m b r e s [t^w } tels que

N 2

— — y t b = 1 . Alors

n =JV 1

2 2

û) (b ): = Y t A A 1 + ± y t b X

n=N n=N 1 1

N

2 l k l - 1

= X l I X b b x x x x - ^ - y b x x +

Imd n A-d Â-à j n m n j i j n m k m 7 1 ï m 7 1 m l m k n =N j = 1 m -1 m = 1

Z - 1

+ Y b ^z y X X + b² y X

m 7 1 m l m l m k l n l n l k m = 1

c'est pourquoi

I

1 . j l m k m l m k

i - i ^{b 4} b⁴

m= i 2 b² 4b b 2b² 2b

171 7 1 m l m k l n l k

E n d ' a u t r e s t e r m e s ,

N N

n =N m = 1 j =1 m =1 n =N m = 1 J =1

E n utilisant ( 2 . 3 ) , nous obtenons :

j = l w =1

E x e m p l e 2.1. Soit le s y s t è m e b^{( 1 }} = (b^{( 1 }} ) de la forme : . . . b b b ••• ( • • • n 1 ( n + 2 j r •••]

2 n 2 n + l 2 n +2 ⁼ h* ¹ ' =1 k ^ ? ^

. . . ^ » ^bm ^b( i » . . . . . . 1 (ⁿ⁺¹/ 1 ...J ^k ~ '

V 3 n 3 n + l 3 n 4 2 7 V ' .

Il e s t évident que (b^{( n} j = <*>, k < n, mais

-o ( t >^m) = f u = y ! < o o , ^k > 3 .

2 n * 71

Il découle du lemme 2.3 que pour le s y s t è m e b^{( 1 )} on ne peut a p p r o x i m e r p a r les o p é r a t e u r s A A a u c u n o p é r a t e u r

1 n k n

f -> X f, k > 3 ; on peut a p p r o x i m e r X ². Il v a u t mieux a p p r o x i m e r les o p é r a t e u r s X p a r des o p é r a t e u r s du t y p e

k l

(d - b X )A k < n.

V i n l n l n / k n

L e m m e 2.4. P o u r que Ton puisse a p p r o x i m e r les variables X , 1 < k p a r les o p é r a t e u r s [d - b X )A , il faut e t il suffît que

1 k \ l n l n l n J k n

b

° <^b) =• X — 1 T = - , i < k

l k *

" = *^{+ 1} t b

JLtJ m n m = 1 , m *l

Démonstration.

k

(d - b

x

Y x

\ l n l n l n / k n \ l n l n l n / ^ m k \ m n m n m n f m = 1

k k

= (<? - b

x ) y x

x

y

\ l n l n l n J m k \ m n m n ; A M D l n m n m k l n m n l k l n m = 1 m =1

k

y b b X X X + b ² y X - ^LX b ,

l n m n m k l n m n l n l n l k 2 l k l n m = 1 , m *l

( a v e c le c h a n g e m e n t de variables : x² = y + —-—, f y du = 0 ) .

i n i n 2b ^ ^{1 n b}

l n

Multiplions la p a r t i e gauche e t la p a r t i e d r o i t e p a r t^w, N < n < ,

N 2

a p r è s a v o i r choisi t^w tel que ]T tⁿb = - 2 , alors

n =N 1

( » \

2

CO ( b ) : = y t [d - b X )A - X 1 =

l k 7 1 \ l n l n l n J k n l k n =N

V ¹ J

N r -i

2 k

= Y

Y* b b

n * ^ l n m n m k l n m n l l n l k n =N m = 1 , m *l

1

N f , , ^{, 2} 1 ^N

I

- , . H 2 i r ^ ⁺ ^ Z - J S " , . " . . .

n = N m = 1 , m * t _ . , . n =N m = 1

P a r c o n s é q u e n t , d'après la formule (2.3)

f Y

N , 2

I ^{2 2}

m i n û> (6) = ⁴ X — ~

I ^{l k K}

f '

1

71 y ^{l n 7 1} V m = 1 y

n J x

Il f a u t que

b² - b

I ^{~ k ~} = I — l — ~ = - s i < k ,

y^{b b} n =^{k +}i y^{b + b} JLd i n m n JL* m n t n

m = 1 m =1 , m *l

ce qui e s t équivalent à

f

Y

a (b ) = V b Y b = oo, i < k.

I k V l n J - J m n >

n =k + 1 \ m =1 , m *l J

C e p e n d a n t , l'exemple 2.1 m o n t r e que p o u r t o u t s y s t è m e b^{( L )}, c o m m e p r é c é d e m m e n t , on ne peut a p p r o x i m e r a u c u n o p é r a t e u r f X f, k > 3 p a r les o p é r a t e u r s ( d - b X )A ; a v e c X on le

1 * V i n \ n \ n I k n 1 2

peut.

Il s'avère que pour t o u t q = 2 , 3 , . . . il e x i s t e p < q tel l'on peut a p p r o x i m e r les variables X ^{p q} p a r les o p é r a t e u r s (d - b X W , n > q.

\ p n p n p n ) q n

L e m m e 2.5. Soit S^L (b) = <», k = 1,2, . . . , q — 1, il e x i s t e alors

k q

p<q tel que a (b) = oo.

D é m o n s t r a t i o n . Nous donnerons une d é m o n s t r a t i o n p a r r é c u r r e n c e . Soit q = 3 e t S^L (b) = y b b'¹ = <*>

1 k 1 ife 3 k k = 4

S^L ( b ) = £ b b"¹ = oo. Supposons au c o n t r a i r e que a (b) =

k = 4

- - 1 . - 1

= y b (b + b ) e t que a (b) = y b (b + b ) < oo

^ 1 * V 2 3 3 * / ^ 2 3 ^ 2 * V 1 * 3 * / k =4 k =4

alors il découle de a (b ) < oo que b < b + b , k > k , alors

1 3 1 k 2 3 3 k 0

° 3 M >

l \ A

Ï K

{ \

k =k k =k

0 0