Harmonic and subharmonic functions associated to root systems

HAL Id: tel-01291741

https://tel.archives-ouvertes.fr/tel-01291741

Submitted on 25 Mar 2016

HAL is a multi-disciplinary open access archive for the deposit and dissemination of sci- entific research documents, whether they are pub- lished or not. The documents may come from teaching and research institutions in France or

L’archive ouverte pluridisciplinaire HAL, est destinée au dépôt et à la diffusion de documents scientifiques de niveau recherche, publiés ou non, émanant des établissements d’enseignement et de recherche français ou étrangers, des laboratoires

Harmonic and subharmonic functions associated to root systems

Chaabane Rejeb

To cite this version:

Chaabane Rejeb. Harmonic and subharmonic functions associated to root systems. Mathematics [math]. Université François-Rabelais de Tours, Université de Tunis El Manar, 2015. English. �tel- 01291741�

UNIVERSIT´ E FRANC ¸ OIS - RABELAIS DE TOURS UNIVERSIT´ E DE TUNIS EL MANAR

TH `ESE EN COTUTELLE INTERNATIONALE pr´esent´ee par: Chaabane REJEB

soutenue le : 28 Novembre 2015

pour obtenir le grade de : Docteur de l’Universit´e Fran¸cois - Rabelais de Tours et de l’Universit´e de Tunis El Manar

Discipline/ Sp´ecialit´e: Math´ematiques

FONCTIONS HARMONIQUES ET SOUSHARMONIQUES ASSOCI ´EES `A DES SYST `EMES DE RACINES

TH `ESE dirig´ee par:

M. GALLARDO L´eonard Professeur Em´erite, Universit´e Fran¸cois - Rabelais de Tours M. SIFI Mohamed Professeur, Universit´e de Tunis El Manar, Tunis

RAPPORTEURS :

M. GRACZYK Piotr Professeur, Universit´e d’Angers M. MILI Maher Professeur, Universit´e de Sousse JURY et EXAMINATEURS INVIT ´ES:

M. ANKER Jean Philippe Professeur, Universit´e d’Orl´eans

M. DEMNI Nizar Maitre de Conf´erence HDR, Universit´e de Rennes 1 M. GALLARDO L´eonard Professeur Em´erite, Universit´e Fran¸cois-Rabelais de Tours M. GRACZYK Piotr Professeur, Universit´e d’Angers

M. LESIGNE Emmanuel Professeur, Universit´e Fran¸cois-Rabelais de Tours M. MILI Maher Professeur, Universit´e de Sousse

M. SELMI Mohamed Professeur, Universit´e de Tunis El Manar M. SIFI Mohamed Professeur, Universit´e de Tunis El Manar

M. TRIMECHE Khalifa Professeur Em´erite, Universit´e de Tunis El Manar

Remerciements

Je voudrais exprimer ma profonde gratitude envers le Professeur L´eonard GALLARDO qui a dirig´e cette th`ese avec beaucoup de bienveillance. J’aimerais lui dire `a quel point j’ai appr´eci´e sa grande disponibilit´e, sa patience face `a mes questions et les nombreuses longues et riches discussions durant mes stages `a l’Universit´e de Tours. Ses aides consid´erables sont inoubliables. Je l’en remercie vivement.

Je voudrais adresser mes remerciements les plus sinc`eres au Professeur Mohamed SIFI qui a dirig´e cette th`ese avec le Professeur L´eonard GALLARDO. Je le remercie pour ses encouragements constants, sa gentillesse, ses nombreux conseils avis´es et ses grandes aides.

Je tiens `a t´emoigner toute ma reconnaissance aux Professeurs Piotr GRACZYK et Maher MILI d’avoir accept´e de rapporter ma th`ese et de faire partie du Jury.

Je remercie vivement le Professeur Mohamed SELMI pour avoir accept´e de pr´esider le Jury de ma th`ese.

Que le Professeur Khalifa TRIMECHE re¸coive ici mes vifs remerciements de m’avoir fait l’honneur d’ˆetre membre du Jury. Je le remercie pour ses pr´ecieux conseils et pour l’aide qui m’a consacr´ee tant du cˆot´e scientifique qu’humain tout au long de ce travail.

Je remercie chaleureusement les Professeurs Nizar DEMNI et Emmanuel LESIGNE pour avoir accept´e de faire partie du Jury.

C’est pour moi une grande joie de remercier le Professeur Jean-Philippe ANKER d’avoir accept´e d’ˆetre l’invit´e de ma soutenance de th`ese.

Je n’oublie ´evidemment pas d’exprimer ma profonde reconnaissance et mes remercie- ments :

-au Professeur Ahmad EL SOUFI, Directeur du LMPT, aux membres de l’´equipe : pro- babilit´es et th´eorie ergodique, et `a tous les membres du LMPT pour leurs soutiens, -au Professeur N´ejib BEN SALEM, Directeur du LAMA,

-aux responsables de l’´ecole doctorale de l’Universit´e des Sciences et Techniques de Tours et `a ceux de la Facult´e des Sciences de Tunis,

-`a tous les amis et les coll`egues de l’IPEI El Manar, `a la Directrice du d´epartement Math- Info, Madame In`es KHF `ECHA, et `a mon coll`egue Nabil HAFYENE.

Je profite de la pr´esente occasion pour exprimer mes remerciements `a mes parents et

`

a tous les membres de ma famille pour leurs soutiens permanents.

Je tiens `a remercier tout particuli`erement les amis pour les encouragements qu’ils m’ont apport´es.

Mes remerciements les plus sinc`eres `a M. F. E. D. M. Elyess pour son soutien et surtout pour son amiti´e.

R

^{ESUM ´E}

Dans cette th`ese, nous montrons que pour tout syst`eme de racinesRde l’espace eucli- dien R^d et pour toute fonction de multiplicit´e positivek sur R, on peut d´evelopper dans ce cadre g´eom´etrique une th´eorie du potentiel de type newtonien et plus g´en´eralement de type Riesz qui co¨ıncident avec les th´eories classiques lorsque la fonction k est identique- ment nulle.

Pr´ecis´ement, soit {D_j, 1 ≤ j ≤ d} la famille commutative des op´erateurs diff´erentiels et aux diff´erences du premier ordre associ´ee `a (R, k) au sens de Dunkl et soit ∆k = D²₁+· · ·+D²_d l’op´erateur de type Laplace qui leur correspond.

Dans un premier temps, en introduisant un nouvel op´erateur de moyenne volumique, nous ´etudions les fonctions ∆k-harmoniques dans un ouvert Ω deR^dinvariant sous l’action du groupe de r´eflexionsW (groupe de Coxeter-Weyl) associ´e `a R. Nous ´etablissons pour ces fonctions des propri´et´es de moyenne, un principe du maximum fort, une in´egalit´e de Harnack et un th´eor`eme de Bˆocher qui contiennent les th´eor`emes classiques comme cas particuliers.

Ensuite, nous introduisons via l’op´erateur de moyenne volumique la notion de fonc- tion ∆k-sousharmonique dans le contexte des syst`emes de racines. Apr`es avoir donn´e les propri´et´es essentielles des ces fonctions (int´egrabilit´e locale, principe du maximum fort, approximation par des fonctions r´eguli`eres,...etc), nous montrons qu’elles peuvent ˆetre caract´eris´ees de plusieurs mani`eres et en particulier par la positivit´e au sens des distribu- tions de leur laplacien de Dunkl. Nous prouvons ensuite que les potentiels des mesures de Radon positives correspondant au noyau de Dunkl-Newton constituent les exemples fon- damentaux de fonctions ∆k-sousharmoniques et `a cet effet, une importance particuli`ere a ´et´e consacr´ee `a l’´etude de ces objets. Comme application, nous obtenons le th´eor`eme suivant : toute fonction ∆_k-souharmonique u s’´ecrit localement comme la somme d’une fonction ∆k-harmonique et du potentiel de Dunkl-Newton d’une mesure de Radon pr´ecise qui joue un rˆole important dans notre th´eorie et que nous appelons ∆_k-mesure de Riesz de u comme dans le cas classique (i.e.k≡0).

Enfin, dans une troisi`eme partie, nous initions une th´eorie du potentiel de type Riesz d’indice β, 0 < β < d+∑

α∈Rk(α), et qui contient le cas newtonien lorsqueβ = 2. En particulier, nous ´etudions les noyaux de Dunkl-Riesz et les potentiels correspondants pour les mesures de Radon. Comme applications, nous obtenons le principe d’unicit´e des masses et nous ´etendons dans notre cas l’in´egalit´e ponctuelle de Hedberg classique.

M

^OTS-CLEFS

Syst`emes de racines, Groupes de Coxeter-Weyl, Op´erateurs de Dunkl, Op´erateur de Dunkl-Laplace, Op´erateur de moyenne volumique g´en´eralis´e, Fonctions ∆<sub>k</sub>-harmoniques, Fonctions ∆<sub>k</sub>-sousharmoniques, Propri´et´e de moyenne, ∆<sub>k</sub>-mesures de Riesz, Noyau de la chaleur, Noyau de Dunkl-Newton, Potentiel de Dunkl-Newton, Equation de Poisson, Th´eor`eme de d´ecomposition de Riesz, Noyau de Dunkl-Riesz, Potentiel de Dunkl-Riesz, Principe d’unicit´e des masses.

A

^BSTRACT

In this thesis, we show that, for any root systemRin the Euclidean spaceR^d and for any nonnegative multiplicity functionkonR, we can develop in this geometric framework a Newtonian type or more generally a Riesz type potential theory which coincide with the classical theories when kis the zero function.

Precisely, let {Dj, 1 ≤ j ≤ d} be the commutative family of first order differential- difference Dunkl operators associated with (R, k) and ∆_k=D₁²+· · ·+D_d² be the corres- ponding Laplace type operator.

At first, by introducing a new volume mean value operator, we study ∆_k-harmonic functions on a open subset Ω of R^d which is invariant under the action of the reflection group W (the Coxeter-Weyl group) associated to R. We establish for these functions the mean value property, a strong maximum principle, a Harnack inequality and a Bˆocher theorem. These results contain the classical ones as particular cases.

Afterwards, we introduce via the volume mean value operator the notion of ∆_k- subharmonic function in the context of root systems. After giving some essential pro- perties of these functions (local integrability, strong maximum principle, approximation by regular functions,...etc), we show that they can be characterized in different ways and in particular in terms of the positivity of their distributional Dunkl Laplacian. We prove also that the potentials of Radon measures associated with the Dunkl-Newton kernel provide the fundamental examples of ∆_k-subharmonic functions and for this purpose a particular importance is devoted to the study of these objects. As application, we obtain the follo- wing theorem : Every ∆_k-subharmonic functionu can be locally written as the sum of a

∆_k-harmonic function and of a Dunkl-Newton potential of a precise Radon measure which plays a key role in our theory and which we call the ∆_k-Riesz measure of u as in analogy with the classical case (i.e. k≡0).

Finally, in a third part we initiate a Riesz type potential theory of index β, with 0< β < d+∑

α∈Rk(α), which contains the aforementioned Dunkl-Newtonian case when β = 2. In particular, we study the Dunkl-Riesz kernel and the corresponding potentials of Radon measures. As applications we obtain the uniqueness principle and we extend to our setting the classical pointwise Hedberg inequality.

K

^EYWORDS

Root systems, Coxeter-Weyl groups, Dunkl operators, Dunkl-Laplace operator, Gene- ralized volume mean value operator, ∆_k-Harmonic functions, ∆_k-Subharmonic functions, Mean value property, ∆_k-Riesz measures, Dunkl-heat kernel, Dunkl-Newton kernel, Dunkl- Newton potential, Poisson equation, Dunkl-Riesz kernel, Dunkl-Riesz potential, Unique- ness principle.

Table des mati` eres

INTRODUCTION 9

Bibliographie 34

1 Une Nouvelle Propri´et´e de Moyenne pour les Fonctions Harmoniques Associ´ees au Laplacien de Dunkl et Applications 37

1.1 Introduction . . . 38

1.2 The Dunkl transform and Dunkl’s translation operators . . . 42

1.3 The volume mean value property . . . 45

1.4 Harnack’s inequality and the strong maximum principle . . . 58

1.5 Bˆocher’s theorem . . . 61

Bibliography 67 2 PotentielNewtonien etFonctions SousharmoniquesAssoci´es `a l’Op´erateur de Dunkl-Laplace 69 2.1 Introduction . . . 70

2.2 The harmonic kernel and the mean value operators . . . 76

2.2.1 Properties of the harmonic kernel . . . 76

2.2.2 Lebesgue’s differentiation theorem . . . 79

2.2.3 Some support properties of the harmonic kernel and of R¨osler’s mea- sure . . . 83

2.2.4 Representation formulas for the mean value operators . . . 87

2.3 Dunkl convolution product . . . 89

2.4 Dunkl subharmonic functions . . . 96

2.4.1 Local properties of D-subharmonic functions . . . 96

2.4.2 The strong Maximum principle . . . 99

2.5 Approximation of D-subharmonic functions by C^∞-functions . . . 100

2.5.1 Characterization ofC^∞− D-subharmonic functions . . . 100

2.5.2 Approximation results . . . 101

2.5.3 Applications to D-harmonic functions . . . 104

2.5.4 Applications to D-subharmonic functions . . . 106

2.6 ∆k-Riesz measure and Weyl’s lemma . . . 109

2.6.1 ∆_k-Riesz measure . . . 109

2.6.2 Weyl’s lemma . . . 112

2.7 Dunkl-Newtonian Potential and Riesz decomposition theorem . . . 114

2.7.1 Dunkl type Newton kernel . . . 115

2.7.2 Dunkl-Newtonian potential of Radon measures . . . 124

2.7.3 The Dunkl-Poisson equation . . . 128

2.7.4 Riesz decomposition theorems . . . 129

2.8 Bounded from above Dunkl subharmonic functions onR^d . . . 130

2.9 Annex . . . 134

2.9.1 The Dunkl transform . . . 134

2.9.2 Dunkl’s translation operators . . . 136

2.9.3 Fundamental solution of the Dunkl Laplacian . . . 137

Bibliography 138 3 Potentiels de Dunkl-Riesz d’une Mesure de Radon 141 3.1 Introduction . . . 142

3.2 Generalities in Dunkl Analysis . . . 144

3.2.1 The Dunkl transform . . . 144

3.2.2 Dunkl’s translation operators and heat kernel properties . . . 146

3.2.3 The harmonic kernel and D-subharmonic functions . . . 147

3.3 The Dunkl-Riesz kernel . . . 148

3.4 Riesz potentials of Radon measures . . . 161

Bibliography 169

INTRODUCTION

C

^onsid´erons l’espaceR^dmuni de sa structure euclidienne usuelle. Nous noterons⟨., .⟩ le produit scalaire surR^d,∥.∥la norme euclidienne associ´ee et (ej)1≤j≤dla base canonique deR^d. Pourα∈R^d\{0}, nous noterons ´egalementσ_αla r´eflexion par rapport `a l’hyperplan H<sub>α</sub> orthogonal `a la droiteR.α engendr´ee parα. L’expression deσ_α est donn´ee par

∀x∈R^d, σα(x) =x−2⟨α, x⟩

∥α∥² α.

Nous allons pr´esenter les ingr´edients principaux de la th´eorie de Dunkl. Commen¸cons par introduire les notions de syst`eme de racines et de groupe de r´eflexions. Nous nous r´ef´erons aux livres de Humphreys ([26]) et de Kane ([30]) pour plus de d´etails.

Unsyst`eme de racinesdansR^dest un ensemble finiRde vecteurs non nuls, appel´es racines, qui satisfont les propri´et´es suivantes :

1. les seuls multiples scalaires d’une racine α∈ Rappartenant `aR sontα et−α, 2. pour chaque racine α∈ R, l’ensemble Rest stable par la r´eflexion σ_α.

La dimension de l’espace vectoriel r´eel engendr´e par les racines de R est appel´ee le rang du syst`eme de racinesR.

Nous nous donnons un vecteur β ∈ R^d tel que ⟨α, β⟩ ̸= 0 pour tout α ∈ R (dans ce cas, le vecteur β est dit r´egulier). Nous avons alors une partitionR=R+⊔ R₋, avec

R+=R+(β) :={α∈ R, ⟨α, β⟩>0} et R₋=−R+. Nous dirons queR+ est un sous-syst`eme positif de racines.

Unsyst`eme simpleΠ est un sous-ensemble deRtel que

- les ´el´ements de Π forment une base de l’espace vectoriel engendr´e par R,

- chaque racine α ∈ R est une combinaison lin´eaire d’´el´ements de Π `a coefficients tous positifs ou tous n´egatifs.

Les ´el´ements de Π sont appel´esracines simples. Notons que si Π est un syst`eme simple, il existe un unique sous-syst`eme positif de racines contenant Π et que inversement, tout sous-syst`eme positif de racines contient un et un seul syst`eme simple. En particulier, si Π est contenu dansR+, les coordonn´ees de tout ´el´ement deR+dans la base Π sont positives.

Le sous-groupeW du groupe orthogonal O(R^d) engendr´e par les r´eflexionsσ_α,α∈ R, est appel´e legroupe de Coxeter-Weylassoci´e `aR. En remarquant que l’action naturelle de W sur le syst`eme R est fid`ele i.e. le seul ´el´ement deW qui fixe toutes les racines est l’identit´e (le groupeW est isomorphe `a un sous-groupe deS_|R|), nous voyons que le groupe de Coxeter-Weyl est fini. De plus, le groupe W est en fait engendr´e par les r´eflexions σ_α associ´ees aux racines simples α∈Π.

Fixons un syst`eme simple Π. Les hyperplans H_α,α∈ R+, divisent l’espaceR^den des composantes connexes ouvertes, appel´ees chambres de Weyl.

Consid´erons

C:=

{

x∈R^d, ⟨x, α⟩>0, ∀α∈Π }

.

La partie Cest couramment appel´ee la chambre de Weyl fondamentale associ´ee au syst`eme simple Π. En outre, la fermeture topologique deC, donn´ee par

C:=

{

x∈R^d, ⟨x, α⟩ ≥0, ∀α∈Π }

,

est un domaine fondamentalpour l’action du groupe de Coxeter-Weyl surR^d i.e. pour tout x∈R^d, laW-orbite de xrencontre Cen un point et un seul (voir [26] ou [30]).

Pour tout point x∈R^d, soitWx :={g∈W, gx=x}legroupe d’isotropiedex. Nous signalons que le groupe d’isotropie d’un pointx est compl`etement caract´eris´e suivant que x soit dansCou dans les murs de C. D’une fa¸con pr´ecise, nous avons

1.si x∈C, alorsWx est trivial,

2. si x∈∂C, alors W_x est engendr´e par les r´eflexionsσ_α,α ∈R_x ={α ∈Π, x ∈H_α}. En particulier, si x ∈ ∩α∈ΠHα, le groupe d’isotropie de x co¨ıncide avec le groupe de Coxeter-Weyl.

Un autre ingr´edient crucial dans la th´eorie de Dunkl est celui de la fonction de multi- plicit´e (dont la terminologie vient de l’analyse sur les espaces homog`enes form´es `a partir des groupes de Lie) associ´ee `a un syst`eme de racines. Il s’agit d’une fonctionk:R −→C invariante sous l’action du groupe de Coxeter-Weyl W. Il est important de noter que le nombre de valeurs prises par une telle fonction co¨ıncide avec le nombre de classes de conjugaison du groupe W.

Maintenant, pour mettre au clair les objets ainsi d´efinis, nous allons donner quelques exemples de syst`emes de racines dans R^d (rappelant que (e_i)_1≤i≤d est la base canonique de R^d) :

• Syst`eme de rang 1 : Un syst`eme de racines dansR^d de rang 1 est constitu´e de deux vecteurs non nulsαet−α. Il est appel´e de typeA₁ et le groupe de Coxeter-Weyl associ´e `a ce syst`eme estZ2. En prenant la racine positiveα=e1, la chambre de Weyl fondamentale est ]0,+∞[×R^d−1.

• Syst`eme de type A<sub>1</sub>× · · · ×A<sub>1</sub>, (m fois avec 1≤m≤d) : Un tel syst`eme est donn´e par R = {±ei, 1 ≤ i ≤ m}. Il est de rang m. De plus, nous pouvons prendre comme sous-syst`eme positif l’ensemble R+ ={ei, 1 ≤ i≤ m}. Avec ce choix du sous-syst`eme

positif, les racines simples sont exactement les racines positives et la chambre de Weyl fondamentale est donn´ee par

C={x= (x₁, . . . , x_d)∈R^d, x_i>0, ∀ 1≤i≤m}.

D’autre part, puisque les racines sont orthogonales, le groupe de Coxeter-Weyl est com- mutatif et il est isomorphe `a Z^m₂ .

Terminons cet exemple en notant que la fonction de multiplicit´e est donn´ee par m pa- ram`etres k(e1), . . . , k(em)∈C.

•Syst`eme de type A_m−1avec 2≤m≤d. Pour tout vecteurx∈R^d, nous allons utiliser la notation x= (x^(m), x^′)∈R^m×R^d−m.

Le syst`eme de racines estR={αi,j =ei−ej, 1≤i, j≤m, i̸=j}. Soitu= (u<sup>(m)</sup>, u<sup>′</sup>) avec u<sup>(m)</sup> = (1, . . . ,1) et u<sup>′</sup> = 0. Les vecteurs u,e<sub>m+1</sub>,. . .e<sub>d</sub> sont orthogonaux `a R et le syst`eme est donc de rang m−1.

En choisissant β ∈R^d tel que β^(m) = (m, m−1, . . . ,1) et β^′ = 0, le sous-syst`eme positif est R+ := {α<sub>i,j</sub> = e<sub>i</sub> −e<sub>j</sub>, 1 ≤ i < j ≤ m} et le syst`eme simple est Π = {α_i,i+1 = ei−ei+1, 1≤i≤m−1}. De plus, la chambre de Weyl fondamentale est

C={x= (x₁, . . . , x_d)∈R^d, x₁ > x₂ >· · ·> x_m−1 > x_m}.

La r´eflexion σ_αi,j permute la i-`eme et la j-`eme composante de tout vecteur x ∈ R^d. Elle s’identifie ainsi `a une transposition et le groupe de Coxeter-Weyl est le groupe sym´etrique Sm `am´el´ements. De plus, puisque les transpositions dansSm sont conjugu´ees, la fonction de multiplicit´e d’un tel syst`eme est constante.

• Syst`eme de type B<sub>m</sub> (2≤m≤d). Dans ce cas, le syst`eme de racines est le suivant R={α_i,j =e_i−e_j, 1≤i, j≤m, i̸=j}

∪ {βi,j =sgn(j−i)(ei+ej), 1≤i, j≤m, i̸=j}

∪ {±ei, 1≤i≤m}.

En prenant le mˆeme vecteurβ de l’exemple pr´ec´edent, nous pouvons choisir comme sous- syst`eme positif l’ensembleR+ ={ei−ej, ei+ej, 1≤i < j ≤m} ∪ {ei, 1≤i≤m}. Les racines simples sont e_m ete_i−e_i+1, 1 ≤i < m et la chambre de Weyl fondamentale est

C={x= (x1, . . . , xd)∈R^d, x1 > x2 >· · ·> xm−1 > xm>0}.

Nous avons vu que le groupe engendr´e par lesσαi,j estSm et celui engendr´e par lesσei est Z^m₂ . D’autre part, en se basant sur la relationAσ_αA⁻¹=σ_AαavecAune isom´etrie deR^det α∈R^d, nous d´eduisons queZ^m₂ est un sous-groupe normal dans le groupe de Coxeter-Weyl W associ´e `a notre syst`eme de racinesBm (i.e.gZ^m₂ g⁻¹=Z^m₂ ,∀g∈W). Finalement, nous utilisons le fait que l’intersection de S_m avec Z^m₂ est triviale, pour conclure que W n’est autre que le produit semi-direct S_mnZ^m₂ . Nous signalons ´egalement qu’ici la fonction de mutiplicit´e s’identifie `a deux param`etres (k1, k2) aveck2 =k(em) =k(em−1) =· · ·=k(e1) etk₁ =k(e_i−e_j) =k(e_i+e_j)

Pour d’autres exemples de syst`emes de racines, le lecteur pourra consulter les deux livres mentionn´es ci-dessus ou encore le livre de C. F. Dunkl et Y. Xu ([15]).

Dans la suite, nous fixons un syst`eme de racines R dans R<sup>d</sup> dont les racines α sont normalis´ees par∥α∥<sup>2</sup>= 2. Comme avant,W d´esigne le groupe de Coxeter-Weyl asscoci´e `a R. En outre, toute fonction de multiplicit´ekconsid´er´ee, sera suppos´ee `a valeurs positives.

D’une importance particuli`ere dans cette th`ese, nous avons l’op´erateur de Dunkl- Laplace qui agit sur une fonction f ∈ C²(R^d) de la fa¸con suivante

∆_kf(x) := ∆f(x) + 2 ∑

α∈R+

k(α)

(⟨∇f(x), α⟩

⟨α, x⟩ −f(x)−f(σ_α(x))

⟨α, x⟩² )

, (0.1)

o`u ∆ et ∇ sont respectivement le laplacien et le gradient classiques sur R^d. Nous avons les cas particuliers suivants :

•Syst`eme de rang 1: Le laplacien de Dunkl dans le cas unidimensionnel est de la forme

∆^Z_k²f(x) =f^′′(x) + 2k (f^′(x)

x −f(x)−f(−x) x²

) .

• Syst`eme de type A₁× · · · ×A₁, (m fois avec 1≤m≤d) : Dans ce cas

∆^Z_k^m2 f(x) = ∆f(x) + 2

∑m j=1

k(e_j) (

∂jf(x)

x_j −f(x)−f(σej(x)) x²_j

) .

• Syst`eme de type A<sub>m−1</sub> avec 2 ≤ m ≤ d. Le laplacien de Dunkl associ´e au groupe sym´etriqueSm op`ere sur une fonction f de classeC² surR^d comme suit

∆^S_k^mf(x) = ∆f(x) + 2k

∑m 1≤i<j≤m

(∂if(x)−∂jf(x)

x_i−x_j −f(x)−f(σei−ej(x)) (x_i−x_j)²

) .

• Syst`eme de type B<sub>m</sub> (2≤m≤d). L’op´erateur de Dunkl-Laplace associ´e au syst`eme de racines Bm peut s’´ecrire au moyen de ∆^S_k^m de la mani`ere suivante

∆^S_k^mnZm2 f(x) = ∆^S_k^m

1 f(x) + 2k₂

∑m i=1

(∂_if(x)

xi −f(x)−f(σ_ei(x)) x²_i

)

+ 2k1

∑m 1≤i<j≤m

(∂if(x) +∂jf(x)

x_i+x_j −f(x)−f(σ_ei+ej(x)) (x_i+x_j)²

) .

Il est bien connu que ∆k = ∑_d

j=1D_e²_j, o`u (Dξ)_ξ∈R^d est la famille commutative des op´erateurs de Dunkl (voir [10] et [15]) d´efinis pour f ∈ C¹(R^d) par

D_ξf(x) =∂_ξf(x) + ∑

α∈R+

k(α)⟨α, ξ⟩f(x)−f(σ_α(x))

⟨α, x⟩ (0.2)

et∂_ξ est la d´erivation dans la direction ξ.

Notons que l’expression (0.2) est ind´ependante du choix d’un sous-syst`eme positif de R. Ceci d´ecoule de la d´efinition de la fonction de multiplicit´e et de la relation

∑

α∈R⁺

k(α)⟨α, ξ⟩f(x)−f(σα(x))

⟨α, x⟩ = 1 2

∑

α∈R

k(α)⟨α, ξ⟩f(x)−f(σα(x))

⟨α, x⟩ .

Les op´erateurs de Dunkl sont li´es aux op´erateurs aux d´eriv´ees partielles via la relation d’entrelacement suivante

∀ ξ∈R^d, D_ξV_k =V_k∂_ξ, (0.3) o`u V_k est commun´ement appel´e op´erateur d’entrelacement de Dunkl.

Historiquement, en 1991, C. F. Dunkl (voir [11]) a montr´e l’existence et l’unicit´e de V_k en tant qu’isomorphisme vectoriel de l’espaceP^ddes polynˆomes `a dvariables dans lui mˆeme satisfaisant (0.3), fixant les polynˆomes constants et laissant stables les espaces Pn<sup>d</sup>, n∈N, des polynˆomes homog`enes de degr´en.

En 2001, K. Trim`eche a prolong´e l’op´erateur d’entrelacement de Dunkl en un isomorphisme topologique de l’espace C^∞(R^d) (muni de sa topologie de Fr´echet usuelle) dans lui mˆeme et toujours satisfaisant la relation d’entrelacement (0.3) (voir [51]).

L’un des r´esultats les plus remarquables dans l’analyse de Dunkl, dˆu `a R¨osler (voir [42]), est le suivant : Pour tout x∈R<sup>d</sup>, il existe une unique mesure de probabilit´e µ<sub>x</sub> sur R<sup>d</sup> `a support compact telle que

∀ f ∈ C^∞(R^d), Vk(f)(x) =

∫

R^df(y)dµx(y). (0.4) De plus, on a

suppµ_x⊂C(x) :=co{gx, g∈W} (0.5) avec C(x) l’enveloppe convexe de l’orbite de xsous l’action deW. Nous appelleronsµ_x la mesure de R¨oslerau point x.

L’un des probl`emes majeurs de la th´eorie de Dunkl est que la mesure de R¨osler n’est connue explicitement que dans tr`es peu de cas. Dans le cas d’un syst`eme de racines de rang 1 (nous prenonsR={±e1}dansR^d), une formule explicite, donn´ee par Dunkl ([11]), est la suivante :

Vk(f)(x) =

∫ ₁

−1

f(tx1, x2, . . . , xd)ϕk(t)dt,

o`u ϕ<sub>k</sub> est la Z<sub>2</sub>-densit´e de Dunkl de param`etrek=k(e₁)>0 donn´ee par ϕ_k(t) = Γ(k+ 1/2)

√πΓ(k) (1−t)^k−1(1 +t)^k1_[−1,1](t), (0.6) En prenantR={±ei,1≤i≤m}dans R^d, l’op´erateur d’entrelacement est de la forme

Vk(f)(x) =

∫

[−1,1]^m

f(t1x1, t2x2, . . . , tmxm, xm+1, . . . , xd)

∏m i=1

ϕki(ti)dt1. . . dtm, (0.7)

avec ϕ_ki la Z₂-densit´e de Dunkl de param`etre k<sub>i</sub> > 0 donn´ee par (0.6). Cette formule, qui g´en´eralise celle donn´ee par Dunkl, a ´et´e prouv´ee par Xu ([54]). Une extension de ce r´esultat au cas d’un syst`eme de racines deux `a deux orthogonales est donn´ee dans ([33]).

Deux autres expressions connues d’un tel op´erateur dans les casA₂etB₂ont ´et´e construites par Dunkl (voir [13] et [16]). Signalons que l’expression de V_k dans le cas A₂ a ´et´e red´emontr´ee dans ([3])

Au moyen de l’op´erateur d’entrelacement de DunklV_ket de son inverse, K. Trim`eche a d´efini la translation de Dunklτx,x∈R^d, sur l’espaceC^∞(R^d) comme suit (voir [52]) :

∀y∈R^d, τ_xf(y) :=

∫

R^dV_k◦T_z◦V_k⁻¹(f)(y)dµ_x(z), (0.8) o`u Taf(b) =f(a+b) est la translation usuelle. Pourx∈R<sup>d</sup>, la translat´ee de Dunkl d’une fonction f ∈ D(R<sup>d</sup>) (l’espace des fonctions de classeC<sup>∞</sup> sur R<sup>d</sup>`a supports compact) τ_xf satisfait la propri´et´e suivante :

∫

R^dτ_xf(y)ω_k(y)dy=

∫

R^df(y)ω_k(y)dy, (0.9)

o`u ω_k(x)dx=dm_k(x) est la mesureW-invariante dont la densit´e est donn´ee par ωk(x) := ∏

α∈R+

| ⟨α, x⟩ |^2k(α). (0.10) Nous signalons que la fonction poids ωk est homog`ene de degr´e 2γ avec

γ = ∑

α∈R+

k(α).

Quand f est dans l’espace de Schwartz S(R^d), une autre expression de la translation de Dunkl est la suivante (voir [8])

τxf(y) = 1 c²_k

∫

R^dFk(f)(ξ)Ek(ix, ξ)Ek(iy, ξ)ωk(ξ)dξ, (0.11) o`u c_k = ∫

R^de^{−∥x∥2/2}ω_k(x)dx est la constante de Macdonald-Mehta ([36], [17]), E_k(x, ξ)

´

etant le noyau d´efini par

E_k(x, ξ) :=V_k(e^⟨.,ξ⟩)(x) =

∫

R^de^⟨z,ξ⟩dµ_x(z)

(appel´e commun´ement noyau de Dunkl ([11], [45])) et Fk est la transformation de Dunkl d´efinie pour une fonction f m_k-int´egrable sur R^dpar

Fk(f)(λ) =

∫

R^df(x)Ek(−ix, λ)ωk(x)dx, λ∈R^d. (0.12) Cette transformation, introduite par Dunkl ([12]) et ´etudi´ee par de Jeu ([29]), poss`ede des propri´et´es analogues `a celles satisfaites par la transformation de Fourier sur R^d ([29] et

[12]). En particulier, Fk est un isomorphisme topologique de l’espace de S(R^d) dans lui mˆeme et la transformation inverse est donn´ee par

F_k⁻¹(f)(ξ) =Fk(f)(−ξ), f ∈ S(R^d).

En outre, nous avons une formule d’inversion et un th´eor`eme de Plancherel : La trans- formation de Dunkl (`a une constante multiplicative pr`es) s’´etend en un isomorphisme isom´etrique de L²(R^d, mk).

Maintenant, nous allons ´evoquer quelques probl`emes li´es `a la translation de Dunkl.

Comme pour l’op´erateur d’entrelacement de Dunkl, l’absence d’une expression explicite de la translation de Dunkl constitue une premi`ere difficult´e pour la manipuler.

Par contre, nous disposons d’une formule explicite dans le cas unidimensionnel. Plus pr´ecis´ement, si x∈R etf ∈ C(R), nous avons (voir [39])

τ_xf(y) = 1 2

∫ ₁

−1

f(√

x²+y²+ 2txy )(

1 + x+y

√x²+y²+ 2txy )

ϕ_k(t)dt +1

2

∫ ₁

−1

f (−√

x²+y²+ 2txy )(

1− x+y

√x²+y²+ 2txy )

ϕk(t)dt, (0.13) avec ϕ_k la fonction donn´ee par (0.6). Un autre cas dans lequel la translation de Dunkl est connue de mani`ere explicite est le cas o`u le groupe de Coxeter-Weyl estZ^d₂. Une telle expression repose sur une formule produit satisfaite par le noyau de Dunkl.

Contrairement `a la translation classique, l’op´erateur de translation de Dunkl n’est pas, en g´en´eral, un op´erateur positif. En effet, la formule (0.13) en atteste lorsque W =Z2. De plus, bien qu’elle n’ait pas une expression explicite connue, Thangavelu et Xu ont montr´e que la translation de Dunkl associ´ee au groupe sym´etriqueS_dn’est pas un op´erateur positif ([48]).

Cependant, il existe une classe particuli`ere de fonctions sur laquelle la positivit´e de ces op´erateurs est v´erifi´ee. En effet, M. R¨osler a montr´e en 2003 ([46]), que sif ∈ C^∞(R^d) est radiale, alors les translat´ees def sont donn´ees par

τxf(y) =

∫

R^d

fe(√

∥x∥²+∥y∥²+ 2⟨x, z⟩)

dµy(z). (0.14)

Ici, feest la fonction profil de f d´efinie sur [0,+∞[ parf(x) =fe(∥x∥).

Une autre question `a signaler est celle du prolongement de la translation de Dunkl

`

a autres classes de fonctions. Jusqu’`a pr´esent, nous n’avons que des r´esultats partiels sur cette question. En particulier, la formule (0.11) et le th´eor`eme de Plancherel pour la transformation de Dunkl montrent que pour tout x ∈ R^d, l’op´erateur τ_x s’´etend en un op´erateur born´e de l’espace L²(R^d, m_k) dans lui mˆeme. Dans ce cas, pour tout f ∈ L²(R^d, mk), τxf est la fonction de L²(R^d, mk) donn´ee par

Fk(τxf) =Ek(ix, .)Fk(f).

De plus, Thangavelu et Xu ont montr´e ([48]) que

∀ x∈R^d, ∀1≤p≤2, τx :L^p_rad

(R^d, m_k

)−→L^p

(R^d, m_k )

est born´e, o`u L^p_rad(R^d, mk) est le sous-espace deL^p(R^d, mk) form´e par des fonctions radiales.

Dans le cas g´en´eral, les questions du prolongement des op´erateurs de translation de Dunkl et leurs propri´et´es de bornitude entre les espaces L^p(R^d, m_k) (d≥2, 1≤p≤+∞, p ̸= 2) demeurent deux probl`emes ouverts. Dans le cas unidimensionnel, nous disposons du r´esultat suivant : pour tout x∈R^d et tout 1≤p≤+∞, l’op´erateur

τ_x :L^p(R, m_k)−→L^p(R, m_k) est born´e (voir [39] et [2]).

Une derni`ere remarque `a souligner concernant les op´erateurs de translation de Dunkl est que les expressions (0.8) et (0.11) nous empˆechent de leur donner une interpr´etation g´eom´etrique.

Leproduit de convolution de Dunklde deux fonctionsf, g∈L²(R^d, m_k) est d´efini classiquement au moyen de la translation de Dunkl comme suit :

f∗kg(x) =

∫

R^df(y)τxg(−y)ωk(y)dy. (0.15) Pour f, g∈ S(R^d), nous avons les relations suivantes

f ∗kg=g∗kf, Fk(f ∗kg) =Fk(f)Fk(g). (0.16)

Dans cette th`ese, nous nous int´eressons essentiellement aux fonctions harmoniques et sousharmoniques associ´ees `a l’op´erateur de Dunkl-Laplace ∆_k agissant sur les fonctions de classe C² qui sont d´efinies sur un ouvert de R^d invariant sous l’action du groupe de Coxeter-Weyl W. Nous les appelons respectivement fonctions D-harmoniques et fonctions D-sousharmoniques.

Historiquement, les fonctions D-harmoniques ont d’abord ´et´e ´etudi´ees sur R^d par H.

Mejjaoli et K. Trim`eche en 2001 ([35]). En particulier, ils ont introduit l’op´erateur moyenne sph´eriqueagissant sur les fonctionsf ∈ C^∞(R^d) par

∀ x∈R^d, ∀r >0, M_S^r(f)(x) := 1 dk

∫

S^d−1

τ_xf(rξ)ω_k(ξ)dσ(ξ), (0.17) avec d_k une constante de normalisation et dσ(ξ) la mesure surfacique sur la sph`ere unit´e S^d−1 de R^d. En outre, ils ont caract´eris´e les fonctions D-harmoniquesu qui sont de classe C^∞ surR^d par la propri´et´e de la moyenne sph´erique i.e.

∀ x∈R^d, ∀ r >0, u(x) =M_S^r(u)(x). (0.18)

Dans [32], nous trouvons un r´esultat analogue mais pour les fonctions D-harmoniques dans la boule unit´e ouverteB deR^d. Les auteurs ont utilis´e un argument de prolongement d’une fonction de classeC^∞ sur B en une fonction de classe C^∞sur R^d.

Au passage, notons que pour tout (x, r) ∈ R^d×[0,+∞[, l’op´erateur f 7→ M_S^r(f)(x) est positif ([46] et [8]). Plus pr´ecis´ement, il existe une famille de mesures de probabilit´e (σ_x,r^k )_x,r telle que

∀(x, r)∈R^d×[0,+∞[, ∀f ∈ C^∞(R^d), M_S^r(f)(x) =

∫

R^df(ξ)dσ_x,r^k (ξ). (0.19) La mesure σ_x,r^k est `a support compact et nous avons

supp σ^k_x,r ⊂ ∪g∈WB(gx, r). (0.20)

OPERAT EURS DE MOYEN N E ET OUT ILS D

^′

AN ALYSE

Dans la suite, nous d´esignons par

• B(a, ρ) la boule ferm´ee centr´ee en a∈R^det de rayon ρ >0,

• Ω un ouvert W-invariant de R^d,

• Hk(Ω) le sous-espace de C²(Ω) form´e par les fonctions D-harmoniques dans Ω.

Dans cette th`ese, notre id´ee principale est d’introduire un nouvel op´erateur de moyenne qui sera une g´en´eralisation de l’op´erateur moyenne volumique classique. Dans ce but, nous introduisons le noyau suivant ([19] et chapitre 1) :

∀r >0, ∀x, y∈R^d, hk(r, x, y) =

∫

R^d1_[0,r](√

∥x∥²+∥y∥²−2⟨x, z⟩)

dµy(z). (0.21) Nous l’appelonsnoyau harmonique. Pourk= 0, la mesure de R¨oslerµy estδy (la masse de Dirac au point y) eth_k(r, x, y) =1_[0,r](∥x−y∥) =1_B(x,r)(y).

Ce noyau poss`ede les propri´et´es suivantes :

1.Pour tous r >0, x, y∈R^d, on a 0≤h_k(r, x, y)≤1.

2.Pour x, y∈R^d fix´es, la fonctionr7→h_k(r, x, y) est croissante et continue `a droite.

3.Soit r >0 etx∈R^d. Alors, pour toute suite (φε)ε>0 de fonctions radiales telles que 0≤φ_ε ≤1, φ_ε= 1 sur B(0, r), ∀y∈R^d, lim

ε→0φ_ε(y) =1_B(0,r)(y), (0.22) on a

∀y∈R^d, h_k(r, x, y) = lim

ε→0τ_−xφ_ε(y).

4.Soitr >0. Le noyauh_k(r, ., .) est sym´etrique i.e. pour toutx, y∈R^d, on ah_k(r, x, y) = hk(r, y, x).

5.Soient r >0 etx, y∈R^d. Alors, pour toutg∈W, on ah_k(r, gx, gy) =h_k(r, x, y).

6.Pour toutr >0 etx∈R^d, la fonctiony 7−→h_k(r, x, y) est semi-continue sup´erieurement surR^d,m_k-int´egrable sur R^d ( nous rappelons que la mesurem_k est d´efinie par (0.10)) et on a

∥h_k(r, x, .)∥L¹(R^d,mk)=m_k[B(0, r)] = d_kr^d+2γ d+ 2γ .

Une autre propri´et´e fondamentale de ce noyau, qui va nous permettre de d´efinir la moyenne volumique g´en´eralis´ee d’une fonction continue ([19] et chapitre 1) ou locale- ment int´egrable sur Ω par rapport `a la mesure m_k (l’espace de ces fonctions sera not´e L¹_loc(Ω, m_k)) ([20] et chapitre 2), est la localisation de son support. Plus pr´ecis´ement, nous avons

∀ r >0, ∀ x∈R^d, B(x, r)⊂supph_k(r, x, .)⊂B^W(x, r) :=∪g∈WB(gx, r). (0.23) (pour la premi`ere inclusion voir [20] (ou chapitre 2) et la seconde se trouve dans [19] (ou chapitre 1)).

En fait, quand la fonction de multiplicit´ekest strictement positive surR, nous avons ([20]

et chapitre 2)

∀r >0, ∀x∈R^d, supph_k(r, x, .) =B^W(x, r) =∪g∈WB(gx, r).

Nous appelons alors B^W(x, r) la boule de Dunkl ferm´ee centr´ee en x et de rayon r associ´ee au groupe de Weyl W et `a la fonction de multiplicit´ek (bien qu’elle d´epende de k, pour simplifier, nous avons choisi la notation B^W(x, r) au lieu deB_k^W(x, r)).

Ce r´esultat repose sur des nouvelles pr´ecisions sur le support de la mesure de R¨oslerµ_x. Avant de les signaler, nous allons pr´esenter une br`eve histoire de la question. L’inclusion (0.5) a ´et´e d´emontr´ee par M. De Jeu en 1993 ([29]) et elle est bas´ee sur un th´eor`eme de Paley-Wiener pour la transformation de Fourier ([50]). Notons que cette inclusion est vraie mˆeme si k est `a valeurs dans le domaine complexe {z ∈ C, Re(z) ≥ 0}. Ensuite, en 1999, M. R¨osler a prouv´e dans [40] que, quand k≥0, l’un des points de l’orbite W.x est n´ecessairement dans le support deµ<sub>x</sub>. Dans la mˆeme ann´ee, M. R¨osler a r´eussi, par un r´esultat sur le comportement asymptotique du noyau de Dunkl, `a ´etablir quex∈suppµx

d`es que x /∈ ∪α∈RH_α (voir [43]).

Passons maintenant aux nouvelles pr´ecisions (voir [20] et chapitre 2). Dans un premier temps, nous avons montr´e, par un moyen diff´erent de celui utilis´e par R¨osler, que x est toujours dans le support de µx (nous rappelons que la fonction k est suppos´ee positive ou nulle). Ensuite, nous avons prouv´e, sous la condition k(α) > 0 pour tout α ∈ R, que l’ensemble supp µ_x est W-invariant. Ainsi, comme cons´equence imm´ediate de ces deux r´esultats et sous la condition pr´ec´edente, nous d´eduisons que toute l’orbite de x sous l’action deW est incluse dans supp µx.

D’autre part, nous pouvons g´en´eraliser les r´esultats pr´ec´edents de la mani`ere suivante : Supposons que la fonction kn’est pas identiquement nulle et introduisons l’ensemble

RA:={α∈ R, k(α)>0}

des racines que nous appelons actives. Soient k_A la restriction de k sur RA et W_A le sous-groupe de W engendr´e par les r´eflexions associ´ees aux racines actives. Alors,RA est un nouveau syst`eme de racines dans R^d, WA est son groupe de Coxeter-Weyl et kA est une fonction multiplicit´e dans le sens qu’elle est W_A-invariante. Dans ce cas, pour tout x∈R^d, la mesure de R¨osler est de la forme ([44])

µx=µx^′ ⊗δx^′′, x=x^′+x^′′∈F⊕F^⊥ =R^d,

avec F l’espace vectoriel engendr´e par les racines actives,δ_x′′ la mesure de Dirac enx^′′ et µ_x′ la nouvelle mesure de R¨osler reli´ee au quadruplet (F,RA, W_A, k_A). Ici, nous regardons W_Acomme un sous-groupe du groupe orthogonal O(F) de F.

Alors, nous avons montr´e que le support de µx

a) est inclus dans l’enveloppe convexe de l’orbite WA.x, b)est invariant par l’action du groupe WA,

c)contient la W_A-orbite de x.

De plus, la boule de Dunkl est r´eduite `a B<sup>WA</sup>(x, r) = ∪g∈WAB(gx, r). D’une mani`ere plus pr´ecise (ici en regardant encore une fois WA comme un sous-groupe de O(F)), nous obtenons

supp µ_x=x^′′+ suppµ_x′, B^W(x, r) =x^′′+B^WA(gx^′, r).

En r´esumant, nous pouvons dire que la th´eorie de Dunkl n’est ”bien vivante” que dans l’espace vectoriel engendr´e par les racines actives.

Soit f ∈ L¹_loc(Ω, m_k) et B(x, r) ⊂ Ω. On d´efinit alors la moyenne volumique g´en´eralis´ee de f relative `a (x, r) via le noyau harmonique, par

M_B^r(f)(x) = 1 m_k[B(0, r)]

∫

R^df(y)h_k(r, x, y)ω_k(y)dy. (0.24) Nous montrons alors que l’op´erateur moyenne volumique satisfait les propri´et´es suivantes (voir [20] et chapitre 2) :

• Pour toutr >0 assez petit, la fonctionx7→M_B^r(f)(x) appartient `a L¹_loc(Ω_r, m_k) avec Ω_r:={x∈Ω, dist(x, ∂Ω)> r}={x∈Ω, B(x, r)⊂Ω}. (0.25)

• Pour toutx∈Ω, la fonctionr7→M_B^r(f)(x) est continue sur ]0, ϱ_x[, avec

ϱx=dist(x, ∂Ω). (0.26)

Pour ´etudier les fonctions harmoniques et sousharmoniques au sens de Dunkl, nous avons besoin de plusieurs outils.

Commen¸cons par citer les deux r´esultats suivants :

Le premier ([19] et chapitre 1) dit que pour toutx∈R^d, la famille de mesures de probabilit´e dη_x,r^k (y) = 1

mk[B(0, r)]hk(r, x, y)ωk(y)dy, r >0, (0.27)