Grandes d´eviations de matrices aléatoires et équation de Fokker-Planck libre

HAL Id: tel-01507380

https://tel.archives-ouvertes.fr/tel-01507380

Submitted on 13 Apr 2017

HAL is a multi-disciplinary open access archive for the deposit and dissemination of sci- entific research documents, whether they are pub- lished or not. The documents may come from teaching and research institutions in France or abroad, or from public or private research centers.

L’archive ouverte pluridisciplinaire HAL, est destinée au dépôt et à la diffusion de documents scientifiques de niveau recherche, publiés ou non, émanant des établissements d’enseignement et de recherche français ou étrangers, des laboratoires publics ou privés.

de Fokker-Planck libre

Benjamin Groux

To cite this version:

Benjamin Groux. Grandes d´eviations de matrices aléatoires et équation de Fokker-Planck libre.

Probabilités [math.PR]. Université Paris Saclay (COmUE), 2016. Français. �NNT : 2016SACLV137�.

�tel-01507380�

TH` ESE DE DOCTORAT

de

l’Universit´ e Paris-Saclay

Ecole doctorale de math´ematiques Hadamard (EDMH, ED 574) ´

Etablissement d’inscription : ´ Universit´e de Versailles Saint-Quentin-en-Yvelines Laboratoire d’accueil : Laboratoire de Math´ematiques de Versailles, UMR 8100 CNRS

Sp´ ecialit´ e de doctorat : Math´ematiques appliqu´ees

Benjamin GROUX

Grandes d´eviations de matrices al´eatoires et ´ Equation de Fokker-Planck libre

Date de soutenance : 9 d´ecembre 2016

Apr`es avis des rapporteurs : Charles BORDENAVE (Universit´e Paul Sabatier) Florent MALRIEU (Universit´e Fran¸cois Rabelais)

Jury de soutenance :

Florent BENAYCH-GEORGES (Universit´e Paris-Descartes) Pr´esident du jury Djalil CHAFA¨ I (Universit´e Paris-Dauphine) Examinateur

Catherine DONATI-MARTIN (Universit´e de Versailles) Codirectrice de th`ese Oleksiy KHORUNZHIY (Universit´e de Versailles) Examinateur

Myl` ene MA¨ IDA (Universit´e Lille 1) Codirectrice de th`ese

Florent MALRIEU (Universit´e Fran¸cois Rabelais) Rapporteur

R´ esum´ e : Cette th`ese s’inscrit dans le domaine des probabilit´es et des statistiques, et plus pr´ecis´ement des matrices al´eatoires.

Dans la premi`ere partie, on ´etudie les grandes d´eviations de la mesure spectrale de matrices de covariance XX

, o` u X est une matrice al´eatoire rectangulaire `a coefficients i.i.d. ayant une queue de probabilit´e en exp( − at

), α ∈ ]0, 2[. On ´etablit un principe de grandes d´eviations analogue ` a celui de Bordenave et Caputo, de vitesse n

et de fonction de taux explicite faisant intervenir la convolution libre rectangulaire. La d´emonstration repose sur un r´esultat de quantification de la libert´e asymptotique dans le mod`ele information-plus-bruit.

La seconde partie de cette th`ese est consacr´ee ` a l’´etude du comportement en temps long de la solution de l’´equation de Fokker-Planck libre en pr´esence du potentiel quartique V (x) =

x

+

x

avec c ≥ − 2. On montre que quand t → + ∞ , la solu- tion µ

de cette ´equation aux d´eriv´ees partielles converge en distance de Wasserstein vers la mesure d’´equilibre associ´ee au potentiel V . Ce r´esultat fournit un premier exemple de convergence en temps long de la solution de l’´equation des milieux gra- nulaires en pr´esence d’un potentiel non convexe et d’une interaction logarithmique.

Sa d´emonstration utilise notamment des techniques de probabilit´es libres.

Mots-cl´ es : Matrices al´eatoires, Grandes d´eviations, Mod`ele information-plus- bruit, Probabilit´es libres, Relation de subordination, ´ Equation de Fokker-Planck, Equation des milieux granulaires, Convergence en temps long, Mesure d’´equilibre. ´

Title : Large deviations of random matrices and Free Fokker-Planck equation

Summary : In the first part, we study the large deviations of the spectral measure of covariance matrices XX

, where X is a rectangular random matrix with i.i.d.

coefficients having a probability tail like exp( − at

), α ∈ (0, 2). We establish a large deviation principle similar to Bordenave and Caputo’s one, with speed n

and explicit rate function involving rectangular free convolution. The proof relies on a quantification result of asymptotic freeness in the information-plus-noise model.

The second part of this thesis is devoted to the study of the long-time behaviour of the solution to free Fokker-Planck equation in the setting of the quartic potential V (x) =

x

+

x

with c ≥ − 2. We prove that when t → + ∞ , the solution µ

to this partial differential equation converge in Wasserstein distance towards the equi- librium measure associated to the potential V . This result provides a first example of long-time convergence for the solution of granular media equation with a non- convex potential and a logarithmic interaction. Its proof involves in particular free probability techniques.

Key words : Random matrices, Large deviations, Information-plus-noise model,

Free probability, Subordination property, Fokker-Planck equation, Granular media

equation, Long-time convergence, Equilibrium measure.

A l’heure d’´ecrire ces remerciements, je dois admettre que je ressens une ` certaine pression. D’une part, je sais que ces quelques pages seront beau- coup plus compr´ehensibles et donc beaucoup plus lues que les deux cents suivantes et d’autre part, je n’ai envie d’oublier aucune des belles rencontres que j’ai effectu´ees durant ces trois ann´ees et des poussi`eres, que ce soit ` a Versailles, ` a Lille ou ailleurs. Je tiens d’ailleurs par avance ` a m’excuser si j’ai oubli´e quelqu’un dans ces longs remerciements.

Je tiens ` a d´emarrer en remerciant Myl`ene Ma¨ıda, l’une de mes deux formidables directrices de th`ese. Myl`ene m’enseignait le calcul stochastique quand j’´etais ´etudiant dans le Master Probabilit´es et Statistiques d’Orsay puis, lorsque je me suis mis ` a la recherche d’un sujet de th`ese, j’ai eu la chance qu’elle me fasse d´ecouvrir les matrices al´eatoires. Elle m’a rapidement convaincu que ce serait un bon th`eme pour mon m´emoire de Master, puis pour ma th`ese. Je tiens donc ` a remercier sinc`erement Myl`ene non seulement pour m’avoir propos´e un sujet tr`es int´eressant, mais aussi pour avoir ´et´e attentive, patiente et encourageante jusqu’`a la toute fin de ces trois ann´ees.

J’ai pu compter pendant trois ans non pas sur une mais sur deux supers directrices de th`ese puisque j’ai eu l’immense chance d’avoir ´et´e ´egalement encadr´e par Catherine Donati-Martin. Je la remercie naturellement pour avoir accept´e de co-encadrer ma th`ese. Je remercie de plus Catherine pour son accueil chaleureux ` a Versailles, pour avoir ´et´e disponible ` a chaque fois que j’en avais besoin malgr´e ses responsabilit´es, pour toutes nos discussions et pour ses conseils, que ce soit au niveau de la recherche, de l’enseignement ou de la poursuite de carri`ere.

Je dois admettre que la bienveillance de Catherine et Myl`ene, leur en- thousiasme, leur p´edagogie, leur compl´ementarit´e et leur haut niveau math´e- matique m’ont permis de surmonter bien des difficult´es pendant trois ans. Je les remercie donc infiniment pour tout ce qu’elles m’ont apport´e, math´emati- quement et humainement.

Je remercie ensuite Charles Bordenave et Florent Malrieu, qui ont ac- cept´e la lourde tˆ ache de relire en d´etail ce long manuscrit (un peu moins long car il n’y avait pas encore les remerciements mais quand mˆeme...). Je suis

i

honor´e que Charles ait rapport´e ma th`ese car durant ces derni`eres ann´ees, j’ai pass´e beaucoup de temps ` a ´etudier l’un de ses articles et j’avais tr`es envie de connaˆıtre son opinion sur mes travaux, qui se situent ` a la suite des siens.

Je suis ´egalement flatt´e que Florent ait accept´e de relire ma th`ese, puisqu’il a

´etudi´e des mod`eles assez proches de celui pr´esent´e dans la seconde partie de ce manuscrit. Je suis fier que deux tels sp´ecialistes aient relu mon manuscrit et je les en remercie sinc`erement.

Je tiens ´egalement ` a remercier les trois autres membres de ce jury, en commen¸cant par Oleksiy Khorunzhiy. En effet, non seulement j’ai la chance qu’il fasse partie de mon jury de th`ese, mais Oleksiy est ´egalement un coll`egue qui a ´et´e plusieurs fois ` a mon ´ecoute lorsque je lui pr´esentais l’avanc´ee de mes travaux durant ma th`ese. Je l’en remercie donc. Florent Benaych-Georges a ´egalement accept´e de participer ` a ce jury. Cela me fait tr`es plaisir car en plus d’avoir lu nombre de ses articles, nous nous sommes r´eguli`erement crois´es et il a toujours ´et´e sympathique et int´eress´e par mes travaux. Je le remercie donc chaleureusement. Enfin, Djalil Chafa¨ı me fait l’honneur d’ˆetre pr´esent dans ce jury et je l’en remercie vivement. Je dois avouer que j’admire sa large culture math´ematique autant que la qualit´e d’exposition dont il a fait preuve dans les s´eminaires et conf´erences aux- quels j’ai pu assister.

A ce stade de mes remerciements, je tiens ` ` a mentionner mes coll`egues du Laboratoire de Math´ematiques de Versailles. J’ai beaucoup appr´eci´e l’am- biance familiale qui r`egne au laboratoire et le fait d’avoir ´et´e mis ` a l’aise d`es mon arriv´ee. J’ai notamment une pens´ee envers l’´equipe de probabilit´es et statistiques, tout particuli`erement Alexis pour toutes nos discussions ` a la cantine et dans le couloir et Alain pour ses encouragements r´ep´et´es, envers Christine, Pascal, Laurent et Pierre, avec qui j’ai beaucoup ´echang´e ` a propos de l’enseignement, envers nos efficaces secr´etaires Nad`ege, Liliane et Laure, et bien entendu, envers mes camarades doctorants, tout particuli`erement Antoine pour la qualit´e de son clic-clac mais surtout pour son amiti´e, Ca- milla pour avoir ramen´e de la vie dans le bureau avec Antoine, Patricio et sa tranquillit´e, Tamara qui me tenait compagnie lorsque le bureau ´etait vide, Maxime pour sa bonne humeur et Salim pour nos quelques balles ´echang´ees.

Ayant pass´e la moiti´e de ces trois ann´ees ` a Versailles et l’autre moiti´e

`

a Lille, je remercie aussi tout naturellement l’´equipe de probabilit´es et sta- tistiques du Laboratoire Paul Painlev´e de Lille, au sein de laquelle r`egne

´egalement une ambiance sympathique. Je tiens ` a mentionner ici Chi qui m’a tout de suite mis ` a l’aise lors de mon arriv´ee, ainsi que David C., David D.

et Adrien, sans oublier le groupe de doctorants qui m’a tr`es bien accueilli :

Emilie pour nos nombreuses discussions et sa tarte poire-amandine au cho- ´

colat, Pierre B. que je mentionne sans toutefois le remercier pour nos matchs

de tennis aux r´esultats pr´evisibles malgr´e ma bonne volont´e, le tcho biloute

Geoffrey, ainsi que Pierre H., Julien et tous les autres membres du

groupe

du midi

, dont Antoine, Ali, Bilal, etc.

La th`ese a ´et´e ´egalement l’occasion pour moi d’assister ` a des conf´erences au cours desquelles j’ai crois´e plein de personnes fort sympathiques. Parmi les doctorants que j’ai crois´es, j’aimerais remercier ici Rapha¨el et son enthou- siasme d´ebordant, Florian alias Jean-Pierre pour nos rigolades et ses invita- tions ` a Rennes, Blandine pour sa grande amabilit´e et ses pˆatisseries, Fanny pour nos discussions math´ematiques enrichissantes, Jean pour sa sympathie et Val´erie, que je connaissais avant la th`ese et avec qui nous avons partag´e quelques questionnements administratifs. Je tiens ´egalement ` a citer quelques jeunes chercheurs sympathiques que j’ai rencontr´es ` a plusieurs reprises au

≪

groupe de travail de l’IHP

ou ailleurs, et avec qui j’ai pris plaisir ` a

´echanger sur divers sujets : Maxime et son ´ecoute, Sandrine et sa gentillesse, Laure et son enthousiasme, Camille pour son invitation au groupe de travail, ainsi que Gr´egory, organisateur d’une m´emorable ´ecole d’´et´e aux Houches en 2015 et Thierry, ` a qui je suis redevable de deux invitations ` a

L’arbre ` a cannelle

.

Il est vrai que, tel Ob´elix, je suis tomb´e dans la marmite des math´ema- tiques ´etant petit. N´eanmoins, je ne serais peut-ˆetre pas venu ` a d´emarrer une th`ese de math´ematiques si tout au long de mes ´etudes, je n’avais pas

´et´e encourag´e, conseill´e et marqu´e par certains professeurs. Je ne peux bien sˆ ur pas tous les citer ici, mais j’aimerais au moins remercier M. Dantec, qui m’a enseign´e les maths en 6

et en 4

au coll`ege Verlaine de B´ethune, M.

Bertin, mon professeur de maths en MP au lyc´ee Robespierre d’Arras, et M.

Fonton, professeur en MP ´egalement mais en physique pour sa part.

Enfin, je tiens ` a conclure ces remerciements en ´evoquant mes proches, les

personnes les plus importantes dans ma vie, qui sont toujours l` a pour moi et

encore plus dans les moments importants : mes parents Sara et Jean-Marc,

qui sont parfaits avec moi depuis bientˆ ot 27 ans, ma sœur Sabrina, que j’ai

traumatis´ee durant de nombreuses ann´ees ` a vouloir

jouer ` a l’´ecole

(je

suis d´esol´e...), et mon fr`ere Alexandre, que j’adorais voir sauter dans mes

bras ` a chacun de mes retours ` a la maison et qui a vite grandi. La derni`ere

personne que je souhaite remercier est bien entendu celle qui a accept´e de

partager ma vie malgr´e mes d´eplacements r´ep´et´es : ma femme, Marie. Je suis

heureux d’avoir d´ej`a partag´e 9 ans de bonheur avec elle et je suis impatient

que nous d´ecouvrions la vie de parents dans les prochains mois. Je vous

aime.

Remerciements i

Notations g´ en´ erales ix

1 Introduction 1

1.1 Th´eorie des matrices al´eatoires . . . . 1

1.2 R´esultats fondamentaux en matrices al´eatoires . . . . 5

1.3 Mod`eles de matrices al´eatoires d´eform´ees . . . . 7

1.4 Grandes d´eviations de matrices al´eatoires . . . . 10

1.5 Mouvement brownien de Dyson et ´equation de Fokker-Planck libre . . . . 11

1.6 Organisation du manuscrit . . . . 14

I Grandes d´ eviations de matrices al´ eatoires 17 2 R´ esultats existants 19 2.1 Mod`eles unitairement invariants . . . . 19

2.2 Mod`eles sous-gaussiens . . . . 23

3 Libert´ e asymptotique de matrices al´ eatoires rectangulaires 27 3.1 Libert´e asymptotique et convolution libre . . . . 27

3.2 Cas des matrices rectangulaires . . . . 30

3.3 Commentaires sur le th´eor`eme 1.5 . . . . 32

3.4 D´emonstration du th´eor`eme 1.5 . . . . 34

3.4.1 Id´ees g´en´erales . . . . 34

3.4.2 Lemme sur la fonction de subordination . . . . 35

3.4.3 Concentration de fonctions de la r´esolvante dans le mod`ele information-plus-bruit . . . . 38

3.4.4 Cas gaussien . . . . 42

3.4.5 Cas g´en´eral . . . . 53

3.4.6 Conclusion . . . . 65

v

4 Grandes d´ eviations de matrices de covariance ` a coefficients

sous-gaussiens 67

4.1 Commentaires sur le th´eor`eme 1.8 . . . . 67

4.2 Principe de la d´emonstration du th´eor`eme 1.8 . . . . 68

4.3 Equivalences exponentielles . . . . ´ 69

4.4 Grandes d´eviations de µ

. . . . 79

4.5 Conclusion . . . . 85

4.6 Alternative avec les graphes al´eatoires . . . . 88

4.6.1 Graphes pond´er´es, topologies . . . . 88

4.6.2 Grandes d´eviations des graphes associ´es ` a C

. . . . . 95

4.6.3 Mesure spectrale d’une mesure sofique . . . . 99

4.6.4 Grandes d´eviations de µ

. . . 101

II Etude de l’´ ´ equation de Fokker-Planck libre 105 5 Equation des milieux granulaires ´ 107 5.1 Probl´ematique . . . 107

5.2 M´ethodes analytiques . . . 108

5.2.1 M´ethode de dissipation d’entropie . . . 108

5.2.2 In´egalit´es fonctionnelles . . . 109

5.2.3 Application des in´egalit´es fonctionnelles . . . 112

5.3 M´ethodes probabilistes . . . 113

5.3.1 Utilisation des diffusions . . . 113

5.3.2 Approximation par un syst`eme de particules . . . 114

6 Equation de Fokker-Planck libre ´ 117 6.1 Probl´ematiques . . . 117

6.2 Existence et propri´et´es de la solution . . . 118

6.3 Unicit´e de la solution . . . 121

6.4 Comportement en temps long de la solution . . . 121

6.4.1 Cas d’un potentiel strictement convexe . . . 123

6.4.2 Cas d’un potentiel convexe avec stricte convexit´e ` a l’infini . . . 123

6.4.3 Cas d’un potentiel convexe . . . 126

6.5 Commentaires . . . 133

7 Equation de Fokker-Planck libre avec un potentiel ` ´ a double puits 135 7.1 Le potentiel quartique . . . 135

7.2 Mesures critiques . . . 138

7.3 Equations int´egrales singuli`eres . . . 141 ´

7.4 D´emonstration du th´eor`eme 1.9 . . . 151

7.5 Discussion sur le cas c < − 2 . . . 154

7.6 Commentaires . . . 157

A Outils g´ en´ eraux 159 A.1 Calculs d’int´egrales . . . 159

A.2 In´egalit´es matricielles . . . 163

A.3 Transform´ees de Stieltjes et r´esolvantes . . . 166

A.4 Distances sur l’ensemble des probabilit´es r´eelles . . . 170

A.5 In´egalit´es concernant la mesure spectrale . . . 172

A.6 Grandes d´eviations . . . 173

A.7 Probabilit´es libres . . . 176

A.7.1 Notions g´en´erales . . . 177

A.7.2 Notion de libert´e . . . 178

A.7.3 Convolutions libres . . . 179

A.7.4 Mouvement brownien libre . . . 180

Bibliographie 183

Tout au long de cette th`ese, on utilisera de mani`ere courante les nota- tions suivantes.

N ensemble des entiers naturels

N

ensemble des entiers naturels non nuls R ensemble des nombres r´eels

R

ensemble des nombres r´eels positifs C ensemble des nombres complexes R

ensemble des n-uplets de nombres r´eels C

(E, F ) ensemble des fonctions continues de E dans F E ∪ F r´eunion des ensembles E et F

E ∩ F intersection des ensembles E et F

E \ F diff´erence de l’ensemble E et de l’ensemble F 1

fonction indicatrice de l’ensemble E

Card E cardinal de l’ensemble E sign(x) signe du r´eel x

min(x, y) minimum des r´eels x et y max(x, y) maximum des r´eels x et y x ∧ y minimum des r´eels x et y Re z partie r´eelle du complexe z Im z partie imaginaire du complexe z

| z | module du complexe z

δ

symbole de Kronecker de j et de k

M

(E) ensemble des matrices n × p ` a coefficients dans l’ensemble E M

(E) ensemble des matrices n × n ` a coefficients dans l’ensemble E H

(C) ensemble des matrices hermitiennes n × n ` a coefficients complexes U

ensemble des matrices unitaires n × n ` a coefficients complexes I

matrice unit´e de taille n × n

A

transpos´ee de la matrice A A

transconjugu´ee de la matrice A Tr(A) trace de la matrice A

ix

det(A) d´eterminant de la matrice A P(E) probabilit´e de l’´ev`enement E E(X) esp´erance de la variable al´eatoire X Var(X) variance de la variable al´eatoire X

X ˚ variable al´eatoire X recentr´ee, d´efinie par ˚ X = X − E(X) P (E) ensemble des probabilit´es sur l’ensemble E

supp(µ) support de la mesure µ δ

masse de Dirac en a

N (m, σ

) loi normale de moyenne m et de variance σ

N

(m, Σ) loi normale dans R

de moyenne m et de matrice de covariance Σ dx mesure de Lebesgue

i.i.d. ind´ependantes identiquement distribu´ees p. s. presque sˆ urement

p. p. presque partout

µ

loi de la variable al´eatoire X

lorsque X est de loi µ ∈ P (R)

√ µ loi de la variable al´eatoire √

X lorsque X est de loi µ ∈ P ( R

) o, O, ∼ notations de Landau

ffl f (x) dx valeur principale de l’int´egrale d’une fonction f

Introduction

Cette th`ese s’inscrit dans le domaine des probabilit´es et des statistiques, et plus pr´ecis´ement des matrices al´eatoires. Cette introduction est l’occasion de pr´esenter ce domaine de recherche tr`es actif et de montrer ses nombreuses connexions avec d’autres domaines des math´ematiques et de la physique.

Les mod`eles consid´er´es dans cette th`ese sont ´egalement pr´esent´es et les trois r´esultats principaux obtenus dans le cadre de cette th`ese sont ´enonc´es : quan- tification de la libert´e asymptotique dans le mod`ele information-plus-bruit (th´eor`eme 1.5), grandes d´eviations de matrices de covariance ` a coefficients sous-gaussiens (th´eor`eme 1.8) et convergence en temps long de la solution de l’´equation de Fokker-Planck libre (th´eor`eme 1.9).

1.1 Th´ eorie des matrices al´ eatoires

Les math´ematiciens fixent commun´ement l’origine de la th´eorie des ma- trices al´eatoires en 1928, date de publication d’un article o` u le statisticien Wishart calcule la loi de la matrice de covariance empirique d’un ´echantillon gaussien multivari´e dont les dimensions sont fixes [Wis].

Certains auteurs (voir [DF]) font plutˆ ot remonter l’origine de la th´eorie

`

a des travaux de Hurwitz de 1897 [Hur] concernant l’int´egration contre la mesure de Haar sur des groupes classiques.

A partir des ann´ees 1940, les matrices al´eatoires commencent ` ` a ap- paraˆıtre dans des travaux de von Neumann et Goldstine [vNG, GvN] sur la pr´ecision d’algorithmes d’inversion matricielle.

Puis, dans les ann´ees 1950, le physicien Wigner, laur´eat du prix Nobel de physique en 1963, constate que certaines fonctions d’onde intervenant en m´ecanique quantique sont trop compliqu´ees ` a ´etudier et que, comme en m´ecanique statistique, il vaut mieux se contenter de d´ecrire les propri´et´es statistiques moyennes du syst`eme global plutˆ ot que de chercher ` a d´ecrire le comportement individuel de ses constituants. En particulier, afin de d´ecrire les niveaux de haute ´energie de noyaux atomiques lourds soumis ` a une forte

1

excitation, il sugg`ere de remplacer l’op´erateur hamiltonien du syst`eme par une matrice al´eatoire de tr`es grande taille, dont l’espacement entre les valeurs propres d´ecrit assez bien les fluctuations de l’espacement entre les niveaux d’´energie du noyau atomique, habituellement d´ecrit par les valeurs propres de l’op´erateur hamiltonien [Wig1].

C’est ` a partir de ces travaux que, dans les ann´ees 1960, la th´eorie connaˆıt ses premiers d´eveloppements importants. Apr`es la d´ecouverte de la loi du demi-cercle par Wigner, Gaudin puis Mehta ont d´emarr´e l’analyse math´ema- tique rigoureuse des matrices al´eatoires, poursuivie par les travaux de Dyson.

Ce dernier a non seulement exhib´e les trois ensembles classiques de la th´eorie (GOE, GUE, GSE) mais il a aussi fait le lien avec la th´eorie des syst`emes int´egrables. Le livre de Mehta de 1967 [Meh] regroupe les premiers d´evelop- pements de la th´eorie des matrices al´eatoires.

La th´eorie connaˆıt un v´eritable essor ` a partir de cette ´epoque, principa- lement en physique th´eorique, mˆeme si certains aspects math´ematiques se d´eveloppent ind´ependamment des applications physiques.

En effet, la loi de Marcenko-Pastur apparaˆıt en 1967 et le lien est fait entre les matrices al´eatoires et les int´egrales sur des ensembles de matrices invariants, avec les polynˆomes sym´etriques homog`enes, puis surtout avec la th´eorie des nombres via la conjecture de Montgomery en 1973, et avec les alg`ebres d’op´erateurs via la th´eorie des probabilit´es libres de Voiculescu dans les ann´ees 1990.

Par ailleurs, outre les applications en physique nucl´eaire, la th´eorie des matrices al´eatoires s’unifie avec la th´eorie des syst`emes d´esordonn´es (th´eorie de la localisation d’Anderson, m´ethode supersym´etrique d’Efetov) dans les ann´ees 1980 et suscite l’int´erˆet en th´eorie du chaos quantique suite ` a la formulation de la conjecture de Bohigas-Giannoni-Schmit en 1984. De nou- veaux ensembles de matrices al´eatoires sont par ailleurs introduits afin de d´ecrire les spectres apparaissant en th´eorie quantique des champs (chromo- dynamique quantique) et en physique de la mati`ere condens´ee (supracon- ducteurs d´esordonn´es). De plus, suite ` a des travaux de ’t Hooft, le lien est fait entre les matrices al´eatoires et la gravit´e quantique en deux dimensions, ces deux th´eories faisant apparaˆıtre des probl`emes combinatoires similaires.

Le succ`es de la th´eorie des matrices al´eatoires en physique s’explique notamment par ses ph´enom`enes d’universalit´e, ` a savoir qu’elle permet de d´ecrire des syst`emes vari´es dont les points communs sont le comportement chaotique dˆ u ` a l’al´ea et des conditions de sym´etrie g´en´erales. ` A partir des ann´ees 1990, les travaux math´ematiques sur les matrices al´eatoires se multi- plient, portant notamment sur la formalisation rigoureuse de ces ph´enom`enes d’universalit´e et sur l’´etude des statistiques de matrices al´eatoires.

A l’heure actuelle, la th´eorie des matrices al´eatoires continue ` ` a se d´evelop-

per tout comme ses applications, les plus r´ecentes ´etant les syst`emes de

t´el´ecommunications sans fil et la finance. Voici justement quelques-unes de

ces applications. Cette liste non exhaustive peut ˆetre compl´et´ee ` a l’aide des articles de revue [FSV, GMGW, Fyo] et des ouvrages de r´ef´erence [ABDF, AGZ, BS1, Dei, For, HP3, Meh, PS] par exemple.

Th´eorie des nombres. L’un des plus c´el`ebres probl`emes math´ematiques actuels est l’hypoth`ese de Riemann, qui conjecture que les z´eros non tri- viaux de la fonction zˆeta de Riemann sont tous de partie r´eelle ´egale ` a

. En 1973, Montgomery conjecture que la fonction de corr´elation entre deux z´eros non triviaux de la fonction zˆeta s’exprime ` a l’aide du noyau sinus, qui d´ecrit ´egalement les corr´elations entre deux valeurs propres de certaines ma- trices al´eatoires de grande taille, comme lui signale Dyson. D`es lors, l’int´erˆet math´ematique pour les matrices al´eatoires a explos´e et certaines analogies sont exploit´ees en th´eorie des nombres, principalement sous forme de conjec- tures.

Analyse de donn´ees de grande dimension. En statistique, des techniques telles que l’analyse en composantes principales permettent d’´etudier des ma- trices regroupant des observations num´eriques. Cependant, lorsqu’on est en pr´esence de matrices de tr`es grandes dimensions, comme c’est de plus en plus le cas de nos jours avec la multiplication des donn´ees, les techniques issues de la th´eorie des matrices al´eatoires peuvent s’av´erer r´eellement pertinentes.

Par exemple, en traitement du signal, elles sont utilis´ees pour montrer que la solution d’un probl`eme d’optimisation permet de reconstruire un signal parcimonieux.

T´el´ecommunications. Il existe plusieurs mod`eles de communication sans fil dont l’´etude requiert l’usage des matrices al´eatoires. Prenons l’exemple du mod`ele MIMO, dans lequel n antennes re¸coivent les signaux ´emis par p autres antennes. Le canal peut ˆetre mod´elis´e par une matrice al´eatoire dont les coefficients repr´esentent les gains entre une antenne ´emettrice donn´ee et une antenne r´eceptrice donn´ee. La performance du canal de communication est alors donn´ee par des statistiques du spectre de la matrice al´eatoire, qui peut ˆetre choisie suivant diff´erents mod`eles.

M´ecanique statistique. La loi de la plus grande valeur propre d’une grande matrice al´eatoire gaussienne, calcul´ee par Tracy et Widom, intervient dans le probl`eme combinatoire de la plus longue sous-suite croissante d’une per- mutation al´eatoire. Dans une autre perspective, elle permet ´egalement de d´ecrire les fluctuations de la fonction de hauteur dans des mod`eles de crois- sance de surfaces al´eatoires ´etudi´es en m´ecanique statistique, comme le mod`ele ASEP.

Chromodynamique quantique (QCD). La QCD est une th´eorie physique

cherchant ` a expliquer la coh´esion du noyau atomique via la description de

Figure 1.1 – Connexions de la th´eorie des matrices al´eatoires.

l’interaction forte, en attribuant ` a chaque quark et ` a chaque antiquark une couleur. Les matrices al´eatoires interviennent en QCD puisque d’une part, lorsqu’on consid`ere un grand nombre de couleurs, la fonction de partition qui apparaˆıt fait intervenir les mˆemes comptages de diagrammes planaires qu’en th´eorie des matrices al´eatoires, et d’autre part, la limite ` a basse ´energie de la QCD fait intervenir des int´egrales matricielles.

Les principaux connexions et champs d’application des matrices al´eatoires peuvent ˆetre r´esum´es ` a l’aide du diagramme de la figure 1.1.

1.2 R´ esultats fondamentaux en matrices al´ eatoires

De nombreux mod`eles de matrices al´eatoires ayant ´et´e ´etudi´es, on pr´esente dans ce manuscrit les deux mod`eles historiques et principaux : les matrices de Wigner et les matrices de covariance empirique.

D´ efinitions 1.1. • Une matrice de Wigner est une matrice al´eatoire her- mitienne X ∈ H

( C ) telle que (X

)

et (X

)

sont deux familles ind´ependantes de variables i.i.d. centr´ees.

• Une matrice de covariance (empirique) est une matrice al´eatoire de la forme XX

, o` u X ∈ M

( C ) est une matrice al´eatoire dont les coefficients sont i.i.d. et centr´es.

Parmi ces matrices, celles dont les coefficients sont gaussiens sont d’un int´erˆet tout particulier. On appelle ensemble gaussien orthogonal (GOE) l’ensemble des matrices de Wigner telles que X

suit la loi N (0, 2) et X

est une gaussienne standard. On parle d’ensemble gaussien unitaire (GUE) lorsque X

suit la loi N (0, 1) et X

suit la loi N

0,

I

. On peut

´egalement consid´erer l’ensemble gaussien symplectique (GSE) en utilisant les quaternions. De mani`ere analogue, on appelle respectivement ensemble de Laguerre orthogonal, unitaire, symplectique, et on note resp. LOE, LUE, LSE, l’ensemble des matrices de covariance empiriques XX

o` u les X

sont resp. des gaussiennes r´eelles, complexes, quaternioniques.

Ces ensembles gaussiens sont en effet des mod`eles particuliers pour les- quels il est possible de calculer explicitement la loi jointe des valeurs propres.

Par exemple, pour le GOE (resp. GUE, GSE), cette loi jointe a une densit´e proportionnelle ` a

(λ

, . . . , λ

) 7→ Y

1≤j<k≤N

| λ

− λ

|

exp



 − 1 2

X

λ





par rapport ` a la mesure de Lebesgue sur R

avec β = 1 (resp. β = 2, β = 4).

Ce sont quasiment les seuls mod`eles pour lesquels il est possible d’obtenir

la loi jointe des valeurs propres et donc d’effectuer des calculs explicites.

Cependant, de nombreux ph´enom`enes sont montr´es ou conjectur´es comme

´etant universels en th´eorie des matrices al´eatoires, la compr´ehension du cas gaussien donne ainsi une intuition pour les autres cas.

Les th´eor`emes fondamentaux de la th´eorie des matrices al´eatoires concernent le comportement asymptotique global des valeurs propres dans les mod`eles pr´ec´edents. Pour ´etudier ce comportement, on utilise la notion de mesure spectrale empirique.

D´ efinition 1.2. La mesure spectrale (empirique) d’une matrice A ∈ M

(C) est la probabilit´e

µ

= 1 n

X

δ

o` u λ

(A), . . . , λ

(A) sont les valeurs propres de A.

Le th´eor`eme de Wigner (d´emontr´e pour le GOE dans [Wig2]) affirme que si X ∈ H

(C) est une matrice de Wigner et si la variance Var(X

) = E | X

− E(X

) |

vaut 1, alors, quand N → + ∞ , presque sˆ urement, la mesure spectrale µ

converge en loi vers une mesure d´eterministe ex- plicite, et ceci ind´ependamment de la loi des coefficients. Cette loi est la loi semi-circulaire, not´ee µ

et d´efinie par

dµ

(x) = 1 2π

p 4 − x

1

(x) dx . (1.1)

Figure 1.2 – Densit´e de la loi semi-circulaire.

Ce r´esultat peut ˆetre ´etendu aux matrices de covariance. Le th´eor`eme de Marcenko-Pastur [MP] affirme en effet que si XX

est une matrice de covariance dont les coefficients de X ∈ M

(C) sont de variance 1, alors quand n, p → + ∞ avec

→ c ∈ ]0, + ∞ [, presque sˆ urement, la mesure spectrale µ

converge en loi vers la loi de Marcenko-Pastur de param`etre c, not´ee µ

, d´efinie par

dµ

(x) = max

1 − 1 c , 0

δ

+

p (b

− x)(x − a

)

2πxc 1

(x) dx (1.2)

o` u a

= (1 − √

c)

et b

= (1 + √ c)

.

(a)c= 0,5. (b)c= 1. (c)c= 2.

Figure 1.3 – Densit´e de la loi de Marcenko-Pastur pour diff´erentes valeurs de c.

Concernant le comportement asymptotique du spectre d’une matrice al´eatoire, de nombreuses autres questions sont int´eressantes, comme le com- portement des valeurs propres extrˆemes.

Bai et Yin [BY1] ont par exemple d´emontr´e que sous les hypoth`eses du th´eor`eme de Wigner et sous l’hypoth`ese suppl´ementaire E | X

|

< + ∞ , on

a λ

√ N → 2 et λ

√ N → − 2 p. s.

quand N → + ∞ , o` u λ

et λ

d´esignent respectivement la plus grande et la plus petite valeur propre de X. De mˆeme, sous les hypoth`eses du th´eor`eme de Marcenko-Pastur et sous l’hypoth`ese E | X

|

< + ∞ , on a

λ

n → b

= (1 + √

c)

et λ

n → a

= (1 − √

c)

p. s.

quand n, p → + ∞ avec

→ c ∈ ]0, + ∞ [, o` u λ

et λ

d´esignent respec- tivement la plus grande et la plus petite valeur propre non triviale de XX

, voir [YBK, BY2] et [Tik].

De nombreuses autres questions peuvent ˆetre ´etudi´ees, comme le com- portement des vecteurs propres, l’espacement entre les valeurs propres etc., voir par exemple [AGZ] et les r´ef´erences ` a l’int´erieur.

1.3 Mod` eles de matrices al´ eatoires d´ eform´ ees

Le comportement asymptotique de la mesure spectrale d’une matrice de

Wigner ou d’une matrice de covariance empirique ´etant assez bien compris,

on peut ensuite s’int´eresser ` a l’´etude des d´eformations de ces mod`eles. Les

principaux mod`eles de d´eformations sont les suivants :

– d´eformation additive X + A o` u A ∈ H

(C) ;

– d´eformation multiplicative A

XX

A

, o` u A ∈ H

(C) est d´efinie positive et A

d´esigne sa racine carr´ee d´efinie positive ;

– mod`ele information-plus-bruit (X + A)(X + A)

, o` u A ∈ M

(C).

Pour ces trois mod`eles de d´eformation, il est possible de d´ecrire le com- portement asymptotique de la mesure spectrale ` a l’aide des convolutions libres. Ces convolutions libres peuvent ˆetre d´efinies de mani`ere combina- toire dans le cadre de la th´eorie des probabilit´es libres (voir annexe A.7), de mani`ere analytique, ou alors plus intuitivement ` a l’aide de matrices al´eatoires.

D´ efinition 1.3 (voir [AGZ, Corollaire 5.4.11]). Soient A et B deux matrices al´eatoires hermitiennes N × N ind´ependantes telles que :

– A ou B est unitairement invariante, c’est-` a-dire pour M = A ou B, pour toute matrice U ∈ U

, U M U

a la mˆeme loi que M ;

– µ

et µ

convergent faiblement en probabilit´e vers des lois µ

et µ

sur R quand N → + ∞ .

Alors, quand N → + ∞ , la mesure spectrale µ

converge faiblement en probabilit´e vers une loi d´eterministe ne d´ependant que de µ

et µ

. Cette loi est appel´ee convolution (additive) libre de µ

et µ

et not´ee µ

⊞ µ

. Si de plus, la matrice A est positive, alors, quand N → + ∞ , la mesure spec- trale µ

converge faiblement en probabilit´e vers une loi d´eterministe ne d´ependant que de µ

et µ

. Cette loi est appel´ee convolution multiplicative libre de µ

et µ

et not´ee µ

⊠ µ

.

De mˆeme, on peut s’int´eresser aux valeurs singuli`eres de la somme de deux matrices rectangulaires. On rappelle que les valeurs singuli`eres d’une matrice A ∈ M

( C ), not´ees σ

(A), . . . , σ

(A) sont les racines carr´ees des valeurs propres de la matrice positive AA

si n ≤ p, ou A

A si n ≥ p. On d´efinit alors une probabilit´e sur R

, appel´ee mesure empirique des valeurs singuli`eres de A, par

ν

= 1 n ∧ p

n∧p

X

k=1

δ

.

D´ efinition 1.4 (voir [BG1, Th´eor`eme 3.13]). Soient A et B deux matrices al´eatoires n × p ind´ependantes telles que :

– A ou B est bi-unitairement invariante, c’est-` a-dire pour M = A ou B, pour toutes matrices U ∈ U

et V ∈ U

, U M V a la mˆeme loi que M ; – ν

et ν

convergent faiblement en probabilit´e vers des lois µ

et µ

sur R

quand n, p → + ∞ avec

→ c ∈ [0, + ∞ [.

Alors, quand n → + ∞ , la mesure empirique des valeurs singuli`eres ν

converge faiblement en probabilit´e vers une loi d´eterministe ne d´ependant

que de µ

, µ

et c. Cette loi est appel´ee convolution libre rectangulaire de

rapport c de µ

et µ

et not´ee µ

⊞

µ

.

Autrement dit, la mesure spectrale empirique µ

converge vers la mesure √ µ

⊞

√ µ

, o` u pour tout µ ∈ P (R), µ

d´esigne la loi de X

lorsque X est de loi µ et pour tout µ ∈ P (R

), √ µ d´esigne la loi de √

X lorsque X suit la loi µ.

La convolution libre rectangulaire permet donc de d´ecrire le comporte- ment de la mesure spectrale dans le mod`ele information-plus-bruit. Il est mˆeme possible de le quantifier. Pour cela, on d´efinit une famille de distances sur P ( R ) par

d

(µ, ν ) = sup

z∈Vs,t

| G

(z) − G

(z) | (1.3) pour tous s, t > 0, o` u G d´esigne la transformation de Stieltjes d´efinie par

G

(z) = ˆ

R

1

z − y dµ(y)

pour tous µ ∈ P (R) et z ∈ C \ R (voir annexe A.3), et o` u V

=

z ∈ C

Im z > s,

Re z Im z < t

. (1.4)

Figure 1.4 – Le domaine V

.

Mentionnons que d

est une distance pour la convergence en loi et que pour tous µ, ν ∈ P (R), on a

d

(µ, ν) ≤ min (d

(µ, ν ), W

(µ, ν)) (1.5) d`es que s ≥ π, o` u d

et W

d´esignent respectivement les distances de Kolmogorov-Smirnov et de Wasserstein d’ordre 1 (voir annexe A.4).

Le premier r´esultat important de cette th`ese peut ainsi ˆetre ´enonc´e.

Th´ eor` eme 1.5. On suppose que c

=

est minor´e et major´e par deux

constantes strictement positives. Soit c ≥ 0. Il existe s, t > 0 et une constante

c

> 0 tels que pour toute matrice al´eatoire Y ∈ M

(R) ` a coefficients i.i.d.

v´erifiant Var(Y

) = 1 et E(Y

) < + ∞ , pour toute matrice d´eterministe M ∈ M

(R) et pour tout n assez grand, on a

d

Eµ

, √ µ

⊞

√ µ

≤ c

E | Y ˚

|

+ E( ˚ Y

) 1

√ n + Tr(M M

)

n

!

+ c

| c

− c | + 1

n + Tr(M M

)

n

! ,

o` u Y ˚

= Y

− E (Y

).

Ce r´esultat de quantification de la libert´e asymptotique dans le mod`ele information-plus-bruit sera comment´e en d´etail dans la section 3.3 et d´emontr´e dans la section 3.4.

1.4 Grandes d´ eviations de matrices al´ eatoires

Apr`es l’obtention de r´esultats de convergence, il est naturel de se poser la question de la vitesse de cette convergence. [LP2] ont par exemple obtenu des th´eor`emes de la limite centrale pr´ecisant la vitesse de convergence dans les th´eor`emes de Wigner et de Marcenko-Pastur. Un autre moyen de quantifier ces convergences est l’´etablissement de principes de grandes d´eviations, dont on rappelle la d´efinition (voir aussi annexe A.6 et [DZ]).

D´ efinition 1.6. Une suite (Z

)

de variables al´eatoires ` a valeurs dans un espace topologique (E, O ) muni de sa tribu bor´elienne B satisfait le principe de grandes d´eviations (PGD) de vitesse v avec la fonction de taux I dans la topologie O si :

– I : E → [0, + ∞ ] est semi-continue inf´erieurement, c’est-` a-dire l’en- semble de niveau { x ∈ E | I (x) ≤ t } est ferm´e pour tout t ≥ 0 ; – v : N → ]0, + ∞ [ admet une limite ´egale ` a + ∞ ;

– pour tout B ∈ B , on a

− inf

x∈Int(B)

I(x) ≤ lim inf

n→+∞

1

v(n) ln P (Z

∈ B )

≤ lim sup

n→+∞

1

v(n) ln P (Z

∈ B ) ≤ − inf

x∈Adh(B)

I (x) o` u Int(B) et Adh(B) d´esignent respectivement l’int´erieur et l’adh´erence de B.

On dit que la fonction de taux I est bonne si l’ensemble de niveau { x ∈

E | I(x) ≤ t } est compact pour tout t ≥ 0.

On d´etaillera dans le chapitre 2 les principes de grandes d´eviations exis- tants en th´eorie des matrices al´eatoires, notamment ceux de Ben Arous et Guionnet [BAG] pour le GUE, de Hiai et Petz [HP1] pour le LUE et de Bordenave et Caputo [BC] pour des matrices de Wigner ` a coefficients sous- gaussiens au sens suivant.

D´ efinition 1.7. Soient α > 0 et a ∈ ]0, + ∞ ]. On note S

(a) la classe des variables al´eatoires Z telles que

t→

lim

t

ln P( | Z | ≥ t) = − a

et telles que | Z | et Z/ | Z | sont ind´ependantes pour de grandes valeurs de | Z | , dans le sens o` u il existe t

> 0 et une probabilit´e ϑ

sur le cercle unit´e S

tels que pour tout t ≥ t

et pour tout U ⊂ S

mesurable, on a

P( | Z | ≥ t et Z/ | Z | ∈ U ) = ϑ

(U)P( | Z | ≥ t) .

Il est possible d’´etendre le r´esultat de Bordenave et Caputo aux matrices de covariance empiriques ` a coefficients sous-gaussiens, ce qui constitue le deuxi`eme r´esultat important de cette th`ese.

Th´ eor` eme 1.8. Soit X ∈ M

( R ) une matrice al´eatoire telle que c

=

n

p

→ c ∈ ]0, + ∞ [. On suppose que les coefficients de X sont i.i.d., que Var(X

) = 1 et qu’il existe α ∈ ]0, 2[ et a ∈ ]0, + ∞ ] tels que X

∈ S

(a).

Alors, la mesure spectrale empirique µ

satisfait le PGD de vitesse n

sur P (R

), gouvern´e par la bonne fonction de taux J

d´efinie par

J

(µ) =

 



a

c^α/2

m

(ν) s’il existe ν ∈ P (R

) telle que µ = √

ν ⊞

√ µ

et ν ( { 0 } ) ≥ max 0, 1 −

+ ∞ sinon

o` u m

(µ) = ´

R

| x |

dµ(x) d´esigne le p-i`eme moment d’une loi µ.

Ce r´esultat sera comment´e dans la section 4.1. On verra en particulier que sa d´emonstration, pr´esent´ee dans le chapitre 4, fait intervenir de mani`ere cruciale le th´eor`eme 1.5 de libert´e asymptotique pour le mod`ele information- plus-bruit.

1.5 Mouvement brownien de Dyson et ´ equation de Fokker-Planck libre

Des mod`eles de matrices al´eatoires dynamiques ont aussi ´et´e ´etudi´es,

dans lesquels les coefficients des matrices ne sont plus des variables al´eatoires

mais des processus stochastiques. Le mod`ele le plus c´el`ebre est celui o` u les co-

efficients sont des mouvements browniens. Les valeurs propres d’une matrice

hermitienne de taille N × N ` a coefficients browniens, not´ee (H

)

, forment un gaz de particules appel´e mouvement brownien de Dyson. Dyson a en effet montr´e en 1962 [Dys] que les valeurs propres ordonn´ees (λ

(t), . . . , λ

(t))

de la matrice H

/ √

N appartiennent presque sˆ urement au simplexe ouvert

∆

=

(x

, . . . , x

) ∈ R

| x

< x

< . . . < x

et qu’elles satisfont le syst`eme d’´equations diff´erentielles stochastiques (EDS) :

∀ j ∈ J1, N K, dλ

(t) = 1

√ N dB

(t) + 1 N

X

k6=j

1

λ

(t) − λ

(t) dt , o` u les B

sont des mouvements browniens r´eels standards ind´ependants. Voir aussi [AGZ, Section 4.3].

De mani`ere plus g´en´erale, on peut consid´erer le mouvement brownien de Dyson g´en´eralis´e (GDBM), d´efini comme ´etant la solution du syst`eme d’EDS :

∀ j ∈ J1, N K, dλ

(t) = r 2

βN dB

(t)+ 1 N

X

k6=j

1

λ

(t) − λ

(t) dt − 1

2 V

(λ

(t))dt , (1.6) o` u les B

sont des mouvements browniens standards ind´ependants, β > 0 est le param`etre de Dyson habituel en matrices al´eatoires et V est un potentiel g´en´eral de confinement pour les particules. Mˆeme si ce syst`eme d’EDS ne repr´esente pas les valeurs propres d’un mod`ele matriciel explicite en toute g´en´eralit´e, on peut montrer sous certaines hypoth`eses sur V et β que le GDBM est bien d´efini (voir [LLX, Th´eor`eme 1.1]), c’est-` a-dire ´etant donn´ee une condition initiale λ

(0) ∈ ∆

, le syst`eme d’EDS (1.6) admet une unique solution forte (λ

(t))

` a valeurs dans ∆

.

Pour ce processus de N particules, on d´efinit la mesure spectrale empi- rique au temps t par

L

(t) = 1 N

X

δ

.

D’une part, ` a N fix´e, quand t → + ∞ , la mesure L

(t) converge vers la mesure empirique L

de N particules distribu´ees selon

1 Z

Y

1≤j<k≤N

| x

− x

|

exp



 − βN 2

X

V (x

)



 dx

. . . dx

.

En effet, cette loi est la mesure de Gibbs associ´ee au syst`eme d’EDS (1.6) et on peut appliquer un th´eor`eme ergodique.

Lorsqu’on fait ensuite tendre N vers + ∞ , la mesure L

converge alors vers

la mesure d’´equilibre µ

associ´ee au potentiel V . Cette mesure, bien connue en th´eorie du potentiel [ST], est d´efinie lorsque V satisfait

|x|→

lim

V (x) − 2 ln | x | = + ∞ comme ´etant l’unique minimiseur sur P (R) de la fonction

µ 7→ −

¨

R²

ln | x − y | dµ(x)dµ(y) + ˆ

R

V (x) dµ(x) ,

´egalement connue en probabilit´es libres sous l’appellation d’entropie libre de Voiculescu.

D’autre part, Li, Li et Xie [LLX, Th´eor`eme 1.4] ont montr´e que si L

(0) converge vers une mesure µ(0) ` a support compact et si V

est uniform´ement minor´ee, alors, quand N → + ∞ , la mesure L

(t) converge vers une loi µ

, satisfaisant l’´equation de Fokker-Planck libre

∂µ

∂t = ∂

∂x

µ

1

2 V

− Hµ

(1.7) de condition initiale µ(0), o` u H d´esigne la transform´ee de Hilbert, c’est-` a- dire pour toute mesure µ sur R et tout x ∈ R,

Hµ(x) =

R

1

x − y dµ(y) = lim

ε→0

ˆ

R\[x−ε,x+ε]

1

x − y dµ(y) par d´efinition de la valeur principale ffl

.

La question de la commutativit´e du diagramme L

(t) → µ

↓ ↓ ?

L

→ µ

est donc toute naturelle.

On verra dans le chapitre 6 que Li, Li et Xie [LLX, Th´eor`eme 1.6] ont montr´e la convergence de µ

vers µ

quand t → + ∞ dans le cas o` u le potentiel V est C

et strictement convexe. Ce r´esultat englobe le cas du tr`es

´etudi´e potentiel quadratique V (x) =

x

, pour lequel la mesure d’´equilibre est la loi semi-circulaire µ

, et aussi celui du potentiel quartique

V (x) = 1 4 x

+ c

2 x

lorsque c ≥ 0. Pour ce potentiel, la mesure d’´equilibre est ´egalement expli-

cite, voir [Joh1, Exemple 3.2] ou le chapitre 7 :

– si c ≥ − 2, alors µ

a pour densit´e ρ

(x) = 1

π 1

2 x

+ b

p

a

− x

1

(x) (1.8) avec

a

= 2 3

p c

+ 12 − c

, b

= 1 3 c +

r c

4 + 3

!

; – si c < − 2, alors µ

a pour densit´e

ρ

(x) = 1 2π | x | p

(x

− a

)(b

− x

)1

(x) (1.9) avec a

= − 2 − c, b

= 2 − c.

(a)c=−1. (b)c=−2. (c)c=−3.

Figure 1.5 – Allure de la densit´e ρ

pour diff´erentes valeurs de c.

Le troisi`eme r´esultat principal de cette th`ese est le suivant.

Th´ eor` eme 1.9. Soit V (x) =

x

+

x

avec c ≥ − 2. La solution (µ

)

de l’´equation de Fokker-Planck libre (1.7) de condition initiale µ

` a support compact satisfait

t→

lim

W

(µ

, µ

) = 0

pour tout p ≥ 1, o` u W

d´esigne la distance de Wasserstein d’ordre p (voir annexe A.4) et µ

est la mesure d’´equilibre donn´ee par (1.8).

Le th´eor`eme 1.9, d´emontr´e dans la section 7.4, r´epond ` a une conjecture de Li, Li et Xie [LLX] et fournit un premier exemple de convergence en temps long de la solution de l’´equation des milieux granulaires (5.1) en pr´esence ` a la fois d’un potentiel confinant non convexe et d’une interaction logarithmique.

1.6 Organisation du manuscrit

La suite de ce manuscrit est organis´e en deux grandes parties.

La premi`ere partie concerne les grandes d´eviations de matrices al´eatoires.

On y pr´esente les r´esultats d´ej`a existants sur ce sujet dans le chapitre 2, ainsi

que le lien entre les propri´et´es de libert´e asymptotique, les convolutions libres et certains probl`emes de grandes d´eviations, comme bri`evement mentionn´e ci-dessus. La propri´et´e de libert´e asymptotique pour les matrices de type information-plus-bruit (th´eor`eme 1.5) est d´emontr´ee dans le chapitre 3 et appliqu´ee dans le chapitre 4 lors de l’´etablissement du principe de grandes d´eviations pour des matrices de covariance al´eatoires ` a coefficients sous- gaussiens (th´eor`eme 1.8).

Les travaux pr´esent´es dans cette premi`ere partie font l’objet de l’article [Gro], accept´e pour publication dans Electronic Journal of Probability. Les d´emonstrations des th´eor`emes 1.5 et 1.8 constituent en effet les sections 2 et 3 de [Gro]. Certains apports sont toutefois in´edits dans cette th`ese, comme la d´emonstration alternative de la section 4.6 ou les d´etails de certains lemmes.

La seconde partie de ce manuscrit est consacr´ee ` a l’´equation de Fokker- Planck libre. Apr`es avoir pr´esent´e dans le chapitre 5 l’´equation des mi- lieux granulaires et les m´ethodes classiques pour ´etudier le comportement en temps long de sa solution, on pr´esente dans le chapitre 6 l’´equation de Fokker-Planck libre, qui est un cas particulier singulier de l’´equation des mi- lieux granulaires, et on d´eveloppe les m´ethodes intervenant dans son ´etude lorsque le potentiel en jeu est convexe. ` A l’aide de techniques de probabilit´es libres, on d´emontre enfin dans le chapitre 7 la convergence en temps long de la solution de l’´equation de Fokker-Planck libre pour le potentiel quartique

`

a double puits (th´eor`eme 1.9).

Le travail pr´esent´e dans cette seconde partie fait l’objet de l’article

[DMGM], ´ecrit en collaboration avec Catherine Donati-Martin et Myl`ene

Ma¨ıda et soumis pour publication. La d´emonstration du th´eor`eme 1.9 pro-

pos´ee dans la section 3 de [DMGM] est reproduite ici avec des d´etails

suppl´ementaires, comme les calculs de la section 7.3. De plus, cette th`ese

est l’occasion de proposer une d´emonstration d´evelopp´ee de la proposition

6.15.

Grandes d´ eviations de matrices al´ eatoires

17

R´ esultats existants

On pr´esente dans ce chapitre les principaux r´esultats de grandes d´eviations existants pour la mesure spectrale et les valeurs propres extrˆemes de ma- trices al´eatoires dans la litt´erature. Essentiellement, des principes de grandes d´eviations ont ´et´e obtenus dans deux mod`eles : celui de matrices unitaire- ment invariantes et celui de matrices ` a coefficients sous-gaussiens.

2.1 Mod` eles unitairement invariants

En 1997, Ben Arous et Guionnet [BAG, Th´eor`eme 5.2] ont ´etabli un prin- cipe de grandes d´eviations pour la mesure spectrale d’une matrice al´eatoire

`

a coefficients gaussiens, et plus g´en´eralement pour la mesure spectrale de particules distribu´ees suivant une loi unitairement invariante.

Soient N ∈ N

, β > 0 et V ∈ C

(R, R), on suppose qu’il existe β

≥ β tel que

lim inf

|x|→+∞

V (x) β

ln | x | > 1 .

On note P

la loi sur R

dont la densit´e par rapport ` a la mesure de Lebesgue est

(λ

, . . . , λ

) 7→ 1 Z

Y

1≤j<k≤N

| λ

− λ

|

exp



 − N X

V (λ

)



 ,

o` u

Z

= ˆ

R^N

Y

1≤j<k≤N

| λ

− λ

|

exp



 − N X

V (λ

)



 dλ

. . . dλ

.

Le cas o` u V (x) =

x

et β vaut 1, 2 ou 4 correspond respectivement ` a la loi du spectre d’une matrice du GOE, GUE, GSE. Il a par ailleurs ´et´e

19

montr´e que lorsque V est quadratique, pour un β > 0 quelconque, un N - uplet (λ

, . . . , λ

) de loi P

peut ˆetre vu comme le spectre d’une matrice al´eatoire tridiagonale explicite, voir [DE, ES].

On note

ˆ µ

= 1

N X

δ

la mesure spectrale associ´ee ` a un N -uplet (λ

, . . . , λ

) de loi P

. On a le r´esultat suivant.

Th´ eor` eme 2.1 (voir [AGZ, Th´eor`eme 2.6.1]). Sous les hypoth`eses pr´ec´edentes, ˆ

µ

v´erifie le PGD de vitesse N

sur P (R) dans la topologie faible avec la bonne fonction de taux

I

(µ) = ´

R

V (x) dµ(x) −

Σ(µ) − α

si ´

R

V (x) dµ(x) < + ∞

+ ∞ sinon ,

o` u

Σ(µ) = ˜

R²

ln | x − y | dµ(x)dµ(y) si ´

R

ln( | x | + 1) dµ(x) < + ∞

+ ∞ sinon

et

α

= inf

ν∈P(R)

ˆ

R

V (x) dν(x) − β 2 Σ(ν)

∈ ] − ∞ , + ∞ [ .

Avant de commenter ce r´esultat, on ´enonce les propri´et´es de la fonction de taux I

, qui sont d’ailleurs utilis´ees dans la d´emonstration du th´eor`eme 2.1.

Lemme 2.2 (voir [AGZ, Lemme 2.6.2]). Avec les notations du th´eor`eme 2.1, on a les propri´et´es suivantes.

(i) La constante α

est finie et la fonction I

est bien d´efinie sur P ( R ), ` a valeurs dans [0, + ∞ ].

(ii) On a I

(µ) = + ∞ d`es que ´

R

V (x) dµ(x) = + ∞ ou d`es que µ poss`ede un atome.

(iii) I

est une bonne fonction de taux.

(iv) I

est strictement convexe sur P ( R ).

(v) I

admet un unique minimiseur sur P (R), not´e σ

.

(vi) La mesure σ

est ` a support compact. De plus, elle est caract´eris´ee par l’existence d’une constante C

telle que

V (x) − β ˆ

R

ln | x − y | dσ

(y) = C

σ

− p. p.

et

V (x) − β ˆ

R

ln | x − y | dσ

(y) ≥ C

pour tout x / ∈ supp(σ

), et on a n´ecessairement C

= 2α

−

´

R

V (y) dσ

(y).

Le principe de grandes d´eviations du th´eor`eme 2.1 est obtenu ` a partir de celui pour les mesures non normalis´ees Z

P

et de la preuve que la fonction de partition Z

satisfait

α

= − lim

N→+∞

1

N

ln Z

.

La borne sup´erieure du PGD est obtenue ` a l’aide de troncations de la fonc- tion

(x, y) 7→ 1

2 V (x) + 1

2 V (y) − β

2 ln | x − y | .

Quant ` a la borne inf´erieure, elle est obtenue en approchant une mesure ` a support compact et sans atome par la mesure empirique de ses quantiles d’ordre

pour N grand.

Un corollaire du th´eor`eme 2.1 est la convergence presque sˆ ure de ˆ µ

vers l’unique minimiseur σ

de I

. En langage de th´eorie du potentiel, on dira que σ

est la mesure d’´equilibre associ´ee ` a l’´energie logarithmique I

, qui apparaˆıt ´egalement en probabilit´es libres sous l’appellation d’entropie libre de Voiculescu.

Dans ce mod`ele unitairement invariant, il est ´egalement possible d’ob- tenir un principe de grandes d´eviations pour la plus grande valeur propre.

Ben Arous, Dembo et Guionnet [BADG] ont trait´e le cas du GOE et plus g´en´eralement, on a le r´esultat suivant.

On consid`ere ` a nouveau un N -uplet (λ

, . . . , λ

) de loi P

et on note λ

= max(λ

, . . . , λ

) .

Th´ eor` eme 2.3 (voir [AGZ, Th´eor`eme 2.6.6]). On fait les mˆemes hypoth`eses qu’au th´eor`eme 2.1 et on suppose de plus que la limite

α

= lim

N→+∞

1

N ln Z

Z

existe. Alors, λ

v´erifie le PGD de vitesse N sur R dans la topologie usuelle avec la bonne fonction de taux

J

(x) = β ´

R

ln | x − y | dσ

(y) − V (x) − α

si x ≥ s

+ ∞ sinon ,

o` u s = max(supp σ

).

L’hypoth`ese sur les fonctions de partition Z

est cruciale, et elle est v´erifi´ee avec α

= −

pour le GOE, GUE, GSE. Elle peut ˆetre remplac´ee par l’hypoth`ese que la fonction x 7→ V (x) − β ´

R

ln | x − y | dσ

(y) n’atteint