Higher computability and Randomness

HAL Id: tel-01397190

https://hal.archives-ouvertes.fr/tel-01397190

Submitted on 15 Nov 2016

HAL is a multi-disciplinary open access archive for the deposit and dissemination of sci- entific research documents, whether they are pub- lished or not. The documents may come from teaching and research institutions in France or abroad, or from public or private research centers.

L’archive ouverte pluridisciplinaire HAL, est destinée au dépôt et à la diffusion de documents scientifiques de niveau recherche, publiés ou non, émanant des établissements d’enseignement et de recherche français ou étrangers, des laboratoires publics ou privés.

Benoit Monin

To cite this version:

Benoit Monin. Higher computability and Randomness. Computer Science [cs]. Paris Diderot, 2014.

English. �tel-01397190�

Laboratoire d’Informatique Algorithmique : Fondements et Applications

Higher computability and randomness

Th` ese pr´ esent´ ee pour l’obtention du diplˆ ome de

Docteur de l’universit´ e Paris Diderot, sp´ ecialit´ e Informatique

`

a l’´ ecole doctorale de Sciences Math´ ematiques de Paris Centre

Par

Benoit MONIN

sous la direction de Laurent BIENVENU

soutenue publiquement le 5 d´ ecembre 2014

RAPPORTEURS

M. Chi Tat CHONG National University of Singapore M. Denis HIRSCHFELDT University of Chicago

JURY

M. Eug` ene ASARIN Universit´ e Paris 7 Examinateur M. Laurent BIENVENU Universit´ e Paris 7 Directeur de th` ese M. Chi Tat CHONG National University of Singapore Rapporteur

M. Serge GRIGORIEFF Universit´ e Paris 7 Examinateur

M. Gr´ egory LAFITTE Universit´ e Montpellier 2 Examinateur

Je souhaite remercier ici les nombreuses personnes ayant particip´ e directement ou indirectement ` a l’´ elaboration de cette th` ese, mais aussi ceux qui simplement m’ont accompagn´ e dans la vie ces derni` eres ann´ ees.

Je remercie d’abord chaleureusement Laurent Bienvenu qui a accept´ e de me prendre en th` ese alors que mes connaissances sur l’al´ eatoire algorithmique ´ etaient plus qu’hasardeuses (un comble). Il m’a malgr´ e tout fait confiance et m’a enseign´ e patiemment tout ce que je sais en randomness, et plus g´ en´ eralement j’ai beaucoup appris ` a ses cot´ es sur les math´ ematiques et le m´ etier de math´ ematicien.

Je remercie ensuite Noam Greenberg avec qui j’ai commenc´ e ` a travailler au milieu de ma th` ese, et qui est presque devenu un deuxi` eme directeur de th` ese. J’ai aussi beaucoup appris ` a ces cot´ es, notamment sur la calculabilit´ e d’ordre sup´ erieur et sans lui cette th` ese aurait certainement ´ et´ e tr` es diff´ erente (et de moindre qualit´ e).

Denis Hirschfeldt et Chi Tat Chong ont accept´ e d’ˆ etre rapporteur de ma th` ese, rejoignant ainsi Laurent et moi-mˆ eme dans le club tr` es ferm´ e des personnes ayant lu ce document en d´ etail. Aussi au del` a de l’int´ erˆ et que l’on peut porter aux th´ ematiques qui y sont trait´ ees, ces relectures ont repr´ esent´ e un gros travail qui a contribu´ e ` a l’am´ elioration du rapport de th` ese, et je les en remercie donc avec gratitude.

Je remercie bien ´ evidemment Eug` ene Asarin, Serge Grigorieff et Gr´ egory Laffite d’avoir accept´ e de faire partie du jury de cette th` ese, qui fut une aventure scientifique et humaine, qui a commenc´ e pour moi il y a quatre ans et quelques mois, quand j’ai entam´ e le Master LMFI (Logique math´ ematique et fondement de l’informatique) apr` es un parcours qui ne semblait pas m’y pr´ edestiner. J’y ai rencontr´ e de nombreuse personnes, ainsi que durant mes trois ann´ ees pass´ ees au LIAFA. En souvenir de pour tous ces bons moments que nous avons partag´ es, des vendredis soirs ` a l’Irish aux vacances en Bretagne, en passant par la tartiflette niveau 4, je remercie Shahin (pour ˆ etre la meilleure personne du monde, et aussi pour m’avoir aid´ e dans l’´ elaboration du th´ eor` eme Theorem 6.4.3), Nico (pour ses vid´ eos Youtube underground), Jean-Philippe (pour sa sagesse), Samy (pour me faire croire que je parle tr` es bien espagnol), Tristan (pour avoir eu la bonne id´ ee de m’inventer), Romain (pour savoir su d´ epoussi´ erer avec brio le style ringuard de

“la danse en soir´ ee”), Seb (pour me faire d´ ecouvrir des jeux de r´ eflexion ´ etranges), Rafa (pour sa recette de nachos dip ¹ ), ainsi que Kuba, Nadia, Benjamin, Luis, Shaadi, Armen, Yann, Catherine, Guillaume, et aussi Guillaume, et finalement tous les autres.

Cette th` ese fut aussi l’occasion pour moi de voyager, en particulier ` a Buenos Aires o` u j’ai fait la connaissance de Mushfeq et Kelty, que je remercie pour cette m´ emorable randonn´ ee des sept lacs en Patagonie. J’y ai rencontr´ e de nombreuses autres personnes, comme Luca, Linda, Greg, Ian, que je remercie ´ egalement, ainsi que Quinn que je remercie pour son soutien moral durant l’´ ecriture de cette th` ese, et pour toujours avoir un nouveau puzzle math´ ematique ` a proposer, comme celui-l` a par exemple :

1

Mixer des haricots rouges et des gousses d’ail puis mettre de cˆ ot´ e la pur´ ee obtenue apr` es l’avoir

assaisonn´ ee. Dans un bol, ajouter de la chair d’avocat, du jus de citron et de la cr` eme fraˆıche et m´ elanger

jusqu’` a l’obtention d’une mixture homog` ene. Saler et poivrer. Dans un plat allant au four, d´ eposer la

pur´ ee de haricots, puis la pur´ ee d’avocat. Recouvrir d’emmental rˆ ap´ e. Couper de la tomate en petits d´ es

et recouvrir le plat. Enfourner pendant 20 minutes ` a 150 ° C et servir accompagn´ e de nachos. Bon app´ etit !

morceau de papier, de telle sorte qu’au moins une d’entre elle ´ ecrive le num´ ero de son chapeau. Notez que chacun voit les num´ eros des autres chapeaux mais pas celui de son propre chapeau, et que toute forme de communication est interdite ; on suppose bien sˆ ur que les protagonistes ont pu se parler autant qu’ils le voulaient avant de recevoir leurs chapeaux.”

J’ai appris beaucoup de choses durant les s´ eminaires r´ eguliers du groupe de travail

“Calculabilit´ e et Hasard” du LIAFA, aussi je remercie Antoine, Ludovic, Chris et Paul, et bien sˆ ur Serge et Laurent, pour ce qu’ils m’ont appris ` a travers leur participation r´ eguli` ere. Je remercie aussi Sasha pour son accueil chaleureux ` a Moscou et pour nos diff´ erents ´ echanges scientifiques (notamment sur la repr´ esentation, adopt´ ee dans cette th` ese, des ordinaux constructifs sous forme d’arbre).

Je remercie David pour toutes ces bonnes soir´ ees pass´ ees en sa compagnie, souvent en

musique, et Damien pour son amiti´ e depuis tant d’ann´ ees. Finalement je tiens ` a remercier

mes parents, Pascal et Aude ` a qui je dois tout le reste, et mes frˆ eres et soeurs, Vincent,

Claire, Anne et Fran¸ cois, pour ˆ etre l` a. J’ai enfin une pens´ ee particuli` ere pour Nikita qui

m’a accompagn´ e pendant toutes ces ann´ ees et que je remercie pour tous les moments

pass´ es en sa compagnie.

Contents

Introduction (Fran¸ cais) vii

Al´ eatoirit´ e et calculabilit´ e d’ordre sup´ erieur . . . . vii

R´ esum´ e de la th` ese . . . . xiii

Introduction (English) xix Higher randomness and computability . . . . xix

Thesis summary . . . xxiv

1 Background 1 1.1 Basic spaces and structures . . . . 1

1.1.1 The Cantor space . . . . 1

1.1.2 The Baire space . . . . 3

1.1.3 Trees . . . . 3

1.2 Basic computability notions . . . . 4

1.2.1 Computability on the Cantor space . . . . 4

1.2.2 The fixed point theorem . . . . 4

1.2.3 Reductions . . . . 5

1.2.4 The arithmetical hierarchy . . . . 6

1.3 Ordinals . . . . 8

1.3.1 Well-founded relations and ordinals . . . . 8

1.3.2 Ordinal arithmetic . . . . 10

1.4 Computable ordinals . . . . 11

1.4.1 Introduction to computable ordinals . . . . 11

1.4.2 Computable ordinals and trees . . . . 12

1.4.3 Transfinite recursion over the computable ordinals . . . . 15

1.5 Descriptive complexity of sets of sequences . . . . 19

1.5.1 The Borel hierarchy . . . . 19

1.5.2 The effective Borel hierarchy . . . . 21

1.5.3 Borel hierarchies are strict . . . . 23

1.5.4 Effectively closed and open sets . . . . 27

1.6 Effective complexity of sets of integers . . . . 28

1.6.1 Definition and closure properties . . . . 28

1.6.2 The Kleene hierarchy and the computable trees . . . . 30

1.6.3 Complete sets and many-one reductions . . . . 32

1.6.4 The jump and the H-sets . . . . 36

1.6.5 Kleene’s hierarchy is strict . . . . 38

1.7 Connection between the effective Kleene’s and Borel’s hierarchies . . . . 40

1.8 Background on measures . . . . 41

1.8.1 Classical facts on measures . . . . 41

1.8.2 Measures and computability . . . . 43

1.8.3 Fubini’s theorem . . . . 46

1.9 Category . . . . 47

2 Algorithmic randomness and Cohen genericity 51 2.1 Algorithmic randomness . . . . 51

2.1.1 Martin-L¨ of randomness . . . . 52

2.1.2 Notions of n-randomness and α-randomness . . . . 55

2.1.3 Notions of weak-n-randomness . . . . 57

2.1.4 More on Martin-L¨ of randomness . . . . 59

2.2 Genericity . . . . 61

2.2.1 Cohen genericity . . . . 61

2.2.2 Randomness as a genericity notion . . . . 62

3 Beyond the Borel hierarchy 65 3.1 The complexity of sets . . . . 65

3.2 The Σ ¹ ₁ sets . . . . 68

3.3 The Π ¹ ₁ sets . . . . 69

3.4 The ∆ ¹ ₁ sets . . . . 72

3.5 Further study of Kleene’s O . . . . 75

3.6 Π ¹ ₁ as a higher analogue of c.e. . . . . 77

3.6.1 Motivation . . . . 77

3.6.2 Enumerating Π ¹ ₁ sets . . . . 79

3.7 Higher randomness . . . . 82

3.7.1 Overview of the different classes . . . . 82

3.7.2 Higher Kolmogorov complexity . . . . 87

3.7.3 Higher discrete semi-measures . . . . 91

3.7.4 Higher continuous semi-measures . . . . 93

3.7.5 Equivalent characterizations of Π ¹ ₁ -Martin-L¨ of randomness . . . . . 94

4 Continuity and higher randomness 97 4.1 The higher Turing reduction . . . . 98

4.1.1 The fin-h reduction . . . . 99

4.1.2 The higher Turing reduction . . . 101

4.1.3 The continuous higher jump . . . 102

4.2 higher Turing and continuously Π ¹ ₁ on weak and strong oracles . . . 103

4.2.1 On strong oracles . . . 103

4.2.2 On weak oracles . . . 105

4.2.3 On generic oracles for various forcing notions . . . 106

4.3 Continuous relativization and randomness . . . 108

4.3.1 Continuous relativization for open sets . . . 108

4.3.2 Continuous relativization for semi-measures . . . 109

4.3.3 The van Lambalgen theorem . . . 110

4.3.4 The XYZ theorem . . . 112

4.4 Refinement of the notion of higher ∆ ⁰ ₂ . . . 114

4.4.1 The higher limit lemma . . . 115

4.4.2 Higher left-c.e. approximations . . . 116

4.4.3 Higher ω-computable approximations . . . 116

4.4.4 Higher closed and compact approximations . . . 117

4.4.5 Higher self-unclosed approximations . . . 118

4.5 Continuously low for Π ¹ ₁ -Martin-L¨ of randomness . . . 119

4.5.1 hK-trivial sequences . . . 119

4.5.2 Low for hK and low for Π ¹ ₁ -Martin-L¨ of randomness . . . 122

4.5.3 Base for randomness . . . 132

5 Further studies on higher randomness 135 5.1 Higher difference randomness . . . 135

5.2 Π ¹ ₁ -Martin-L¨ of[ O ]-randomness . . . 136

5.3 weak-Π ¹ ₁ -randomness . . . 138

5.3.1 An equivalent test notion . . . 138

5.3.2 Separation of weak-Π ¹ ₁ -randomness and Π ¹ ₁ -randomness . . . 141

5.4 Further studies on higher ∆ ⁰ ₂ approximations . . . 145

5.4.1 Higher finite change approximations . . . 146

5.4.2 Higher closed unbounded approximations . . . 147

5.4.3 ( ω + 1 ) -self-unclosed approximations . . . 149

5.4.4 Separation of ( ω + 1 ) -self-unclosed and ω-self-unclosed approximations151 5.4.5 Separation of ( ω + 1 ) -self-unclosed and closed approximations . . . 152

5.4.6 A summary . . . 154

6 Π ¹ ₁ -randomness and Σ ¹ ₁ -genericity 157 6.1 The Borel complexity of the set of Π ¹ ₁ -randoms . . . 157

6.2 Randoms with respect to (plain) Π ¹ ₁ -Kolmogorov complexity . . . 161

6.3 Equivalent test notions for Π ¹ ₁ -randomness . . . 162

6.3.1 First equivalence . . . 162

6.3.2 Second equivalence . . . 164

6.3.3 Third equivalence . . . 165

6.4 A higher hierarchy of complexity of sets . . . 168

6.4.1 On the Σ ¹ ₁ randomness notions in the higher hierarchy . . . 169

6.4.2 On the Π ¹ ₁ randomness notions in the higher hierarchy . . . 170

6.4.3 A lower bound on the higher complexity of randomness notions . . 174

6.4.4 Open questions on higher complexity . . . 176

6.5 Lowness for Π ¹ ₁ -randomness . . . 177

6.5.1 Characterization of lowness for Π ¹ ₁ -randomness . . . 177

6.5.2 Further discussion . . . 179

6.6 Higher generic sequences . . . 179

6.6.1 Definitions . . . 180

6.6.2 Π ¹ ₁ -genericity . . . 181

6.6.3 Σ ¹ ₁ -genericity . . . 185

6.6.4 Further discussion about lowness for higher genericity notions . . . 190

6.7 Steel forcing : The Borel complexity of the set of sequences which collapse ω ₁ ^ck . . . 192

6.7.1 Motivation . . . 192

6.7.2 The forcing notion . . . 193

6.7.3 The retagging lemma . . . 196

6.7.4 Preservation of ω ₁ ^ck . . . 197

6.7.5 The Borel complexity of { X ∶ ω ^X ₁ > ω ^ck ₁ } . . . 199

7 The badly-behaved oracles 201 7.1 Time tricks : example with Π ¹ ₁ -open sets . . . 201

7.2 Higher Turing computation and fin-h computation . . . 203

7.3 Non-universality in continuous relativization . . . 204

7.3.1 The perfect treesh-bone . . . 204

7.3.2 The tree of trees . . . 205

7.3.3 No A-universal oracle continuous Π ¹ ₁ -Martin-L¨ of tests . . . 206

7.3.4 No A-universal A-continuous Π ¹ ₁ -Martin-L¨ of tests . . . 209

7.3.5 Higher A-continuously left-c.e. and Π ¹ ₁ -Martin-L¨ of randoms . . . 217

7.3.6 Further study on continuous relativization . . . 219

7.4 On well-behaved oracles . . . 220

7.4.1 Self-unclosed approximable oracles . . . 220

7.4.2 Random oracles . . . 223

Introduction

Le pr´ esent document est un rapport de th` ese, r´ esultant de trois ann´ ees de recherche, men´ ees sous la direction de Laurent Bienvenu, et r´ edig´ e en vue d’obtenir le titre de doc- teur en informatique. Nous commen¸ cons par une introduction gentille au domaine des math´ ematiques dont il est question. Nous donnerons ensuite le r´ esum´ e d´ etaill´ e de la th` ese et les principales contributions de celle-ci.

Al´ eatoirit´ e et calculabilit´ e d’ordre sup´ erieur

Cette th` ese est une contribution ` a trois domaines pr´ esentant de nombreuses connexions entre eux : la th´ eorie effective de l’al´ eatoire, la calculabilit´ e d’ordre sup´ erieur et la th´ eorie effective descriptive des ensembles. Nous donnons d’abord une introduction vulgaris´ ee

`

a chacun de ces trois domaines math´ ematiques, avant d’expliquer l’int´ erˆ et de leur ´ etude conjointe. Ces explications d´ eboucheront naturellement sur les probl´ ematiques motiv´ ees et circonstanci´ ees auxquelles nous nous attaquons.

Th´ eorie effective descriptive des ensembles

Nous ne donnons qu’une id´ ee sur les pr´ emices de la th´ eorie effective descriptive des ensembles, qui va beaucoup plus loin que ce qui est pr´ esent´ e ici. Comme son nom l’indique, la th´ eorie descriptive des ensembles a pour objet d’´ etude... les ensembles, et comme axe d’´ etude... leur description. Les ensembles que nous allons consid´ erer seront tous des sous-ensembles issus d’un espace des plus simples : l’espace 2 ^N des suites infinies de 0 et de 1, et nous allons nous int´ eresser ` a certains sous-ensembles de 2 <sup>N</sup> qui sont, informellement, ‘simples ` a d´ ecrire’ :

Consid´ erons une chaˆıne finie de 0 et de 1, par exemple : 01001010. L’ensemble des

´ el´ ements de 2 ^N qui commencent par 01001010 admet pour description la chaˆıne 01001010 elle-mˆ eme. Ces ensembles seront appel´ es intervalles, et pour une chaˆıne σ, ils seront d´ enot´ es par [ σ ] . Nous nous int´ eressons ` a pr´ esent ` a une classe d’ensembles un cran plus compliqu´ ee : les ouverts, c’est ` a dire les unions d´ enombrables d’intervalles.

Alors que chaque intervalle est ais´ e ` a d´ ecrire, la tˆ ache peut ˆ etre beaucoup plus compliqu´ ee pour un ouvert, car un ouvert est constitu´ e d’une infinit´ e d’intervalles.

Certains ouverts restent toutefois simples ` a d´ ecrire. Par exemple, de la mˆ eme mani` ere

qu’il est ais´ e de d´ ecrire l’ensemble des nombres pairs (malgr´ e son caract` ere infini), il est

ais´ e de d´ ecrire l’ouvert compos´ e de l’union des intervalles [ 0 ^p ˆ1 ] pour tout nombre pair p,

o` u 0 ^p ˆ1 d´ enote la chaˆıne compos´ ee de p chiffres 0 suivit du chiffre 1. En revanche, de par

leur caract` ere infini, certains ouverts sont ‘inaccessibles’ en ce sens qu’il est impossible

de les d´ efinir en un nombre fini de mots, et il en va de mˆ eme pour certains ensembles

de nombres entiers. Nous reviendrons sur ce point dans quelques paragraphes. Pour le moment notre pr´ eoccupation restera d’ordre ‘g´ eom´ etrique’, c’est-` a-dire que nous ne faisons pas de distinction entre les ouverts simples ou compliqu´ es ` a d´ ecrire. En revanche un ouvert a par d´ efinition une ‘forme g´ eom´ etrique’ des plus simples : il s’agit d’une union d’intervalles. Nous abordons ` a pr´ esent la question des ensembles ayant une ‘forme’ plus compliqu´ ee.

On s’aper¸ coit que relativement ` a un ouvert U , il est ais´ ement possible de d´ efinir le compl´ ementaire de U : ‘l’ensemble des ´ el´ ements qui ne sont pas dans U ’. Aussi les compl´ ementaires des ouverts seront appel´ es les ferm´ es. La distinction entre ces deux types d’ensemble est l´ egitime. En effet il est ais´ e de construire des ensembles ferm´ es ne pouvant pas s’´ ecrire comme union d’intervalles. Nous en donnons un exemple, en utilisant la notion de mesure, qui sera d´ etaill´ ee dans la prochaˆıne section : on peut consid´ erer une liste de toutes les chaˆınes finies { σ <sub>i</sub> } <sub>i∈ N</sub> , puis un intervalle de mesure 1 / 4 contenant la suite σ <sub>0</sub> ˆ0 <sup>∞</sup> (o` u 0 ^∞ est la suite constitu´ ee d’une infinit´ e de 0), un intervalle de mesure 1 / 8 contenant σ 1 ˆ0 ^∞ , etc... L’union de tous ces intervalles est un ensemble de mesure au plus 1 / 4 + 1 / 8 + ⋅ ⋅ ⋅ = 1 / 2. Aussi le compl´ ementaire de cette union est un ferm´ e non vide (puisque de mesure au moins 1/2) et il ne peut contenir aucun intervalle [τ ], car la suite τ ˆ0 ^∞ fait partie de son compl´ ementaire. Qu’en est-il ` a pr´ esent des unions d´ enombrables de ferm´ es ?

On peut continuer ` a d´ efinir des classes d’ensembles de plus en plus compliqu´ ees en consid´ erant les unions d´ enombrables d’ensembles de la classe pr´ ec´ edemment d´ efinie, et leur compl´ ementaire, menant ` a une nouvelle classe d’ensembles, un cran plus compliqu´ ee que la pr´ ec´ edente. En suivant le sch´ ema que nous venons de d´ ecrire, les unions d´ enombrables de ferm´ es sont dans une nouvelle classe d’ensembles, intuitivement plus complexe que la classe pr´ ec´ edente (les ouverts et leur compl´ ementaire).

Afin d’´ etudier ces classes d’ensembles dans de bonnes conditions, nous allons donner un nom ` a chacune d’entre elles. La classe des ensembles ouverts sera la classe des ensem- bles Σ <sup>0</sup> <sub>1</sub> . La classe des ensembles ferm´ es sera la classe des ensembles Π <sup>0</sup> <sub>1</sub> . Ensuite, pour chaque entier n, la classe des unions d´ enombrables d’ensembles Π <sup>0</sup> <sub>n</sub> sera la classe des en- sembles Σ <sup>0</sup> <sub>n + 1</sub> , et les compl´ ementaires des ensembles Σ <sup>0</sup> <sub>n + 1</sub> seront appel´ es ensembles Π <sup>0</sup> <sub>n + 1</sub> . La hi´ erarchie pr´ ec´ edente s’int´ eresse ` a la ‘complexit´ e de forme’ des ensembles. Cette

´ etude de ‘complexit´ e de forme’ fait partie de la th´ eorie descriptive des ensembles ‘pure’.

Aussi nous avons bien pr´ ecis´ e que nous parlerions de th´ eorie effective descriptive des ensembles. Il s’agit d’un raffinement des classes de complexit´ e que nous venons de d´ efinir, ` a l’aide de la calculabilit´ e. Nous avons donn´ e l’exemple de l’ouvert compos´ e de l’union des intervalles [ 0 <sup>p</sup> ˆ1 ] pour tout nombre pair p, qui est simple ` a d´ ecrire (nous venons pr´ ecis´ ement de le faire). Qu’en serait-il par exemple de l’ouvert ´ egal ` a l’union des intervalles [0 <sup>n</sup> ˆ1] pour tous les n tel que ‘pile’ est obtenu lors d’un n-i` eme tirage ` a pile ou face ? On sent bien intuitivement qu’il y a une ‘arnaque’ derri` ere cette d´ efinition, mˆ eme si l’on passe outre son caract` ere informel : on n’a en fait pas d´ ecrit grand chose, puisque les ´ el´ ements de notre ouvert d´ ependent du r´ esultat d’une infinit´ e de tirages ` a pile ou face ; et nous nous trouvons bien incapable de d´ efinir un exemple raisonnable d’un tel tirage, avec un nombre fini de mots. Mais puisque l’on n’a rien dit de pr´ ecis sur cet ouvert, et que l’on ne peut vraisemblablement rien en dire de pr´ ecis, cela a-t-il mˆ eme un sens d’en parler ? Nous affirmons que oui, du moins dans une certaine mesure, et nous y reviendrons dans la section suivante. Pour le moment, nous nous cantonnons

`

a souligner la diff´ erence entre ces deux ouverts, le premier parfaitement cernable par la

pens´ ee, et le deuxi` eme plus insaisissable, et dont l’existence mˆ eme est sujette ` a caution.

L’id´ ee g´ en´ erale est de faire une distinction entre les ouverts que l’on peut d´ efinir avec pr´ ecision en un nombre fini de mots, et les autres. La calculabilit´ e fournit un cadre ` a la fois naturel et satisfaisant (en particulier exempt de paradoxe) pour mener ` a bien cet objectif. Un ouvert sera consid´ er´ e ‘simple ` a d´ ecrire’ (on dira effectif) si il existe un programme informatique (en particulier une liste finie d’instructions) qui ´ enum` ere au fur et ` a mesure qu’il s’ex´ ecute, des intervalles venant composer petit ` a petit l’ouvert.

Nous nous int´ eressons maintenant uniquement aux ouverts que l’on peut d´ ecrire avec un programme informatique, laissant les autres de cot´ e. On dira donc qu’un ensemble U est Σ ⁰ ₁ si il est ouvert et si il existe un programme informatique ´ enum´ erant une suite de chaˆıne σ ₁ , σ ₂ , . . . tel que U = ⋃ _n [ σ _n ] . Un tel programme peut ˆ etre consid´ er´ e comme

´ etant une description de l’ensemble U . On continue ensuite inductivement : les ensembles Π ⁰ ₁ sont les compl´ ementaires des ensembles Σ ⁰ ₁ et admettent comme description la mˆ eme que celle de leurs compl´ ementaires. On continue en d´ efinissant pour tout n les ensembles Σ ⁰ _n+1 comme ´ etant les unions effectives d’ensembles Π ⁰ _n , c’est ` a dire que pour un ensemble Σ ⁰ _n+1 , il doit exister un programme permettant d’´ enum´ erer les descriptions des ensembles Π ⁰ _n le composant. Un tel programme fera donc office de description pour chaque nouvel ensemble Σ ⁰ _n+1 ainsi d´ efini.

On peut montrer que ces deux hi´ erarchies de complexit´ e sont strictes : un cran de complexit´ e suppl´ ementaire nous permet toujours de d´ ecrire strictement plus d’ensembles qu’auparavant. On est pourtant loin d’avoir fait le tour : des ensembles, il y en a beaucoup...

Th´ eorie algorithmique de l’al´ eatoire

Au d´ ebut du 19 <sup>` eme</sup> si` ecle, Laplace donne dans son ouvrage Th´ eorie analytique des probabilit´ es un r´ esum´ e fort int´ eressant de cette discipline : “La th´ eorie des hasards consiste ` a r´ eduire tous les ´ ev´ enements du mˆ eme genre ` a un certain nombre de cas

´ egalement possibles, c’est-` a-dire tels que nous soyons ´ egalement ind´ ecis sur leur existence, et ` a d´ eterminer le nombre de cas favorables ` a l’´ ev´ enement dont on cherche la probabilit´ e.

Le rapport de ce nombre ` a tous les cas possibles est la mesure de cette probabilit´ e qui n’est ainsi qu’une fraction, dont le num´ erateur est le nombre des cas favorables et dont le d´ enominateur est le nombre de tous les cas possibles”.

La th´ eorie des probabilit´ es nous enseigne que si on r´ ep` ete un tr` es grand nombre de fois une succession de dix tirages ` a pile ou face, on obtiendra ` a peu pr` es autant de fois la suite pppppppppp que la suite ppfpffppfp (o` u ‘p’=pile et ‘f’=face). Pourtant un joueur obtenant la premi` ere de ces suites consid` erera certainement cet ´ ev` enement comme extraordinaire, alors qu’il ne verra rien d’anormal ` a obtenir la deuxi` eme.

Un examen attentif de la d´ efinition que Laplace donne de la ‘th´ eorie du hasard’

permettrait presque de proposer une explication ` a ce ph´ enom` ene : nous classons machinalement, les ‘cas ´ egalement possibles’ de suites de piles et de faces dans des groupes, en fonction de certaines r` egles simples. Ainsi “ne contenir que des piles” est une r` egle simple ` a formuler, permettant la cr´ eation du groupe “des suites ne contenant que des piles”. Si une suite obtenue apr` es un tirage de pile ou face tombe dans un groupe

`

a la fois simple ` a d´ ecrire, et contenant peu d’´ el´ ements, elle nous semble alors non al´ eatoire.

La th´ eorie des probabilit´ es est impuissante ` a d´ ecrire ce ph´ enom` ene. Aussi la th´ eorie

effective descriptive des ensembles va-t-elle nous fournir un cadre naturel pour d´ eterminer

les “r` egles” permettant de classer les suites dans les fameux groupes mentionn´ es ci-dessus.

Martin-L¨ of propose en 1966 dans [58] une d´ efinition qui reste aujourd’hui la plus connue et la plus ´ etudi´ ee. Les “groupes” d’´ el´ ements que nous allons consid´ erer pour la d´ efinition de Martin-L¨ of seront simplement les ensembles Π ⁰ ₂ , c’est ` a dire d’apr` es la d´ efinition donn´ ee dans la section pr´ ec´ edente, les compl´ ementaires d’unions effectifs de ferm´ es effectifs. On peut toutefois exprimer les ensembles Π ⁰ ₂ plus simplement, comme intersections effectives d’ouverts effectifs. Il nous reste ` a formaliser la notion de “contenir peu d’´ el´ ements”.

Pour ce faire, consid´ erons A un ensemble Π ⁰ ₂ , c’est ` a dire un ensemble pouvant ˆ etre d´ ecrit comme une intersection d’ouverts effectifs, dont les descriptions sont ´ enum´ erables par un programme informatique P (chaque description ´ etant elle-mˆ eme un programme informatique permettant d’´ enum´ erer l’ouvert correspondant). Notons U <sub>n</sub> l’ouvert dont la description est la n-i` eme ` a ˆ etre ´ enum´ er´ ee par P . On a donc A = ⋂ n U <sub>n</sub> . On dira que A est effectivement de mesure nulle si pour chaque entier n, la probabilit´ e pour qu’une suite de 0 et de 1 - tir´ ee al´ eatoirement - appartienne ` a l’ensemble U _n , est plus petite que 2 ⁻ⁿ . On suppose bien sˆ ur que les tirages successifs de chaque bit de la suite sont uniformes (autant de chance de tirer 0 que 1). Intuitivement la probabilit´ e pour qu’une suite appartienne ` a l’ensemble ⋂ <sub>n</sub> U <sub>n</sub> est donc de 0, puisque pour tout n, la probabilit´ e pour qu’elle appartienne ` a l’ensemble U _n est plus petite que 2 ⁻ⁿ , et qu’elle appartient par hypoth` ese ` a tous les U _n . Il est donc justifi´ e de consid´ erer ces suites comme ´ etant non al´ eatoires, puisque la probabilit´ e de les obtenir est nulle. Les suites al´ eatoire au sens de Martin-L¨ of sont pr´ ecis´ ement celles qui ne sont dans aucun ensemble Π ⁰ ₂ qui soit effectivement de mesure nulle.

On formalise cette id´ ee intuitive de probabilit´ e en termes math´ ematiques ` a l’aide de la notion de mesure uniforme sur 2 <sup>N</sup> , que l’on d´ enote par λ. Par convention la mesure de 2 <sup>N</sup> est de 1, ce qui correspond ` a la probabilit´ e pour qu’une suite tir´ ee al´ eatoirement soit dans 2 ^N (l’ensemble de toutes les suites). On ´ ecrira alors λ ( 2 ^N ) = 1. On d´ efinit ensuite naturellement λ ([ 0 ]) = 1 / 2 et λ ([ 1 ]) = 1 / 2, chacune de ces valeurs correspondant ` a la probabilit´ e pour qu’une suite commence par 0 et respectivement par 1. Plus g´ en´ eralement on d´ efinit λ ([ σ ]) = 2 <sup>−∣σ∣</sup> pour toute chaˆıne σ, o` u ∣ σ ∣ d´ enote la taille de σ. On constate ais´ ement que la fonction λ peut ˆ etre ´ etendue ` a toute union finie d’intervalles : pour tout n et toute suite finie de chaˆınes σ <sub>1</sub> , . . . , σ <sub>n</sub> que l’on peut supposer deux ` a deux incomparables, on a λ ([ σ 1 ] ∪ ⋅ ⋅ ⋅ ∪ [ σ n ]) = λ ([ σ 0 ]) + ⋅ ⋅ ⋅ + λ ([ σ n ]) , et effectivement, la probabilit´ e pour qu’une suite commence par une des chaˆınes σ i pour 1 ≤ i ≤ n est bien la somme des probabilit´ es pour chaque i, que la suite soit dans [ σ _i ] .

On peut ensuite ´ etendre la fonction λ ` a tout ensemble ouvert : Pour un ouvert U et une description de U donn´ ee par une suite infinie de chaˆınes σ 1 , σ 2 , . . . , que l’on peut supposer deux ` a deux incomparables, on a λ (U ) = sup _{i∈ N} λ ([ σ 1 ] ∪ ⋅ ⋅ ⋅ ∪ [ σ i ]) , le supremum pour tout i de la mesure de l’union des i premiers intervalles composant l’ouvert. Il est possible de montrer que la mesure d’un ouvert, ainsi d´ efinie, est ind´ ependante de la description choisie, et ici encore, la mesure d’un ouvert correspond ` a la probabilit´ e pour qu’une suite soit un ´ el´ ement de cet ouvert.

Une suite est donc Martin-L¨ of al´ eatoire si elle n’appartient ` a aucun ensemble de type

⋂ _n U _n (ensemble Π ⁰ ₂ ) qui soit effectivement de mesure nulle, c’est ` a dire avec λ (U _n ) ≤ 2 ⁻ⁿ ,

pour tout n. On peut v´ erifier que la notion de mesure s’´ etend bien de mani` ere naturelle

aux ensembles Π ⁰ ₂ comme ´ etant cette fois-ci l’infimum de la mesure sur les intersections

des i premiers ouverts du Π ⁰ ₂ , pour tout i (une intersection finie d’ouverts ´ etant toujours

un ouvert). Formellement on a λ(⋂ _n U _n ) = inf _{i∈ N} λ (U ₁ ∩ ⋅ ⋅ ⋅ ∩ U _i ) . On peut ´ egalement

v´ erifier que la mesure ainsi d´ efinie est ind´ ependante de la mani` ere dont est pr´ esent´ e le

Π ⁰ ₂ . On peut ´ etendre de la mˆ eme mani` ere cette notion de mesure ` a tout ensemble de la hi´ erarchie d´ efinie dans la section pr´ ec´ edente, et v´ erifier que cette mesure respecte toujours l’id´ ee intuitive de ce que doit ˆ etre une mesure : si A ₁ , A ₂ , A ₃ , . . . est une suite d´ enombrable d’ensembles deux ` a deux disjoints, sur lesquels la mesure est d´ efinie, alors la mesure est d´ efinie sur leur union et on a λ (A <sub>1</sub> ∪ A <sub>2</sub> ∪ A <sub>3</sub> ∪ . . . ) = λ (A <sub>1</sub> ) + λ (A <sub>2</sub> ) + λ (A <sub>2</sub> ) . . . . En particulier l’union de tous les ensembles Π <sup>0</sup> <sub>2</sub> et effectivement de mesure nulle, est lui aussi un ensemble de mesure nulle, et le compl´ ementaire de cette union, c’est ` a dire l’ensemble des suites Martin-L¨ of al´ eatoires, un ensemble de mesure 1. Il y a en un certain sens ‘beaucoup plus’ de suites al´ eatoires que de suites ‘non al´ eatoires’. Pourtant toute tentative de donner une description pr´ ecise (` a l’aide d’un programme informatique) d’une suite al´ eatoire est impossible, car une descripion trop pr´ ecise permettrait de ‘l’enfermer’

dans un ensemble Π ⁰ ₂ ‘petit’, c’est ` a dire effectivement de mesure nulle. Les suites al´ eatoires sont donc des suites sur lesquelles on ne peut rien dire de pr´ ecis, et elles se trouvent ˆ etre la majorit´ e des suites.

De nombreuses autres variantes d’al´ eatoirit´ e ont ´ et´ e ´ etudi´ ees depuis, et Martin-L¨ of lui-mˆ eme proposa une autre d´ efinition dans [59], beaucoup plus forte, o` u cette fois-ci les ensembles de mesure nulle, capturant les suites non al´ eatoires, peuvent ˆ etre d´ ecrits avec la puissance des calculabilit´ es d’ordre sup´ erieur que nous abordons ` a pr´ esent.

Calculabilit´ es d’ordre sup´ erieur

Comme nous l’avons vu, la calculabilit´ e peut ˆ etre consid´ er´ ee comme une mani` ere de d´ ecrire certains objets infinis avec un nombre fini de mots, dans notre cas des programmes informatiques. C’est ensuite le temps de calcul qui permet de d´ erouler petit ` a petit cette description finie en un objet de plus en plus grand, qui est l’objet ainsi d´ ecrit. Comme l’avaient remarqu´ e les instigateurs de cette nouvelle science, en particulier G¨ odel et Turing, un tel syst` eme de description conduit ` a des d´ efinitions naturelles d’objets incalculables.

L’exemple le plus connnu est celui de l’arrˆ et des programmes informatiques : la suite infinie de 0 et de 1 telle que son n <sup>` eme</sup> bit est ´ egal ` a 1 si le n ^{` eme</sup> programme informatique s’arrˆ ete et son n <sup>` eme} bit est ´ egal ` a 0 sinon, n’admet pas de description calculable. Si un programme s’arrˆ ete on le saura toujours au bout d’un temps fini. Mais s’il ne s’arrˆ ete pas on ne le saura peut-ˆ etre jamais; intuitivement il nous faudrait en effet la possibilit´ e de v´ erifier que le programme ne s’arrˆ ete pas pour n’importe quel temps de calcul, ce qui implique une infinit´ e de choses ` a v´ erifier, et qui prendrait donc un temps de calcul infini.

Justement, les calculabilit´ es d’ordre sup´ erieur peuvent ˆ etre consid´ er´ ees comme utilisant les algorithmes usuels, mais permettant une infinit´ e d’´ etapes de calcul durant leur ex´ ecution. Que peut-on bien vouloir dire par l` a ? Si l’on s’autorise un temps de calcul infini, ne peut-on pas tout calculer ? Quel sens donner ` a la notion de temps de calcul infini ? Il y a deux approches possibles pour r´ epondre ` a ces questions. La premi` ere est probablement la meilleure en ce sens qu’elle est celle qui en dit le plus sur le sujet.

Elle serait malheureusement trop longue ` a exposer ici, et nous nous rabattrons donc sur la seconde, plus courte ` a expliquer.

On distingue les ´ etapes de calcul limites des ´ etapes de calcul successeurs. La mani` ere dont un programme informatique se comporte ` a une ´ etape de calcul successeur est identique ` a la mani` ere dont il se comporte pour la calculabilit´ e usuelle. Mais apr` es toutes les ´ etapes finies de calcul 0, 1, 2, . . . , on s’autorise une ´ etape de calcul limite, la premi` ere d’entre elles. A cette ´ etape en fait aucun calcul ne se passe, et c’est un peu comme si tout recommen¸ cait depuis 0, ` a ceci pr` es qu’on garde la m´ emoire de ce qui a

´ et´ e effectu´ e pr´ ec´ edemment. Concr` etement on peut imaginer qu’` a cette ´ etape, la valeur de

chaque bit de m´ emoire (m´ emoire que l’on suppose elle aussi infinie), est ´ egale ` a la valeur de convergence de la valeur de ce bit ` a chaque ´ etape de calcul pr´ ec´ edant cette ´ etape limite. C’est ` a dire que pour un bit donn´ e, si il existe un temps t tel que pour tout temps de calcul s sup´ erieur ` a t, la valeur de ce bit est de 1, alors au temps de calcul limite, la valeur de ce bit sera ´ egalement de 1. Il est ´ evidement possible que la valeur d’un bit ne converge pas, et qu’elle change en permanence avant l’´ etape limite. Dans ce cas la valeur du bit ` a l’´ etape limite revient ` a 0.

Ainsi apr` es la premi` ere ´ etape limite que nous notons ω, on poursuit le calcul normalement aux ´ etapes ω + 1, ω + 2, avec la m´ emoire de ce que l’on a fait pr´ ec´ edemment.

Arrive ensuite la deuxi` eme ´ etape limite ω + ω, et ainsi de suite. Mais o` u cela s’arrˆ ete-t-il, et au bout de ‘combien de temps’ (le ‘temps’ ici est ` a prendre dans un sens large...) d´ ecide-t-on qu’un calcul doit finalement s’arrˆ eter et donner sa r´ eponse ? Si un calcul ne s’arrˆ ete pas, il viendra bien un moment o` u on atteindra la premi` ere ´ etape limite d’´ etapes limites (appelons ces ´ etapes les ´ etapes 2-limites), puis la premi` ere ´ etape limite d’´ etapes limites d’´ etapes limites (les ´ etapes 3-limites), et ainsi de suite jusqu’` a la premi` ere ´ etape ω-limite, puis jusqu’` a la premi` ere ´ etape ω-limite d’´ etapes ω-limites, etc... On pourrait continuer ainsi longtemps, d’ailleurs sans jamais s’arrˆ eter. Il existe toutefois une borne

‘naturelle’ ` a toutes ces ´ etapes limites, que l’on appelle ´ etape limite ω <sub>1</sub> <sup>ck</sup> , et dont nous essayons ` a pr´ esent de donner une id´ ee informelle.

Les notions intuitives que nous venons de donner des ´ etapes limites et successeurs ont

´ et´ e imagin´ ees bien avant l’apparition de la calculabilit´ e, et ces notions sont plus connues sous les noms d’ordinaux limites et ordinaux successeurs. Il est ais´ e d’avoir une id´ ee intuitive de ce que sont les ordinaux en les construisant tout simplement, comme nous venons de le faire avec les premi` eres ´ etapes limites et successeurs d’un calcul infini. Aussi un ordinal peut ˆ etre vu de mani` ere plus abstraite comme un ordre entre divers ´ el´ ements et ayant certaines propri´ et´ es. Par exemple l’ordre usuel des entiers (0 < 1 < 2 < . . . ) repr´ esente ω, le plus petit ordinal limite, alors que l’ordre usuel des entiers pairs, suivi de l’ordre usuel des entiers impairs (c’est ` a dire 0 < 2 < 4 < ⋅ ⋅ ⋅ < 1 < 3 < 5 < . . . ) repr´ esente ω + ω, le deuxi` eme ordinal limite; et ` a l’int´ erieur de cette repr´ esentation, l’ensemble des entiers plus petits que 1 repr´ esente ω. Il est ais´ e d’imaginer de telles repr´ esentations pour des ordinaux de plus en plus grands, mais le lecteur s’adonnant ` a cet exercice s’apercevra qu’on finit forc´ ement par se perdre dans ces it´ erations d’infinis successifs. Aussi parlera- t-on d’ordinaux calculables pour les ordinaux que l’on peut repr´ esenter par un ordre sur les entiers, avec un programme informatique. C’est-` a-dire que pour un ordinal α, le programme en question doit pouvoir ´ enum´ erer petit ` a petit une liste de plus en plus grande de conditions de la forme n < m pour n et m deux nombres entiers, de telle mani` ere que l’ordre ainsi d´ efini repr´ esente l’ordinal α. On d´ efinit alors ω <sub>1</sub> <sup>ck</sup> comme ´ etant le plus petit ordinal non repr´ esentable de cette mani` ere. Mais quel type de programme informatique s’autorise-t-on pour repr´ esenter ces ordinaux ? Les programmes informatiques classiques

? o` u ceux qui peuvent justement s’ex´ ecuter en temps infini ? Un fait remarquable est que

cela n’a en fait pas d’importance. En effet ω ₁ ^ck est le plus petit ordinal non calculable par

un programme informatique au sens classique, mais c’est aussi le plus petit ordinal non

calculable par un programme informatique pouvant effectuer un nombre de calcul infini,

mais born´ e par ω ₁ ^ck lui mˆ eme (c’est ` a dire que le calcul doit s’arrˆ eter ` a un temps ordinal

α < ω ^ck ₁ , l’ordinal α pouvant ˆ etre choisi arbitrairement grand sous ω ₁ ^ck ). Cette propri´ et´ e

remarquable est une des raisons pour lesquelles ω ^ck ₁ est un candidat naturel pour borner

le temps de calcul de nos machines infinies.

Al´ eatoirit´ e d’ordre sup´ erieur

Nous abordons ` a pr´ esent le sujet de cette th` ese, qui se trouve au carrefour des trois notions explicit´ ees dans chacune des trois sections pr´ ec´ edentes. Dans cette th` ese, nous proposons une ´ etude des diverses notions d’al´ eatoirit´ e qui ont fait suite ` a la deuxi` eme d´ efinition de Martin-L¨ of, celle qui utilise les calculabilit´ es d’ordre sup´ erieur, et que nous esquissons ` a pr´ esent.

La notion d’ordinal calculable peut ˆ etre utilis´ ee pour continuer la hierachie descriptive des ensembles d´ ecrite plus haut. Ainsi les ensembles Σ ⁰ _ω sont les unions effectives d’ensembles Π ⁰ _n pour des entiers n arbitrairement grands, les ensembles Π ⁰ _ω leurs compl´ ementaires, les ensembles Σ ⁰ _ω+1 les unions effectives d’ensembles Π ⁰ _ω , et ainsi de suite. La notion de mesure peut ˆ etre ´ etendue ` a tous ces ensembles. Pour sa deuxi` eme d´ efinition d’al´ eatoirit´ e, Martin-L¨ of s’autorise cette fois-ci tous les ensembles Π ⁰ _α de mesure nulle, pour tout ordinal α < ω ^ck ₁ . Cette d´ efinition se trouve ˆ etre ´ equivalente ` a sa premi` ere d´ efinition, mais o` u l’on utiliserait cette fois-ci des programmes informatiques ` a temps de calcul infini, et born´ e par un ordinal α < ω ₁ ^ck , pour ´ enum´ erer les descriptions d’un ensemble ouvert (l’ordinal en question pouvant ˆ etre choisit arbitrairement, mais strictement plus petit que ω ₁ ^ck ).

Plusieurs autres notions d’al´ eatoirit´ e, encore plus fortes ont ´ et´ e d´ efinies. Par exemple la notion de Π ¹ ₁ -Martin-L¨ of al´ eatoirit´ e, similaire ` a la premi` ere notion d’al´ eatoire de Martin- L¨ of, mais o` u cette fois-ci on s’autorise un temps de calcul infini, et born´ e par ω <sub>1</sub> <sup>ck</sup> et non α < ω <sub>1</sub> <sup>ck</sup> . Une autre notion importante, et qui sera plus particuli` erement ´ etudi´ ee dans cette th` ese, est la notion de Π ¹ ₁ -al´ eatoirit´ e, que nous ne d´ eveloppons pas dans cette introduction.

R´ esum´ e de la th` ese

Nous commen¸cons cette section en expliquant avec pr´ ecision sur quoi porte la th` ese. Nous expliquons ensuite son contenu chapitre par chapitre, et nous terminons par un r´ esum´ e des contributions notables des travaux expos´ es ici.

Le sujet de th` ese

Danc cette th` ese, nous traitons principalement des notions d’al´ eatoirit´ e d’ordre sup´ erieur, notamment les notions de ∆ <sup>1</sup> <sub>1</sub> -al´ eatoirit´ e, de Π <sup>1</sup> <sub>1</sub> -Martin-L¨ of al´ eatoirit´ e, de Π <sup>1</sup> <sub>1</sub> -al´ eatoirit´ e faible, et de Π <sup>1</sup> <sub>1</sub> -al´ eatoirit´ e, en mettant plus particuli` erement l’accent sur cette derni` ere notion : la Π <sup>1</sup> <sub>1</sub> -al´ eatoirit´ e. L’´ etude de ces notions d’al´ eatoirit´ e soul` eve plusieurs probl´ ematiques. Nous essayons notamment de comprendre les similarit´ es et les diff´ erences entre toutes ces notions, mais aussi entre ces notions et les notions d’al´ eatoirit´ e classiques, largement ´ etudi´ ees ces quinze derni` eres ann´ ees.

Une diff´ erence importante entre les notions de calculabilit´ e/al´ eatoirit´ e d’ordre sup´ erieur et les notions de calculabilit´ e/al´ eatoirit´ e classique est de nature topologique.

Aussi avons-nous concentr´ e nos efforts sur trois des ph´ enom` enes ` a travers lesquels cette diff´ erence s’exprime : dans la notion de calcul, dans la notion d’al´ eatoire relatif, et dans la notion d’approchabilit´ e.

Nous soulignons ´ egalement les liens ´ etroits entre la notion d’al´ eatoirit´ e et celle de

g´ en´ ericit´ e, que l’on peut consid´ erer comme une version cat´ egorique (au sens de Baire)

de l’al´ eatoirit´ e. Pour cette raison, nous ´ etudions aussi la cat´ egoricit´ e effective d’ordre

sup´ erieur et nous mettons en avant les diff´ erences et similarit´ es qu’elle pr´ esente avec la notion d’al´ eatoirit´ e.

Structure de la th` ese

Nous d´ etaillons ici la structure de la th` ese, expliquant bri` evement le contenu de chaque chapitre.

Dans le premier chapitre nous d´ efinissons les notions de base sur l’espace de Cantor, l’espace de Baire, la calculabilit´ e et les ordinaux. Nous faisons ensuite une ´ etude d´ etaill´ ee des ordinaux calculables, que nous utilisons ensuite pour ´ etudier les hi´ erarchies bor´ eliennes effective et non effective dans l’espace de Baire. Nous menons ensuite une

´ etude similaire de la hi´ erarchie de Kleene des ensembles d’entiers, ´ etablissant par la suite les connexions entre la hi´ erarchie bor´ elienne effective et celle de Kleene. Nous terminons ce chapitre par quelques notions de base sur les mesures (afin d’´ etudier l’al´ eatoirit´ e) et sur les cat´ egories de Baire (afin d´ etudier la g´ en´ ericit´ e).

Dans le deuxi` eme chapitre, nous pr´ esentons l’al´ eatoire algorithmique, ` a travers la notion principale du domaine : l’al´ eatoirit´ e au sens de Martin-L¨ of ; puis nous it´ erons cette notion ` a travers la hi´ erarchie bor´ elienne effective, pour obtenir une hi´ erarchie de notions d’al´ eatoirit´ e. Enfin nous proc´ edons de la mˆ eme mani` ere pour la notion de g´ en´ ericit´ e, avant d’expliquer en quoi les notions d’al´ eatoirit´ e et de g´ en´ ericit´ e sont similaires.

Dans le troisi` eme chapitre nous posons les bases de la calculabilit´ e d’ordre sup´ erieur.

Nous commen¸cons par d´ efinir et ´ etudier les notions d’ensembles Σ ¹ ₁ , Π ¹ ₁ et ∆ ¹ ₁ . Nous d´ efinissons et ´ etudions ensuite le nombre O de Klenne, l’ensemble des codes d’ordinaux constructifs, qui sera central tout au long de la th` ese. Nous expliquons ensuite en quoi la notion d’ˆ etre Π <sup>1</sup> <sub>1</sub> est l’analogue d’ordre sup´ erieur de la notion - centrale en calculabilit´ e - d’ˆ etre Σ <sup>0</sup> <sub>1</sub> . Nous terminons enfin par une introduction des diff´ erentes notions de base d’al´ eatoirit´ e d’ordre sup´ erieur, en insistant plus particuli` erement sur celle de Π ¹ ₁ -Martin-L¨ of al´ eatoirit´ e, l’analogue d’ordre sup´ erieur de la principale notion d’al´ eatoirit´ e de la th´ eorie classique.

Dans le quatri` eme chapitre nous ´ etudions les probl` emes issus des diff´ erences topologiques entre calculabilit´ e/al´ eatoirit´ e d’orde sup´ erieur, et calculabilit´ e/al´ eatoirit´ e classique. Nous d´ efinissons la nouvelle notion de r´ eduction Turing d’ordre sup´ erieur, dans le but de conserver la puissance descriptive que nous conf` ere la r´ eduction hy- perarithm´ etique, tout en pr´ eservant la continuit´ e inh´ erente aux r´ eductions Turing classiques. Nous ´ etudions ensuite le comportement de cette nouvelle r´ eduction sur divers types d’´ el´ ements, notamment les ´ el´ ements ‘suffisamment’ al´ eatoires ou ‘suffisamment’

g´ en´ eriques. Puis nous d´ efinissons une nouvelle fa¸ con de relativiser ` a un oracle, diverses

notions relatives ` a l’al´ eatoirit´ e d’ordre sup´ erieur, afin encore une fois de pr´ eserver la

continuit´ e des relativisations classiques tout en gardant la puissance descriptive des

relativisations d’ordre sup´ erieur. Nous utilisons cette nouvelle notion pour prouver

un analogue d’ordre sup´ erieur de deux th´ eor` emes importants de la th´ eorie classique :

Le th´ eor` eme XYZ et le th´ eor` eme de van Lambalgen. Enfin nous d´ efinissons plusieurs

restrictions ` a la notion d’approchabilit´ e d’ordre sup´ erieur, toujours dans le but de

pr´ eserver la continuit´ e des approximations classiques. Pour finir nous utilisons toutes

les notions pr´ ec´ edemment introduites pour d´ efinir les notions de ‘low-for-hK’ et base

pour Π ¹ ₁ -Martin-L¨ of al´ eatoirit´ e, puis nous d´ emontrons leur ´ equivalence avec les notions

d’hK-trivialit´ e.

Dans le cinqui` eme chapitre nous ´ etudions de nouvelles notions d’al´ eatoirit´ e d’ordre sup´ erieur, par analogie avec les notions d’al´ eatoirit´ e classique. Nous d´ efinissons ainsi la diff´ erence-al´ eatoirit´ e d’ordre sup´ erieur, la Π ¹ ₁ -Martin-L¨ of [ O ] -al´ eatoirit´ e et la Π ¹ ₁ - al´ eatoirit´ e faible. Nous d´ emontrons toutes les implications et non implications entre ces diff´ erentes notions, et nous s´ eparons notamment la notion de Π ¹ ₁ -al´ eatoirit´ e faible de celle de Π ¹ ₁ -al´ eatoirit´ e. Afin de s´ eparer les deux notions, nous utilisons une des restriction de la notion d’approchabilit´ e d’ordre sup´ erieur : la notion d’approchabilit´ e

‘self-unclosed’. Nous terminons ce chapitre par une ´ etude d’´ etaill´ ee des diff´ erentes notions d’approchabilit´ e.

Dans le sixi` eme chapitre nous ´ etudions les notions de Π ¹ ₁ -al´ eatoirit´ e et la notion similaire de Σ ¹ ₁ -g´ en´ ericit´ e. Nous commen¸ cons par d´ emontrer que la complexit´ e bor´ elienne de l’ensemble des suites Π ¹ ₁ -al´ eatoires est exactement Π ⁰ ₃ . Nous utilisons ce r´ esultat pour donner trois autres d´ efinitions de la notion de Π ¹ ₁ -al´ eatoirit´ e. Nous introduisons ensuite une nouvelle hi´ erarchie de complexit´ e effective des ensembles, et nous d´ emontrons que la Π ¹ ₁ -al´ eatoirit´ e co¨ıncide avec la Π ^ω

ck 1

4 -al´ eatoirit´ e de cette hi´ erarchie. Nous montrons aussi que l’ensemble des Π ¹ ₁ -al´ eatoires est au niveau Π ^ω ₅

de cette hi´ erachie (donnant donc une autre mani` ere de caract´ eriser l’ensemble des suites Π <sup>1</sup> <sub>1</sub> -al´ eatoires). Nous d´ emontrons ensuite qu’un ´ el´ ement non trivial (non ∆ <sup>1</sup> <sub>1</sub> ) “d´ e-al´ eatoirise” toujours un ´ el´ ement Π <sup>1</sup> <sub>1</sub> - al´ eatoire, r´ epondant ainsi ` a une question ouverte de Hjorth et Nies (voir [30]). Nous d´ efinissons et ´ etudions ´ egalement plusieurs notions de genericit´ e d’ordre sup´ erieur, en montrant les similarit´ es et les diff´ erences avec les notions d’al´ eatoirit´ e d’ordre sup´ erieur.

Nous terminons ce chapitre par une caract´ erisation de la complexit´ e bor´ elienne de l’ensemble { X ∶ ω ₁ ^X > ω ₁ ^ck } , en utilisant le forcing de Steel.

Dans le septi` eme chapitre, nous ´ etudions les probl` emes issus du fait de forcer la con- tinuit´ e dans les calculs d’ordre sup´ erieur ou dans la relativisation de notions d’ordre sup´ erieur. Nous s´ eparons notamment la notion de r´ eduction Turing d’ordre sup´ erieur de celle de r´ eduction fin-h. Nous d´ emontrons ensuites que pour certains oracles, il n’existe pas de de test Π ¹ ₁ -Martin-L¨ of universel relatif ` a ces oracles. Nous d´ emontrons ensuite malgr´ e tout que pour tout oracle, il existe une suite Π <sup>1</sup> <sub>1</sub> -Martin-L¨ of al´ eatoire relative ` a cet oracle, qui est ‘approchable par la gauche’ relativement ` a l’oracle. Nous finissons par une ´ etude des oracles pour lesquels la relativisation continue se passe bien, notamment les oracles ‘self-unclosed’, et dans une certaine mesure, les oracles Π ¹ ₁ -Martin-L¨ of al´ eatoires.

Principales contributions

Nous d´ etaillons ici les principaux r´ esultats originaux de cette th` ese :

ˆ La contribution la plus importante de cette th` ese est sans doute une meilleure compr´ ehension de l’ensemble des suites Π <sup>1</sup> <sub>1</sub> -al´ eatoires, d´ efinies implicitement par Kechris dans [33] qui prouva l’existence d’un plus grand ensemble Π <sup>1</sup> <sub>1</sub> de mesure nulle, ´ etudi´ ees ensuite par Sacks, puis plus tard par Hjorth et Nies dans [30] qui entam` erent l’´ etude proprement dite des ´ el´ ements n’´ etant pas dans cet ensemble : les Π ¹ ₁ -al´ eatoires. Cette ´ etude fut poursuivie par Chong, Nies et Yu dans [7], puis par Chong et Yu dans [8]. Due ` a sa nature universelle, l’ensemble des Π ¹ ₁ -al´ eatoires

´

etait conjectur´ e par beaucoup comme ayant une grande complexit´ e bor´ elienne. Nous d´ emontrons dans cette th` ese que celle-ci est au contraire relativement basse : Π ⁰ ₃ (voir Corollaire 6.1.1). Nous utilisons ensuite ce r´ esultat pour mener une ´ etude d´ etaill´ ee de cet ensemble, notamment :

– Nous r´ esolvons par l’affirmative, la question ouverte depuis plusieurs ann´ ees

(voir [30] et question 9.4.11 de l’ouvrage de r´ ef´ erence [70]), de savoir si seules les suites ∆ ¹ ₁ sont ‘low’ pour la Π ¹ ₁ -al´ eatoirit´ e.

– Nous d´ emontrons qu’une suite Π ¹ ₁ -Martin-L¨ of al´ eatoire n’est pas Π ¹ ₁ -al´ eatoire si et seulement si elle calcule une suite Π ¹ ₁ non triviale (non ∆ ¹ ₁ ).

– Nous s´ eparons la notion de Π ¹ ₁ -al´ eatoirit´ e d’une notion d’al´ eatoire encore mal comprise dans l’ordre sup´ erieur (contrairement ` a son analogue classique) : avoir infiniment souvent un pr´ efixe de complexit´ e maximale (voir Corollaire 6.2.1).

– Nous donnons deux autres notions de tests pour la Π ¹ ₁ -al´ eatoirit´ e (voir Th´ eor` eme 6.3.2 et Th´ eor` eme 6.3.3).

ˆ Un autre r´ esultat important et contribuant toujours ` a une meilleure compr´ ehension de l’ensemble des Π <sup>1</sup> <sub>1</sub> -al´ eatoires, est la s´ eparation de cette notion avec celle de Π <sup>1</sup> <sub>1</sub> - al´ eatoirit´ e faible (voir Th´ eor` eme 5.3.3). Nous jugeons ce r´ esultat important pour lui-mˆ eme, ainsi que pour sa d´ emonstration, qui a n´ ecessit´ e l’introduction d’une id´ ee nouvelle et prometteuse : les approximations ‘self-unclosed’.

ˆ Toujours afin de mieux comprendre l’ensemble des Π ¹ ₁ -al´ eatoires, nous avons in- troduit une nouvelle hi´ erarchie de complexit´ e, motiv´ ee par la d´ efinition de la Π ¹ ₁ - al´ eatoirit´ e faible, qui selon cette hi´ erarchie correspond ` a la notion de Π ^ω ₂

-al´ eatoirit´ e.

Nous d´ emontrons que l’ensemble des Π ¹ ₁ -al´ eatoires correspond ` a la notion de Π ^ω

ck 1

4 - al´ eatoirit´ e pour cette hi´ erarchie, et que les notions d’al´ eatoirit´ e s’effondrent au del` a de Π ^ω

ck 1

4 (voir Th´ eor` eme 6.4.3).

ˆ Un autre pan important de la th` ese est l’´ etude de la continuit´ e pour les r´ eductions d’ordre sup´ erieur et la relativisation des notions d’al´ eatoirit´ e d’ordre sup´ erieur. Cette

´

etude est principalement men´ ee dans le chapitre 4, puis dans le chapitre 7. Nous donnons ici les principaux r´ esultats relatifs ` a chacun de ces chapitres :

– Dans le chapitre 4, nous d´ emontrons que l’on peut utiliser ces nouvelles notions pour ´ enoncer et d´ emontrer de nombreux th´ eor` emes analogues ` a ceux que l’on trouve en al´ eatoirit´ e classique. Notamment le th´ eor` eme XYZ, le th´ eor` eme de van Lambalgen (voir Th´ eor` eme 4.3.3 et Th´ eor` eme 4.3.5). Nous montrons aussi que les ´ equivalences entre les notions de K-trivialit´ e, low-for-K et base for ran- domness peuvent ˆ etre d´ efinies pour l’al´ eatoirit´ e d’ordre sup´ erieur et coincident (voir Th´ eor` eme 4.5.3 et Th´ eor` eme 4.5.4).

– Dans le chapitre 7, nous ´ etudions les oracles pour lesquels la relativisation d’ordre sup´ erieur continue et/ou la r´ eduction Turing d’ordre sup´ erieur, posent des probl` emes. Nous s´ eparons notamment les notions de r´ eduction Turing d’ordre sup´ erieur et de r´ eduction fin-h. Nous d´ emontrons ´ egalement que pour certains oracles, il n’existe pas de notion de test Π <sup>1</sup> <sub>1</sub> -Martin-L¨ of universel, con- tinument relatif ` a cet oracle. Nous d´ emontrons ensuite malgr´ e tout que pour tout oracle A, il existe une suite Π ¹ ₁ -Martin-L¨ of al´ eatoire continument relative- ment ` a A, qui est ‘approchable par la gauche’ continument relativement ` a A.

Nous finissons par une ´ etude des oracles pour lesquels la relativisation con- tinue se passe bien, notamment les oracles ‘self-unclosed’, et dans une certaine mesure, les oracles Π ¹ ₁ -Martin-L¨ of al´ eatoires.

ˆ Nous menons une ´ etude circonstanci´ ee des diff´ erentes restrictions de la notion

d’approchabilit´ e (higher ∆ ⁰ ₂ ) dont l’approchabilit´ e self-unclosed, utilis´ ee pour

s´ eparer la Π ¹ ₁ -al´ eatoirit´ e de la Π ¹ ₁ -al´ eatoirit´ e faible. Cette ´ etude est d’abord men´ ee

dans la section 4.4 o` u l’on d´ egage les principales notions, du moins celles qui sont

utilis´ ees au sein d’autres th´ eor` emes. Une ´ etude plus approfondie est ensuite men´ ee dans la section 5.4 o` u l’on ´ etudie ces notions pour elles-mˆ emes, notamment en prouvant qu’elles sont toutes diff´ erentes (voir Section 5.4.6 pour un r´ esum´ e).

ˆ Nous contribuons aussi ` a une meilleure compr´ ehension de la Π <sup>1</sup> <sub>1</sub> -al´ eatoirit´ e faible, et notamment des diff´ erences entre cette notion et son analogue classique : la 2-al´ eatoirit´ e faible. Nous mettons en particulier en ´ evidence qu’une notion de test correspondant ` a la 2-al´ eatoirit´ e faible dans le cas classique, a un analogue d’ordre sup´ erieur distinct de la Π ¹ ₁ -al´ eatoirit´ e faible, donnant lieu ` a une autre notion d’al´ eatoirit´ e : la Π <sup>1</sup> <sub>1</sub> -Martin-L¨ of[ O ] al´ eatoirit´ e (voir Section 5.2). Nous identifions la restriction n´ ecessaire sur la notion de Π <sup>1</sup> <sub>1</sub> -Martin-L¨ of[ O ] al´ eatoirit´ e, afin de garder l’´ equivalence avec la Π <sup>1</sup> <sub>1</sub> -al´ eatoirit´ e faible (voir Th´ eor` eme 5.3.2).

ˆ Nous d´ efinissons et ´ etudions plusieurs notions de g´ en´ ericit´ e d’ordre sup´ erieur. Nous identifions notamment les similarit´ es et les diff´ erences avec les notions d’al´ eatoirit´ e d’ordre sup´ erieur (voir Section 6.6). Nous montrons en particulier que de mani` ere inattendue, la notion de Σ <sup>1</sup> <sub>1</sub> -g´ en´ ericit´ e faible coincide avec la notion de Σ <sup>1</sup> <sub>1</sub> -g´ en´ ericit´ e forte (contrairement aux notions analogues d’al´ eatoirit´ e, voir Th´ eor` eme 6.6.4).

ˆ Nous menons dans la section 1.6 une ´ etude originale des ensembles Σ ⁰ _α -complets, par le biais des ensembles de codes d’ordinaux calculables.

ˆ Nous donnons une preuve que la complexit´ e bor´ elienne de l’ensemble { X ∶ ω ^X ₁ > ω ₁ ^ck } est exactement Σ ⁰ _ω

1

+2 . La preuve en question, dont les grandes lignes ont ´ et´ e

esquiss´ ees dans [88] est due ` a Steel, toutefois comme elle n’a jamais ´ et´ e ´ ecrite

compl` etement, et qu’elle est loin d’ˆ etre ´ evidente (et qu’il s’agit d’un tr` es beau

r´ esultat), nous avons jug´ e important d’en ´ ecrire les d´ etails ici (voir Section 6.7).

Introduction

This document is a thesis report resulting from three years of research under Laurent Bienvenu’s supervision. We start with a gentle introduction to the mathematical fields that we deal with here. We then give a detailed summary of the thesis and its main contributions.

Higher randomness and computability

This thesis contributes to three fields of research which are connected to one another in many ways: effective randomness, higher computability and effective descriptive set theory. We first give an introduction to each of these fields, trying to explain the interest of their joined study. These explanations will naturally lead to the questions we will be dealing with all along the report.

Effective descriptive set theory

We only sketch here a few ideas on the very beginning of descriptive set theory, this field extending way beyond than what is presented here. As its name suggests, descriptive set theory studies... sets, with respect to their... description. The sets we consider here are all subsets of one of the simplest spaces in mathematics: the space of infinite sequences of 0’s and 1’s, denoted by 2 ^ω , and we will focus our interest on the subsets of 2 ^ω which are, informally, simple to describe:

Let us consider a string, that is, a finite sequence of 0’s and 1’s, for instance:

01001010. The set of sequences of 2 ^N starting with 01001010 can be described by the string 01001010 itself. Those sets will be called intervals, and given a string σ, the corresponding interval will be denoted by [ σ ] . Let us now increase the difficulty and consider the so called open sets, that is, countable unions of intervals.

Each interval is clearly easy to describe, but the task might be much more complicated for an open set: Indeed, such a set is built with infinitely many intervals. Some open sets remain however simple to describe. For example it is easy to describe the set of even numbers (despite the fact that there are infinitely many of them), and it then follows that it is just as easy to describe the open set being the union of the intervals [ 0 ^p ˆ1 ] for all even numbers p; where 0 ^p ˆ1 denotes the string starting with p times the bit 0 followed by the bit 1. On the contrary, other open sets are ‘inaccessible’, due to their infiniteness, and it is impossible to describe them with finitely many words;

the same being true for some sets of integers. We shall come back to this in a few

paragraphs. For now we care only about the ‘shape’ of a set, without making any further

distinctions. Also we emphasize that any open set has a very simple ‘shape’: it is merely

a union of intervals. We continue our study by increasing the ‘shape complexity’ once more.

It is clear that given an open set U , one can easily define its complement: ‘the set of sequences which are not in U ’. The complement of an open set will be called a closed set. The distinction between open sets and closed sets is legitimate, it is indeed easy to build closed sets which cannot be described as a union of intervals, or which do not even contain a single interval. We give here an example using the notion of measure, that we will detail in the next section: Let us consider a list { σ _i } _i∈

N of all the strings and then, an interval of measure 1/4 containing the sequence σ ₀ ˆ0 ^∞ (where 0 ^∞ is the sequence of infinitely many 0’s), an interval of measure 1 / 8 containing the sequence σ 1 ˆ0 ^∞ , etc...

The union of all those intervals is a set of measure at most 1 / 4 + 1 / 8 + ⋅ ⋅ ⋅ = 1 / 2. Also the complement of this union is a closed set which is non-empty (as it has measure at least 1 / 2) and which contains no interval [ τ ] because the sequence τ ˆ0 ^∞ belongs to its complement. Now, what about countable unions of closed sets?

We can continue to define more and more complicated classes of sets by considering countable unions of sets of the previously defined class, and their complement, leading to a new class of sets which is one step more complex than the previous one. For instance the countable unions of closed sets are in a new class of sets, intuitively more complex than the open sets and their complements.

In order to study those classes of sets in good conditions, we now give a name to each of them. The class of open sets will be the class of Σ ⁰ ₁ sets. The class of closed sets will be the class of Π ⁰ ₁ sets. Then for any integer n, the class of countable unions of Π ⁰ _n sets will be the class of Σ ⁰ _{n + 1} sets, and their complement will be the class of Π ⁰ _{n + 1} sets.

This hierarchy deals with the ‘shape complexity’ of sets, which is part of pure descriptive set theory. We will now introduce effective descriptive set theory, which is a refinement of the classes of complexity we just defined. We gave above the example of the open set built as the union of the intervals [ 0 ^p ˆ1 ] for p even. This open set is very simple to describe accurately (we just gave an accurate description of it). What about the open set which equals the union of intervals [ 0 ⁿ ˆ1 ] for every n such that

‘head’ is the n-th outcome of infinitely many coin tossing that the reader should perform, starting from now? We feel of course swindled by this definition: it seems that we did not describe much of this open set, because its elements depend on the result of infinitely many upcoming coin tossing; and how could we know those results in advance?

We will come back on this in the next section. For now we simply emphasize the difference between those two open sets, the first one accurately definable and the second one, elusive and whose ‘existence’ is not even clear. The general idea is to make a distinction between the open sets we can accurately define with a finite number of words and the others. Computability is a suitable (in particular paradox-free) and natural framework to pursue this goal. Also an open set will be considered ‘simple to describe’ - we will say effective - if there is a computer program, that is, a finite list of instructions, which enumerates intervals whose growing union converges to the open set.

We are now only interested in the effective open sets, leaving the others aside. We

say that a set U is Σ ⁰ ₁ if it is open and if there is a computer program enumerating a list

of strings σ ₁ , σ ₂ , . . . such that U = ⋃ _n [ σ _n ] . Such a program can be seen as a description

of the set U . We continue inductively: The Π ⁰ ₁ sets are the complements of the Σ ⁰ ₁ sets

and have the same description as that of their complement. We continue inductively by

defining for every n the Σ ⁰ _n+1 sets as the effective unions of Π ⁰ _n sets, that is, for a Σ ⁰ _n+1 set