Section II. Hypothèses de la recherche
A. L’hypothèse de l’analyse néo-institutionnelle du droit
2. La nature autopoïétique de l’ordre juridique institutionnel
123. L’analyse néo-institutionnelle du droit complète l’analyse institutionnelle classique en pro- posant de concevoir l’ordre juridique institutionnel comme un ordre juridique autopoïétique (b) suivant les principes de la théorie autopoïétique du droit (a).
a. La théorie autopoïétique du droit
124. La théorie autopoïétique du droit est une théorie du droit récente. Elle fournit un cadre d’analyse permettant d’envisager le droit en tant que système autoréférentiel, ce qui permet de respecter l’autonomie du système juridique (i). Cependant, elle a également pour vocation d’expliquer les rapports entre le droit et le reste du système social, et dégage alors les clés permet- tant de conceptualiser la communication du droit avec son environnement (ii).
376 ARCHAMBAULT P., « Préface », in M. HAURIOU., Aux sources du droit. Le pouvoir, l’ordre et la liberté, Cahiers de la
nouvelle journée, n°23, Paris, Librairie Bloud & Gay, 1925, p. 6 ; Adde HECQUARD-THÉRON M., Essai sur la notion de réglementation, Paris, LGDJ, « Bibliothèque de droit public », 1977, tome CXXVI, p. 124 ; Adde MARTY G., « La
théorie de l’institution », op. cit., p. 31 ; Adde MILLARD E., « Hauriou et la théorie de l’institution », article précité, pp. 386-387.
377 HAURIOU M., « L’institution et le droit statutaire », op. cit., pp. 135-136 ; Adde HAURIOU M., Précis de droit admi-
nistratif et de droit public, op. cit., p. 8.
378 HAURIOU M., « La théorie de l’institution et de la fondation (Essai de vitalisme social) », op. cit., p. 96.
379 Ibid., pp. 97-98 et p. 102 ; Adde TANGUY Y., « L’institution dans l’œuvre de Maurice Hauriou. Actualité d’une
doctrine », RDP, 1991, p. 67 ; Adde MILLARD E., « Hauriou et la théorie de l’institution », article précité, p. 393.
380 MARTY G., « La théorie de l’institution », op. cit., p. 31 ; Adde TANGUY Y., « L’institution dans l’œuvre de Mau-
65
i. L’auto-référentialité du droit
125. L’utilisation du terme autopoïèse, issu de la cybernétique et de la biologie, désigne un pro- cessus d’autoreproduction381. Son utilisation en droit suppose que lui soit trouvé un fondement
propre aux sciences sociales382. Celui-ci se trouve, selon Luhmann, dans le processus d’évolution
des sociétés383 et notamment le phénomène de différenciation fonctionnelle384, c’est-à-dire que la
vocation d’un système autopoïétique est de réduire la complexité du monde par la différenciation et la spécialisation de ce système385.
Tous les systèmes étant spécialisés, ils se caractérisent, d’une part, par leur focalisation sur des problèmes spécifiques, et d’autre part, par une indifférence s’agissant des autres problèmes386.
Cette spécialisation fonctionnelle se traduit par la détermination de solutions élaborées en fonc- tion d’un code binaire correspondant à leur fonction, c’est-à-dire, s’agissant du droit, le code lé- gal/illégal387. Le droit a en effet pour fonction de déterminer les attentes de comportement dites
normatives, par opposition aux attentes de comportement dites cognitives, celles-ci se différen- ciant par leur maintien ou non en cas de déception388.
126. L’existence de ce codage va permettre de considérer le droit comme un système, c'est-à- dire, au-delà de la polysémie de ce concept389, et pour en adopter une définition tout à fait mini-
male, comme un ensemble caractérisé par l’unité390. En effet, le codage va assurer deux fonctions
corollaires. D’une part, il va établir la clôture du système à l’endroit de son environnement. D’autre part, il va assurer la cohérence interne du système391.
En premier lieu, le système est caractérisé par une clôture normative392. Seules les com-
munications susceptibles d’être traitées selon le code légal/illégal pourront être prises en charge
381 V., pour un historique de la naissance de cette notion dans ces disciplines, ROTTLEUTHNER H., « Les méta-
phores biologiques dans la pensée juridique », in F. Terré (dir.), Archives de philosophie du droit, Le système juridique, Tome 31, Paris, Sirey, 1986, pp. 215-244.
382 LUHMANN N., « Le droit comme système social », in A.-J., Arnaud, P. Guibentif (dirs.), Niklas Luhmann observa-
teur du droit, Paris, LGDJ, « Droit et société », 1993, p. 58.
383 LUHMANN N., « Le droit comme système social », op. cit., pp. 68-70.
384 Niklas Luhmann, in « Die Moderne moderner Gesellschatfen », cité in GUIBENTIF P., « Introduction », in A.-J.,
Arnaud, P. Guibentif (dirs.), Niklas Luhmann observateur du droit, Paris, LGDJ, « Droit et société », 1993, p. 14.
385 LUHMANN N., « Le droit comme système social », op. cit., p. 59 ; Adde GARCIA AMADO J. A., « La société et
le droit chez Luhmann », in A.-J., Arnaud, P. Guibentif (dirs.), Niklas Luhmann observateur du droit, Paris, LGDJ, « Droit et société », 1993, pp. 108-109.
386 GARCIA AMADO J. A., « La société et le droit chez Luhmann », op. cit., p. 110. 387 LUHMANN N., « Le droit comme système social », op. cit., p. 61.
388 FRYDMAN B., « Les nouveaux rapports entre droit et économie : trois hypothèses concurrentes », op. cit., p. 29 ;
Adde GARCIA AMADO J. A., « La société et le droit chez Luhmann », op. cit., p. 133.
389 GRZEGORCZYK C., « Évaluation critique du paradigme systémique dans la science du droit », in F. Terré (dir.),
Archives de philosophie du droit, Le système juridique, Tome 31, Paris, Sirey, 1986, pp. 281-301.
390 LUHMANN N., « L’unité du système juridique », in F. Terré (dir.), Archives de philosophie du droit, Le système juridique,
Tome 31, Paris, Sirey, 1986, pp. 163-165.
391 LUHMANN N., « Le droit comme système social », op. cit., p. 61.
392 LUHMANN N., « Clôture et couplage », in A.-J., Arnaud, P. Guibentif (dirs.), Niklas Luhmann observateur du droit,
66
par le système, tandis que celles ne le pouvant pas en seront exclues393.
En second lieu, le système devient alors autoréférentiel, c'est-à-dire qu’il se caractérise par un état de reproduction et de stabilisation permanente selon un processus circulaire394. Dès lors,
la validité du droit ne peut qu’être, elle aussi, autoréférentielle, c’est-à-dire que c’est le système juridique qui détermine lui-même sa propre validité, en somme que ce sont les normes qui déter- minent la validité des autres normes395.
127. La théorie autopoïétique du droit conçoit donc le système juridique comme un système autoréférentiel, ce qui permet de garantir l’autonomie du système juridique. Cela n’empêche ce- pendant pas cette théorie d’être ouverte sur l’environnement du droit, conformément aux sou- haits de son créateur, lequel attachait une importance fondamentale à l’interdisciplinarité396.
ii. La communication du droit avec son environnement
128. La clôture normative du droit ne signifie pas que celui-ci se trouve coupé de son environ- nement397. Cependant, dans la mesure où le système juridique exploserait sous la pression de
l’environnement s’il n’était pas clos normativement398, la prise en compte de l’environnement doit
être prévue par les structures du système elles-mêmes399, c’est-à-dire qu’elle doit s’analyser en
termes de communication et non en termes d’intrusion. De ce point de vue, le système ne peut communiquer avec les autres sous-systèmes sociaux que par le biais de ce que la théorie autopoïé- tique du droit nomme couplages structurels400.
Le concept de couplage structurel vise des modes de liaison entre les différents systèmes établissant des relations et communications entre eux, qui peuvent être soit des concepts, soit des institutions401 parlant le langage de plusieurs sous-systèmes sociaux402. C’est par l’intermédiaire de
ces couplages structurels que le droit va recevoir des informations issues de l’environnement, avant que celles-ci ne soient retraitées par le système juridique403. En somme, il est nécessaire que
393 FRYDMAN B., « Les nouveaux rapports entre droit et économie : trois hypothèses concurrentes », op. cit., p. 30. 394 LUHMANN N., « L’unité du système juridique », op. cit., p. 168 ; Adde TEUBNER G., Le droit, un système autopoïé-
tique, Paris, PUF, « Les voies du droit », 1993, p. 29.
395 GARCIA AMADO J. A., « La société et le droit chez Luhmann », op. cit., pp. 137-138.
396 CLAM J., Droit et société chez Niklas Luhmann. La contingence des normes, Paris, PUF, « Droit, Éthique, Société », 1997,
p. 246.
397 LUHMANN N., « L’unité du système juridique », op. cit., pp. 167-168. 398 LUHMANN N., « Le droit comme système social », op. cit., p. 60. 399 Ibid., p. 64.
400 LUHMANN N., « Clôture et couplage », op. cit., p. 86. 401 Ibid.
402 WILLKE H., « Diriger la société par le droit ? », in F. Terré (dir.), Archives de philosophie du droit, Le système juridique,
Tome 31, Paris, Sirey, 1986, p. 193.
67
soit mise en place une traduction de la communication de l’environnement dans le code binaire du droit404.
129. De ce point de vue, Teubner a utilement complété la théorie de Luhmann en développant le concept de coévolution, qui désigne l’évolution simultanée de deux systèmes distincts par le biais d’une communication continue s’opérant par l’intermédiaire des couplages structurels exis- tant entre les deux systèmes405.
130. La théorie autopoïétique du droit fournit donc un cadre pertinent pour concevoir les rap- ports entre le droit et l’économie puisqu’elle permet une communication du droit avec son envi- ronnement tout en maintenant l’autonomie de celui-ci. De ce point de vue, elle semble progressi- vement s’imposer comme un cadre d’analyse majeur y compris pour les tenants du droit écono- mique406. On le constate surtout dans l’évolution de la pensée de Gérard Farjat, qui considère le
paradigme autopoïétique comme une voie médiane entre la domination du système juridique sur le système économique et la domination du système économique sur le système juridique407, et
trouve dans les autorités administratives indépendantes, considérées alors comme des institutions intersystémiques, une illustration de ce principe408.
131. Cependant, seule, la théorie autopoïétique du droit n’est pas suffisante pour expliquer la dynamique propre d’une catégorie juridique. En effet, si elle a vocation à expliquer le fonction- nement du système juridique et la façon dont celui-ci communique avec d’autres systèmes so- ciaux, elle ne permet pas de dégager la rationalité propre d’une catégorie juridique particulière. Pour ce faire, il est nécessaire d’avoir recours à la théorie de l’institution.
Dès lors, l’élaboration d’une définition de la régulation sur la base de l’étude des rapports entre le droit et la théorie économique doit être réalisée par l’utilisation, à la fois, de la théorie de l’institution et de la théorie autopoïétique du droit. Or, il apparaît que ces deux théories peuvent être combinées, ce qui permet de créer l’analyse néo-institutionnelle du droit.
b. Le renforcement de la théorie institutionnelle par la théorie autopoïétique du droit
132. Pour les institutionnalistes, la théorie d’Hauriou est moins un aboutissement qu’un point de départ à la recherche409. Ils estiment en effet que la théorie de l’institution doit être moderni-
404 FRYDMAN B., « Les nouveaux rapports entre droit et économie : trois hypothèses concurrentes », op. cit., pp. 31-
33.
405 TEUBNER G., Le droit, un système autopoïétique, op. cit., p. 29.
406 SUEUR J.-J., « Droit économique et méthodologie du droit », op. cit., p. 307 ; Adde BOY L., « Régulation et sécuri-
té juridique », op. cit., p. 346.
407 FARJAT G., « La notion de droit économique », op. cit., p. 47.
408 FARJAT G., Pour un droit économique, op. cit., pp. 26-41 et spécialement p. 29. 409 MILLARD E., « Hauriou et la théorie de l’institution », article précité, p. 385.
68
sée. Or, considérer l’ordre juridique institutionnel comme un ordre juridique autopoïétique est non seulement possible mais également souhaitable de ce point de vue.
133. En premier lieu, concevoir l’ordre juridique institutionnel comme un ordre juridique au- topoïétique est possible. En effet, la théorie de l’institution et la théorie autopoïétique du droit peuvent se combiner. Tout d’abord, elles considèrent toutes deux que les institutions ont voca- tion à prendre en charge une fonction sociale déterminée, et s’enracinent de ce point de vue dans la sociologie410. Ensuite, elles insistent ensemble sur la rationalité du système, fondée sur sa fonc-
tion, et sur l’autonomie de celui-ci vis-à-vis de l’extérieur, l’idée d’autoréférentialité de la théorie autopoïétique411 apparaissant très proche du principe posé par Hauriou selon lequel l’institution
« se fonde et s’équilibre elle-même objectivement »412 et ne peut être appréhendée « qu’à la condition de
l’enfermer rigoureusement dans le cercle de ses effets spécifiques »413. Enfin, ces théories ont la même concep-
tion des moyens de l’interaction du système vis-à-vis de l’environnement puisque le concept de couplage structurel ressemble à l’idée d’ « opérations à procédure » posée par Hauriou, qui désigne les règles de droit mises en œuvre afin de faire entrer dans l’institution les faits provenant de l’extérieur414. Dès lors, le recours à la théorie autopoïétique du droit apparaît comme une manière
pertinente et naturelle de moderniser la théorie de l’institution d’Hauriou.
134. En second lieu, concevoir l’ordre juridique institutionnel comme un ordre juridique auto- poïétique est souhaitable. Cela permet en effet de réconcilier, alors qu’Hauriou le rejetait415, la
théorie de l’institution et le positivisme juridique, conformément au souhait d’une certaine partie de la doctrine institutionnaliste416. Mais, surtout, c’est en termes de communication entre le droit
et le système économique que l’apport de l’analyse néo-institutionnelle est le plus significatif. En effet, la théorie autopoïétique du droit a été conçue, notamment, dans l’optique d’une communication entre les systèmes juridique et économique, Luhmann considérant l’économie
410 Comparer d’une part SFEZ L., Essai sur la contribution du doyen Hauriou au droit administratif français, op. cit., p. 147 et
MARTY G., « La théorie de l’institution », op. cit., p. 30 ; et d’autre part, CLAM J., Droit et société chez Niklas Luhmann.
La contingence des normes, op. cit., pp. 3-4.
411 Comparer avec LUHMANN N., « L’unité du système juridique », op. cit., p. 168 et TEUBNER G., Le droit, un système
autopoïétique, op. cit., p. 29.
412 HAURIOU M., Principes de droit public, Paris, Sirey, 1916, 2ème Ed., p. xvi et également, sous une forme quasi-
identique, p. 155.
413 HAURIOU M., Précis de droit administratif et de droit public, op. cit., p. 5.
414 HAURIOU M., « L’institution et le droit statutaire », op. cit., p. 151 ; Adde HAURIOU M., Principes de droit public,
op. cit., p. 136.
415 HAURIOU M., Précis de droit constitutionnel, Paris, Sirey, 1929, 2ème Ed., pp. 8-12 ; Adde TANGUY Y., «
L’institution dans l’œuvre de Maurice Hauriou. Actualité d’une doctrine », article précité, p. 65 ; Adde MILLARD E., « Hauriou et la théorie de l’institution », article précité, p. 389.
416 MILLARD E., « Hauriou et la théorie de l’institution », article précité, pp. 401-402 ; Adde CHEVALLIER J., « Droit,
ordre, institution », Droits, n°10, 1989, p. 2 ; Adde MACCORMICK N., WEINBERGER O., « Introduction », in N. MacCormick, O. Weinberger (dirs.), Pour une théorie institutionnelle du droit. Nouvelles approches du positivisme juridique, Paris, LGDJ, 1992, pp. 1-32 ; Adde WEINBERGER O., « Droit et connaissance du droit au regard du positivisme juri- dique institutionnaliste (PJI) », Droits, n°10, 1989, pp. 109-112.
69
comme un sous-système social dominant417. Pour cet auteur, le droit peut communiquer avec
l’économie dès lors que le système juridique a décidé de son activation en fonction de paramètres économiques418 par le biais de couplages structurels comme la propriété ou le contrat419. On peut
ainsi considérer que ces deux systèmes s’échangent un certain nombre de solutions, qui sont en- suite retraitées respectivement selon le code légal/illégal, pour le système juridique, ou selon le code efficient/inefficient, pour le système économique.
135. En définitive, considérer l’institution comme un ordre juridique autopoïétique permet de compléter utilement la théorie de l’institution d’Hauriou dans une optique de communication avec la théorie économique. La reconstruction de la catégorie juridique de régulation se fera donc par le biais de l’analyse néo-institutionnelle du droit, c’est-à-dire de l’étude des institutions juridiques conçues
comme des ordres juridiques autopoïétiques ordonnés à la réalisation d’une fonction sociale déterminée.
L’application de cette méthode spécifiquement juridique permet alors de mettre en œuvre une communication entre le droit et la théorie économique, et particulièrement l’une d’entre elles, la théorie économique néo-institutionnelle.
B. L’hypothèse de la communication de l’analyse néo-institutionnelle du droit et de