Algorithmes publics, transparence, et démocratie

HAL Id: hal-01966633

https://hal.archives-ouvertes.fr/hal-01966633

HAL is a multi-disciplinary open access archive for the deposit and dissemination of sci-entific research documents, whether they are pub-lished or not. The documents may come from teaching and research institutions in France or abroad, or from public or private research centers.

L’archive ouverte pluridisciplinaire HAL, est destinée au dépôt et à la diffusion de documents scientifiques de niveau recherche, publiés ou non, émanant des établissements d’enseignement et de recherche français ou étrangers, des laboratoires publics ou privés.

Sylvie Thoron

To cite this version:

Sylvie Thoron. Algorithmes publics, transparence, et démocratie. The Conversation, The Conversa-tion France, 2018. �hal-01966633�

1

Algorithmes publics, transparence, et démocratie

Université Paris-Est, LIPHA, UPEC 01/06/2018

Les algorithmes sont de formidables outils de gouvernance pour les administrations et semblent aujourd’hui inévitables. Nous voudrions montrer ici, à travers l’exemple de Parcoursup, qu’ils pourraient devenir aussi de puissants outils démocratiques. En janvier dernier, le gouvernement décidait de répondre à la forte contestation dont l’algorithme APB avait fait l’objet, par la mise en place hâtive de Parcoursup. Les mécontentements liés à APB avaient fini par se cristalliser autour du manque de transparence. Sans surprise, Parcoursup souffre des mêmes critiques, démultipliées du fait que chaque établissement contrôle à présent une partie du processus. Dans une tribune publiée au Monde en décembre 2016, le collectif académique Algocit auquel nous appartenons, prenait position en faveur de la transparence d’APB et notamment de la transparence de son cahier des charges. Notre position reste bien sûr inchangée en ce qui concerne Parcoursup et nous voulons ici, à titre personnel cette fois, préciser cette position et les conséquences que l’on doit en tirer pour la construction de ces algorithmes.

La substitution de Parcoursup à APB ne permettra pas de faire l’économie d’une réflexion sur les procédures de construction des algorithmes utilisés par les administrations. Et à l’ère de la république du numérique, cette réflexion doit prendre la forme d’un débat public. Les questions sont nombreuses. Par qui doivent être développés les algorithmes utilisés par les administrations ? Comment doivent-ils être développés ? Peut-on définir des principes qui encadreraient leur construction ? Leur fonctionnement ? Doit-on en particulier les rendre transparents ? Quelle forme pourrait prendre cette transparence ? L’intention n’est pas ici de répondre à toutes ces questions mais d’éclairer la toile de fond du débat. Il nous semble en effet nécessaire de montrer que les réponses qui seront proposées dépendront de la conception que l’on se fait de la démocratie.

1. Trois conceptions de la démocratie

Les théories modernes de la démocratie nous aident à comprendre ces différentes conceptions telles qu’elles se sont renouvelées et développées depuis la deuxième guerre mondiale (pour une synthèse voir par exemple Girard et Le Goff 2010). Les théories économiques de la démocratie et les théories du choix social en particulier se sont développées dans un cadre purement rationnel où les électeurs ont des préférences fixes et où la politique est un jeu concurrentiel. Ainsi Duncan Black (1948) considère un jeu dans lequel les politiciens ne se préoccupent que de leur élection et les électeurs votent pour la politique la plus proche de leur idéal. Son théorème dit de l’électeur médian énonce alors que la politique qui émerge dans ce cadre correspond à l’idéal d’un électeur médian sur un échiquier politique unidimensionnel. Dans sa thèse publiée en 1951 intitulée Social choice and

individual values, Kennett Arrow pose la problématique dans des termes plus généraux : il s’agit de

construire des préférences collectives à partir d’un ensemble de préférences individuelles. Il propose une approche axiomatique qui permet d’analyser la cohérence ou l’incompatibilité des bons

1

L’auteur remercie ses collègues du collectif interdisciplinaire ALGOCIT pour les riches discussions qui lui ont permis de mener cette réflexion.

2

principes de ces procédures d’agrégation. Mais son principal résultat est fortement négatif et sera baptisé théorème d’impossibilité. Il énonce qu’il n’est pas possible d’obtenir des préférences collectives « raisonnables » à partir de préférences individuelles rationnelles quelconques. Toute une littérature se développe alors pour tenter de contourner ce théorème en considérant des cas particuliers. Littérature dans laquelle les procédures d’agrégation qui sont analysées sont tout aussi bien des procédures de vote que des algorithmes dit « d’appariement ». Ce pan particulier de la littérature sur les algorithmes d’appariement trouve son origine dans l’article fondateur de Gale et Shapley publié en 1962 et intitulé College admissions and the stability of marriage. Cet article constitue le cadre théorique des algorithmes comme Parcoursup et APB.

Cette littérature sert de base à une conception agrégative de la démocratie dans laquelle les institutions démocratiques et le mode de gouvernement qui leur est associé ont pour fonction première d’agréger les préférences individuelles. Les questions essentielles auxquelles il faut alors répondre sont : comment agréger les préférences individuelles pour arriver à une bonne décision collective et qu’est-ce qu’une bonne décision collective ? Et finalement, que signifie « agréger, ou satisfaire au mieux, les préférences individuelles » ?

Il existe d’autres conceptions, plus Rousseauiste ou Habermassienne de la démocratie. Ainsi, les conceptions délibératives de la démocratie donnent un sens au bien commun bien différent de l’agrégation des préférences individuelles. Elles partent d’une critique des conceptions agrégatives précédentes qui remet en question l’existence de préférences individuelles données (Bernard Manin 1985). Selon ces conceptions, les volontés individuelles évoluent au cours du processus politique. La question première est alors de savoir dans quelles conditions cette évolution des volontés individuelles va pouvoir se faire dans le sens d’un bien commun. A cette question Habermas (1981) répond que la délibération des citoyens, au sens de l’échange d’arguments « raisonnables », est « rationnalisante » et permet de faire évoluer les volontés individuelles vers une volonté collective. A une conception statique et « top down » de la gouvernance qui considère comme données les préférences individuelles et les propriétés souhaitées des préférences collectives, ces approches délibératives opposent une vision évolutive des volontés individuelles ainsi qu’une vision endogène et « bottom up » de la volonté collective.

La démocratie délibérative au sens d’Habermas est un idéal. Ce qui serait déjà difficile dans le cadre d’une démocratie directe peut sembler impossible dans celui d’une démocratie indirecte. Comment peut-on alors aménager nos démocraties représentatives effectives pour tenter de s’approcher de cet idéal ? Une première réponse consiste à développer une culture de la délibération et de l’argumentation. Quand les citoyens n’ont pas la possibilité de délibérer eux-mêmes, ils doivent au moins avoir accès aux arguments proposés par ceux, comme leurs représentants, qui délibèrent. Ils doivent pouvoir être au moins spectateurs de la délibération. C’est ce qui justifie par exemple les campagnes électorales et les débats publics à l’Assemblée. Une deuxième réponse passe par la mise en place, à des échelles variées, d’arènes, au sein desquelles des citoyens peuvent participer à l’élaboration de décisions publiques. C’est le cas par exemple des jurys citoyens constitués par tirage au sort pour délibérer de questions complexes et éclairer la décision publique, au niveau communal (par exemple en 2009, délibération sur le Plan municipal de santé, par la Ville de Toulouse), régional (en 2006, sur plusieurs sujets, transports, développement rural, etc., par la Région Rhône-Alpes), national (en 2014, sur la fin de vie, par le Comité national consultatif d'éthique), ou même international (en 2012, sous l'égide de l'ONU pour préparer la Conférence d'Hyderabad sur la diversité biologique)2.

3

En résumé, la comparaison des conceptions agrégative et délibérative de la démocratie montre qu’une première différence concerne la décision publique elle-même. Ce n’est pas la même chose de considérer que cette décision doit être la « meilleure » agrégation possible des préférences individuelles et de considérer qu’elle est l’expression d’un bien commun. Une deuxième différence, qui découle de la première, concerne la procédure menant à la décision publique. La délibération ne se justifie que lorsque l’on croit en l’existence d’un bien commun. Dans la première conception il faut bien sûr définir ce que l’on entend par « meilleure agrégation». Ainsi la théorie du choix social prend les critères comme donnés et l’on est en droit de se poser la question de leur origine. Selon la deuxième conception le bien commun est le résultat de la délibération rationalisante au sens d’Habermas et l’on est en droit de se poser la question des conditions de cette délibération.

Par rapport à ces deux conceptions opposées, la position de Philip Pettit (2001, 2004) est en un sens intermédiaire. Pettit considère que la démocratie est un bon régime parce qu’elle donne aux citoyens le pouvoir d’élire et de révoquer les gouvernants. Mais ce pouvoir doit être renforcé et doit s’exercer en dehors des seules élections. Il faut multiplier les moyens par lesquels les citoyens peuvent contester les décisions publiques. Voyons à présent comment ces différences se traduisent dans la conception des algorithmes administratifs qui nous intéressent.

2. Deux raisons de promouvoir la transparence des algorithmes administratifs

Nos institutions sont celles d’un régime de démocratie représentative. Cet environnement institutionnel n’empêche pas qu’il puisse exister des divergences en ce qui concerne la conception que l’on peut se faire de la démocratie. Nos institutions ne sont en effet pas déterminantes ; Leur mise en œuvre peut amener à des fonctionnements différents. Le diable est dans les détails. En deçà de nos règles et grands principes démocratiques, les petits « aménagements », dont font partie les algorithmes utilisés par les administrations, contribuent à ce fonctionnement.

Les algorithmes de type APB ou Parcoursup tel qu’il fonctionne aujourd’hui et qui trouvent leurs fondements dans la théorie du choix social, sont cohérents avec la conception agrégative de la démocratie. L’algorithme poursuit un certain nombre d’objectifs dont le premier est celui d’allouer un établissement à chaque bachelier. C’est le gouvernant qui doit décider des règles et objectifs de l’algorithme. Le bachelier ne fait que communiquer ses vœux. Le gouvernant tente d’obtenir que les vœux formulés par le bachelier révèlent ses vraies préférences ; en lui demandant d’expliciter un classement dans le cas d’APB ou en lui demandant de répondre séquentiellement aux classements des établissements dans le cas de Parcoursup. Le citoyen est considéré comme utilisateur passif et individualiste et il est encouragé à l’être. La construction de l’algorithme peut dans ce cas être sous-traitée à des développeurs privés. Le cahier des charges doit alors servir d’interface entre l’administration donneuse d’ordre et la société qui est en charge de développer l’algorithme. Il doit être explicité pour remplir cette fonction, mais, dans l’intérêt du développeur, la transparence vis-à-vis des utilisateurs n’est dans ce cas pas souhaitable.

Selon une conception délibérative, dans des conditions idéales « la loi est l’expression de la volonté générale » (Déclaration des droits de l’homme et du citoyen de 1789, art. 6). Si le cahier des charges qui sert à la construction de l’algorithme est la simple expression de la loi, l’algorithme administratif peut alors aussi être une expression de cette volonté générale. Nous savons cependant que ce n’est pas le cas ; l’algorithme n’est pas la simple application de la loi, il est aussi l’instrument d’une politique publique. La délibération peut-être alors à nouveau nécessaire au moment de la construction de l’algorithme, pour que les règles qui ne sont pas dans la loi soient aussi considérées comme expression d’un bien commun. Ainsi, il peut sembler justifié d’étendre une culture de la

4

délibération aux décisions qui touchent directement et à grande échelle la vie des citoyens ; décisions qui sont mises en œuvre par les algorithmes administratifs.

Quelles conditions seraient alors les plus propices au développement de cette culture de la délibération ? La transparence du cahier des charges, permettant de mettre en évidence les principes auxquels les citoyens sont collectivement attachés, ainsi que les contraintes, serait indispensable à l’établissement de ces bonnes conditions. Nous formons l’hypothèse que cette transparence transformerait les conceptions des citoyens et des gouvernants par rapport au modèle agrégatif. D’une part le citoyen ne verrait plus l’algorithme comme une boîte noire dans laquelle il entre ses voeux individuels pour obtenir un simple service public mais pourrait alors concevoir le cahier des charges comme une base d’arguments raisonnables justifiant son fonctionnement. D’autre part, les gouvernants devraient prendre en compte ce jugement raisonnable des citoyens au moment de l’énoncé de ce cahier des charges. A partir de cette bonne condition minimale on peut imaginer deux modèles différents qui permettent de comprendre pourquoi et comment les gouvernants prendraient en compte un jugement raisonnable des citoyens. Il en découlera deux raisons d’exiger la transparence du cahier des charges des algorithmes administratifs.

Dans un premier modèle le gouvernant élabore seul le cahier des charges, ensemble de règles et contraintes « raisonnables », sous la menace de la contestation de groupes de citoyens. La conception contestataire de Pettit suppose en effet que le citoyen n’est en réalité pas complètement passif, en tout cas si on lui en donne les moyens. Les recours devant le tribunal administratif sont déjà une première forme de contestation qui ne nécessite pas la transparence du cahier des charges. Le citoyen peut faire un recours sur la base de sa seule expérience. Pourquoi alors l’Association des Lycéens semble-t-elle si attachée à la transparence ? Parce que la transparence peut contribuer à améliorer cette capacité de contestation des citoyens. La contestation qui prend pour base le cas individuel, et qui passe traditionnellement par le biais de la justice et du droit administratif, a une portée moins importante que la contestation d’un élément du cahier des charges qui concerne un ensemble de citoyens. L’association recherche des arguments de contestation collectifs. Cette contestation peut être élaborée au cours d’une délibération au sein du groupe contestataire, en ce sens la conception de Pettit est délibérative. Ainsi une première raison d’exiger la transparence du cahier des charges des algorithmes administratifs est qu’elle permet d’améliorer la qualité et la puissance de la contestation.

Dans un deuxième modèle, les gouvernants ne sont pas seuls à définir le cahier des charges de l’algorithme administratif. Les citoyens participent aussi directement à cette élaboration. Il reste alors à déterminer les formes que peut prendre cette participation. Elle ne peut pas prendre la forme, comme cela a été envisagé, d’un recueil de la satisfaction individuelle des utilisateurs, par exemple à travers l’interface de l’algorithme lui-même, comme le ferait un algorithme privé. Elle peut se faire, par contre, par l’intermédiaire de l’organisation de jurys citoyens et/ou par la mise en place d’une plateforme propre à recevoir des propositions publiques. Une deuxième raison d’exiger la transparence du cahier des charges est donc qu’il doit l’être par construction.

3. Conclusion

Les recommandations que l’on peut faire au sujet de la construction et du fonctionnement d’un algorithme administratif peuvent correspondre à des conceptions très différentes de la démocratie. Il est important de bien distinguer les recommandations en fonction du modèle visé. La résistance que rencontre l’idée de la transparence vient d’une conception agrégative de la démocratie et s’accommode facilement d’une sous-traitance de la construction des algorithmes. La transparence du

5

cahier des charges est par contre indispensable dans une conception contestataire de la démocratie. Enfin, elle apparait comme la conséquence de la participation des citoyens dans une conception directement délibérative. L’actualité mouvementée de ces dernières années relative à la mise en œuvre des algorithmes d’affectation des lycées dans l’enseignement supérieur montre, et c’est en notre sens une bonne nouvelle, que le citoyen n’est pas passif et qu’il faut donc choisir entre contestation et participation. On ne tuera pas le débat en changeant l’algorithme ou en refusant à l’utilisateur son statut de citoyen. Encore moins en niant que la démocratie se joue aussi et peut-être surtout à ce niveau de détail de nos règles de vie communes.

Références

Kenneth ARROW. Social Choice and Individual Values. New Haven, Yale university Press, 1951 (2ème édition révisée, 1961). Traduction française par l’Association de Traduction Economique de l’Université de Montpellier, Paris, Calmann-Levy, 1974.

Duncan BLACK. « On the Rationale of Group Decision-making », Journal of Political Economy 56, no. 1 : 23-34. 1948.

David GALE et Loyd SHAPLEY. « College admissions and the stability of marriage », American Mathematical Monthly 69(1), 9–15. 1962.

Charles GIRARD et Alice LE GOFF, éditeurs. La démocratie délibérative. Anthologie de textes

fondamentaux. Hermann éditeurs. 2010.

Jürgen HABERMASS. Théorie de l’agir communicationnel. Traduction Jean-Marc Ferry, Paris, Fayard, 1987 (1981).

Bernard MANIN. « Volonté générale ou délibération ? Esquisse d’une théorie de la délibération politique », Le Débat, 33, 1985, pp. 72-93.

Philip PETIT. Républicanisme. Une théorie de la liberté et du gouvernement. Traduction Philippe Savidan et J-F. Spitz, Paris, Gallimard. 2004.