Section II. La possible concrétisation de prises de décisions par la justice prédictive
C. La réalisation du risque
Nous recherchons dans ces développements si a justice prédictive pourrait se voir accorder un rôle complet de prise de décision. Au plus près de nous, ce risque pourrait se voir réalisé dans le milieu privé via les modes alternatifs de règlement des conflits (1) et ensuite, peut-être, par la justice étatique (2).
1. A moyen terme dans le milieu privé
L’État, pour des motifs économiques et politiques, a tendance à se retirer de ses domaines régaliens. Ce retrait favorise le développement de la contractualisation des rapports sociaux, ce qui se concrétise dans le domaine de la justice par un accroissement du recours aux modes alternatifs de règlement des litiges468. Rappelons que l’État a mis en place l’obligation, dans la procédure civile et
sauf exception, de préciser dans l’assignation469, la déclaration au greffe ou la requête470 « les
diligences entreprises en vue de parvenir à une résolution amiable du litige ». Les modes alternatifs de règlement des litiges interviennent donc en amont du procès, idéalement pour l’éviter. Si la justice n’est pas saisie, la décision aura bien été prise sur le seul fondement de la justice prédictive. Parce que se maintient cette protection d’un éventuel procès par la suite471, mais aussi, comme nous
le verrons, parce que cet outil est particulièrement utile aux entreprises, cette utilisation est la plus probable.
Comme nous l’avons vu, la prohibition des décisions automatisées ne s’applique qu’aux décisions de justice spécifiquement472. Au contraire, le RGPD473 prévoit en son article 22 le droit de
ne pas faire l'objet d'une décision fondée exclusivement sur un traitement automatisé produisant des effets juridiques. Cependant, il prévoit deux exceptions qui nous concernent et qui doivent être notées ici. Cette protection ne s’applique pas si elle est autorisée par le droit de l'Union ou le droit
468 ALGADI A. S., « La place des modes alternatifs de règlement des litiges dans la Justice du XXIème siècle »,
Lexbase Hebdo Ed. G. 2014, n° 588.
469 Art. 56 du Code de procédure civile. 470 Art. 58 du Code de procédure civile.
471 FERRIE S.-M., « Intelligence artificielle : Les algorithmes à l'épreuve du droit au procès équitable », JCP G 2018, n° 11, p. 505.
472 Art. 10 de la loi n° 78-17 du 6 janvier 1978 relative à l'informatique, aux fichiers et aux libertés.
473 Règlement (UE) 2016/679 du Parlement européen et du Conseil du 27 avril 2016 relatif à la protection des
personnes physiques à l'égard du traitement des données à caractère personnel et à la libre circulation de ces données, et abrogeant la directive 95/46/CE (règlement général sur la protection des données).
de l'État membre auquel le responsable du traitement est soumis, droit qui prévoit également des mesures appropriées pour la sauvegarde des droits et libertés et des intérêts légitimes de la personne concernée ou si elle est fondée sur le consentement explicite de la personne concernée.
Dans le cas de la première exception, comme nous avons pu l’étudier, les droits fondamentaux apportent une véritable protection au justiciable dans son rapport aux algorithmes de prédiction, ce qui explique d’ailleurs le « rattrapage » des modes alternatifs par les droits fondamentaux de façon générale474. Le terme de « mesures appropriées » laisse une marge
d’interprétation assez conséquente et dépendra de la jurisprudence de la Cour de justice de l’Union européenne.
La seconde exception nous semble davantage de nature à permettre le développement de la justice prédictive dans les modes alternatifs de règlement des litiges. En effet, il faut rappeler qu’existe « un contexte favorable au développement de plateformes de règlement extrajudiciaire des différends, spécialement pour le traitement des litiges du e-commerce. Les contrats conclus en ligne génèrent des différends portant souvent sur de faibles montants, pour lesquels les voies classiques de traitement des litiges sont inadaptées. Le recours à des modes amiables de règlement des conflits permet un traitement rapide, peu onéreux de ces litiges et, lorsque ceux-ci sont des différends transfrontaliers, leur règlement extrajudiciaire permet d'éviter les conflits de lois et de juridictions qu'ils pourraient soulever »475.
Par son attrait, ce contentieux est le plus susceptible de voir se développer la justice prédictive et doit donc être au centre de notre attention. Or, chacun le sait, dans le cadre du e- commerce « les CGV ne peuvent dans la plupart des cas être consultées que via un lien hypertexte, démarche que peu de cyberacheteurs effectuent en pratique »476. Si celles-ci prévoient qu’en cas de
litige, les parties devront obligatoirement passer par un règlement amiable en ligne avec une décision prise par traitement automatique de données, « le consentement explicite de la personne concernée » sera-t-il considéré comme donné ? Il nous semble que oui, la personne ayant eu accès à ces conditions générales de vente qui relèvent du domaine contractuel et les ayant « explicitement » acceptées par un clic. Il apparaît donc aisé pour l’entreprise d’avoir recours à la pratique de la justice prédictive, en tout cas en l’absence de tout cadre légal supplémentaire.
De façon plus générale, les intérêts précédemment décrits de la justice prédictive pourraient
474 GUINCHARD S., CHAINAIS C., DELICOSTOPOULOS C. S. et al., Droit processuel, Dalloz, 2017, 9è éd., p. 1364, n° 583.
475 CHASSAGNARD-PINET S., « Le e-règlement amiable des différends », Dalloz IP/IT 2017, n° 10, p. 506. 476 CORDIER G., « Conditions générales de vente en ligne », JCP E 2012, n° 9, p. 40.
aisément conduire le justiciable à se tourner vers ce mode alternatif de règlement des litiges, au moins dans un cadre où les enjeux indemnitaires sont faibles. La protection du RGPD nous apparaît donc encore trop faible au vu des limites importantes de qualité de la justice prédictive à ce jour.
Si ce risque est envisageable à moyen terme dans le domaine privé, sans doute l’est-il également au niveau étatique à plus long terme.
2. A long terme au niveau étatique
Comme l’essentiel a été dit précédemment, nous rappellerons uniquement que la justice prédictive a de nombreux attraits pour un État à la recherche d’économie de moyens. Si le droit, mais aussi l’état actuel des capacités de l’intelligence artificielle, ne permettent pas d’envisager sa mise en place, il nous semble que cette technologie pourrait voir le jour, au moins pour une partie du contentieux, ou une partie des tâches des juridictions. Comme l’écrivent assez cyniquement Messieurs Antoine GARAPON et Jean LASSEGUE « le droit et le symbolique deviennent un luxe que l'on ne peut plus s'offrir collectivement »477. Un cycle arriverait à échéance, « le cycle très long,
millénaire à vrai dire, qui associait [...] la justice à une décision humaine »478.
Au moins deux États ont d’ailleurs posé les prémisses d’une utilisation étatique de la justice prédictive afin de prendre des décisions à caractère juridictionnel.
Tout d’abord, comme nous l’avons évoqué, les Etats-Unis ont déjà recours au système de l’evidence based sentencing. Elle ne vise pas à remplacer le juge mais il s'agit plutôt d'évaluer les probabilités de récidive d'un délinquant et de fournir une expertise au juge, qui a la possibilité de s’en écarter479.
Ensuite, le Royaume-Uni est en passe de créer des Online Courts. Depuis un rapport de février 2015480, le Royaume-Uni souhaite un règlement judiciaire en ligne (« online dispute
resolution ») pour les affaires civiles dont le montant du litige serait inférieur à 25 000 £481.
L’audience serait dématérialisée. Ce règlement en ligne des litiges est conçu comme une première étape vers des solutions prononcées par des algorithmes. Le juge interviendrait par la suite pour les
477 GARAPON A. et LASSEGUE J., La justice digitale, PUF, 2018, p. 346. 478 GARAPON A., « Le devenir systémique du droit », JCP G 2018, n° 21, p. 1014.
479 V. supra, Cour suprême du Winconsin, « State vs Loomis », 13 juil. 2016, n°881 N.W.2d 749 (2016)
480 CIVIL JUSTICE CONCIL, Online Dispute Resolution for Low Value Civil Claims, rapport pour le Master of the
Rolls, févr. 2015, accessible à https://www.judiciary.uk/reviews/online-dispute-resolution/odr-report-february-2015.
homologuer ou non482. Leur mise en place est aujourd’hui permise par la loi du 23 février 2017
Prisons and Courts Bill483.
Le risque de voir l’intelligence artificielle régler des litiges n’est donc pas qu’un fantasme et pourrait un jour se réaliser. Celui-ci est d’autant plus fort que son développement dans les modes alternatifs de règlement des litiges et dans la justice étatique pourront s’imbriquer. C’est pourquoi il serait préférable d’établir au plus tôt un contrôle renforcé.
III. Un contrôle nécessaire
Ce contrôle peut être effectué par les différents acteurs de la justice (A) et surtout par l’État démocratique (B)