Périmètre des MAAD
1- Les MAAD, auxiliaires de justice
Les Modes Algorithmiques d’Analyse des Décisions sont des référentiels qui apportent une aide méthodologique aux professionnels du droit et de la justice. Les résultats algorithmiques sont assimilables aux conclusions d’un rapport d’expertise non contradictoire ou à l’un des éléments d’une consultation juridique.
Pour le juge, ils constituent une aide à la décision.
Pour le tiers chargé de procéder à un règlement amiable (conciliation, médiation, procédure participative), ils constituent un socle à la discussion, une aide à la négociation.
2- Distinction des litiges selon leur singularité ou leur analogie juridique
La singularité juridique (problématique juridique rare ou nouvelle, instabilité des solutions juridiques) s’oppose à l’analogie juridique (problématique juridique récurrente, stabilité des solutions juridiques).
Les affaires singulières juridiquement ne relèvent pas du champ de compétence des MAAD. Le droit est à dire. L’usage des MAAD n’est pas envisageable en raison de la trop grande hétérogénéité et variabilité des données.
Les affaires analogues juridiquement sont du champ de compétence des MAAD. Le droit a été dit. Les données sont suffisamment nombreuses pour asseoir la fiabilité des résultats algorithmiques.
3- Renforcement du principe de l’individualisation des décisions par une obligation spéciale de motivation
Les affaires analogues en droit restent particulières en fait. La décision ne peut donc pas se réduire à une réponse immédiate, élémentaire et automatique. En outre, le juge pourrait estimer nécessaire de susciter une évolution de la jurisprudence en raison d’un contexte global juridique, social ou économique qui s’est modifié.
Éthique des MAAD
4- Création d’une autorité de régulation
Cette autorité réunit des experts des algorithmes et des juristes (magistrats, avocats, médiateurs, conciliateurs et universitaires). Elle élabore un cahier des charges qui est un référentiel officiel. Ce cahier des charges énonce les exigences éthiques minimales ainsi que les préconisations techniques correspondantes. À terme, une norme ISO pourrait être adoptée pour harmoniser ces exigences au niveau international.
5- Démarche volontaire de certification et d’agrément
Les concepteurs de MAAD intéressés par la certification s’inscrivent dans une démarche volontaire. Des plateformes d’audit privées ou publiques214 sont
accréditées et habilités à délivrer la certification.
L’agrément est une démarche volontaire de la part des utilisateurs publics comme privés de MAAD. Un utilisateur peut conditionner l’emploi d’un MAAD à un agrément délivré par référence au cahier des charges et, à terme, à la norme ISO.
6- Prévention et gestion en continu des risques de biais
Une analyse des risques de biais est réalisée par le concepteur avant la mise sur le marché de l’outil algorithmique puis tout au long de son exploitation. Des techniques de correction des biais pourraient être appliquées pour y remédier.
7- Construction a posteriori d’une explication intelligible des résultats algorithmiques
Cette démarche favoriserait une meilleure acceptabilité de ces résultats par leurs destinataires et injecterait une dose de rationalité dans un fonctionnement algorithmique empirique.
Maîtrise des MAAD
8- Régulation de la diffusion des données judiciaires
- Recherche d’un équilibre entre la protection de la vie privée et la conservation de l’intérêt informationnel des données judiciaires avec en perspective la finalité des réutilisations : assurer la prévisibilité, la cohérence et la célérité de la justice
- Pseudonymisation à deux degrés - simple ou renforcée – selon le risque d’atteinte à la vie privée
9- Régulation de la réutilisation des données judiciaires
Licences de réutilisation contractualisant les obligations des réutilisateurs, notamment les obligations de prévention en continu du risque de ré-identification, de gestion en continu du risque de ré-identification, de préservation de la sécurité des données, d’organisation d’une veille technologique et juridique, de conformité à la finalité convenue des réutilisations des données judiciaires, de signalement des risques suspectés ou avérés.
10- Respect du principe de la hiérarchie des sources du droit et des juridictions
- Les MAAD doivent prendre en compte les évolutions jurisprudentielles et législatives soit par anticipation en cas de signaux précurseurs (résistance des juridictions du fond, travaux législatifs, commentaires doctrinaux), soit par actualisation, soit par désactivation de l’outil.
- Les MAAD doivent prendre en compte le principe de la hiérarchie des juridictions en traitant les décisions devenues définitives par degré de juridictions.
11- Appropriation des MAAD par les professionnels du droit et de la justice
- Par le biais d’un forum d’échange d’informations supervisé par le Ministère de la Justice, les professionnels du droit et de la justice doivent pouvoir faire remonter à l’autorité de régulation leur signalement d’erreurs ou d’incohérences ou leur demande d’explications.
- Au niveau de l’interface utilisateur, ils peuvent interagir avec l’outil algorithmique, par exemple en ayant la possibilité d’ajouter (cette option serait souhaitable si l’évolution des techniques le permet) ou de supprimer des critères en entrée pour en constater les incidences sur les sorties, sans que cela ne modifie la structure interne de la programmation.
12- Traçabilité des jeux de données
La traçabilité est fondamentale pour imputer et sanctionner les manquements des différents intervenants.
13- Mise en place d’un processus de réaction en cas de risque suspecté ou avéré de ré-identification
Les autorités publiques déclenchent sans délai des mesures afin de limiter l’ampleur du risque eu égard au caractère circulant de la donnée dont l’indexation par les moteurs de recherche est techniquement bloquée.
Responsabilités du fait des MAAD
14- Obligation d’information à la charge des réutilisateurs concepteurs de MAAD
Les réutilisateurs concepteurs informent les utilisateurs d’un MAAD de sa logique de fonctionnement (principe de transparence), de son mode d’utilisation, de ses limites et de ses risques.
15- Obligation de suivi à la charge des réutilisateurs concepteurs de MAAD
Les réutilisateurs concepteurs assurent la maintenance technique de l’outil algorithmique tout au long de son exploitation (actualisation des données, correction de biais, ajustement de la programmation, etc.)
16- Traçabilité des actions exécutées par l’algorithme
Pour remonter aux causes du dommage (dans le paramétrage initial par le concepteur ou dans l’entrée des données d’un cas d’espèce par l’utilisateur), des instruments de traçabilité du système sont inclus dans l’outil algorithmique pour conserver la mémoire des actions effectuées.
17- Application du régime de responsabilité du fait personnel des articles 1240 et 1241 du code civil et du régime de responsabilité contractuelle en cas de faute imputable
Le comportement fautif est présumé. Il appartient au concepteur ou à l’utilisateur de rapporter la preuve de son absence de faute ou d’un cas de force majeure.
18- Création d’un régime spécial de responsabilité objective du propriétaire de l’outil algorithmique
Le fait générateur provient de l’autonomie de l’algorithme apprenant. L’absence de causalité humaine dans le dysfonctionnement d’un outil algorithmique ayant généré des incohérences de nature à altérer l’appréciation d’une situation par son utilisateur est compensée par un principe de responsabilité de plein droit du propriétaire (concepteur ou donneur d’ordre) en raison de son implication dans la survenance du risque.
Règlement des litiges à l’aide des MAAD à titre facultatif
19- Dématérialiser le règlement amiable et judiciaire des litiges juridiquement analogues en l’associant à des MAAD
Le traitement dématérialisé des litiges est réalisé avec l’assistance des MAAD. Des passerelles entre les modes de règlement des litiges sont prévues pour que le litige puisse être réorienté d’un mode amiable vers un mode judiciaire, d’un mode dématérialisé vers un mode ordinaire.
20- Appliquer les garanties processuelles à l’usage judiciaire et extra-judiciaire des MAAD
Conformément au principe du contradictoire qui est l’une des conditions de la procédure équitable de l’article 6-1 de la Convention européenne des droits de l’homme, le juge ou le médiateur qui se sert d’un MAAD en avise les parties, leur en explique la logique de fonctionnement, leur communique les réponses produites pour qu’elles puissent les discuter et les contester en tant que pièce susceptible d’influencer la décision prise in fine. Le justiciable est en mesure de s’opposer au traitement algorithmique de son affaire.
Le juge chargé de régler le conflit en s’aidant des outils algorithmiques complète la traditionnelle motivation en fait et en droit par une explication d’un éventuel écart notable par rapport aux décisions précédemment rendues dans un contexte similaire.
21- Proposition de modes de règlement des litiges juridiquement analogues intégrant les MAAD (V. supra p.78 et infra p.145 annexe 1)
Troisième volet
Appropriation
des Modes Algorithmiques d’Analyse des Décisions
(MAAD)
par les magistrats
par Lêmy GODEFROY
Enquête de terrain
Une enquête relative aux Modes Algorithmiques d’Analyse des Décisions (MAAD) a été menée auprès des présidents des tribunaux de grande instance et des Cours d’appel de métropole et d’outre-mer ainsi que de la Cour de cassation dans l’objectif de connaître leur perception de ces outils, leurs attentes et leurs suggestions quant à leur conception et à leur emploi (Voir infra p.151 l’annexe 3 : les magistrats consultés).
Les coordonnées électroniques des magistrats ont été fournies par la Mission de recherche Droit et Justice.
Le protocole suivi a consisté à adresser à chaque magistrat une synthèse de l’étude réalisée dans le cadre du deuxième volet de ce rapport (Voir infra p.147 l’annexe 2) et à y joindre un questionnaire validé par la Mission de recherche Droit et Justice.
Les magistrats de chaque degré de juridiction ont été répartis en quatre groupes de manière aléatoire. Un questionnaire distinct a été adressé à chacun de ces groupes.
L’analyse de cette enquête est organisée sous deux angles : l’analyse chiffrée (I) et l’analyse du fond (II). Nous conclurons par des recommandations consécutives à l’enquête (III).