L’intelligence artificielle, nouvelle main de justice ? C’est en tout cas ce que craignent certains face à la création d’un algorithme d’évaluation des préjudices corporels. Datajust a été créé par décret le 27 mars 2020, après avis de la Cnil. « Le traitement autorisé par ce décret vise à développer un algorithme, chargé d’extraire de manière automatique et d’exploiter les données contenues dans les décisions de justice portant sur l’indemnisation des préjudices corporels » précise le ministère de la justice sur son site. Il s’agit plus précisément de recenser les montants demandés et offerts par les parties aux instances, les évaluations proposées dans le cadre de procédures de règlement amiable des litiges et les montants alloués aux victimes par les juridictions. Cet algorithme, qui fait appel à l’intelligence artificielle, est en phase d’expérimentation pour une durée de deux ans, soit jusqu’au 27 mars 2022.

En 2020, le ministère précisait que « si cette phase de développement était satisfaisante, [il] souhaiterait mettre en place un outil pérenne de mise à disposition des résultats au public (un référentiel indicatif d’indemnisation devant notamment permettre une meilleure information des victimes de dommages corporels et fournir aux juges une aide à la décision) ». Les décisions rendues en appel par les juridictions administratives et les formations civiles des juridictions judiciaires entre les années 2017 et 2019, recensées respectivement dans les bases de données de la Cour de cassation et du Conseil d’Etat, devaient alimenter ce traitement par extraction automatique des données, indique Odile Jami-Caston, directrice du pôle Data et RGPD Compliance au sein du cabinet ITLaw Avocats dans une tribune publiée par le Monde du Droit. 

Une expérimentation basée sur des données sensibles

Elle ajoute que « malgré leur pseudonymisation avant leur transmission au ministère de la justice (occultation des noms et prénoms des personnes physiques parties aux instances concernées), le maintien d’autres éléments d’identification (date de naissance, lien de parenté), soumet le traitement Datajust au dispositif européen de protection des données personnelles (RGPD) et à la loi Informatique et libertés ». Concours de circonstance, le décret a été publié quelques jours avant la publication de la recommandation du Conseil de l’Europe sur les impacts des systèmes algorithmiques sur les droits de l’Homme. Cette recommandation met en garde les Etats sur la nécessité d’avoir un système algorithmique qui intègre les droits fondamentaux de l’individu, notamment le droit au procès équitable et à l’égalité des traitements.

Le projet a notamment été attaqué par des avocats, les associations APF France handicap et l'association la Quadrature du Net. Cette dernière explique que le projet consistant à « développer un obscur algorithme d’aide à la décision en matière d’indemnisation de préjudices corporels ». L’association critique la méthode « dangereuse » utilisée par l’Etat : « sous couvert d’expérimentation, l’État s’affranchit des lois qui protègent les données personnelles et la vie privée ». A cet effet, une requête a été déposée l’an dernier contre ce fichier. Ce 30 décembre, l’audience publique s'est tenue devant le Conseil d’État et le rapporteur public a conclu à la validation de ce fichier, rejetant par la même occasion les requêtes des différents acteurs opposés à sa validation. La phase d'expérimentation, prévue jusqu'au 27 mars 2022, devrait donc se dérouler comme convenu.