Acteurs Publics a appris que le ministère de la Justice avait acté l’abandon du développement en interne de son algorithme DataJust, face à la complexité du chantier. Ce, alors que le Conseil d’État venait tout juste de rejeter le recours déposé par les opposants au projet.
Son expérimentation, prévue pour une durée de deux ans, avait démarré début 2020 pour passer au crible la jurisprudence en matière de préjudices corporels afin d’établir un référentiel de l’indemnisation à laquelle les victimes peuvent prétendre, rappelle AP :
« Pour entraîner l’algorithme DataJust, le ministère était autorisé à aspirer une large palette de données personnelles issues de ces décisions de justice, à l’exclusion des noms des parties : lieux de résidence, dates de naissance, genre, situations professionnelle et financière, condamnations pénales, nature et ampleur de l’atteinte à l’intégrité, à la dignité ou à l’intimité, dépenses de santé, avis des experts médicaux… Autant de données sensibles mais utiles à l’algorithme d’apprentissage automatique pour caractériser le lien entre le montant de l’indemnité et le préjudice corporel et en tirer des “règles” récurrentes. »
Or, non seulement le projet aurait été accueilli « pour le moins froidement par les professionnels du droit », mais la base de données sur laquelle l’algorithme était entraîné était « biaisée car incomplète, en l’absence des décisions de première instance notamment ».
Surtout, « le préjudice corporel est lui-même intrinsèquement très compliqué, avec 40 dimensions à prendre en compte, et la mobilisation de moyens [notamment pour étudier et prévenir les biais algorithmiques, ndlr] était trop conséquente pour atteindre un niveau de performance indiscutable », souffle une source aux faits du dossier.
Le ministère réfléchit encore à « un moyen légal de sauver les données collectées dans le cadre de l’expérimentation – plutôt que de les supprimer, comme l’exige le décret de création – et d’en ouvrir l’accès sous conditions à des chercheurs » pour qu’ils poursuivent ou mènent leurs propres travaux, conclut AP.