En raison de l'impact que les outils de recherche et d'analyse de l'information juridique fonctionnant grâce à l'intelligence artificielle - connus sous le nom de justice prédictive - ont sur la perception de la justice par les citoyens, mais aussi sur la prise de décision des professionnels du droit, les membres du Comité éthique et scientifique de la justice prédictive ont considéré que ces outils devaient respecter les principes suivants.

1. Principe de loyauté

Les concepteurs des outils de justice prédictive s'obligent à respecter les principes de loyauté et d’objectivité.

2. Principe d'intégrité des bases de données

Aucune suppression ou altération des données servant à alimenter les outils de justice prédictive ne peut être faite dans le but de modifier le résultat, à moins d'en informer l'utilisateur et de recueillir son consentement de façon expresse. Les bases de données devront être recueillies et traitées en conformité avec la loi.

3. Principe de transparence

Toute personne doit pouvoir connaître le nom des technologies employées pour construire le service, en faisant notamment la différence entre les technologies opensource réutilisées et celles qui sont issues de développement propre. De la même façon, toute personne doit pouvoir avoir accès à la composition exacte des fonds documentaires utilisés ou mis à disposition des utilisateurs.

4. Principe d'intelligibilité

Le fonctionnement des briques technologiques servant à construire un outil de justice prédictive devra être expliqué de façon concise et pédagogique par le concepteur, de telle sorte qu'il soit compréhensible par tous, même non spécialiste.

5. Principe de contrôle

Le contrôle du fonctionnement des outils, notamment dans le but de vérifier le respect d’un principe de cette charte, pourra être opéré par une autorité régulièrement désignée, garantissant la confidentialité des informations liées au développement des algorithmes auquel elle aura accès durant la procédure de contrôle et respectant le principe du secret des affaires.

6. Principe de limitation

Si une décision de justice ne respecte pas la vie privée d'une personne physique, elle doit pouvoir être exclue de la base et retirée des analyses, sans méconnaître le deuxième principe de cette charte.

7. Principe de documentation

Les concepteurs des outils de justice prédictive doivent documenter les travaux et développements qu'ils réalisent, de telle sorte qu'une vérification de la qualité du code puisse être opérée.

8. Principe de collaboration

Les concepteurs d'outils de justice prédictive s'engagent à mettre en place une approche collaborative, notamment avec le monde universitaire et les professionnels du droit.

Les signataires

Voir aussi

Le livre blanc de SciencesPo sur les enjeux éthiques de de la justice prédictive
Comité éthique de la Justice Prédictive