OPINION

Les algorithmes contre les juges ?

Les algorithmes contre les juges ?©Itai Benjamini
9 min 46Temps de lecture approximatif

Un nouvel « Entretien autour de l’informatique », Serge Abiteboul et Claire Mathieu interviewent Louis Boré, président de l’ordre français des avocats au Conseil d’État et à la Cour de cassation. L’informatique transforme profondément la justice. Un entretien autour de la justice prédictive. Cet article est publié en collaboration avec le blog Binaire.

Binaire : Vous êtes président de l’ordre des avocats au Conseil d’état et à la Cour de cassation. Pouvez-vous nous expliquer en quoi cela consiste ?

Louis Boré : Je suis effectivement avocat au Conseil d’État et à la Cour de cassation : le Conseil d’Etat est notre cour suprême administrative, et la Cour de cassation, notre cour suprême judiciaire. Ce sont des juridictions qui ont pour mission d’unifier l’interprétation des règles de droit sur toute l’étendue du territoire de la République. Elles ont pour point commun de tendre vers cet objectif avec une technique spécifique qu’on appelle la technique de cassation. On ne juge que les questions de droit, pas les questions de fait qui sont tranchées antérieurement et doivent être considérées comme des éléments définitivement acquis aux débats.

Comme nous plaidons presque exclusivement devant ces deux juridictions et pratiquons quotidiennement cette technique particulière, nous avons une vision du droit un peu différente de celle d’un avocat à la Cour d’appel. Lui fait corps avec son client. Nous, nous devons passer sans arrêt du particulier au général, c’est-à-dire voir si dans la situation individuelle qui nous est soumise, il est possible de déceler une erreur de droit qui a forcément une dimension plus large puisque la règle de droit est toujours générale et impersonnelle.

Quand on trouve un moyen de cassation, on le soutient. Est-ce qu’on est chicanier ? Non, ce n’est pas de la chicane, mais la défense de l’article 6 de la Déclaration des Droits de l’Homme et du citoyen : la loi doit être la même pour tous, soit qu’elle protège, soit qu’elle punisse. Pour cela, elle doit être interprétée de la même manière partout, sinon cela signifierait que l’on en revient aux coutumes régionales de l’ancien régime. Cela signifierait qu’on abandonne le principe d’égalité devant la loi qui est un principe républicain essentiel.

Il est certain que ce travail particulier influence ma vision de la justice prédictive.

B : Tout ce qui va dans le sens de coder la loi de façon algorithmique, de préciser la loi, vous intéresse ?

LB : Exactement, c’est pour cela que la justice prédictive m’intéresse. Les avocats à la Cour craignent un rouleau compresseur qui va empêcher le juge de faire du sur-mesure, en imposant du prêt-à-porter à la place. Ils se battent pour que le juge se livre à une appréciation humaine, et donc pour eux tout ce qui égalise porte atteinte à cette appréciation au cas par cas. Pour ma part, j’y suis moins hostile, car je pense qu’au-delà de chaque cas particulier, il y a une règle générale qui est en cause.

Ainsi, en matière pénale, pour l’appréciation de la peine, la loi ne fait que fixer un maximum, et c’est le juge qui apprécie, selon les circonstances : le prévenu peut être jeune ou âgé, l’un manifeste un repentir mais pas l’autre… Le juge doit tenir compte de la situation spécifique du prévenu pour déterminer la sanction. Mais pour savoir si l’infraction est constituée ou pas, on n’est plus vraiment dans une appréciation au cas par cas, et là, la cohérence entre ce qui est jugé à Paris et à Bordeaux me semble essentielle. Si demain on est capable de mettre en place des instruments facilitant le travail des juges et des avocats pour appliquer la loi de façon plus cohérente et plus uniforme sur l’ensemble du territoire national, ce sera un progrès.

L’imprécision des lois : une porte ouverte à l’imagination humaine

B : Y a-t-il une tension au sujet de l’attitude du juge, avec d’un côté le désir d’avoir une justice plus humaine et plus empathique, et de l’autre côté le risque d’avoir une justice plus biaisée parce que le juge fait ce qu’il veut ?

LB : La tension existe entre le droit et l’équité. La base du droit, ce sont des règles générales. S’il n’y a pas de généralité, il n’y a pas de droit et il suffit alors d’un juge sous un chêne qui apprécie au cas par cas, sans être contraint par des règles. Mais la règle juridique implique, dans une certaine mesure, la généralité. L’équité, au contraire, c’est le cas par cas, car aucun homme n’est absolument identique à un autre. Mais l’équité pure est extrêmement dangereuse. Il existe un vieil adage de la révolution française, « Dieu nous garde de l’équité des parlements ! », signifiant que les décisions des parlements étaient totalement imprévisibles, ce qui créait une insécurité juridique considérable. C’est contre cela que la révolution française a voulu réagir. Mais, dans la généralité de la règle, il y a aussi une dimension totalitaire. Elle peut aboutir à des décisions injustes parce que trop rigides, trop mécaniques, et donc, inhumaines.

Alors, quel est le rôle du juge ? Il est, selon le doyen Ripert, « le législateur des cas particuliers » : il s’agit d’adapter sans la trahir la règle générale. Entre la règle générale et le cas particulier, il subsiste toujours une marge de manœuvre, une part de souplesse, qui permet au juge d’adapter la règle aux situations particulières, et c’est une très bonne chose.

Et puis l’avocat peut faire preuve d’imagination juridique. Il peut plaider une interprétation totalement nouvelle des textes. Si un juge est convaincu, il transformera cette proposition en jurisprudence. De fait, l’imagination juridique aura déjoué la répétition mécanique de la règle et aura fait avancer le droit. Cela fait partie du travail des magistrats et des avocats.

B : La loi est bien trop imprécise. Si elle était plus formalisée, il serait plus facile de donner des réponses précises et cela simplifierait le travail des algorithmes. Est-ce que ce serait mieux que la loi soit plus précise ?

LB : Le degré de précision de la loi est une question juridique. Constitutionnellement, la loi ne doit pas être trop précise. Ce sont ultérieurement les décrets et arrêtés pris pour son application qui vont en préciser le sens. Il y a une structure hiérarchique : la constitution, les lois, les décrets, les arrêtés. C’est une structure pyramidale. Ainsi, la loi n’a pas forcément vocation à être précise. En France, il y a pléthore de textes ; on a tendance à en avoir dans tous les sens. Mais en cherchant à être trop précis, on en devient incompréhensible.

L’imprécision d’une loi peut avoir des avantages. Par exemple la loi disant que « tout fait quelconque de l’homme qui cause à autrui un dommage oblige celui par la faute duquel il est arrivé à le réparer » donne les trois éléments de la responsabilité civile. L’imprécision du texte a laissé une capacité créatrice et d’adaptation au juge. Le prix à payer est un certain aléa judiciaire que pourront en partie compenser les algorithmes prédictifs.

La justice au quotidien avec les machines

B : L’avocat se sent-il dépossédé par les machines ?

LB : C’est vrai qu’il y a une véritable inquiétude dans la profession et la majorité voit cela comme une menace considérable. Ils se sentent menacés par le risque d’être remplacés par des machines. Une minorité voit cela, au contraire, comme une opportunité.

Il est certain que la justice prédictive va remplacer ce qui est mécanisable dans l’exercice de la profession juridique, et il y a effectivement certaines choses répétitives dans notre travail. Par exemple, la gestion des infractions telles que les excès de vitesse est de plus en plus remplacée par des décisions automatisées.

Il y a une très vieille tradition dans l’Ordre que je préside, c’est celle de la consultation préalable avant de saisir le Conseil d’État et la Cour de cassation. Sous l’ancien régime, il fallait deux consultations préalables. Maintenant, ce n’est plus obligatoire, mais beaucoup de justiciables nous consultent encore avant de saisir ces deux hautes juridictions. Ils nous contactent soit directement, soit par l’intermédiaire de leur avocat à la cour. Ils souhaitent mieux apprécier leurs chances de succès. Nous ne donnons pas un pourcentage précis mais une appréciation.

Mon expérience de « justicier prédictif » me conduit à constater que certains justiciables, quand on leur dit que leurs chances de gagner sont très faibles, veulent quand même y aller. Mais il y en a aussi beaucoup d’autres, les plaideurs institutionnels en particulier, qui ne veulent y aller qu’avec des chances assez fortes. Les logiciels de justice prédictive ne feront qu’étendre cela à tous les avocats. Cela aidera mes confrères à la cour à exercer plus facilement leur devoir de conseil pour dire si cela vaut, ou non, la peine de saisir le juge. Cela ne tuera pas le métier car le devoir de conseil fait partie des devoirs des avocats. Un logiciel qui aidera à exercer cette obligation professionnelle constituera donc un progrès.

B : Quand on met des algorithmes dans le système juridique, aujourd’hui ce sont des algorithmes relativement simples, qui n’ont pas la capacité de raisonnement d’un juge, et donc de manière presque automatique ils vont plutôt se situer du côté de la règle juridique. Cela vous semble-t-il un risque ?

LB : Non, cela me paraît un progrès, car cet effort d’uniformisation, c’est nous qui le faisons nous-mêmes actuellement, en allant sur le site de Légifrance. Nous mettons des mots-clés pour avoir accès, grâce à un logiciel, à des cas précis, dix ou quinze décisions de la Cour de cassation ou du Conseil d’état sur des sujets similaires à notre affaire et ensuite, nous analysons nous-mêmes les décisions et nous faisons le travail d’abstraction pour déduire de ces éléments la règle générale.

Les logiciels pourront sans doute nous aider à effectuer ce travail d’analyse, mais nous aurons toujours un pouvoir et un devoir de contrôle sur le résultat qu’ils ne feront que nous proposer. Et actuellement, ils sont encore très loin de parvenir à un résultat fiable et utile.

B : Mais si un logiciel dit au juge : « cette personne va récidiver », comment le juge peut-il se sentir capable d’aller contre cet avis et de libérer la personne ?

LB : Il est vrai que cela crée une pression considérable sur le juge. Mais là, la machine ne définit pas de règle de droit. Il n’y a pas de règle de droit pour la libération conditionnelle. Il y a un minimum incompressible d’exécution de la peine, mais une fois cette date passée, la loi donne quelques critères généraux extrêmement souples et vagues, et laisse le reste à l’appréciation du juge. Ce que la machine va faire, ce sera de la prédiction, un travail sociologique plus que juridique, une sorte de version numérique du criminologue Lombroso.

B : Et si l’algorithme prédictif donne une probabilité de récidive, après étude de données massives, mais sans expliquer sa prédiction ?

LB : De toute façon tout cela n’est envisageable qu’après un contrôle de l’Etat. Les juges ne peuvent pas s’emparer de ces outils sans un organe de contrôle, le Ministère de la justice ou la Chancellerie, un organe central qui ira voir l’informaticien et lui demandera les critères utilisés.

B : À quel point est-il important que le résultat du programme soit accompagné d’une explication ?

LB : Il faut une transparence de l’algorithme. L’autorité de contrôle doit comprendre comment le programme fonctionne. Si l’algorithme utilisait des critères prohibés tels que la race, le sexe, ou la religion par exemple, ce serait illégal. De ce point de vue, les pays anglo-saxons sont essentiellement utilitaristes. Notre société n’est pas ainsi. Nous restons attachés à des principes non négociables, et on refusera des algorithmes, même très efficaces, s’ils utilisent des critères prohibés. Les principes, ce sont les racines, c’est la sève, et le résultat, c’est le fruit. Il y a des racines constitutionnelles à notre droit, et à partir de celle-ci on essaiera d’être les plus efficaces possibles. Un projet de société où il n’y aurait plus aucun crime est utopique et totalitaire.

De plus, avant de condamner quelqu’un, le juge voudra vérifier que la machine n’a pas raconté n’importe quoi, et voudra donc regarder l’interprétation livrée par la machine. L’acte en cause, mettre ou non quelqu’un en prison, est un acte grave et un juge ne peut le déléguer à une machine.

Je dois pouvoir regarder dans les yeux celui qui m’envoie en prison

B : Même si mon ordinateur-juge fait moins d’erreurs, est moins souvent contredit par les cours supérieures, et envoie moins souvent des innocents en prison, vous continuez à dire que pour des questions de principe la justice doit quand même rester sous le contrôle du juge ?

LB : Je ne vois pas les hommes confier totalement leur destin à des machines. Je ne vois pas les français confier la décision d’envoyer un homme en prison à une machine. Si cela devait arriver, j’y serais profondément hostile. Pour accepter que quelqu’un m’envoie en prison, j’ai besoin de le regarder dans les yeux. C’est parce que c’est mon semblable qu’il a le droit de me sanctionner. Une machine n’a pas ce droit. D’une manière curieuse, ce qui rend acceptable la sanction pénale, c’est que le juge peut être lui aussi puni s’il commet une infraction. Le juge et l’assassin sont tous les deux des êtres humains. Comme tu es mon frère, tu as le droit de me juger, de me dire que ce que j’ai fait est horrible et mérite la prison. La machine n’est pas mon frère et ne peut pas me juger car elle est incapable de faire ce que j’ai fait.