En Corée du Sud, des juges signalent une multiplication des fausses citations générées par l’IA et l’administration judiciaire envisage des changements législatifs

Des décisions inventées versées aux dossiers judiciaires

La Cour suprême de Corée du Sud a publié sa première enquête auprès des juges sur les fausses citations juridiques associées à l’intelligence artificielle. Elle révèle que 196 juges traitant des affaires civiles, familiales et administratives, soit 80,7 % des répondants à cette question, avaient rencontré des références à des précédents inexistants. Certains documents déposés au tribunal comportaient des décisions fabriquées pour ressembler à de véritables arrêts de la Cour suprême.

L’enquête, menée du 6 au 16 octobre et publiée le 2 novembre, a recueilli les réponses de 360 juges de tribunaux de tout le pays. Elle a également révélé que des avocats, ainsi que des personnes plaidant elles-mêmes leur cause, avaient soumis des documents contenant de fausses références juridiques.

L’Administration nationale des tribunaux, l’organe administratif de la Cour suprême, prévoit de consulter le ministère de la Justice et d’autres organismes au sujet de modifications du Code de procédure civile et du Code de procédure pénale. Ces échanges porteraient sur les fondements juridiques permettant d’infliger des amendes et de prendre d’autres mesures en réponse à des documents inexacts.

Les juges se sont prononcés en faveur de mesures : 91,7 % ont estimé que des dispositions institutionnelles étaient nécessaires, dont 64,8 % qui les jugeaient très nécessaires. Selon l’administration, vérifier les fausses citations prend du temps aux juges et aux parties adverses, coûte de l’argent et peut retarder le droit des justiciables à être jugés dans un délai raisonnable.

Ce que montrent les chiffres de l’enquête

Le problème le plus fréquent était la référence à une décision inexistante. Les juges ont également rencontré des références à des décisions réelles dont le contenu avait été modifié ou dont le sens avait été dénaturé. Un précédent juridique est une décision de justice antérieure citée pour étayer un argument sur l’application du droit.

Les répondants pouvaient sélectionner plusieurs types de fausses citations. Voici les résultats pour les juges des affaires civiles, familiales et administratives :

• 196 juges, soit 80,7 %, avaient rencontré des citations de précédents inexistants.
• 159 juges, soit 65,4 %, avaient rencontré des présentations inexactes de précédents.
• 41 juges, soit 16,9 %, avaient rencontré des lois et règlements faux ou inexistants.
• 10 juges, soit 4,1 %, avaient rencontré des articles universitaires et d’autres publications faux ou inexistants.

Les pourcentages sont calculés parmi les répondants à chaque question de l’enquête, à laquelle 360 juges ont participé au total. Les juges pouvaient signaler plusieurs types d’erreurs ; les catégories se recoupent donc.

Les précédents inexistants ont été signalés par 37 juges de plus que les présentations inexactes de précédents : 196 contre 159. Ensemble, ces résultats montrent que la vérification comporte deux étapes : retrouver la décision citée et la lire pour confirmer qu’elle étaye bien l’argument avancé.

Comment les fausses citations se présentaient

Les juges ont décrit des documents générés par l’IA qui reprenaient la mise en forme des arrêts de la Cour suprême. D’autres dossiers associaient un argument juridique inhabituel à un numéro d’affaire de la Cour suprême introuvable lors d’une recherche.

Un numéro d’affaire permet normalement de retrouver une procédure ou une décision précise. Si la référence ne mène à rien, le juge ou la partie adverse doit consacrer du temps supplémentaire à tenter d’identifier la décision invoquée.

Certains documents mentionnaient de véritables décisions, mais modifiaient ce qu’avait tranché la cour ou leur attribuaient un sens différent. Vérifier uniquement le numéro d’affaire ne permettrait pas de résoudre ce problème. Il faudrait également comparer l’argument présenté dans le document avec le texte de la décision.

D’autres documents contenaient des extraits de conversations avec un outil d’IA ou des formulations relatives à la stratégie contentieuse. Ces passages indiquaient clairement aux juges que l’IA avait été utilisée pour préparer les documents.

L’enquête portait sur les inquiétudes liées aux hallucinations de l’IA, terme désignant des informations erronées présentées comme vraies. Dans un document judiciaire, une affaire inventée peut sembler convaincante parce qu’elle est accompagnée d’un vocabulaire juridique familier, d’un numéro d’affaire et de la mise en forme d’une décision.

Des erreurs soumises par des avocats comme par des justiciables

Interrogés sur l’identité des auteurs de précédents erronés ou d’autres éléments inexacts, 164 juges, soit 69,5 % des répondants à cette question, ont désigné les parties elles-mêmes. Par ailleurs, 136 juges, soit 57,6 %, ont désigné les avocats intervenant comme représentants ou avocats de la défense.

Le chiffre de 164 correspond aux juges qui ont rencontré de fausses citations soumises par des justiciables. Dans l’ensemble de l’enquête, les juges faisaient état de documents inexacts reçus au cours de procédures.

Les catégories se recoupent, car un juge pouvait rencontrer de fausses citations provenant à la fois d’une personne plaidant elle-même sa cause et d’un avocat. Les chiffres mesurent le nombre de juges ayant signalé ces expériences ; l’enquête portait sur leur exposition au problème, et non sur le décompte de tous les documents erronés.

La participation des avocats donne un poids particulier à l’obligation de vérification envisagée. La représentation juridique place déjà une personne formée au droit entre l’argument d’un client et le tribunal. Pourtant, plus de la moitié des répondants à cette question avaient rencontré des éléments inexacts soumis par des avocats.

Les personnes qui plaident elles-mêmes leur cause sont confrontées à une difficulté pratique différente. Elles doivent préparer leurs arguments et répondre à la partie adverse sans l’aide d’un avocat. L’administration a averti qu’il pourrait leur être particulièrement difficile de repérer et de contester une décision inventée ou la présentation trompeuse d’une décision réelle.

Qui supporte le coût de la vérification d’une affaire inventée ?

L’Administration nationale des tribunaux a indiqué que les fausses citations peuvent imposer un surcroît de travail à la partie adverse. Une personne recevant un document qui mentionne un précédent inconnu peut devoir le rechercher, vérifier les passages cités et préparer une réponse pour expliquer l’erreur.

Une fausse citation peut donc entraîner des coûts qui dépassent le document dans lequel elle apparaît. Une partie représentée peut avoir besoin de davantage de travail juridique ; une personne sans avocat doit consacrer son propre temps à vérifier une référence qui ne mènera peut-être jamais à une décision réelle.

Les juges sont confrontés à une charge similaire. Le temps passé à vérifier l’existence d’une décision ou la modification de son contenu s’ajoute à l’examen du litige par le tribunal. L’administration a lié ce surcroît de travail à l’allongement des procédures et aux retards d’accès à la justice.

Le problème est particulièrement concret lorsqu’une fausse référence ressemble à une décision faisant autorité de la Cour suprême. Son apparente autorité incite la partie adverse à l’examiner attentivement, tandis que le tribunal doit régler la question de la citation avant d’évaluer l’argument juridique qui s’appuie sur elle.

Quatre mesures recueillent le soutien d’une majorité

Les juges se sont prononcés en faveur de plusieurs réponses possibles, les options les mieux soutenues recueillant des niveaux d’adhésion très proches. La création d’un fondement juridique pour infliger des amendes a été soutenue par 215 juges, soit 61,4 %. L’obligation de vérifier les précédents cités et les autres éléments a recueilli le soutien de 214 juges, soit 61,1 %.

Rendre obligatoire la déclaration de l’utilisation de l’IA a été soutenu par 212 juges, soit 60,6 %. Des sanctions visant les avocats, notamment des saisines à des fins disciplinaires, ont recueilli le soutien de 194 juges, soit 55,4 %.

Seuls trois juges séparaient le soutien à la création d’un fondement juridique pour les amendes de celui à la déclaration de l’utilisation de l’IA : 215 contre 212. Ces chiffres proches suggèrent que les répondants privilégiaient plusieurs moyens de traiter le problème plutôt qu’une seule mesure.

Chaque proposition intervient à une étape différente de la préparation et du dépôt d’un document judiciaire. La vérification imposerait de contrôler les éléments juridiques. La déclaration informerait le tribunal de l’utilisation de l’IA. Les amendes créeraient une sanction financière dans le cadre juridique envisagé, tandis que les saisines disciplinaires soumettraient la conduite d’un avocat à la procédure professionnelle compétente.

La répétition de fausses citations figure parmi les comportements susceptibles de donner lieu à une saisine disciplinaire. Les propositions de l’administration associent la responsabilité quant à l’exactitude d’un document aux conséquences possibles lorsqu’un élément inexact est présenté au tribunal.

Modifications législatives et recommandations en ligne à venir

L’Administration nationale des tribunaux prévoit de discuter avec les organismes concernés, dont le ministère de la Justice, de modifications du Code de procédure civile et du Code de procédure pénale, puis de soumettre ses observations à l’Assemblée nationale. Les modifications proposées établiraient un fondement juridique pour des mesures telles que les amendes.

Voici le calendrier présenté par l’administration :

• Du 6 au 16 octobre : des juges de tribunaux de tout le pays ont participé à l’enquête.
• 2 novembre : publication des résultats de l’enquête.
• Prochaines étapes : consultations avec les organismes concernés et transmission des observations de l’administration à l’Assemblée nationale sur les modifications législatives.

Aucun calendrier n’a été annoncé pour ces consultations, un vote législatif ou l’instauration d’amendes. Le montant des éventuelles amendes et les conditions précises de leur imposition ne sont pas non plus arrêtés dans les projets annoncés.

L’administration envisage de publier des recommandations sur l’utilisation de l’IA sur le site de procédure judiciaire électronique. Elles seraient ainsi accessibles là où les avocats et les justiciables effectuent déjà leurs démarches judiciaires, dans le but de les aider à vérifier l’exactitude des éléments préparés avec l’IA.

Les résultats de l’enquête font ressortir une priorité pratique pour ces recommandations : vérifier à la fois l’existence et le sens des décisions. Un numéro d’affaire réel permet de retrouver une décision, tandis que sa lecture établit ce que le tribunal a effectivement dit. Les exemples rencontrés par les juges montrent pourquoi ces deux vérifications sont importantes.

À retenir

• La première enquête de la Cour suprême sur les fausses citations liées à l’IA a recueilli les réponses de 360 juges.
• Parmi les juges des affaires civiles, familiales et administratives ayant répondu à la question, 80,7 % avaient rencontré des citations de précédents inexistants.
• Les juges ont décrit des arrêts fabriqués de la Cour suprême, des numéros d’affaire introuvables, des décisions modifiées et des extraits de conversations avec une IA laissés dans des documents judiciaires.
• Des éléments inexacts ont été soumis tant par des justiciables eux-mêmes que par des avocats représentant des parties.
• 91,7 % des répondants étaient favorables à des mesures institutionnelles ; une majorité soutenait les amendes, les obligations de vérification et de déclaration ainsi que les sanctions visant les avocats.
• L’Administration nationale des tribunaux prévoit des consultations sur des modifications du droit procédural et envisage de publier des recommandations sur le site de procédure judiciaire électronique.