Juízes sul-coreanos relatam uso disseminado de citações falsas geradas por IA enquanto administração judicial busca mudanças na legislação

Decisões inventadas aparecem em petições judiciais

A Suprema Corte da Coreia do Sul divulgou sua primeira pesquisa com juízes sobre citações jurídicas falsas associadas à inteligência artificial. O levantamento constatou que 196 juízes que atuam em casos cíveis, de família e administrativos, ou 80,7% dos que responderam à pergunta, já haviam encontrado referências a precedentes inexistentes. Algumas petições incluíam decisões inventadas, apresentadas como se fossem julgamentos reais da Suprema Corte.

A pesquisa, realizada de 6 a 16 de outubro e divulgada em 2 de novembro, recebeu respostas de 360 juízes de tribunais de todo o país. Também constatou que advogados e pessoas que conduzem os próprios processos haviam apresentado documentos com referências jurídicas falsas.

A Administração Nacional dos Tribunais, órgão administrativo da Suprema Corte, planeja consultar o Ministério da Justiça e outras entidades sobre mudanças na Lei de Processo Civil e na Lei de Processo Penal. As conversas tratarão das bases legais para aplicação de multas e outras medidas diante de documentos com informações incorretas.

Os juízes demonstraram forte apoio a medidas: 91,7% disseram que eram necessárias ações institucionais, incluindo 64,8% que as consideraram muito necessárias. A administração afirmou que verificar citações falsas consome o tempo de juízes e das partes contrárias, gera custos e pode atrasar o direito das pessoas a um julgamento em tempo razoável.

O que mostram os números da pesquisa

O problema mais comum era a referência a uma decisão inexistente. Os juízes também encontraram referências a decisões reais cujo conteúdo havia sido alterado ou cujo sentido havia sido deturpado. Um precedente jurídico é uma decisão judicial anterior citada para sustentar um argumento sobre como a lei deve ser aplicada.

A pesquisa permitia que os entrevistados selecionassem mais de um tipo de citação falsa. Os resultados entre juízes das áreas cível, de família e administrativa foram:

• 196 juízes, ou 80,7%, encontraram citações de precedentes inexistentes.
• 159 juízes, ou 65,4%, encontraram relatos falsos de precedentes.
• 41 juízes, ou 16,9%, encontraram leis e regulamentos falsos ou inexistentes.
• 10 juízes, ou 4,1%, encontraram artigos acadêmicos e outras publicações falsos ou inexistentes.

Os percentuais usam o grupo de respostas de cada pergunta da pesquisa, que contou com a participação de 360 juízes no total. Os juízes podiam relatar vários tipos de erro, portanto as categorias se sobrepõem.

O número de juízes que relataram precedentes inexistentes foi 37 maior que o dos que encontraram relatos falsos de precedentes: 196 contra 159. Em conjunto, esses resultados mostram que a verificação tem duas etapas: localizar a decisão citada e lê-la para confirmar se ela sustenta o argumento apresentado.

Como as citações falsas apareceram

Os juízes relataram petições com documentos gerados por IA que imitavam o formato de decisões da Suprema Corte. Outros documentos combinavam um argumento jurídico desconhecido com o número de um processo da Suprema Corte que não aparecia nas buscas.

Em geral, o número de um processo ajuda o leitor a localizar um caso ou uma decisão específica. Quando a referência não leva a lugar algum, o juiz ou a parte contrária precisa gastar mais tempo tentando identificar a decisão por trás da alegação.

Alguns documentos mencionavam decisões reais, mas alteravam o que o tribunal havia decidido ou usavam o julgamento de uma forma que distorcia seu sentido. Conferir apenas o número do processo não resolveria esse problema. Também seria necessário comparar o argumento apresentado na petição com o teor da decisão.

Outros documentos continham trechos de conversas com uma ferramenta de IA ou textos sobre estratégias de litígio. Essas passagens indicavam claramente aos juízes que a IA havia sido usada na preparação dos documentos.

A pesquisa analisou preocupações com alucinações de IA, termo usado para informações incorretas apresentadas como se fossem verdadeiras. Em um documento judicial, um caso inventado pode parecer convincente por vir acompanhado de linguagem jurídica familiar, um número de processo e o formato de uma decisão.

Advogados e partes apresentaram erros

Questionados sobre quem havia apresentado precedentes falsos ou outros materiais incorretos, 164 juízes, ou 69,5% dos que responderam à pergunta, apontaram as próprias partes. Outros 136 juízes, ou 57,6%, apontaram advogados que atuavam como representantes ou defensores.

O número 164 se refere aos juízes que encontraram citações falsas apresentadas por partes em um processo. Ao longo da pesquisa, os juízes descreveram materiais incorretos recebidos durante processos judiciais.

Os grupos de respostas se sobrepõem porque um juiz poderia encontrar citações falsas tanto em um processo conduzido pela própria parte quanto em um caso representado por advogado. Os números medem os juízes que relataram essas experiências; o foco da pesquisa era a exposição deles ao problema, não a contagem de todas as petições com erros.

A participação de advogados dá especial relevância à proposta de exigir a verificação das informações. A representação profissional já coloca alguém com formação jurídica entre o argumento do cliente e o tribunal. Ainda assim, mais da metade dos que responderam à pergunta havia encontrado materiais incorretos apresentados por advogados.

Quem conduz o próprio processo enfrenta outro tipo de dificuldade prática. Essas pessoas precisam preparar argumentos e responder à outra parte sem a ajuda de um advogado. A administração alertou que pode ser especialmente difícil para elas identificar e contestar uma decisão inventada ou um relato enganoso de uma decisão real.

Quem paga o custo de verificar um caso inventado?

A Administração Nacional dos Tribunais afirmou que citações falsas podem transferir trabalho adicional para a parte contrária. Quem recebe um documento com um precedente desconhecido talvez precise pesquisá-lo, conferir o conteúdo citado e preparar uma resposta que explique o erro.

Assim, uma citação falsa pode gerar custos além do documento em que aparece. Uma parte representada por advogado pode precisar de mais trabalho jurídico; quem não tem advogado precisa gastar o próprio tempo investigando uma referência que talvez nunca leve a uma decisão real.

Os juízes enfrentam um ônus semelhante. O tempo gasto para verificar se uma decisão existe ou se seu conteúdo foi alterado se soma ao tempo de análise do processo pelo tribunal. A administração relacionou esse trabalho adicional a processos mais lentos e atrasos no acesso à Justiça.

A preocupação é especialmente concreta quando uma referência falsa parece ser uma decisão oficial da Suprema Corte. Sua aparente autoridade leva a parte contrária a investigá-la cuidadosamente, enquanto o tribunal precisa resolver o problema da citação antes de avaliar o argumento jurídico baseado nela.

Quatro medidas têm apoio majoritário

Os juízes apoiaram várias respostas possíveis, e as opções mais populares tiveram níveis de apoio muito próximos. A criação de bases legais para aplicação de multas recebeu o apoio de 215 juízes, ou 61,4%. A obrigação de verificar precedentes citados e outros materiais teve o apoio de 214, ou 61,1%.

A exigência de que as pessoas informem o uso de IA recebeu o apoio de 212 juízes, ou 60,6%. Sanções contra advogados, incluindo encaminhamentos para processos disciplinares, foram apoiadas por 194, ou 55,4%.

A diferença entre o apoio à criação de uma base legal para multas e o apoio à divulgação do uso de IA foi de apenas três juízes: 215 contra 212. Os números próximos sugerem que os entrevistados favorecem várias formas de lidar com o problema, em vez de se concentrarem em uma única medida.

Cada proposta aborda uma etapa diferente da preparação e apresentação de um documento judicial. A verificação exigiria a conferência dos materiais jurídicos. A divulgação informaria ao tribunal que a IA foi usada. As multas criariam uma consequência financeira dentro do marco legal proposto, enquanto os encaminhamentos disciplinares levariam a conduta de um advogado à instância profissional competente.

Citações falsas repetidas foram apontadas entre as condutas que poderiam levar a encaminhamentos disciplinares. As propostas da administração combinam a responsabilidade pela exatidão das petições com consequências quando materiais incorretos chegam aos tribunais.

Próximos passos: mudanças legais e orientações on-line

A Administração Nacional dos Tribunais planeja discutir alterações na Lei de Processo Civil e na Lei de Processo Penal com as entidades competentes, incluindo o Ministério da Justiça, e apresentar suas considerações à Assembleia Nacional. As mudanças propostas estabeleceriam bases legais para medidas como multas.

As etapas descritas pela administração são:

• De 6 a 16 de outubro: juízes de tribunais de todo o país participaram da pesquisa.
• 2 de novembro: os resultados da pesquisa foram divulgados.
• Próximos passos: consultas com as entidades competentes e apresentação das considerações da administração à Assembleia Nacional sobre mudanças legislativas.

Não foi divulgado um cronograma para as consultas, uma votação legislativa ou a implementação de multas. Os valores de eventuais multas e as condições detalhadas para aplicá-las também seguem indefinidos nos planos anunciados.

A administração avalia publicar orientações sobre o uso de IA no site de processos judiciais eletrônicos. Isso disponibilizaria recomendações no mesmo espaço em que advogados e partes já realizam atividades judiciais, com o objetivo de ajudá-los a verificar a exatidão de materiais preparados com IA.

Os resultados da pesquisa apontam uma prioridade prática para essas orientações: verificar tanto a existência quanto o sentido das decisões. Um número de processo real ajuda a localizar uma decisão, enquanto a leitura dela permite saber o que o tribunal de fato declarou. Os exemplos encontrados pelos juízes mostram por que as duas verificações são importantes.

Pontos principais

• A primeira pesquisa da Suprema Corte sobre citações falsas relacionadas à IA recebeu respostas de 360 juízes.
• Entre os juízes das áreas cível, de família e administrativa que responderam à pergunta, 80,7% encontraram citações de precedentes inexistentes.
• Os juízes relataram decisões falsas atribuídas à Suprema Corte, números de processos impossíveis de localizar, decisões alteradas e trechos de conversas com IA deixados em petições.
• Materiais falsos foram apresentados tanto pelas próprias partes quanto por advogados que as representavam.
• 91,7% dos entrevistados apoiaram medidas institucionais, e a maioria favoreceu multas, deveres de verificação, divulgação do uso de IA e sanções a advogados.
• A Administração Nacional dos Tribunais planeja consultas sobre mudanças nas leis processuais e avalia publicar orientações no site de processos judiciais eletrônicos.