Corte dos EUA multa advogado e pune até adversário por ‘fabricações’ do ChatGPT

O Tribunal de Recursos do 2º Distrito da Califórnia divulgou uma decisão que, “em circunstâncias normais não justificaria publicação”, só para impor uma punição exemplar a um advogado que usou “fabricações” do ChatGPT em sua petição inicial.

O tribunal aplicou uma multa de US$ 10 mil ao advogado Amir Mostafavi, após detectar que 21 das 23 citações que ele incluiu na petição eram falsas.

“As alucinações da ferramenta de inteligência artificial (IA) criaram precedentes que não existem. Ou existem, mas as citações não aparecem nos tais precedentes, nem em lugar algum”, diz a decisão do tribunal.

“O advogado será punido porque ele sequer leu os precedentes citados pelo ChatGPT”, concluiu a decisão.

Sobrou até para a parte contrária

Sancionar advogados e escritórios que citam jurisprudência fabricada por IA já é algo corriqueiro na justiça dos EUA. Esse processo, porém, traz uma novidade: também houve punição, ainda que mais leve, à parte adversária.

A corte explicou que deveria, em situações normais, ter obrigado Mostafavi a pagar as taxas e demais custos do advogado da parte adversária. Nesse caso, contudo, a parte contrária teve que arcar com as próprias despesas por não ter alertado o juízo.

“Embora não tenhamos dúvida de que tais sanções são apropriadas em certos casos, neste processo a parte adversária não alertou a corte sobre as citações fabricadas”. Ou seja, o advogado adversário também não leu os precedentes citados pelo ChatGPT, para verificar se as citações eram corretas ou falsas.

No final das contas, quem paga o pato por essas ações frívolas é a própria corte, diz a decisão. “Essas ações oneram desnecessariamente o tribunal (que tem de fazer todo o trabalho) e os contribuintes”.

E, mais que isso, as partes envolvidas não são as únicas prejudicadas por uma ação frívola. Muito mais pessoas que buscam a justiça para, de boa-fé, resolver disputas, podem esperar anos para resolvê-las quando a atenção, o tempo e os recursos do tribunal são desviados para tais tipos de ação.

“Consequentemente, uma medida apropriada de sanções também deve compensar o governo pelas despesas no processamento, revisão e decisão de um recurso frívolo”, diz a decisão.

Alerta da corte

Além de aplicar a multa, a corte determinou que o advogado forneça uma cópia da decisão a seu cliente, para que ele tome conhecimento do que aconteceu. Outra cópia deverá ser enviada à seccional da American Bar Association (ABA) da Califórnia, para que a instituição fortaleça seu código de ética e produza um guia para orientar os advogados, até 15 de dezembro.

O colegiado de três juízes do tribunal de recursos escreveu que resolveu publicar essa decisão para que as punições sirvam de advertência a outros advogados e juízes, que usam a ferramenta de IA generativa, mas não leem – e não checam – os precedentes citados.

“Nos últimos dois anos, as cortes do país vêm confrontando petições recheadas de citações jurídicas fraudulentas, resultantes da dependência de advogados de tecnologia como a IA generativa – um fenômeno conhecido como ‘alucinações’ da inteligência artificial”.

Segundo a corte, o problema das “alucinações” da IA vai piorar antes de melhorar. “Um relatório recente indica que os novos modelos da OpenAI alucinam de 30% a 50% das vezes, como mostraram alguns testes”.

“O relatório explica que muitos modelos de inteligência artificial são projetados para maximizar a chance de oferecer uma resposta, significando que o bot irá mais provavelmente fornecer uma resposta incorreta do que admitir que não sabe alguma coisa”.

A decisão afirma que não há nada de errado com o uso da inteligência artificial na prática do Direito, mas “os profissionais devem checar cuidadosamente a correção de cada citação, fato ou argumento. “Profissionais de Direito não devem delegar esse papel à IA, computadores, robots ou qualquer forma de tecnologia”.

Problema crescente

O professor de inteligência artificial, Damien Charlotin, que rastreia falsas citações em processos de todo tipo, disse à imprensa que, em tempos recentes, encontrava alguns poucos casos por mês. Hoje, encontra uma quantia semelhante de situações desse tipo por dia.

“Quanto mais difícil é o caso, mais os modelos de IA alucinam, porque eles sempre tentam agradar você”, ele declarou.

Uma análise de 2024 da RegLab da Staford University revelou que três de quatro advogados usam IA generativa no trabalho, e algumas formas de IA geram alucinações em uma de três casos pesquisados. “Detectar material falso citado em petições judiciais vai ficando mais difícil, conforme os modelos crescem em tamanho”, disse.

Nicholas Sanctis, que também rastreia casos semelhantes, identificou 52 incidentes do tipo na Califórnia e mais de 600 no país. “Esses números devem aumentar porque as inovações na IA estão superando a capacidade de aprendizado dos advogados”.

Jenny Wondracek, que lidera um projeto de rastreamento desses casos e treina advogados, disse que encontra, frequentemente, profissionais que não sabem que a IA inventa coisas ou acreditam que as ferramentas tecnológicas jurídicas podem eliminar todo material fabricado ou falso, gerado por modelos de linguagem.

“Os problemas ocorrem, mais frequentemente, com advogados sobrecarregados de trabalho e com pessoas que decidem representar a si mesmas nas varas de família”. Ela disse ainda: “Nas últimas semanas, documentei três instâncias em que juízes citaram precedentes fabricados em suas decisões”.

Com a palavra, o ChatGPT

O uso da inteligência artificial no sistema judicial é irreversível, dizem os especialistas. Nas faculdades de Direito, estudantes e professores são bombardeados com mensagens sobre a necessidade de usar a IA. Nos escritórios de advocacia as pressões são crescentes – e o aumento das multas, devido aos erros, também.

A título de exercício, a revista eletrônica Consultor Jurídico perguntou ao próprio ChatGPT o que ele acha do caso:

Pergunta ao ChatGPT: O Tribunal de Recursos do 2º Distrito da Califórnia aplicou uma multa de US$ 10 mil ao advogado Amir Mostafavi, por protocolar petições com citações, geradas pelo ChatGPT, recheadas de fabricações. Essa é uma multa justa?

Resposta do ChatGPT: Posso fornecer a você a perspectiva jurídica e ética disso.

Por que a corte multou Amir Mostafavi:

• As cortes esperam que os advogados submetam petições com citações corretas e argumentos honestos.
• Protocolar petições com citações falsas ou fabricadas, sejam do ChatGPT ou de outra ferramenta, é considerado:
• Uma violação da Regra 11 da Federal Rules of Civil Procedure (ou de regras estaduais equivalentes), que proíbem a apresentação de declarações falsas ou reclamações frívolas;
• Conduta antiética, de acordo com as regras de responsabilidade profissional, uma vez que os advogados devem exercer competência, diligência e lisura para com o tribunal.

Pergunta ao ChatGPT: O tribunal de recursos da Califórnia concluiu que as petições de Mostafavi continham precedentes e citações inventadas, produzidas pelo ChatGPT. Mesmo sendo advertido, ele deixou de examiná-los cuidadosamente. Essa é a razão por que a corte impôs a sanção de US$ 10 mil. A multa é justa?

Resposta do ChatGPT: Sanções em casos como esse são projetadas para:

• Deter má conduta – para advertir outros advogados contra confiar cegamente em IA, sem verificação;
• Proteger o processo judicial – direito falso mina a confiança nas cortes;
• Responsabilizar o advogado – o dever de checar falsidades é do advogado, não da ferramenta usada.

Comparação com outras sanções recentes:

• Em 2023, dois advogados de Nova York foram multados em US$ 5 mil, por citações de casos não existentes, geradas pelo ChatGPT (Mata v. Avianca); A corte da Califórnia dobrou essa quantia, provavelmente para enfatizar a seriedade em nível de recurso. Considerando esses precedentes, a multa de US$ 10 mil está dentro de uma faixa razoável e pode ser considerada justa, porque é proporcional ao dano, consistente com os padrões de ética jurídica, e serve como um desestímulo.

Em resumo: Sim, a multa é justa. As cortes precisam manter a integridade e os advogados têm um dever ético de verificar os resultados da IA antes de protocolar suas petições.

Enfim, a resposta do ChatGPT é basicamente: “Posso ajudar você em suas pesquisas jurídicas e até mesmo a redigir petições. Mas reconheço que sofro ‘alucinações’, que podem lhe causar problemas. Portanto, use-me por sua conta e risco”.