Usar IA em decisões sem transparência ofende prerrogativas da advocacia

As três seccionais da OAB da região sul debateram em Foz do Iguaçu, em março deste ano, o uso da inteligência artificial no Poder Judiciário e suas implicações nas prerrogativas da advocacia. Historicamente, a advocacia é uma profissão que tem por base a técnica da argumentação jurídica, utilizando-se da escrita e da fala para promover o convencimento do juiz, na solução e pacificação de conflitos.

Quando pensamos na possibilidade de robôs resumirem as petições elaboradas pela advocacia, claro que surge a preocupação sobre uma produção em série de decisões baseadas em algoritmos que selecionam, previamente, o que é e o que não é relevante. O argumento pontual, a característica peculiar do caso concreto, enfim a argumentação, perdem força numa análise preditiva baseada em algoritmos definidos.

Quando pensamos na possibilidade de a inteligência artificial propor soluções jurídicas a magistrados, a preocupação com os espaços da advocacia cresce ainda mais, pois também essas decisões podem ser conduzidas por algoritmos previamente programados.

Risco elevado em decisões judiciais

O AI Act da Comunidade Europeia, um regulamento de aplicação automática e obrigatória nos países que integram aquela aliança, classifica o uso da inteligência artificial nas decisões judiciais como de risco elevado e alerta que “a utilização de ferramentas de IA pode auxiliar o poder de tomada de decisão dos magistrados ou da independência judicial, mas não o deverá substituir, a decisão final tem de continuar a ser uma atividade humana”.

A classificação de risco foi repetida pela resolução 615/2025 do CNJ, que estabeleceu no seu anexo que uso de IA para análise e valoração de provas, bem como a parte dispositiva das sentenças é de alto risco. No PL 2.338, também o uso de IA em processos decisórios está catalogado como de alto risco. Há consenso em todos esses normativos de que o dispositivo das sentenças judiciais deve ser produzido com a necessária e indispensável interferência humana. A preocupação se justifica, pois a comodidade da IA pode levar à delegação da tarefa de julgar à máquina.

Três pilares devem ser observados no uso da IA em processos decisórios judiciais: transparência, auditabilidade e contestabilidade.

O cidadão e a advocacia têm o direito de saber que uma decisão foi proferida por IA e qual foi o sistema ou software utilizado. Este sistema precisa ser auditado periodicamente para verificação de desvios e utilização de vieses. E essas auditorias precisam ser publicizadas. Por fim, uma decisão proferida por IA deve permitir o uso de mecanismos amplos de contestação, com a permissão de indicação de distinguishing e intervenção 100% humana na análise de tal contestação.

Debates em Foz do Iguaçu

O encontro de Foz do Iguaçu abordou questões interessantes: se um sistema de IA, ancorado em um banco de dados, como por exemplo o Codex, desenvolvido pelo CNJ, auxiliar na decisão de 1º Grau, esse mesmo sistema poderá ser utilizado em 2º Grau, devido ao risco de se repetir a decisão? O uso de sistemas de IA abertos/públicos para proferir decisões judiciais, sem observar as regras do artigo 19 da Resolução 615 do CNJ, gera nulidade? Seria o caso de pensarmos em uma alteração legislativa no artigo 489, do CPC, para prever um novo capítulo nas sentenças e acórdãos, onde o magistrado informe a sua análise humana sobre as provas, o convencimento e a conclusão final? Poderia ser anulada uma decisão proferida por sistema de IA que não passa por auditoria?

Em um ambiente ainda experimental, é natural a chamada “alucinação da IA”, criando, por exemplo, jurisprudência. Quando isso acontece, é correto aplicar penalidade por litigância de má-fé, com imposição de multa ao advogado, ou ele deveria ser advertido pelo seu órgão de classe, uma vez que para o juiz que erra no uso da IA, não existe sanção pecuniária? Dentro do princípio da transparência é direito da parte saber que uma decisão judicial foi proferida com auxílio de IA (artigo 33, da resolução 615)? Os prompts utilizados para gerar uma decisão com auxílio de IA, devem ser armazenados, para fins de auditoria? O jurisdicionado tem direito de conhecer esses prompts? Quando se permite ao Juiz o uso de sistemas de IA abertos/públicos, como fica o risco de compartilhamento de documentos e informações sigilosas nas plataformas utilizadas? Chegaremos ao ponto de um processo formulário?

As indagações acima, culminaram com uma extensa carta conclusiva do encontro, na qual ficou claro que é preciso avançar rapidamente na transparência e auditabilidade dos sistemas de IA que a magistratura está utilizando, bem como, nesse ambiente, as prerrogativas da advocacia de usar da palavra em tempo real, nos julgamentos, e ter acesso pessoal aos magistrados para despachar, não podem ser relativizadas. A IA é bem-vinda, mas não pode substituir o advogado e o juiz humano.