A Bolha da IA generativa no Poder Judiciário: o tamanho do risco

A adoção acelerada de Modelos de Linguagem de Larga Escala (LLMs) privados, fora do controle interno dos Tribunais, por magistrados e servidores/assessores, motivada pela busca por produtividade, cria um cenário de risco não declarado que nomeamos “Bolha da IA Generativa”. A “Bolha” caracteriza-se pelo uso generalizado e eficiente, mas opaco, de IAGen, sendo diretamente confrontada pelo regime de transparência e accountability estabelecido pela Res. 615/25 do Conselho Nacional de Justiça (CNJ).

A Resolução CNJ nº 615/2025: o Marco Regulatório da Inteligência Artificial e Generativa

A Resolução 615, de 11/03/2025, do CNJ, estabelece as diretrizes para o desenvolvimento, utilização e governança de soluções de inteligência artificial no Poder Judiciário, servindo como o principal marco regulatório destinado a equilibrar a eficiência com a ética e o devido processo legal.

No que interessa para o texto:

[a] Objetivo Central: A Resolução busca assegurar que o uso de IAGen no Judiciário esteja em consonância com pressupostos éticos fundamentais, incluindo a dignidade humana, o não discriminação, o devido processo legal e a prestação de contas e responsabilização (governança, accountability e compliance digital; aqui).

[b] Mecanismos de Conformidade: Para garantir o controle, a norma estabelece a classificação de risco (Risco Baixo; Risco Alto e Risco Excessivo: atividades vedadas) e impõe o requisito de transparência e explicabilidade (artigo 4º, XVIII).

[c] Vedações e Restrições: A Resolução permite o uso auxiliar de IAGen para “produção de textos de apoio” (Baixo Risco – BR4), vedando a substituição da avaliação humana sobre provas ou perfis, além de exigir a supervisão e a versão final sejam sempre realizadas pelo magistrado, associados aos deveres de compliance e accountability.

A Bolha da IAGen se forma exatamente na tensão entre a busca pela eficiência e as exigências de transparência e responsabilidade atribuídas pela Resolução 615/25.

A lógica da produtividade, métricas e os incentivos ampliados

Spacca

A lógica que impulsiona a adesão opaca à IAGen é o sistema de metas de produtividade do Judiciário, aliada ao amplo desconhecimento quanto ao funcionamento dos modelos de linguagem. A sequência do argumento defendido é:

[a] Produtividade e Métricas de Desempenho: A cobrança por alta taxa de output (atos processuais) cria uma pressão direta sobre o magistrado e a assessoria. A IAGen oferece um “atalho” (by-pass) para a produção textual de peças como minutas de despachos, sentenças e acórdãos, permitindo o cumprimento de metas com menor esforço humano.

[b] O Disclaimer como Atrito: A inclusão do disclaimer (aviso de uso), exigida pela Resolução (art. 19), é percebida pelo agente como um custo administrativo e de accountability: demanda tempo, exige registro do prompt e pode expor o magistrado e o Tribunal a questionamentos sobre a validade do ato, além de ampliar o ônus argumentativo. Sob a pressão das metas, o Agente tem o incentivo de eliminar esse custo burocrático, mesmo que viole a regra de transparência (artigo 19, § 6º).

O Problema de Agência: origem, conceito e a dupla camada no Judiciário

O uso não transparente da IAGen se enquadra no Problema de Agência, um conceito da Teoria da Firma (Jensen e Meckling), situação em que o agente age em nome do principal, mas com incentivos próprios que criam um conflito de agência (os objetivos/interesses do agente são diferentes do principal).

Conceito e exemplo em corretores de imóveis

O agente possui uma assimetria de informação (sabe se usou IA ou não) e incentivos (produtividade) que se sobrepõem ao interesse do principal (segurança jurídica; transparência; explicabilidade). Por exemplo: Um corretor de imóveis (agente) vende a casa do proprietário (principal). O principal (vendedor) deseja o preço máximo. O agente, que ganha uma comissão percentual, é incentivado a fechar o negócio rapidamente para receber a comissão e passar ao próximo cliente, ainda que por preço menor. A celeridade (incentivo próprio) conflita com o ganho ótimo (interesse do principal pelo maior valor). A situação dos gerentes de banco, operadores de bolsa de valores que insistem em “transações” segue a mesma lógica (metas e comissões).

O duplo Problema de Agência na IAGen Judicial

A tabela abaixo sintetiza o risco associado:

A “Bolha da IA Generativa”: conceito, metáfora econômica e riscos ocultos

A “Bolha da IA Generativa” é análoga a uma “bolha econômica ou imobiliária”. Por isso, usamos a metáfora econômica. Na Bolha, o preço dos imóveis (a produtividade do gabinete) cresce de forma insustentável, descolado do seu valor real (que é a segurança jurídica, transparência, direito à informação, explicabilidade e a validade da prova). O crescimento é baseado na especulação (a promessa de eficiência da IA). O fundamento real (a transparência, direito à informação e o controle) é arredado em nome do resultado. Em consequência, cria-se o risco da explosão. Quando a especulação é confrontada com a realidade (uma auditoria, um recurso que questione a validade do ato por omissão de disclaimer), a confiança desaparece e a Bolha explode.

A Bolha é arriscada porque utiliza o fundamento da eficiência (artigo 2º, III) para justificar a violação direta ou indireta ao devido processo legal, especialmente: [a] Risco de Nulidade: O uso opaco da IAGen para fins de valoração de provas ou juízos conclusivos sobre a norma (Alto Risco – AR4 aqui e aqui), sem disclaimer, pode levar à nulidade do ato judicial por vício de motivação/fundamentação; e, [b] Viés e Alucinação Oculta: O agente insere no ato judicial um risco probabilístico (alucinação ou viés discriminatório aqui) como se fosse uma conclusão fática ou jurídica inquestionável, violando o princípio da Não-Discriminação (artigo 3º, I).

Modelo de declaração de uso (disclaimer)

O disclaimer é a ferramenta de transparência que confronta a opacidade da Bolha, sendo o ato de responsabilidade humana que assegura o devido processo legal, indicada pelo seguinte modelo:

“Declaração de Uso de Inteligência Artificial Generativa. Em observância à Resolução CNJ 615/2025, art. 19, § 3º, e art. 33: (1) Ferramenta Auxiliar: O presente ato [ESPECIFICAR O ATO: judicial/administrativo] utilizou-se da IAGen [INDICAR NOME DA FERRAMENTA, p.ex: LLM de Mercado X (uso privado)] exclusivamente como ferramenta auxiliar de redação e sumarização de informações. (2) Comando (Prompt) Principal Utilizado: [INSERIR AQUI O TEXTO DO PROMPT OU O RESUMO DO COMANDO QUE GEROU A PARTE APROVEITADA, p.ex: ‘Elabore um rascunho de despacho de citação com base no Art. X do CPC e na seguinte petição inicial…1]. (3) Fontes de Dados Consultadas/Mencionadas: [INDICAR AS FONTES UTILIZADAS PELO USUÁRIO NO PROMPT, p.ex.: Apenas dados e precedentes públicos da Jurisprudência; Elementos fáticos extraídos das fls. 15 a 20 dos autos.]. (4) Responsabilidade e Revisão Humana: A versão final, a interpretação jurídica e a responsabilidade integral pelo conteúdo, fundamentação e mérito do presente ato são exclusivas do subscritor humano, que exerceu a devida supervisão, interpretação, verificação e revisão”.

Conclusão: a explosão iminente e riscos associados

A Bolha da IA Generativa, sustentada pela lógica da produtividade e pelo duplo problema de agência, tende a se sustentar nos curto e médio prazos, mas é inviável no longo prazo (quando os erros aparecerem). A omissão do disclaimer e a aceitação acrítica do output da IAGen criam um passivo decisório que será cobrado em futuro próximo.

A natureza probabilística do LLM garante que, mais dia menos dia, um erro grave (uma alucinação de precedente inventado ou um viés grave e danoso) será introduzido em uma decisão de impacto, expondo a confiança e a reputação de magistrados, assessores e o próprio tribunal. Nesse ponto, o custo da bolha (a nulidade do ato judicial e a perda da confiança pública) será inevitavelmente maior do que o custo de conformidade. A bolha da IA Generativa, descolada da conformidade, explodirá mais dia menos dia. O tempo dirá se estamos ou não corretos

Então, aos magistrados e assessores é urgente assumir o disclaimer como garantia de conformidade (accountability) e cláusula de proteção ao devido processo legal. O disclaimer é o ato final de responsabilidade humana exigido pela Resolução CNJ 615/2025. Não se deve trocar a validade de um ato judicial pela simples produtividade estatística. Mas enquanto isso, o cenário é grave. Se tiver dúvidas, pergunte ao seu LLM favorito.

P.S. O texto foi revisado pelo Gemini da Google, na versão pro.

P.S. 2. Confira um Glossário de Termos Associados ao artigo aqui.