A adoção acelerada de Modelos de Linguagem de Larga Escala (LLMs) privados, fora do controle interno dos Tribunais, por magistrados e servidores/assessores, motivada pela busca por produtividade, cria um cenário de risco não declarado que nomeamos “Bolha da IA Generativa”. A “Bolha” caracteriza-se pelo uso generalizado e eficiente, mas opaco, de IAGen, sendo diretamente confrontada pelo regime de transparência e accountability estabelecido pela Res. 615/25 do Conselho Nacional de Justiça (CNJ).
A Resolução CNJ nº 615/2025: o Marco Regulatório da Inteligência Artificial e Generativa
A Resolução 615, de 11/03/2025, do CNJ, estabelece as diretrizes para o desenvolvimento, utilização e governança de soluções de inteligência artificial no Poder Judiciário, servindo como o principal marco regulatório destinado a equilibrar a eficiência com a ética e o devido processo legal.
No que interessa para o texto:
[a] Objetivo Central: A Resolução busca assegurar que o uso de IAGen no Judiciário esteja em consonância com pressupostos éticos fundamentais, incluindo a dignidade humana, o não discriminação, o devido processo legal e a prestação de contas e responsabilização (governança, accountability e compliance digital; aqui).
[b] Mecanismos de Conformidade: Para garantir o controle, a norma estabelece a classificação de risco (Risco Baixo; Risco Alto e Risco Excessivo: atividades vedadas) e impõe o requisito de transparência e explicabilidade (artigo 4º, XVIII).
[c] Vedações e Restrições: A Resolução permite o uso auxiliar de IAGen para “produção de textos de apoio” (Baixo Risco – BR4), vedando a substituição da avaliação humana sobre provas ou perfis, além de exigir a supervisão e a versão final sejam sempre realizadas pelo magistrado, associados aos deveres de compliance e accountability.
A Bolha da IAGen se forma exatamente na tensão entre a busca pela eficiência e as exigências de transparência e responsabilidade atribuídas pela Resolução 615/25.
A lógica da produtividade, métricas e os incentivos ampliados
A lógica que impulsiona a adesão opaca à IAGen é o sistema de metas de produtividade do Judiciário, aliada ao amplo desconhecimento quanto ao funcionamento dos modelos de linguagem. A sequência do argumento defendido é:
[a] Produtividade e Métricas de Desempenho: A cobrança por alta taxa de output (atos processuais) cria uma pressão direta sobre o magistrado e a assessoria. A IAGen oferece um “atalho” (by-pass) para a produção textual de peças como minutas de despachos, sentenças e acórdãos, permitindo o cumprimento de metas com menor esforço humano.
[b] O Disclaimer como Atrito: A inclusão do disclaimer (aviso de uso), exigida pela Resolução (art. 19), é percebida pelo agente como um custo administrativo e de accountability: demanda tempo, exige registro do prompt e pode expor o magistrado e o Tribunal a questionamentos sobre a validade do ato, além de ampliar o ônus argumentativo. Sob a pressão das metas, o Agente tem o incentivo de eliminar esse custo burocrático, mesmo que viole a regra de transparência (artigo 19, § 6º).
O Problema de Agência: origem, conceito e a dupla camada no Judiciário
O uso não transparente da IAGen se enquadra no Problema de Agência, um conceito da Teoria da Firma (Jensen e Meckling), situação em que o agente age em nome do principal, mas com incentivos próprios que criam um conflito de agência (os objetivos/interesses do agente são diferentes do principal).
Conceito e exemplo em corretores de imóveis
O agente possui uma assimetria de informação (sabe se usou IA ou não) e incentivos (produtividade) que se sobrepõem ao interesse do principal (segurança jurídica; transparência; explicabilidade). Por exemplo: Um corretor de imóveis (agente) vende a casa do proprietário (principal). O principal (vendedor) deseja o preço máximo. O agente, que ganha uma comissão percentual, é incentivado a fechar o negócio rapidamente para receber a comissão e passar ao próximo cliente, ainda que por preço menor. A celeridade (incentivo próprio) conflita com o ganho ótimo (interesse do principal pelo maior valor). A situação dos gerentes de banco, operadores de bolsa de valores que insistem em “transações” segue a mesma lógica (metas e comissões).
O duplo Problema de Agência na IAGen Judicial
A tabela abaixo sintetiza o risco associado:
| Camadas | Principal | Agente | Problema de Agência na IAGen |
| Camada 1: Institucional | CNJ (Governabilidade e Explicabilidade) | Magistrado (Metas, Eficiência e Celeridade) | O magistrado omite o disclaimer (custo de conformidade) para maximizar as métricas de produtividade, gerando opacidade e inviabilizando a fiscalização do CNJ. |
| Camada 2: Operacional | Magistrado (Responsabilidade Integral) | Assessor/servidor (Alívio da Carga e Minuta Rápida) | O assessor, pressionado por tempo, delega a crítica e o julgamento à máquina, aceitando o output sem revisar adequadamente o risco de alucinação, impedindo a Supervisão Humana Efetiva (art. 3º, VII), ao transferir o erro da máquina para o magistrado. |
A “Bolha da IA Generativa”: conceito, metáfora econômica e riscos ocultos
A “Bolha da IA Generativa” é análoga a uma “bolha econômica ou imobiliária”. Por isso, usamos a metáfora econômica. Na Bolha, o preço dos imóveis (a produtividade do gabinete) cresce de forma insustentável, descolado do seu valor real (que é a segurança jurídica, transparência, direito à informação, explicabilidade e a validade da prova). O crescimento é baseado na especulação (a promessa de eficiência da IA). O fundamento real (a transparência, direito à informação e o controle) é arredado em nome do resultado. Em consequência, cria-se o risco da explosão. Quando a especulação é confrontada com a realidade (uma auditoria, um recurso que questione a validade do ato por omissão de disclaimer), a confiança desaparece e a Bolha explode.
A Bolha é arriscada porque utiliza o fundamento da eficiência (artigo 2º, III) para justificar a violação direta ou indireta ao devido processo legal, especialmente: [a] Risco de Nulidade: O uso opaco da IAGen para fins de valoração de provas ou juízos conclusivos sobre a norma (Alto Risco – AR4 aqui e aqui), sem disclaimer, pode levar à nulidade do ato judicial por vício de motivação/fundamentação; e, [b] Viés e Alucinação Oculta: O agente insere no ato judicial um risco probabilístico (alucinação ou viés discriminatório aqui) como se fosse uma conclusão fática ou jurídica inquestionável, violando o princípio da Não-Discriminação (artigo 3º, I).
Modelo de declaração de uso (disclaimer)
O disclaimer é a ferramenta de transparência que confronta a opacidade da Bolha, sendo o ato de responsabilidade humana que assegura o devido processo legal, indicada pelo seguinte modelo:
“Declaração de Uso de Inteligência Artificial Generativa. Em observância à Resolução CNJ 615/2025, art. 19, § 3º, e art. 33: (1) Ferramenta Auxiliar: O presente ato [ESPECIFICAR O ATO: judicial/administrativo] utilizou-se da IAGen [INDICAR NOME DA FERRAMENTA, p.ex: LLM de Mercado X (uso privado)] exclusivamente como ferramenta auxiliar de redação e sumarização de informações. (2) Comando (Prompt) Principal Utilizado: [INSERIR AQUI O TEXTO DO PROMPT OU O RESUMO DO COMANDO QUE GEROU A PARTE APROVEITADA, p.ex: ‘Elabore um rascunho de despacho de citação com base no Art. X do CPC e na seguinte petição inicial…1]. (3) Fontes de Dados Consultadas/Mencionadas: [INDICAR AS FONTES UTILIZADAS PELO USUÁRIO NO PROMPT, p.ex.: Apenas dados e precedentes públicos da Jurisprudência; Elementos fáticos extraídos das fls. 15 a 20 dos autos.]. (4) Responsabilidade e Revisão Humana: A versão final, a interpretação jurídica e a responsabilidade integral pelo conteúdo, fundamentação e mérito do presente ato são exclusivas do subscritor humano, que exerceu a devida supervisão, interpretação, verificação e revisão”.
Conclusão: a explosão iminente e riscos associados
A Bolha da IA Generativa, sustentada pela lógica da produtividade e pelo duplo problema de agência, tende a se sustentar nos curto e médio prazos, mas é inviável no longo prazo (quando os erros aparecerem). A omissão do disclaimer e a aceitação acrítica do output da IAGen criam um passivo decisório que será cobrado em futuro próximo.
A natureza probabilística do LLM garante que, mais dia menos dia, um erro grave (uma alucinação de precedente inventado ou um viés grave e danoso) será introduzido em uma decisão de impacto, expondo a confiança e a reputação de magistrados, assessores e o próprio tribunal. Nesse ponto, o custo da bolha (a nulidade do ato judicial e a perda da confiança pública) será inevitavelmente maior do que o custo de conformidade. A bolha da IA Generativa, descolada da conformidade, explodirá mais dia menos dia. O tempo dirá se estamos ou não corretos
Então, aos magistrados e assessores é urgente assumir o disclaimer como garantia de conformidade (accountability) e cláusula de proteção ao devido processo legal. O disclaimer é o ato final de responsabilidade humana exigido pela Resolução CNJ 615/2025. Não se deve trocar a validade de um ato judicial pela simples produtividade estatística. Mas enquanto isso, o cenário é grave. Se tiver dúvidas, pergunte ao seu LLM favorito.
P.S. O texto foi revisado pelo Gemini da Google, na versão pro.
P.S. 2. Confira um Glossário de Termos Associados ao artigo aqui.
O problema não é exatamente a bolha da IA, algo que já vinha se tornando previsível antes mesmo do CNJ aprovar a resolução comentada. O problema é o Judiciáro brasileiro ter se tornado um balcão de negócios das Big Techs norte-americanas. Esse fenômeno não existia quando eu comecei a advogar em 1990. A explosão da bolha das empresa ponto com em 2000 não afetou em nada o Judiciário. Agora que é totalmente dependente das empresas de tecnologia, o Judiciário corre o risco de ser inviabilizado. Os juízes pensaram nessa possibilidade quando mergulharam na aventura da digitalização? A resposta é NÃO. Alias, dias antes de julgar a representação ajuizada por mim visando proibir os juízes de usar o ChatGPT, o presidente do CNJ recebeu representntes da empresa na sede daquele órgão. Luis Barroso parece ter feito questão de reforçar a imagem de que o Judiciário era e continuaria sendo um bancão de negócios lucrativo para as empresas de tecnologia. O que ele dirá se os advogados ficarem impossibilitados de acessar os processos dos clientes deles? Qual será a desculpa esfarrapada que ele dará aos cidadãos prejudicados pela paralização do seus processos caso a explosão da bolha da IA afete o Judiciário brasileiro? Essas são as questões que deveriam estar sendo feitas.
Bom de bomO problema não é a tecnologia;
é o país que tenta resolver ignorância com carimbo.
Este é, a meu ver, o ponto que completa o excelente artigo. A IA generativa não cria risco sozinha. O risco nasce quando o usuário — juiz, assessor, advogado, servidor ou qualquer outro profissional — não sabe formular a pergunta, não sabe validar a resposta e, mesmo assim, utiliza o resultado como se fosse correto.
Já vi “jurisprudências” inventadas, numeradas, formatadas, perfeitas aos olhos de quem não domina a ferramenta. Não é a IA que falha: é a falta de preparo de quem a utiliza.
Em qualquer tecnologia complexa — física quântica, sistemas probabilísticos, lógica computacional — existe um pressuposto básico: formação.
No Brasil, porém, a reação institucional é quase sempre a mesma: cria-se uma norma, uma resolução, um procedimento. Em suma, um carimbo. Só que carimbo não educa. Carimbo não desenvolve pensamento crítico. Carimbo não substitui competência cognitiva.
E sem competência, a IA não melhora decisões: ela amplia o erro humano com velocidade de máquina.
No Judiciário, isso se traduz em risco real:
– decisões mal fundamentadas,
– precedentes inexistentes tratados como verdade,
– motivação deficiente mascarada por texto bem redigido.
A Resolução 615/25 é necessária, mas insuficiente se o país não enfrentar o ponto central: não há governança possível sem formação séria do usuário.
Antes de regular, é preciso capacitar. Antes de exigir transparência, é preciso ensinar leitura crítica. Antes de cobrar supervisão humana, é preciso garantir compreensão humana.
Por isso repito:
o problema não é a tecnologia;
é o país que tenta resolver ignorância com carimbo.
"A inclusão do disclaimer (aviso de uso), exigida pela Resolução (art. 19), é percebida pelo agente como um custo administrativo e de accountability: demanda tempo, exige registro do prompt e pode expor o magistrado e o Tribunal a questionamentos sobre a validade do ato, além de ampliar o ônus argumentativo. Sob a pressão das metas, o Agente tem o incentivo de eliminar esse custo burocrático, mesmo que viole a regra de transparência (artigo 19, § 6º)"
Não é bem assim. A resolução sequer exige esse alerta, muito menos no nível de detalhamento exibido no artigo! O texto diz:
"§ 6º Quando houver emprego de IA generativa para auxílio à redação de ato judicial, tal situação poderá ser mencionada no corpo da decisão, a critério do magistrado, sendo, porém, devido o registro automático no sistema interno do tribunal, para fins de produção de estatísticas, monitoramento e eventual auditoria"
"A natureza probabilística do LLM garante que, mais dia menos dia, um erro grave (uma alucinação de precedente inventado ou um viés grave e danoso) será introduzido em uma decisão de impacto, expondo a confiança e a reputação de magistrados, assessores e o próprio tribunal. Nesse ponto, o custo da bolha (a nulidade do ato judicial e a perda da confiança pública) será inevitavelmente maior do que o custo de conformidade. A bolha da IA Generativa, descolada da conformidade, explodirá mais dia menos dia. O tempo dirá se estamos ou não corretos"
Concordo que, mais dia menos dia, divulgar-se-á um caso claro de decisão mal redigida por inteligência artificial. Mas será isso comparável à explosão de uma bolha? Muitas decisões com erros absurdos já foram publicadas sem qualquer consequência institucional ou reputacional ao signatário. Não acho que será diferente quando se patentearem as alucinações de IA (que, até onde eu sei, soam muito bem) nos veneráveis acórdãos de nossos tribunais.
O texto é uma luz nas trevas. Se a Resolução do CNJ é uma diretriz a juízes e serventuários da Justiça, tal deveria ser adotado também para o caso de advogados públicos e privados e membros do Ministério Público que deveriam declarar em sua peças se fizeram ou não uso da inteligência artificial generativa, sob as penas da lei (falsidade, fraude processual). Em caso positivo, indicar a extensão do uso no texto ofertado e quais as perguntas-chave utilizadas para compor a peça.
Você precisa estar logado para enviar um comentário.
Fazer login