O perigo da terceirização para a IA: socorro, já estão ‘clonando’ juiz!

 1. Ferramenta alucinada

Leio matéria de Sheyla Santos (ler aqui)  intitulada “Ferramenta alucinada – Juiz alerta para os perigos do uso da inteligência artificial pelos magistrados”. A denúncia é do juiz Dorotheo Barbosa Neto, juiz auxiliar da Presidência do CNJ, ao dizer que “o uso da inteligência artificial generativa é capaz de inverter os processos de fundamentação e decisão no Judiciário”.

Obrigado, dr. Barbosa Neto. Venho alertando para isso de há muito, especialmente no livro Robô Não Desce Escada e Trapezista Não Voa – Os limites dos Aprendizes de Feiticeiro (ed. Contracorrente).

De acordo com Barbosa Neto, se o magistrado disser para a IA a forma como quer decidir, e depois apresentar a fundamentação (sic), ele receberá de volta um resultado satisfatório (sic). Contudo, acrescenta Barbosa Neto, quando o juiz pede à ferramenta para desenvolver primeiramente o processo de fundamentação, para depois chegar a uma conclusão, a IA “alucina” (gera informações incorretas) em mais de 70% das respostas aos prompts de comandos:

“Eu tenho a certeza absoluta (sobre esse comportamento). E não há sistema com essa assertividade. Então você inverte (o processo), você parte da conclusão para ir para a fundamentação. E isso é inconcebível do ponto de vista do fundamento jurídico de uma decisão”.

Ou seja, é melhor o juiz decidir (dar o prompt) e a IA entregará a decisão de acordo com “condena” ou “defira o pedido”.

Diz mais o magistrado Barbosa Neto: é preciso, em primeiro lugar, analisar a fundamentação das partes para depois chegar a uma decisão justa.

“Você dar a decisão primeiro para a IA fundamentar pode ser um grande desafio que nós vamos enfrentar daqui para frente.”

Correto o alerta de Barbosa Neto. A doutrina crítica (absolutamente minoritária) do processo vem alertando para isso. Lembro que já em 2004 escrevi que era inconcebível que um ministro do STF dissesse que “primeiro decidia e depois buscava a fundamentação” (o ministro Marco Aurelio seguidamente assim definia o ato de decidir). Repeti isso em vários textos e livros. Chamei a esse fenômeno de Dilema da Ponte: decidir primeiro e depois justificar é como atravessar o abismo do conhecimento e depois voltar para construir a ponte pela qual já passou.

Pergunto o que a doutrina deveria perguntar de forma efusiva: de que modo alguém pode decidir sem saber os detalhes do processo? Ah, basta dar um prompt “condene João a 5 anos e 4 meses”. Ou “conceda a reintegração de posse”. E lá vai a IA condenar ou reintegrar Alfredo na posse e “arrumar” fundamentos.  Mas o mais paradoxal disso tudo é que a IA só funciona (a contento, segundo Barbosa Neto) desse modo. Porque ela, a IA, não tem condições de decidir sem prompt. Prestemos atenção à denúncia do magistrado Barbosa Neto.

2. Dar um prompt?

“Dar um prompt”, em linguagem simples, é transformar a vontade do usuário em comando. Ocorre que o modelo de linguagem não investiga fatos nem “apura a verdade”. Ele produz texto plausível a partir de padrões. Assim, quando o juiz fornece a conclusão (“condene”, “deferir a reintegração”, “negar o Habeas”), o sistema tende a organizar, com impressionante fluidez, uma fundamentação coerente com o resultado, ainda que isso signifique preencher lacunas com ‘encaixes’ não verificados.

É aí que a engenharia de prompt entra silenciosamente no processo judicial: não como ato formal, mas como técnica de condução da narrativa. O gabinete aprende que certos comandos entregam textos mais “bonitos”, mais “completos”, mais “citáveis”. E, sob pressão de volume, a tentação é óbvia: pedir primeiro o dispositivo e só depois exigir os fundamentos.

O risco, porém, é institucional: a terceirização da cognição (por isso, o título desta coluna). Não se trata de delegar apenas a redação, pois ao definir uma tarefa com um propósito pré-estabelecido, acaba invertendo a ordem do devido processo e produz uma motivação pós-fabricada, tecnicamente elegante e materialmente frágil.

Não se trata de rejeitar a tecnologia. O CNJ, aliás, tentou enquadrá-la com a Resolução nº 615/2025, que exige governança, auditoria, monitoramento, transparência e supervisão humana efetiva, e veda que a IA substitua integralmente o magistrado ou fundamente decisões de forma automática sem supervisão. Porém, na prática… bom, qualquer um já sabe o que acontece. No MP, o assessor ou estagiário coloca tudo na IA e dá o prompt: denuncie. Ou “alegações finais pela condenação”… Na Defensoria, o mesmo, guardadas as circunstâncias. No Judiciário… bom, é isso que o juiz Barbosa Neto está denunciando. E eu também.

Sigo. O problema, portanto, não é a existência de regra; é a diferença entre regra e rito. Nas normas vigentes, há salvaguardas operacionais, claro; fala-se em logs, rastreabilidade do uso, separação entre “análise” e “decisão”, validação de citações e controle do viés de automação. Mas essas regras viram mero farol no nevoeiro, quando o navio segue no piloto automático após o Capitão ou seus imediatos apenas definirem para atracar no Porto “A” ou no Porto “B”. E aí, o oceano do conhecimento real evaporou quando a travessia foi transplantada por uma decisão que apenas buscou a limpeza do convés, sem ligar a caixa de máquinas. Chegou-se ao porto escolhido, mas não se sabe por onde passou. Percebem?

3. O que está em jogo, para além do brain rot com caráter transcendente?

O que está em jogo não é “uso de tecnologia”, mas o “cognitive offloading”, a terceirização do ato de conhecer: a transferência de tarefas mentais (leitura, seleção, síntese e inferência) para um artefato.

O efeito colateral é o “automation bias” (viés de automação), a tendência humana de tratar a saída automatizada como “ponto de partida verdadeiro”. Quando isso entra na rotina de um julgador, a decisão corre o risco de virar ratificação de texto, não resultado de cognição jurisdicional.

Ou seja, por qualquer ângulo que olhemos, a IA produz tudo, menos decisão jurídica (ou esboço de decisão – afinal, dizem que depois tudo é “conferido” por humano (quem?). Quando o então presidente do CNJ, Luís Roberto Barroso, disse que o robô Maria faz resumo em poucas páginas de um processo de 20 mil páginas, eu redargui: e quem vai saber se o resumo (relatório) está abrangente e fidedigno? Um humano? Ele vai conferir? Mas, se vai conferir, por que ele mesmo não fez?

É de uma evidência cristalina que o uso da IA do modo como está aqui denunciado (e na denúncia do magistrado Barbosa Neto) é uma violação dos artigos 93, IX da CF e artigos 489 do CPC e seu espelhamento (artigo 315 do CPP). Impressiona o silêncio eloquente da comunidade jurídica, que assiste à construção do fim do Direito e da profissão de advogado. Aqui, do mesmo modo que o caso do fim das sustentações orais para o qual sugeri que a OAB propusesse uma ADPF (ler aqui), também caberia uma ADPF pela violação do dever de fundamentação stricto sensu e do dever de seguir a metodologia do artigo 489 do CPC (e 315 do CPP) – os seis incisos –requisitos para uma decisão ser considerada fundamentada. Parece visível que o uso da IA vem violando esse dever de fundamentação constitucional e legal.

Assim como a modernidade desencantou o mundo, chegará o momento em que o império da IA terá que ser desencantada. O que quero dizer com tudo isso? Bom, já escrevi muito sobre encantamento e reencantamento. O reencantamento é um desejo de voltar para uma época em que tudo estava dado, como na pré-modernidade. Um novo mito do dado. O sonho de ter respostas antes das perguntas. Eis o império do prompt.

Mais grave – e algo que não se quer discutir: a maior parte da indústria (lato sensu, incluído o sistema de justiça) lida com IA e lucra com ela sem saber ao menos o que acontece dentro da ferramenta – desde padrões algoritmos até salvaguardas e mecanismos de correção. Para corrigir algo é preciso saber como ela lê o erro, com o identifica. Daí a xAI – explicabilidade. Essa caixa preta afeta até mesmo os “cabeças”, heads das companhias. Você confia em um produto em que nem o idealizador consegue estimar pop’s – procedimentos operacionais padrão?  Ou como ele se autocalibra em termos de governança algorítmica?

Por que isso importa? LLMs como o ChatGPT ou Gemini ou sistemas de reconhecimento de imagem são construídos com trilhões de parâmetros. Esses parâmetros se ajustam durante o treinamento, aprendendo padrões a partir de quantidades massivas de dados. Conseguem fazer previsões incrivelmente precisas e gerar respostas semelhantes às humanas.

E aí reside o problema: não entendemos completamente como eles chegam a essas decisões. Até mesmo os pesquisadores que treinam esses modelos muitas vezes têm dificuldade em interpretar por que uma rede neural escolheu uma solução em vez de outra.

A isso se denominou o problema de Blackbox AI e o antídoto, a governança algorítmica que especificamente quanto a esta quimera, explainable AI ou simplesmente Xai. Não é que a matemática seja desconhecida; é que a escala e a complexidade tornam impossível para os humanos rastrearem cada decisão.

O caso emblemático é o do Alphago. O DeepMind da Google venceu o jogo e todos entenderam que foi uma jogada perfeita. Mas os testes ou experts dissertam que seria impossível programar o mecanismo de raciocínio que ele utilizou. A própria IA desenvolveu a forma de “performar”. Foi resultado do próprio processo de aprendizado do sistema. Trata-se de uma demonstração de como a IA pode operar de maneiras que nem mesmo seus criadores conseguem prever completamente

Essa “caixa preta” da IA ​​levanta questões críticas:

– se não entendermos completamente como a IA chega às decisões, como podemos garantir justiça, transparência e responsabilidade?

– a IA pode descobrir estratégias ou insights que os humanos não percebem (AlphaGo). Mas a imprevisibilidade também introduz riscos (saúde, ética, direito).

– Se uma IA tomar uma decisão prejudicial ou tendenciosa, quem é o responsável? Os desenvolvedores, os usuários ou a própria IA?

No caso de uma decisão judicial, quem será o responsável pelo “desacerto” ou “alucinação”? Apenas o magistrado que assinou? Não seria o próprio tribunal (União ou Estado) e, via regressiva, quem desenvolveu o sistema delirante?

Daí temos o caminho a seguir: IA não é magia (referência ao Arthur C. Clarke). nem precisa ser um mistério para sempre… os estudiosos estão trabalhando em postulados de inteligência artificial explicável (XAI), ou seja, sistemas projetados para tornar os processos de tomada de decisão mais transparentes. Transparência é um aspecto-chave da governança de algoritmos. E, no Judiciário, é o que menos temos hoje.

O problema é que os tribunais estão na fase do encantamento. Algo como – e me repito – uma espécie de retorno à pré-modernidade, a fase do mito do dado. A IA funciona como uma cosmologia.

Veja-se como países coimo a França tratam disso (jurimetria etc.). A França criminalizou.

Por aqui a ruína chega a galope. Se nem a Ditec (diretoria de tecnologia) sabe o que se passa dentro da caixa preta, como cobrar depois o magistrado se responsabilize por uma decisão que viola regras, preceitos, enunciados ou chegue ao ponto de delirar?

Como diz Gustavo Rabay, quem me deu preciosas dicas e lições para a construção da coluna: “Só os humanos têm direito a delirar. Delírio sintético é empulhação”

Se o Judiciário propõe a revolução com o uso da IA, isso já foi copiado na AGU, PGEs, Defensoria, MP e na advocacia.

Basta ver o TJ-SP: CSM aprova Gerador de Ementas TJ-SP com uso de Inteligência Artificial; magistrados e servidores passam a ter à disposição o Gerador de Ementas TJ-SP, que utiliza recursos de Inteligência Artificial da azure OpenAI para elaborar ementas de decisões judiciais, com base na Recomendação CNJ nº 154/24. O novo serviço foi apresentado hoje (5) aos integrantes do Conselho Superior da Magistratura (CSM). O presidente do TJ-SP, desembargador Fernando Antônio Torres Garcia, destacou que a ferramenta auxiliará os gabinetes na produção dos votos, propondo ementas de forma célere e completa. Obs.: não esqueçamos que as ementas são usadas como “precedentes” (sic). Aliás, como falar em precedentes, com uma IA gerando ementas?

Post scriptum 1: o brutalismo judicial: a palavra de um desembargador

O desembargador Marcelo José Ferlin D’Ambroso (TRT-4) vem em socorro às minhas críticas, lançando mão da maravilha que é a arte e a literatura. A ideia central do texto é criticar a atuação recente do STF e do TST na área trabalhista por meio da metáfora do “brutalismo judicial”. O autor aproxima a arquitetura brutalista – marcada por concreto aparente, frágil, funcionalismo e indiferença à escala humana – de uma revisão que, sob o discurso de segurança jurídica, previsibilidade e eficiência, uniformiza decisões e promove regressão dos direitos sociais do trabalho.​

Esse “brutalismo judicial” aparece na adoção de precedentes, recursos repetitivos e incidentes de uniformização que padronizam soluções pró-mercado, esvaziam a função protetiva do Direito do Trabalho e convertem a justiça em instrumento de racionalidade econômica, configurando uma “barbárie pseudolegalista” no sentido de Benjamin e Marcuse.​

Em oposição, o texto propõe uma nova estética jurídica: um Judiciário empático, humanista, atento à dignidade dos trabalhadores e à historicidade dos direitos sociais, que recupera o projeto constitucional de 1988, rompa com a lógica da lex mercatoria e transforma tribunais de “concreto armado” em espaços de acolhimento, escuta e emancipação social

Post scriptum 2:  “Clonagem” de juiz

Já existem advogados vendendo (e ensinando) como “clonar” um juiz (ver aqui). Eis a transcrição de parte do vídeo do Instagram: “A segunda grande tendência é o ato ou a prática de clonar um juiz. Se você é meu seguidor mais antigo, eu já vou repetir: em 2022 eu já publiquei um vídeo explicando como fazer isso. Só que é óbvio que a tecnologia mudou, a gente tem muito mais material disponível e eu vou dizer para vocês uma coisa extremamente importante: o advogado que não souber clonar juiz não vai ter espaço. O que é clonar um juiz?”. E segue, mostrando como se faz.

O que me dizem? É o não é o caos?

Post scriptum 3: e a IA contamina a academia!

Nas redes circula vídeo (ver aqui o print da tela – optei por não colocar o vídeo), em que um “mentor” mostra como se faz um capítulo de tese doutoral em dois minutos e tal… É ou não é o caos? Só a coragem de postar algo desse tipo assusta. Escancara-se o Zeitgeist.

Post scriptum 4: professores contra o uso da IA

Enquanto a França enfrenta o uso da IA no Judiciário, um grupo de professores portugueses se revolta contra o uso da IA. A manchete é “Alunos convertidos em cretinos digitais”. Manifesto pede proibição da IA generativa nos processos de ensino-aprendizagem. Diz que há uma incapacidade generalizada de “identificar com rigor práticas académicas fraudulentas. Que é preciso “humanizar o ensino”. E que, por tudo isso, e não só, a proibição nas universidades e politécnicos portugueses é a solução.

Indignemo-nos. Ou sucumbiremos ao brain rot.