Inteligência artificial e argumentação: o debate que queremos evitar

A sanção pecuniária a duas advogadas que utilizaram prompts ocultos para lidar com inteligência artificial me dá oportunidade para debater um tema de nossa preferência, que o meio jurídico tem evitado: que a introdução da IA no Poder Judiciário obriga a uma drástica alteração da lógica argumentativa. Se aqui nos permitimos analisar como os mecanismos de IA realmente funcionam, talvez alcancemos a conclusão de que a tal prompt injection pelas advogadas pode que não configure, de modo tão imediato, uma ofensa à lealdade processual.

Haverá alguns aspectos que enfrentar para comprová-lo, mas adiantar minha tese é o melhor caminho. Creio que a punição às advogadas é mais uma evidência de que as autoridades e os reguladores seguem forjando uma realidade: a de que a IA é uma mera ferramenta lateral, que mantém o juiz como destinatário único do discurso jurídico. A recusa em admitir que as IAs do Judiciário estão fazendo da construção textual uma guerra entre máquinas tem-nos conduzido a procedimentos esquizofrênicos, que resultam em injustiças.

Evitarei polemizar sobre a ética exclusiva do ato, que demandaria novo texto, para focar três aspectos: a dinâmica mínima do processo argumentativo; a falta de transparência dos modelos de IA; e a ignorância deliberada acerca das engenharias argumentativas contemporâneas. Eles bastam para alertar para o mundos paralelos que convivem no uso da IA forense.

Premissa: ética da adaptação ao destinatário

Ao cuidar de argumentação teórica, estou habituado a ter de desfazer um preconceito muito disseminado: a ideia de que a adaptação de um argumentante à sua audiência é algo a priori antiético. Por essa doutrina, ao advogado não caberia mais do que expor a “verdade” em suas intervenções, portanto qualquer estudo argumentativo é um modo de fortalecer mentiras e falsidades. A premissa é equivocada, porque uma série de condicionantes afastam a argumentação jurídica da lógica formal, binária, que não comporta matizes. Nutro pela lógica formal grande apreço, mas ela não abrange todas as nossas necessidades: até mesmo nossa ‘ciência’ jurídica opera-se por narrativa e estética [1].

Sem poder agora dissertar sobre esse tipo de lógica informal, exponho duas figuras, dois problemas cujas respostas convergem à tese aqui apresentada.

(1) Considere-se jogador de xadrez que é desafiado a uma partida contra um software. Seria antiético que este estudasse as vulnerabilidades do computador que enfrenta, ou deve ser obrigado a calcular suas jogadas como se seu adversário fosse um ser humano?
No dia de hoje, é impossível que um jogador humano vença uma partida contra os grandes motores de xadrez, como o famoso Stockfish. Mas, no ano de 1995, Garry Kasparov, campeão mundial, perdeu sua primeira partida para o IBM Deep Blue. Perde, mas não desiste: Kasparov estuda sua própria derrota e desvenda a programação da máquina, e assim consegue vencer os jogos seguintes daquele ano. Naturalmente, ele percebeu que o computador tinha suas peculiaridades, seus padrões, e estes não coincidiam com os do adversário humano. Teria Kasparov trapaceado ao descobrir as debilidades do Deep Blue? Seria sua obrigação moral renunciar à sua estratégia, porque baseada na vulnerabilidade da máquina?
(2) Um caso mais comum: ocorre um homicídio, de autoria desconhecida. Nos autos, todas as testemunhas descrevem o autor do delito como um (a) homem magro,  (b) com barba grande, que (c) trajava roupas coloridas. Anos depois do delito, um réu é levado a júri, suspeito por esse crime. A defensora deseja sustentar em plenário a negativa de autoria e, com esse fim, orienta ao réu a que compareça ante os jurados havendo já (a) engordado alguns quilos, (b) retirado a barba e (c) vestido de cores neutras. Questiono: ao adotar a estratégia, está a advogada sabotando o processo? Pode ela usar da inconsciente busca do jurado por identificação visual, como fortalecimento de sua defesa?
Sem ofertar solução para os casos, já se cumpre meu objetivo, em quebrar o mito de que possa haver uma argumentação perfeita erga omnes: o argumento só opera quando identificado o destinatário, homem ou máquina. Desde a estrutura primeira até os detalhes de ritmo e sonoridade, tudo é elaborado a partir de quanto se conhece sobre o interlocutor. Portanto, a adaptação é uma habilidade necessária a qualquer um que compõe um texto suasório.

Mito da ‘IA coadjuvante’ e causalidade inevitável

A ferramenta de IA tem facilitado o trabalho de todos nós, evidentemente cobrando seu preço: possíveis alucinações [2], acomodação do nosso raciocínio, homogeneização de ideias e expressividade e, em nível macro, o desemprego massivo. Enquanto não assumimos uma cultura de convívio com a IA, é de se esperar que sejamos refratários a assumir essas desvantagens [3]. Em qualquer seara de trabalho, é uníssona a assertiva das empresas,  de que a IA funciona somente como coadjuvante, um ‘reforço’ a uma atividade para a qual o indivíduo continua sendo insubstituível: ao ser humano cabe revisar e chancelar o trabalho artificial [4]. Não seria diferente quando a IA adentra ao Judiciário: sobram afirmações de que função da IA apenas poupa o magistrado da tarefa burocrática, concedendo-lhe tempo para as atividades intelectuais de decisão [5].

É claro que a IA aumenta a produtividade judiciária, mas predicá-la de ‘auxiliar’ é, creio, um eufemismo pouco admissível: quando ela intervém na sumarização de uma peça argumentativa, seu poder decisório já está operando. Negá-lo seria revogar a lei da causalidade: quando ela transforma algum fragmento do processo, obrigatoriamente altera seu resultado. É inevitável o que tecnicamente denomina-se automation bias, porque o juiz-revisor tende a confiar na minuta que a IA lhe apresenta, caso contrário não haveria demandado sua intervenção [6].

Ao apresentar a IA Judicial, há que se assumir que, em certos casos, os advogados argumentarão diretamente a uma máquina, que, ao resumir, sumarizar ou sugerir, está promovendo o procedimento de decisão.

Transparência e ‘ethical washing’

Uma das principais saídas para afirmar que a decisão da máquina é neutra e inofensiva seria a de obrigar à transparência de seu funcionamento [7]. É o que sustenta a Diretiva da União Europeia [8], é o que recentemente determina o nosso CNJ. Seria o ideal, não fosse o fato de que transparência é inatingível. Não é fácil lidar com a resistência, no meio regulatório, em admitir que as IAs não são transparentes. Portanto a separamos em uma dupla dimensão: quer pela própria estrutura da IAs, quer por sua funcionalidade. É o que denominamos transparência ontológica ou lógica, brevemente explicadas.

A grosso modo, antes do início da década de 2020, as IAs eram algoritmos, mecânicos. Atendiam a uma estrutura de função matemática, complexa, porém com um sistema if-then, ou seja, um única resposta de saída (output) para cada entrada (input). Mas em 2017, o Google revoluciona essa técnica, explicando seu mecanismo de ‘self-attention’ [9], em que a máquina se autoprograma com valores específicos, os quais não se conhecem, mas que se combinam estatisticamente em uma expressiva quantidade de vetores. São os Transformers, que operam por cálculo probabilístico, atribuindo peso a tais vetores, em uma quantidade de dados e dimensões que faz impossível desvelar seu funcionamento total. Sabe-se como foi construído, mas sua operação interna não se pode rastrear. Tal qual a mente humana, um IA generativo hoje se compreende por seus outputs, por seu comportamento, em uma engenharia reversa a partir de hipóteses. A IA de hoje é uma caixa preta (black box) e quem diz isso não sou eu: são os gerenciadores das grandes big techs do mundo [10].

Mas a falta de transparência também é funcional. Como temos desenvolvido em outros trabalhos, a analítica da operação da IA como instrumento decisor nos revela três características excludentes. Embora não estejam necessariamente em proporção inversa, elas não podem conviver no nível máximo: transparência, robustez e não-trivialidade. Em resumo, um sistema de decisão transparente sempre será suscetível a manipulações simplificadas, a que se denominam ‘ataque adversarial’ [11]. Para ter robustez, resistindo a ruídos e manipulações, os usuários jamais podem conhecer o funcionamento do algoritmo, ainda que esse disclosure fosse possível [12].

Portanto, a falta de transparência da IA não deriva de uma opção nossa, não é algo mantido em segredo para preservar um ‘código-fonte’ sobre o qual recai propriedade industrial, como sugere a regra do CNJ [13]: ela é a matéria por ela mesma, em sua estrutura e por sua funcionalidade. Seu uso pode ser restrito ou treinado, mas sua operatividade não é aberta.

Logo, atribuir transparência por meio de lei é tão bonito quanto inócuo [14].

Paradoxo da autorreferência

Visto isso, nos permitimos entrar em um ponto mais complexo, porém essencial para analisar a atividade argumentativa direcionada aos LLMs. Sendo a IA um sistema parcialmente autorreferente, é bem possível que ela não possa ser programada para vencer a si mesma, mas a mera hipótese já nos traz excelentes ideias sobre o futuro da nossa argumentação.

Pela filosofia mais elementar, que desde Tomás de Aquino [15], mas passando especificamente por Russell e Gödel, há fortes limites lógico-formais à pretensão de que sistemas complexos possam explicar-se integralmente a si próprios. Mas utilizemos aqui um paradoxo clássico, pelo qual se enunciaria que, se Deus é onipotente, Ele poderia criar uma pedra tão pesada que nem ele mesmo poderia mover… mas, se Deus não a pode mover, Ele não seria onipotente; ou, com Russell, que se poderia imaginar um conjunto que tivesse todos os elementos do mundo, mas, caso se considerasse esse conjunto como (ele mesmo) um elemento, este já não contém todos os elementos do mundo: sempre faltará a si próprio.

Aqui já se sabe aonde quero chegar: o que ocorreria se a um sistema de IA Judiciário fosse dado um comando como “crie uma argumentação tão convincente que você mesmo não possa decidir contrariamente a ela”? Bom, talvez a IA não consiga criar esse argumento-mestre [16], mas outra IA, se mais poderosa, pode alcançar a façanha.

Essa tarefa é uma extensão ao absurdo de outra muito mais simples: otimizar o texto de input para que ele se faça adequado ao sistema de decisão de qualquer Transformer, por mais sofisticado que seja. Não é impossível que uma IA altere textos para que se tornem mais persuasivos à IA judicial, e creio que a ninguém surpreenderá se dissermos que essas alterações não consistirão em inserir citações de Basileu Garcia ou Pontes de Miranda. A persuasão da IA não coincide com a razoabilidade humana, e isso fica mais evidente quanto mais se tenta catalisá-la: as arquiteturas semânticas já estão em uso, e, delas, a tal prompt injection é apenas uma de suas tantas modalidades [17].

A questão agora é definir, como Kasparov diante do Deepblue, se é ou não defeso encarar a IA como destinatário do argumento, ou se o postulante será obrigado a sempre simular que ela é um ente dotado de bom senso, experiência e visão de mundo, em lugar de uma extensa memória de probabilidades, eletronicamente acessada.

Concluindo

É paradoxal que o Poder Judiciário conceda à máquina a função de filtro de leitura, mas siga exigindo que a argumentação mantenha-se no nível estrito da linguagem natural, adequada apenas à experiência humana. Com o perdão da figura, é como determinar que um indivíduo desenvolva um longo diálogo com um liquidificador ou uma torradeira, em lugar de apenas apertar os botões corretos para o funcionamento do eletrodoméstico.

A introdução de uma máquina para ler a petição criada pelo advogado traz consequências na essência argumentativa, que todos estamos evitando enfrentar. Recomendações éticas ou sanções processuais não conterão a acomodação natural do argumento ao destinatário, agora eletrônico. Daí, há que ao menos considerar que essa ‘arquitetura semântica’ das advogadas, conquanto hoje disruptiva, seja parcialmente conforme a um mundo em transformação.

[1] Defendemos essa tese, à extensão, em nosso O Ensaio como Tese: Estética e Narrativa na Composição do texto científico, pela Editora Martins Fontes.

[2] Para nós, tendo em vista que a IA não tem experiência real, o termo alucinação é bastante impróprio, porém é referente em toda a literatura internacional (hallucination).

[3] Tenho defendido que uma visão hiperrealista do uso da IA generativa é o primeiro passo para lidar com suas conseqüências. Infelizmente, a assertiva de que a IA somente vem a otimizar o ‘indispensável’ trabalho humano não é monopólio do Judiciário, mas nele a a assertiva é bem mais sensível.

[4] É o mito do HITL (Human in the loop), a ideia de que a IA mantém o ser humano no controle dos procedimentos a que auxilia.

[5] Veja-se, por exemplo, sobre o sistema Galileu, aqui

[6] Na literatura de compliance com IA, o extremo dessa figura é chamado ‘rubber stamping’, a simples chancela aos resultados artificiais.

[7] Em trabalhos apresentados no estrangeiro, em vias de publicação, definimos transparência: “Um sistema é transparente se existe uma descrição completa e acessível da função decisória f. Nesse caso, haveria uma descrição D tal que, para cada f, um agente racional pudesse antecipar o seu comportamento. Em um grau máximo de transparência, isso implicaria que, conhecendo D, a decisão do sistema resulta previsível:  [ ∀x ∈ X, D(x) ⇒ f(x)]”.

[8] O art. 13 del EU Artificial Intelligence Act estabelece que os sistemas de alto risco devem ser “developed in such a way as to ensure that their operation is sufficiently transparent to enable deployers to interpret a system’s output” (art. 13.1). OU seja, há uma transparência funcional que, como se dirá, não é realista.

[9] Apenas para documentar, o texto da equipe Google, definindo “Attention” e, logo, o sistema de embedding que faz a LLM a partir de pesos atribuídos a determinados vetores. ‘An attention function can be described as mapping a query and a set of key-value pairs to an output, where the query, keys, values, and output are all vectors. The output is computed as a weighted sum of the values, where the weight assigned to each value is computed by a compatibility function of the query with the corresponding key”. Vaswani, A., Shazeer, N., Parmar, N., Uszkoreit, J., Jones, L., Gomez, A. N., Kaiser, Ł., & Polosukhin, I. (2017). Attention is all you need. In I. Guyon et al. (Eds.), Advances in Neural Information Processing Systems (Vol. 30). Curran Associates, Inc.

[10] O mais proeminente deles é Daniel Amodei, da Anthropic, que tem escrito ensaios hiperrealistas sobre a situação das IAs. No caso específico: “People outside the field are often surprised and alarmed to learn that we do not understand how our own AI creations work. They are right to be concerned: this lack of understanding is essentially unprecedented in the history of technology”. Amodei, D. (2025, April). The urgency of interpretability. Aqui

[11] É o conhecido ‘adversarial attack’, que normalmente “involve subtle, often imperceptible, modifications to input data that can cause AI models to make erroneous predictions Roy, R. (2024). Enhancing real-world robustness in AI: Challenges and solutions. Journal of Recent Trends in Computer Science and Engineering, 12(1), 34–49. Entre eles, está a prompt injection. Mas claro que esses conceitos são desenvolvidos por profissionais da computação. A ideia de ‘erro’, para a decisão jurídica, é bastante outra. Por isso defendemos que o uso da IA merece revisão teórica por juristas.

[12] Aqui, cabem mais detalhes de como a complexidade dos critérios de decisão podem vedar o rastreamento pelo ser humano, o que implicaria que, havendo uma transparência, ela seria possível apenas se interpretada por outra IA. Disso cuidamos em: Inteligência Artificial: argumentanto para o Computador, em RODRÍGUEZ, Víctor Gabriel, Argumentação Jurídica: texto, persuasão e lógica informal, SP: Martins Fontes, (7ªEd.) 2024, p. 490

[13] Resolucao CNJ nº 615, de 11 de março de 2025. “Art. 1º(…) § 2º A auditoria e o monitoramento das soluções de IA serão realizados com base em critérios proporcionais ao impacto da solução, garantindo que os sistemas sejam auditáveis ou monitoráveis de forma prática e acessível, sem a obrigatoriedade de acesso irrestrito ao código-fonte, desde que sejam adotados mecanismos de transparência e controle sobre o uso dos dados e as decisões automatizadas”.

[14] Sobre o tema, os penalistas diríamos diretamente que não se pode legislar em desrespeito a estruturas lógico-objetivas.

[15] Veja-se especialmente Aquinas, 1265–1274/1981, I, q. 25, a. 3.

[16] Ou talvez sim, fica o desafio para os desenvolvedores.

[17] Em livro de argumentação, já haviamos trabalhado com a hipótese, que fatalmente se consolidará, de que haverá mecanismos “que transformarão a linguagem natural da petição naquilo que for mais persuasivo, pelos critérios da máquina”. E dizíamos “será algo como um software de contra inteligência artificial”. Veja-se RODRÍGUEZ, Víctor Gabriel, Argumentação Jurídica: texto, persuasão e lógica informal, SP: Martins Fontes, (7ªEd.) 2024, p. 494