A literatura especializada vem demonstrando há algum tempo [1] que o design dos sistemas de IA não é neutro, mas estruturado para maximizar engajamento, fluidez e adesão do usuário, muitas vezes por meio de mecanismos como a bajulação algorítmica, que validam respostas e reforçam percepções. O problema é que esse mesmo design, ao facilitar excessivamente a interação, compromete a máxima fundante da supervisão humana, que pressupõe, no mínimo, um modelo de intervenção direta em cada etapa decisória (human in the loop), e não a mera supervisão panorâmica posterior (human on the loop), insuficiente para garantir controle real sobre sistemas de alta fluência.
Mas reconhecer o problema não basta. Diante do fato de que mais de 50% da magistratura já utiliza aplicações de IA [2] (e possivelmente, um percentual ainda maior de advogados) torna-se indispensável pensar como introduzir essa tecnologia nas atividades jurídicas sem comprometer o raciocínio jurídico humano. Para isso, é preciso observar o que dizem os estudos empíricos mais recentes que demonstram que a IA não produz um efeito único sobre o comportamento humano. Seus impactos variam conforme seu desenho, o modo de uso, o momento da interação e o tipo de tarefa desempenhada.
Um dos estudos mais importantes nesse campo foi conduzido por Liu et al [3]. Os pesquisadores compararam grupos que realizavam tarefas com e sem auxílio de IA. Durante o uso da IA, os participantes acertavam mais e resolviam as tarefas com maior facilidade. No entanto, quando a IA era retirada, o cenário se invertia, na medida que os participantes que haviam utilizado aplicações de IA apresentavam pior desempenho e, mais grave, demonstravam menor persistência, desistindo com maior frequência das tarefas.
O problema não é apenas errar mais, mas parar de tentar. A persistência é um dos principais fatores associados ao aprendizado de longo prazo. Quando ela é reduzida, não estamos diante de um ganho pontual de eficiência, mas de um potencial processo de deskilling, com perda progressiva de capacidades cognitivas. Os autores explicam o fenômeno por dois mecanismos: a “descarga cognitiva”, ao delegar a tarefa à IA, o indivíduo deixa de realizar o esforço necessário à compreensão; e a recalibração da percepção de esforço, as respostas imediatas fazem o trabalho sem assistência ser percebido como excessivamente difícil, induzindo o usuário a evitar o esforço e recorrer novamente à tecnologia [4].
Contudo, um segundo estudo, específico do campo jurídico, conduzido por Bednar et al. da Universidade de Minnesota [5], revela um quadro mais complexo e contraintuitivo. Estudantes de Direito foram divididos em grupos para realizar quatro tarefas: (1) síntese de material jurídico; (2) teste de compreensão; (3) aplicação do direito a um caso concreto; e (4) revisão de texto jurídico. Na primeira etapa, a IA produziu textos significativamente melhores em menos tempo; dado esperado, dada a eficiência das aplicações atuais em organização e sistematização, com potencial para síntese de autos, ressalvadas as alucinações documentadas [6]. O dado relevante está nas etapas seguintes, no qual o uso de IA na fase inicial não prejudicou a compreensão jurídica, pelo contrário, os participantes tiveram desempenho superior na tarefa de aplicação do direito, mesmo sem acesso à tecnologia nesse momento [7].
Segundo o estudo, a IA não melhorou diretamente o raciocínio jurídico, mas melhorou a qualidade da base cognitiva, ou seja, da síntese inicial. Como consequência, os participantes passaram a trabalhar com um material mais estruturado, o que elevou o nível do raciocínio posterior. Trata-se de um efeito mediado, no qual o uso da IA melhorou a entrada do processo cognitivo, e isso repercutiu na saída. Quando você encontra um material mais sistematizado para avaliar, suas conclusões tenderam a permitir um raciocínio mais panorâmico do problema a ser enfrentado.
No entanto, o mesmo estudo revela um limite importante. Na fase de revisão, participantes com textos mais fracos melhoraram, mas aqueles com raciocínios mais sofisticados tiveram seus textos piorados. A IA atuou como nivelador, simplificando argumentos complexos e substituindo raciocínios elaborados por estruturas padronizadas [8]. A tecnologia reduz não apenas o ruído [9], mas também a diversidade e pluralidade de análises jurídicas [10].
Leitura conjunta desses estudos impede, porém, conclusões lineares
A IA não destrói nem melhora automaticamente o raciocínio humano, mas reorganiza as condições sob as quais ele se desenvolve, com efeitos que variam estruturalmente conforme a fase e o tipo de tarefa. Quando utilizada na fase de organização e síntese de material (tarefa de entrada cognitiva), a evidência indica ganho de qualidade sem prejuízo ao raciocínio posterior, sugerindo que a fluidez, nessa fase específica, é funcionalmente legítima. Quando utilizada como substituto do esforço argumentativo (tarefa de output cognitivo, como a elaboração e a revisão de raciocínios jurídicos), os dados apontam para dependência progressiva, redução de persistência e nivelamento empobrecedor de análises sofisticadas. Essa assimetria de efeitos por fase é o dado empírico central que deve orientar qualquer proposta de design e governança de IA jurídica.
Isso nos conduz à necessidade de um modelo de design em fases, que distinga funcionalmente os momentos em que a fluidez é produtiva daqueles em que ela é cognitivamente deletéria. Em termos operacionais, propõe-se a seguinte arquitetura: a) fase de estruturação cognitiva [11], em que a fluidez é admissível e os ganhos de eficiência são empiricamente suportados, desde que acompanhada de sinalização explícita dos limites do sistema, incluindo taxas de alucinação documentadas; b) fase de elaboração argumentativa [12], em que devem ser introduzidas fricções cognitivas estruturais, como a exigência de geração autônoma prévia de argumentos antes do acesso à sugestão algorítmica; e c) fase de revisão e validação [13], em que a fricção deve ser máxima, com mecanismos que obriguem o operador a confrontar ativamente a sugestão do sistema com o raciocínio já produzido, e não apenas validá-la.
A simples presença de um humano no processo decisório não garante controle efetivo. Quando a IA apresenta respostas bem estruturadas, com linguagem segura e aparência de autoridade, o ser humano tende a aceitá-las sem questionamento. É o chamado viés de automação, amplamente documentado na literatura, que se intensifica em ambientes digitais persuasivos [14]. No Direito, isso é especialmente grave, pois decisões judiciais, pareceres e petições são o resultado de processos deliberativos que exigem reflexão, dúvida, confronto de argumentos e justificação racional. Se esses processos são substituídos por respostas prontas, ainda que corretas, há uma perda qualitativa profunda, mas difícil de medir.
Base teórica para o modelo que propomos vem da psicologia cognitiva
Bjork e Bjork demonstram que há uma dissociação estrutural entre desempenho imediato e aprendizagem duradoura, pois a capacidade de armazenamento é fortalecida justamente por condições que tornam o processo mais exigente ao sujeito [15]. A fricção cognitiva, compreendida como conjunto de mecanismos de design que introduzem dificuldades controladas, como variabilidade de contexto, espaçamento, intercalação e exigência de geração ativa, desloca o usuário de uma posição passiva de recepção para uma postura ativa de reconstrução do raciocínio.
Transposto para o campo jurídico, esse modelo expõe a tensão de que as aplicações de IA são desenhadas para reduzir fricções e otimizar a performance imediata. Os achados empíricos indicam que tais condições geram ilusões metacognitivas de domínio e comprometem a autonomia intelectual [16]. As “dificuldades desejáveis” devem, portanto, ser reinterpretadas como parâmetros de engenharia cognitiva para o design de sistemas jurídicos de IA, criando etapas contínuas de validação do pensamento jurídico.
A consequência normativa é direta, de modo que governança deve incidir sobre o design sociotécnico dos sistemas desde a fase de projeto. Se, como sustentam Bjork e Bjork, as condições que facilitam o desempenho imediato são frequentemente incompatíveis com a aprendizagem duradoura [17], sistemas excessivamente fluentes no Judiciário e na advocacia produzem ganhos aparentes de produtividade à custa de empobrecimento cognitivo e erosão da responsabilidade decisória. A incorporação de mecanismos de fricção cognitiva torna-se requisito funcional para um modelo de human in the loop efetivo, alinhando a arquitetura das tecnologias decisórias aos pressupostos do devido processo.
Cox et al. [18] demonstram que a introdução de microfronteiras (pequenas barreiras temporais ou procedimentais) interrompe interações automáticas e promove a transição do Sistema 1 (automático) do cérebro para o Sistema 2 (deliberativo) [19], favorecendo decisões mais refletidas. Em termos operacionais, isso se traduz na incorporação intencional de obstáculos calibrados no fluxo decisório, com pausas em cada etapa deliberativa, exigência de justificativas ou avaliação crítica, verificação cruzada ou geração autônoma de argumentos.
Nesse cenário, a introdução de fricções cognitivas não constitui um custo de usabilidade, mas um requisito funcional para assegurar supervisão humana efetiva. Em termos de governança é essencial avançar para além de diretrizes abstratas de transparência e controle, incorporando parâmetros concretos de design que operacionalizem as “dificuldades desejáveis” como condição para a integridade epistêmica do processo decisório.
Buçinca et al. reforçam esse diagnóstico, quando demonstram que usuários assistidos por IA tendem a seguir recomendações mesmo quando incorretas, e a simples introdução de explicações pode agravar o problema, ao funcionar como atalho heurístico de confiança [20]. Intervenções de esforço cognitivo [21] aumentam significativamente a qualidade das decisões quando o sistema erra. O ponto decisivo é que essas intervenções não atuam no conteúdo da resposta, mas na estrutura da interação. Há, contudo, um paradoxo estrutural, pois sistemas que produzem melhores decisões são percebidos como menos desejáveis pelos usuários [22]. A fricção cognitiva, se deixada à escolha dos operadores, não será a opção preferida. Isso confirma que interfaces excessivamente amigáveis podem ser empobrecedoras, e que a introdução de fricções não pode ser integralmente voluntária. Ela exige parametrização regulatória: certificação de conformidade como condição de uso no Judiciário, pelo CNJ, incorporando requisitos mínimos de design.
Como demonstra Green, operadores humanos tendem a confiar em demasia nos sistemas ou, quando divergem, o fazem de modo inconsistente e enviesado, reforçando a hipótese de que a supervisão simplória não corrige, mas frequentemente reproduz ou amplifica erros algorítmicos [23]. A crença de que a mera presença humana garante controle é empiricamente equivocada e normativamente perigosa, o que torna ainda mais urgente o modelo de fricções faseadas aqui proposto.
E, finalmente, alcançamos o desafio em como delinear o design de um sistema de IA que seja usável para um jurista, mas, ao mesmo tempo, crie fricções necessárias para mantença da autonomia cognitiva e responsabilidade apta a gerar supervisão humana real. O modelo de fricções por fases aqui delineado pressupõe, contudo, uma arquitetura de interação em que o humano permanece o interlocutor direto do sistema; seja para receber uma síntese, seja para confrontar uma sugestão argumentativa.
Mas aqui torna-se imperativa uma advertência final para os órgãos reguladores, como o CNJ. Esse pressuposto começa a ser corroído pela emergência da IA agêntica, em que o sistema não apenas sugere, mas executa sequências autônomas de ações, tais como, pesquisa jurisprudencial, elaboração de minutas e outras atividades processuais. Nesse paradigma, o modelo de fricção interacional perde eficácia estrutural, porque não há interface de interação passo a passo sobre a qual aplicá-lo. A governança da IA agêntica no Direito exige uma camada normativa distinta, que não se limita ao design da fricção na interação, mas a definição de zonas de exclusão de delegação, ou seja, de atos jurídicos que, por sua natureza deliberativa, não podem ser executados autonomamente por sistemas artificiais, independentemente da qualidade técnica de seu resultado. Esse é o próximo problema a ser enfrentado, e ele não se resolve com as ferramentas conceituais aqui desenvolvidas.
[1] NUNES, D. Decisões sob influência. Aqui
[2] Como constatamos em: FGV Justiça. Inteligência Artificial: Tecnologia aplicada à gestão de conflitos no âmbito do Poder Judiciário brasileiro – 4a edição | Justiça
[3] LIU, G. et al. AI Assistance Reduces Persistence and Hurts Independent Performance. Aqui.
[4] Cit.
[5] BEDNAR, Nick et al. Artificial Intelligence and Human Legal Reasoning. Aqui
[6] Recente estudo analisou IAs generativas baseadas em modelos de fundação open-source em tarefas de extração de informação a partir de documentos fornecidos e constatou que todos os modelos analisados apresentaram taxas importantes de alucinação, mesmo em condições otimizadas. ROIG, JV. How Much Do LLMs Hallucinate in Document Q&A Scenarios? 2026: aqui
[7] BEDNAR, Nick et al. Cit.
[8] Cit.
[9] NUNES, D; MORATO, O. Para além dos vieses cognitivos: a influência do ruído na qualidade dos julgamentos. Aqui
[10] Risco já diagnosticado e aqui empiricamente confirmado.
[11] Síntese de autos, organização de julgados e estruturação de material normativo.
[12] Construção de teses, formulação de fundamentos e raciocínio decisório.
[13] Momento em que, segundo Bednar et al., a IA demonstrou efeito de nivelamento negativo sobre raciocínios mais sofisticados.
[14] NUNES, D. Decisões sob influência. Cit
[15] BJORK; BJORK. Making things hard on yourself, but in a good way: creating desirable difficulties to enhance learning. 2011.
[16] Cit., p. 58-60.
[17] Cit., p. 60-63
[18] COX, A. et al. Design frictions for mindful interactions: the case for microboundaries. p. 1389-1394.
[19] Sobre o funcionamento do cérebro e dos sistemas 1 e 2 cf. NUNES, Dierle et al. Desconfiando da imparcialidade dos sujeitos processuais. 4ª ed. Juspodivm, 2026.
[20] BUÇINCA, Z.; et al. To Trust or to Think: Cognitive Forcing Functions Can Reduce Overreliance on AI in AI-assisted Decision-making. 2021.
[21] Exigir decisão prévia sem IA,retardar a apresentação da recomendação, condicionar seu acesso à iniciativa do usuário
[22] Cit.
[23] GREEN, B. The flaws of policies requiring human oversight of government algorithms. 2022. Aqui
Seja o primeiro a comentar.
Você precisa estar logado para enviar um comentário.
Fazer login