Resumo: Cresce o uso da IA no judiciário; a presente coluna pretende, de forma colaborativa, questionar alguns pontos, preservando o legitimo interesse dos usuários e dos seus advogados.
Vejo no Instagram (eis o vídeo) que o um robô escaneador de livros se prepara para alimentar LLM (Large Language Models) com dados e conhecimentos atualizados de milhões de livros. E aqui entra Chomsky: a IA é plagiadora. Rouba de todo mundo e “entrega” na maior cara de pau sem citar as fontes. Manchete na Folha de S.Paulo: Prioridade de Trump, empresas de IA usaram pirataria para treinar chatbots. Autoexplicativo.
Detalhe: os adeptos e adictos da inteligência artificial vibram com os “avanços” (sic). Coloco na IA um conceito que criei e a IA me rouba, como se fosse escrito por outras pessoas. Chamem o ladrão, diria Chico Buarque na famosa música “Acorda, Amor”.
Leio que a OpenAI lança agente de IA que pode fazer compras e mexer em planilhas sozinho. Claro: comércio eletrônico. Por isso é que, passeando pela cidade, vejo tantas lojas fechadas, com a inscrição Aluga-se!
Os jornais publicam alerta: “O uso da Inteligência Artificial leva a um curto-circuito geral no mundo das artes”. Bingo. O robô pinta melhor. Ganha até prêmio. Faz design bem mais rápido – e melhor – do que os humanos, cuja criatividade desaparece na proporção em que aumentam a dependência da máquina. E todos vibram, no melhor estilo “décadence avec élégance”.
Reportagem em jornal do Rio Grande do Sul fala dos feitos da IA no Judiciário, que lançou a Plataforma Gaia. Ela faz (de) tudo. Até imita, nas minutas de sentença e voto, o estilo do julgador, segundo diz a reportagem.
Em um mês desde o lançamento, conforme a reportagem originada do TJ-RS, a IA do Tribunal de Justiça gaúcho produziu 95 mil minutas que, após revisão, vêm se transformando em decisões judiciais. Na plataforma do TJ-RS, para gerar uma decisão com IA, o magistrado primeiro insere um comando de texto, o prompt, dizendo se quer, por exemplo, condenar ou inocentar um acusado por determinado crime. Ou se decidiu prover ou rejeitar determinado recurso. No comando, o juiz pode apontar os elementos que a IA deve considerar para redigir a sentença. Aqui me permito lembrar que isso pode gerar o que Bacon já denunciava no século 17 — o viés de confirmação, já que os elementos são previamente escolhidos de modo teleológico.
Pergunto:
- de que modo o robô é alimentado?
- de que modo o juiz ou desembargador (ou o assessor) determinam que o robô absolva, condene, julgue a favor ou contra uma parte?
- examina o processo para saber? Como isso é feito? Mas, por qual razão uma decisão pode ser feita desse modo?
- o que é, afinal, a fundamentação? De que modo a IA vai cumprir os requisitos do art. 489, do CPC ou do 315, do CPP?
- fundamentação é uma busca daquilo que já foi decidido?
Diz um desembargador do TJ-RS: a IA vai produzir uma decisão no mesmo contexto que um assessor produziria. Portanto, não se delega. O juiz é quem julga, diz o magistrado.
- Aceito o argumento. Não poderia ser diferente, digamos assim. Porém, confesso que não consegui compreender. A comparação com o assessor, está bem. Mas, de novo:
- como eu posso dizer se o réu deve ser condenado ou não ou se uma parte tem direito ou não, se não examinei o processo?
- E é o assessor quem dirá (ou diz) se a IA deve produzir decisão x ou y? E não tem nada no meio do caminho, como nulidades, argumentos de causídicos etc.? E as teses da defesa? Das partes? Perdem a importância?
São os mistérios dessa neociência no mundo jurídico.
Mas, há mais coisas.
Vejo a reportagem do TJ-RS dizendo que a IA comete “apenas” 3% de erro — e que isso seria ótimo, pois seria bem menor que o erro humano. Tudo bem. Em termos de accountability, precisaríamos de saber, por exemplo:
- Mas acertar em relação a quê? Qual a métrica?
- O que e como está sendo aferido? Decisões anteriores? Um padrão médio?
- Uma estatística que o público não conhece?
- A acurácia de 97% é em relação a uma tarefa ao estilo copiar e colar? Troca-se o trabalho manual repetitivo do humano por um operador biônico?
O quadro abaixo é de autoria do advogado e professor Paulo Caliendo:
O juiz federal Bianor Arruda — em diálogo sobre o tema — pergunta, argutamente: o que é, afinal, um erro judicial? Responder a isso não se resolve só com domínio técnico de IA ou de seus produtos de mercado. A coisa vai bem mais fundo.
Um detalhe teórico-histórico: interessante é que, para a expressiva maioria da doutrina jurídica, não existem respostas corretas. Há “n” livros e doutrinadores fazendo críticas à possibilidade de se falar em respostas corretas. Não é o meu caso. E de Dworkin, quem sempre foi criticado pela busca da resposta correta. Eu também defendo há décadas a possibilidade (e necessidade) de se encontrar respostas corretas (eu chamo de RAC — Respostas Adequadas à Constituição).
Pergunto: agora, com a IA, é possível alcançar a resposta correta (da qual venho falando de há muito, mas sem uso de IA, mas, sim, com uso de critérios hermenêuticos)? Fazendo uma ironia: vencemos o debate?
E me permito a acrescentar:
- se a IA acerta (sic) 97%, só há chance de recursos em 3%? O que houve com os 3%? Parece lógico isso. Chamo de “paradoxo do recurso zero ou o paradoxo da implosão” (ler aqui).
- se há 97% de acerto, como é que, em grau de recurso, a IA dirá que errou?
- se o juiz de Caxias do Sul emite uma decisão (correta — sic), de que modo isso poderá ser reformado no Tribunal pela IA, que segue a mesma lógica do projeto GAIA? Porque se a decisão for reformada, não era correta.
- ou, não é assim? Vejamos: falo apenas do RS; essa experiência já existe em outros tribunais.
- e a colegialidade? Temos duas camadas nesse imbróglio: primeiro, as instâncias; o juiz de primeiro grau decide por meio de IA; como a IA que examinará a apelação é do mesmo sistema Gaia, de que modo essa decisão poderá ser considerada errada? A segunda camada diz respeito aos três desembargadores; haverá uma IA dissidente (poderá votar contra o que a IA de outro desembargador “sustenta”?) Ou tudo será unânime? Ou monocrático?
- Se os votos são todos gerados a partir do mesmo sistema de IA dentro do tribunal e serão revisados pela mesma IA, qual a garantia de que o sistema não irá “alucinar” no meio do caminho?
- Direito é uma questão de caso concreto (sempre se diz); a lei diz que há um direito legal ao distinguishing (artigo 489 CPC; 315 CPP); de que modo a IA examinará?
- qual é o conceito de precedente para a IA? A recomendação 134 do CNJ é de que se leve em conta as razões de decidir e na aplicação de precedentes os juízes e tribunais apliquem os precedentes de forma adequada, considerando as particularidades de cada caso; a recomendação permite que, em casos excepcionais, um precedente vinculante seja afastado, desde que haja uma distinção material relevante e indiscutível entre o caso concreto e o precedente. De que modo isso será feito? Os usuários terão acesso aos critérios?
Perguntas ainda sem respostas
Há quem diga que os críticos da IA, como eu, quando falam da decisão judicial e dos “acertos” em 97% (sic), possuem uma visão idealizada do juiz, como se esse fosse neutro ou racional. Bem, o mínimo que os humanos exigimos é que o juiz, uma vez que a neutralidade é absolutamente impossível, que ele seja imparcial, o que implica um grau de racionalidade. Onde há viés de confirmação a imparcialidade está comprometida. Quero dizer: se o assessor ou o juiz determina que a IA decida monte a decisão de um modo, já há uma decisão e, com isso, a fundamentação, que é meio e não fim, fica comprometida e fragilizada. Nisso nada há de idealização. Ou deixamos isso de lado? Já não reivindicamos isso? O que estamos ensinando nas faculdades?
Além disso, vale dizer que sempre que são apresentadas as grandes vantagens da IA para o Judiciário os números de problemas são minimizados. Conforme anteriormente referido, o TJ-RS diz que o índice de precisão é 97% e apenas 3% de “imprecisões”. Parece pouco. Apenas parece. Para fins argumentativos faço um cálculo, se levarmos em consideração que, de acordo com Justiça em Números, o TJ-RS julgou no ano de 2024, 418.861 processos, 3% desse valor seriam 12.566 processos com “imprecisões”. Daí a questão: como convencer o magistrado, o assessor, o(s) desembargador(es) ou a IA que ela errou?
Além de tudo isso, Dierle Nunes chama a atenção para o perigo das manipulações, no artigo intitulado Decisões à cegas: como as IAs podem ser manipuladas sem você saber (ler aqui). Fala da preocupação com as técnicas de manipulação oculta, em que tais instruções são escondidas no texto com a colocação de um prompt fantasma (por exemplo, usando fonte branca ou tamanho de fonte microscópico) de forma que passem despercebidas aos leitores humanos, mas ainda sejam interpretadas e absorvidas como comando pela IA. O artigo esmiúça esse problema.
Numa palavra final, do jeito que a coisa vai, e aqui me aproveito de uma ironia de Gustavo Rabay, especialista no tema, “vamos lançar um marketplaces de agentes jurídicos. Peça pelo número. Qualquer tema, qualquer nicho. Informe o formato e a quantidade de páginas desejada. E sairá tudo sharp and clean. Incluindo um laudo jurimétrico para informar ao juízo a probabilidade da decisão dele ser mantido nas instâncias superiores (na França isso é considerado crime). Suspendam os concursos. Só precisaremos dos oficiais de justiça. Quer dizer, nem deles”. Autoexplicativa a brincadeira do Rabay. A sério.
Eis o que venho dizendo e alertando. Muito cuidado com o que desejamos. Permito-me contar uma historinha retirada do livro de Nick Bostrom, Superinteligência: caminhos, perigos e estratégias para um novo mundo. Trata-se da fábula inacabada dos pardais. Se não servir para nada, vale pela beleza da narrativa do autor. Diziam os pardais, em um final de tarde, descansando depois de um dia de trabalho:
“Nós somos tão pequenos e fraquinhos… Imagine como a vida seria fácil se tivéssemos uma coruja que nos ajudasse na construção de nossos ninhos!”. Disse o outro: “Sim… E nós poderíamos ter a ajuda dela para cuidar dos pardais mais velhos e dos mais novos”.
Acrescentou um terceiro: “Ela poderia nos aconselhar e ficar de olho no gato do vizinho”.
Então, o pássaro mais velho disse: “Vamos enviar olheiros para procurar em todos os lugares uma corujinha abandonada, ou talvez um ovo. Um filhote de corvo ou de doninha também serviria. Isso poderia ser a melhor coisa que já nos aconteceu, pelo menos desde a abertura do Pavilhão do Grão Ilimitado, no quintal ao lado”.
Conta-se que o bando estava radiante e os pardais começaram a gorjear com toda a força. Apenas Scronkfinkle, o pardal rabugento e de um olho só, não estava convencido da prudência daquela empreitada. Disse ele:
“Será, com certeza, nossa destruição. Não deveríamos pensar um pouco sobre a arte da domesticação e do adestramento das corujas antes de trazer criaturas desse tipo para o nosso meio?”
Scronkfinkle estava certo, mas não foi ouvido pelo bando. A coruja veio e…o resto o leitor(a) imagina.
Sim, é preciso primeiro saber adestrar corujas antes de trazê-las como solução….
Sou, nesse meio, o pardal Skronkfinkle.
Cuidado com o hiperfoco, pode virar paranóia. Streck, já aprendeu a lidar com a IA? Em colunas anteriores confessou que não sabia. (Narciso acha feio o que não é espelho?) Fique tranquilo, não será a IA que vai acabar com o mundo. Temos problemas maiores, bem maiores. Que tal mudar o foco? Ou não está acontecendo nada de anormal no mundo jurídico brasileiro?
Concordo com a inteligente campanha do Dr. Lenio Streck. Se a produção de sentenças tiver essa rapidez e porcentagem de acertos, devem cessar os concursos para a magistratura. Calculo que bastaria apenas cinco em Porto Alegre na linha de montagem.
Triste é a Conjur se rendendo às bets. Cheio desses anúncios cobrindo metade da tela, com essa praga maliciosa e destrutiva.
Convido o professor a passar uma tarde *conversando* com o chatGPT, fale sobre qualquer coisa, musica, livros, sei lá. Vai entender o buraco em que estamos metidos, tem muitas falhas, e inúmeras mentiras. Quando confrontado, nunca assume a mentira.
Jogue um texto no chat e peça para ele resumir, e olhem por vocês mesmos o número de imprecisões e INVENÇÕES no texto. Quanto maior, mais invenções aparecem. Imagino o que não deve estar acontecendo com os processos *resumidos*, uma verdadeira aberração.
A história no final é muito precisa. Belo texto Streck.
Para o Ecomerce- não parece, cidadão E-comerce, que essa sua obsessão semanal com o professor streck não é meio doentia? Ou tem algo sexual nisso? Por que não vai te tratar, bagual? Vai consultar o analista de Bagé. Ele te ajudará a terminar com essa sua fixação. Cada um que aparece nesse Conjur - que gente esquisita.
A IA tem ainda muito uraco, muita alucinação. Agora e as análises dos magistrados que se fundam em resumo fornecido por assessores alucinados que mudam o foco e num bater de olho sobre o resumo mal feito decide de forma FUNDAMENTADA e assim passam as receitas de pamonha junto a petição. A IA nesse caso ia fundamentar que a receita não gera uma pamonha comestivel... e por AI (ou IA) segue...
Grande texto, professor! Necessário, como de costume.
Os estragos de uma agenda de eficiência quantitativa no sistema de justiça em detrimento de qualquer consideração - concreta - da eficiência qualitativa já não são anunciados, estão aí. A todo vapor.
Há a consolidação de uma agenda predominantemente quantitativa no Poder Judiciário, a partir da crescente instrumentalização de metas e indicadores como parâmetros de desempenho institucional. Essa racionalidade, de viés economicista, tem colonizado o campo jurídico com critérios de avaliação oriundos da lógica gerencial da Economia, comprometendo a integridade e a coerência da função jurisdicional.
Tal fenômeno se agrava diante da massificação da litigiosidade, que tem impulsionado soluções tecnológicas e procedimentais nem sempre comprometidas com os ideais do acesso à justiça e com a devida fundamentação das decisões. O uso acrítico de precedentes — muitas vezes reduzidos a ementas descontextualizadas — aliado ao emprego crescente de ferramentas de inteligência artificial no julgamento de admissibilidade recursal - por exemplo -, revela um movimento de neoinstrumentalismo preocupante, marcado por uma jurisprudência defensiva e um formalismo predatório.
Essa tendência tem produzido obstáculos meramente criterialistas ao conhecimento dos recursos, especialmente no STJ, com recorrente aplicação automática da Súmula 83, sem análise substancial da controvérsia.
Necessário, portanto, como sustenta o articulista em vários textos, a necessidade de uma releitura crítica das metas de precedentes, com ênfase na qualidade decisória e no cumprimento efetivo dos artigos 926, 489 (CPC) e 315 (CPP), como forma de garantir um sistema jurisprudencial verdadeiramente íntegro, coerente e transparente.
Dr Lenio, há um mês questionei e "provei" uma manipulação da IA. Publiquei para fins de estudos: https://www.linkedin.com/posts/andre-silva-35569751_recurso-de-revista-activity-7332375242322894851-K8qx?utm_source=share&utm_medium=member_android&rcm=ACoAAAr1IjEB_4j8n7t9oOVaoncEZq1jP-JDCQU
Então, não será mais necessário Juiz, Desembargador ou Ministro, somente um assessor para incluir os dados.
Ficaremos livres dos salários e penduricalhos?
Perfeito os apontamentos. Uma reflexão profunda, consistente e muito bem exemplificada. A nós pobres leitores “basta ler e se ao ler nada servir, e, ao digo que ao ler 📖 é porque serviu para algo. Deixar na mão da IA é um perigo para a verdadeira Justiça. IA não substituiu o TALENTO HUMANO!
Na verdade a IA não acerta, o que ela faz é dar ao usuário a impressão de que ele obteve uma resposta certa. Todavia, existe uma diferença qualitativa enorme entre fazer correlações com base em informações disponíveis num banco de dados e avaliar e julgar alto levando em conta tudo o que é necessário para deduzir a resposta adequada com base num raciocínio de causa e efeito. IAs são eloquentes, mas a eloquência delas é quase sempre enganosa. Para perceber isso é preciso expô-las a cenários ou experimentos mentais complexos. Um ser humano pode levar em conta dados importantes indiretamente relacionados a uma questão estudada. IAs não fazem isso. Exemplo: https://open.substack.com/pub/fbio/p/if-you-want-wisdom-dont-look-for?r=ns16q&utm_campaign=post&utm_medium=web&showWelcomeOnShare=false
É muito triste ver como alguém tão inteligente só fala CONTRA a inteligência artificial. como "eu posso dizer se o réu deve ser condenado ou não ... se não examinei o processo?" É dever do juiz e assessores LER o processo. A IA pode ajudar resumindo, fazendo a minuta e o Judiciário vai usar o tempo para ANALISAR tudo. Sabe o que sinto falta, Streck? De soluções! Quais as suas ideias para melhorar? Se o Juiz ler ou não um processo é um problema que existe com/sem IA. Cada pessoa é responsável por seus atos. Sem IA, tive um processo onde a sentença foi 100% igual a outro processo. Não culparia o juiz e, sim, a assessoria que não quis trabalhar. Seria impossível para qualquer pessoa descobrir que era uma sentença igual, apenas se PESQUISASSE frases como eu fiz.
O autor diz: ll Quero dizer: se o assessor ou o juiz determina que a IA decida monte a decisão de um modo, já há uma decisão. ll Porém, o autor esqueceu do momento em que a ordem é dada a IA. Ou seja, é apenas DEPOIS de ter lido o processo e avaliado as provas que o Juiz determina se a ação vai ser procedente ou não. Toda novidade surge com erros (eletricidade, automóveis...) depois conseguimos ajustar. O que não podemos é parar o desenvolvimento. Já pensou se junto a isso, os juízes pudessem ter mais tempo para cuidar da saúde, ler obras não jurídicas e dialogar com as pessoas? É sobre isso.
A IA não "aprende", ela basicamente é alimentada com informações que irá reproduzir posteriormente, e a IA generativa coleta automaticamente informações que poderá utilizar posteriormente. Nessa matéria sobre o Gaia o TJRS explica isso.
No entanto, isso me lembra a Teoria da Internet Morta. Sendo ela verossímil, isso significa que a IA generativa, em breve, estará aprendendo com a produção da própria IA, ou seja, não estará mais aprendendo.
Aplicando essa lógica ao Gaia, podemos supor que, na medida em que as decisões serão proferidas pela IA - o juiz só a confirma - será uma questão de tempo até que o sistema pare de evoluir, se limitando a apenas reproduzir o que já está consolidado. E aí vêm o questionamento: o Direito não é dinâmico?
Não é a Justiça que busca soluções para o que não possui - ainda - previsão legal?
A promessa é de que a IA seguirá os comandos e entendimento do juiz, que informará no prompt a sua decisão, deixando a fundamentação para a Gaia. No entanto, quem vivencia o cotidiano forense sabe que, em muitos gabinetes, existem os que fazem o trabalho de um juiz, e o que recebe o salário de um juiz. E assim como hoje muitas "minutas" são elaboradas por assessores e estagiários, e confirmadas cegamente por juízes, não é difícil concluir que a mesma sistemática prosseguirá com o Gaia, ou qualquer outra IA que venha a ser empregada. Mas agora com a segurança da "margem de erro" de meros 3%.
Streck deveria ter como certo que a IA escreveria tal artigo mesmo opinando contra si própria.
Alô, Lula!
Não devemos negociar nem 1 real com o doido e safado do Trump.
Agora é meter tarifa recíproca nele!
E buscar novos mercados.
Coragem!
E mais: pode parecer coisa de doido, mas esperamos sinceramente que a surpresa do 8 de janeiro não pegue o governo desprevenido novamente.
Explico: não se sabe em quem se deve confiar em Forças Armadas, nem em GSI, ou seja, qualquer inteligência que eventualmente detecte e proteja autoridades brasileiras visando pelo demônio Trump.
Logo, é bom o Lula ficar atento, pois não se sabe do que esse presidente dos EUA, seus comparsas lá nos EUA e os traidores daqui, são capazes.
O que se vê é o Dudu bananinha em desespero com a queda.
E mais: pode parecer coisa de doido, mas esperamos sinceramente que a surpresa do 8 de janeiro não pegue o governo desprevenido novamente.
Explico: não se sabe em quem se deve confiar: em Forças Armadas? em GSI? ou seja, qualquer inteligência que eventualmente detecte ameaças e proteja autoridades brasileiras visadas pelo demônio Trump.
Logo, é bom o Lula ficar atento, pois não se sabe do que esse presidente dos EUA, seus comparsas - lá nos EUA e os traidores daqui - são capazes.
O que se vê é o Dudu bananinha em desespero com a queda.
Já o Flávio Bolso delira com a candidatura do pai ainda.
É desespero! É preciso ter cuidado com essa gente!
Mais um comentário:
- Brasil fora do Mapa da Fome!
Xupa, bolsonaristas!
Há lado certo sim!
Quem planta o bem, sempre vence!
Não demora para que se instaure o cenário distópico que imaginei: https://www.tatyanamzagariadvocacia.com/post/o-supremo-tribunal-da-simplifica%C3%A7%C3%A3o-jur%C3%ADdica-o-dia-em-que-a-justi%C3%A7a-se-reduziu-a-emojis
Alô, min. Alexandre de Moraes envie a chave Pix.
Se precisar, estamos aqui!
Nosso dinheiro é pouco mas ...podemos ajudar!
Você precisa estar logado para enviar um comentário.
Fazer login