A pergunta que faço é: pode um Poder do Estado se dar ao luxo de atuar com ferramentas que invariavelmente irão “alucinar”?
Há algum tempo venho me dedicando a alertar sobre os perigos da inteligência artificial para o Direito — e para o mundo todo. Aqui mesmo na ConJur já falei sobre os riscos que a inteligência artificial representa em diversos textos. Nas últimas semanas tenho abordado alguns casos específicos, em que nossa vida cotidiana está cada vez mais se aproximando das distopias futuristas (ver aqui e aqui).
Ainda que de minha parte a preocupação com a inteligência artificial e a alta dependência tecnológica devam ser um tema que deve ser tratado com maior seriedade por parte da comunidade jurídica, há setores que abraçam efusivamente a inteligência artificial como solução para os seus problemas.
No Brasil, poucos setores falam tanto em inteligência artificial quanto o Poder Judiciário. Enquanto empresas do setor privado tratam com cautela os processos de automatização por meio de inteligência artificial — sobretudo porque não dispõe do domínio tecnológico necessário para controlar os algoritmos criados por algumas poucas empresas internacionais — no primeiro minuto em que essas tecnologias se apresentaram como viáveis o Judiciário brasileiro se lançou às mãos de robôs, chatbots e quejandos. Todavia, as consequências fáticas da adoção prematura deste tipo de tecnologia começam a pipocar por todos os lados. A pressa do Judiciário gera monstros.
1. O futuro é um tribunal de robôs?
Conforme a “Pesquisa uso de inteligência artificial (IA) no Poder Judiciário: 2023” realizada pelo Conselho Nacional de Justiça, 66% dos tribunais do país fazem uso de inteligência artificial, tendo sido mapeados 140 projetos em desenvolvimento pelos tribunais do país [1]. O campeão de projetos é o Tribunal de Justiça do Estado do Rio Grande do Sul é campeão com 12 projetos de inteligência artificial em desenvolvimento (!!!).
Sem dúvida esses dados já estão obsoletos. Observado que os dados publicados pelo CNJ são referentes ao ano de 2023 e estes já davam conta de que havia um crescimento de 22% em uso de inteligência artificial nos tribunais em relação ao ano de 2022, se for mantida esta proporção de crescimento no uso IA, ao final de 2025 quase 100% dos tribunais do país farão uso de inteligência artificial. Os algoritmos estavam chegando e chegaram.
Claro, tenho plena ciência de que esses números podem perfeitamente desacelerar em face de limitações orçamentarias e técnicas nos mais diversos tribunais do país. No entanto, a cada dia somos bombardeados com notícias sobre os novos robôs e inteligências artificiais que vem sendo desenvolvidos pelos tribunais. A cada semana, um novo robô.
2. E o juiz resolveu usar a inteligência artificial para aumentar a produtividade…
Diante do incentivo à adoção da inteligência artificial como solução para “aumentar a produtividade” e “otimizar recursos” em uma larga escala institucional pelo Poder Judiciário, infelizmente não me causa espanto que essa passe a ser utilizada como forma de resolver questões mais singelas… como a produtividade individual de magistrados.
Em uma recente publicação realizada pelo portal Migalhas, há informação de que um magistrado está sendo investigado pela corregedoria do Tribunal de Justiça do Estado do Maranhão por uso indevido de inteligência artificial para aumento de sua produtividade (ver aqui).
Conforme a reportagem, o referido magistrado saltou – magistralmente – de uma produtividade média mensal de 80 sentenças, em agosto de 2024, para 969 decisões, muitas delas com padrão textual uniforme. Além disso, nas decisões do magistrado foi identificada ausência de fundamentação ou análise de provas, distribuição indevida de processo por prevenção e, especialmente, o uso inadequado de ferramentas de inteligência artificial, com a criação de “precedentes inexistentes”, gerando insegurança jurídica.
Eis um dos problemas centrais da inteligência artificial generativa que vem se propagando diariamente: o que IA não sabe, ela inventa. Já falei sobre isso anteriormente, inclusive apontando que IA disse que eu disse coisas que nunca falei.
3. Sobre alucinações produzidas pela inteligência artificial
A cada dia mais e mais casos de petições e decisões que resolveram inventar jurisprudência para confirmar os vieses aos quais esses robôs e chatbots foram condicionados desde o princípio.
Nesse sentido, vale mencionar matéria publicada pelo The New York Times, que dá conta exatamente deste que pode ser apontado como o problema central prático — para além dos problemas éticos óbvios — a geração de respostas absolutamente dissociadas dos fatos por parte da inteligência artificial, as chamadas alucinações (ver aqui).
Conforme a reportagem, quanto mais sofisticados ficam os modelos matemáticos utilizados para construir as inteligências artificiais que estão disponíveis ao público se transformam, maior o número de alucinações elas produzem. Nos modelos mais modernos de inteligência artificial testados pelo New York Times, o percentual de alucinações chegou a 79% (!!!) e os desenvolvedores afirmam: essas alucinações podem ser reduzidas, mas nunca deixarão de existir. O que me dizem os adeptos da IA do Brasil?
A pergunta que faço é: pode um Poder do Estado se dar ao luxo de atuar com ferramentas que invariavelmente irão “alucinar”?
O caso do juiz do Maranhão serve como ilustração daquilo que já afirmei anteriormente, não se trata de uma simples questão de revisão das respostas geradas pela inteligência artificial ou de um defeito de operação do usuário em elaborar corretamente o comando para que a inteligência artificial gere a respostas adequadamente.
Se tais inteligências artificias foram criadas para “solucionar problemas”, se eles não resolverem os de problemas imediatamente, são inúteis. Por essa mesma razão as inteligências artificiais disponíveis no mercado nunca dirão que não tem as respostas que estão sendo buscadas. Pior: tem gente vendendo a produção dos robôs.
4. Venda de petições feitas por IA
De outra parte, em mais uma reportagem recente, temos a notícia de que a Justiça Federal do Rio de Janeiro, atendendo ao pedido de tutela de urgência formulado em ação civil pública ajuizada pela OAB-RJ, determinou a suspensão das atividades de uma plataforma que prometia a criação de petições iniciais para Juizados Especiais, por apenas R$ 19,90 (ver aqui).
A ação civil pública ajuizada pela OAB afirma que a referida plataforma oferecia petições iniciais com argumentação jurídica padronizada, formulada por inteligência artificial, podendo ser protocolada imediatamente nos juizados especiais.
Ainda que o caso concreto da plataforma que oferecia petições para os juizados especiais mediante pagamento de R$ 19,90 demonstre uma camada extra de picaretagem, qual a diferença entre esta plataforma e os chatbots que já estão disponíveis “gratuitamente” na internet? Afinal, ainda que não se tenha que pagar uma soma em dinheiro, o pagamento se dá através de informações que são fornecidas pelo usuário voluntariamente a plataforma.
Todavia, quando observamos o conteúdo daquilo que é “produzido” tanto pela “IA fazedora de petições iniciais para juizados especiais por R$ 19,90” e o Chat GPT — apenas para citar o chatbot mais popular — o resultado é o mesmo e provavelmente tem a origem no mesmo lugar: plágio.
Eis mais uma evidência concreta daquilo que já afirmei por diversas vezes: aquilo que se chama de inteligência artificial generativa é apenas uma máquina de plágio.
5. Petições geradas por IA v. decisões por IA: a batalha final ou a crônica de um desastre anunciado?
Diante desse quadro temos uma situação distópica que cada dia parece mais real: de um lado petições iniciais criadas por inteligência artificial, de outro lado decisões geradas por inteligência artificial para responder as petições. E o que a IA não sabe? Ela inventa. Ah! E claro, tudo isso supervisionado por um dos 14 robôs desenvolvidos pelo tribunal…
Vejam que o quadro caótico que estou apontando não está ligado à forma de que a ferramenta está sendo usada pelos usuários — como os entusiastas da IA costumam acusar aqueles apontam seus perigos — a questão é que própria IA esteja na equação, porque ela está fazendo aquilo que foi programada: gerar solução para um problema.
Eis o busílis. Se a inteligência artificial é a apontada como solução para os problemas humanos de um dos Poderes do Estado, o problema está na solução ofertada.
Nesse sentido, o próximo grande mote dos tribunais no Brasil já está decidido: litigância predatória. O Superior Tribunal de Justiça formulou uma tese ao julgar o Tema 1.198, possibilitando que o magistrado determine que a parte autora emende a petição inicial para demonstrar o interesse de agir e autenticidade da postulação. Ciente de que a tese — fixada pela Corte Especial do STJ e, portanto, “precedente qualificado” — poderia gerar problemas de abusos por parte do próprio Judiciário, o relator do caso afirmou que essas poderiam ser controladas pontualmente. Como isso será feito, ninguém sabe.
Pois bem, conforme o relatório do CNJ, dos 140 projetos de inteligência artificial que estão em desenvolvimento pelos tribunais do país, 15 deles estão vinculados à litigância predatória. E se robô alucinar e identificar uma demanda equivocadamente? Em um país em que impera o realismo jurídico, quantos terão seus direitos solapados?
De fato, deve ser observado que a principal queixa efetuada pelos magistrados no Brasil é a de excesso de processos. Afirmam que em lugar algum no mundo há tantos processos quanto no Brasil. É necessário simplificar, automatizar, diminuir a quantidade de recursos etc. Todavia, a pergunta sobre as razões pelas quais o número de demandas não para de crescer, raramente é feita. Há uma ampla negligência acerca da razão pela qual a vida brasileira vem sendo tão judicializada. De novo: por que será que há tantas demandas e tantos recursos? Há muitas respostas circulando. Mas, são lidas? Compreendidas?
Fazendo uma analogia com a medicina, estamos apenas tratando os sintomas de uma doença mais profunda que está matando o paciente. Pior, para tratar a doença do paciente estamos implementado um tratamento que pode matar todos os outros pacientes que estão em tratamento.
Na distopia futurista Duna, de Frank Herbert, o fim do mundo como conhecemos foi gerado por uma guerra entre os seres humanos e os computadores e robôs conscientes. Apesar da vitória humana sobre as máquinas e sua consequente destruição total, um mandamento foi fundamental foi estabelecido: “não farás máquina à semelhança da mente humana”.
Sempre digo que a literatura chega antes. Ainda é tempo de aprendermos com ela antes que o nosso mundo se torne efetivamente uma distopia. Até porque, no nosso mundo, corremos o sério risco de perder a guerra… Ou já a perdemos? Quando nos deparamos com um caso como o do juiz do Maranhão, parece improvável que possamos vencer.
[1] CONSELHO NACIONAL DE JUSTIÇA. Pesquisa uso de inteligência artificial (IA) no Poder Judiciário: 2023. Brasília, 2023. Disponível em: https://bibliotecadigital.cnj.jus.br/jspui/handle/123456789/858
Um colega francês noticiou algo preocupante que ocorreu no país dele. Os cidadãos daquele país tem direito à transparência algoritmica (algo semelhante foi previsto no art. 1, parágrafo 3, da Resolução do CNJ acerca do uso de IAs no Poder Judiciário), mas segundo uma jurisprudência recente uma IA pode ou não cumprir a obrigação de ser transparente quer a decisão seja proferida com ou sem supervisão humana. Na prática, a anomia que caracteriza o neoliberalismo jurídico (mixordia jurídica colocada em prática no Brasil pelo STF nos casos das ações trabalhistas movidas por empregados do UBER) tenderá ao infinito na França, porque o esvaziamento do conteúdo de normas legais poderá ser praticada por IAs utilizadas pela administração pública francesa. Você percebe o problema que está sendo criado? Robôs decidindo que os cidadãos não tem direitos, esse é o Law Terminator Scenario.
Leitura inquietante e necessária. O texto mostra com clareza que, no afã de otimizar e acelerar decisões, o Judiciário pode estar se esquecendo de algo essencial: o Direito é humano por natureza. A confiança cega em inteligências artificiais que "alucinam" — ou seja, inventam informações com aparência de verdade — é um risco institucional gravíssimo. Como bem alerta o autor, o problema não está no “mau uso” da ferramenta, mas no próprio fato de incluí-la de forma acrítica na equação decisória. O Direito não pode se transformar em uma simulação estatística. É preciso cautela, consciência e, acima de tudo, responsabilidade ética. Afinal, como julgar com justiça se nem mesmo sabemos quem está decidindo: o juiz ou o algoritmo?
O seu alerta sobre os perigos da IA no Judiciário é fundamental, professor Lenio! A prestação jurisdicional deve estar pautada em uma responsabilidade ética acerca dos mecanismos da inteligência artificial.
Ótimo texto! uma síntese da crítica que o Professor faz desde há muito
Bom aviso.
Quem me parece a I.A. em pessoa é o min. André Mendonça, argumentado: "{quem chamar um ministro de ladrão, na condição de agente público} não tem g
Bom aviso.
Quem me parece a I.A. em pessoa é o min. André Mendonça, argumentando: {chamar um ministro de ladrão, na condição de agente público} não tem gravidade maior alguma, pois (aí vem a falácia): somos todos pessoas iguais.
Contra-argumento: somos todos iguais, mas algumas pessoas ocupam cargos, e, portanto, merecem cautela e respeito.
É preciso ter realmente cuidado com esse canto das sereias. Que pode nos lugar pra um buraco.
De fato, o Judiciário tem se manifestado incessantemente sobre as supostas maravilhas da Inteligência Artificial na atualidade judicial, mas sem o aval da Ciência. Até o momento, a comunidade científica não teve acesso aos códigos-fonte do Galileu, do Maria e dos demais programas de computador que estão sendo usados para elaborar decisões judiciais. Apenas analisando os códigos-fonte, a comunidade matemática e computacional poderá analisar a validade e eficiência dos algoritmos matemáticos implementados, mediante demonstrações formais rigorosas, para, então, proferir-se o ponto de vista científico sobre o que estes programas de computador podem prometer, objetivamente.
Sem dúvida que IAs não tem capacidade jurídica para decidir. A percepção do caso, pela máquina, tem como obstáculo a incapacidade do ser humano de dispor os dados de forma adequada para que o algorítmo possa ser aplicado. Como exemplo, a contabilidade bancária, onde, para que a máquina possa entregar resultados confiáveis, os dados tem de ser dispostos de forma conveniente. Se a entrada é ruim, pode nem haver saída ou esta será duvidosa. Como contar adequadamente um problema jurídico para que a IA traduza em dados?
Com profunda admiração pelo Professor Lenio, referência indispensável no pensamento jurídico brasileiro, venho, com o devido respeito, discordar de algumas colocações feitas em seu artigo sobre a Inteligência Artificial no Judiciário.
Faço isso não por desmerecer sua crítica, mas porque a levo a sério. A seriedade de sua análise exige resposta à altura, com diálogo aberto e disposição para pensar juntos o futuro do Direito.
O cuidado que o senhor expressa não é, de forma alguma, um “medo do novo”; é zelo. E precisamos de mais vozes assim: que não se deslumbram com a tecnologia, mas a interrogam.
A IA erra, alucina, reproduz preconceitos. Sabemos disso. Mas talvez o maior risco seja acreditar que ela veio para substituir a inteligência humana, quando, na verdade, ela deveria servir para libertá-la.
Assim como Edison tentou ridicularizar Tesla, ou os cocheiros amaldiçoaram os carros a vapor, estamos diante do mesmo dilema: resistir ou compreender.
Em cada revolução tecnológica, houve quem temesse, com razão, os impactos sobre o humano. Mas também houve quem soubesse domar a ferramenta para servir à coletividade.
A IA pode ser esse instrumento, se for usada com senso crítico. Imagine um juiz que, em vez de se render a uma resposta automatizada, utiliza a IA para pesquisar mil jurisprudências em segundos, organizar argumentos e, assim, tomar decisões mais justas e fundamentadas. Isso não diminui sua função. Potencializa.
É exatamente por isso que sua crítica é valiosa, professor: ela nos obriga a pensar os limites e as possibilidades.
Concordo que a IA nunca será juíza. Mas talvez ela possa ser secretária, assistente, estagiária. Nunca a mente, mas talvez o braço, para que a mente possa, enfim, pensar com mais profundidade.
No fundo, talvez não estejamos em lados opostos. O senhor e todos nós queremos a mesma coisa: um Judiciário mais justo, humano e eficiente.
A diferença está apenas na forma de chegar lá. E, nesse caminho, creio que a IA não é um atalho, mas um instrumento.
Um recurso que pode libertar tempo e energia para aquilo que máquina nenhuma poderá fazer: ouvir as histórias, sentir as sutilezas, ponderar o incerto.
O sonho dos tribunais parece ser robôs que aplicam as teses que eles criam (chamando de "precedentes") acabando com os processos em minutos, enquanto a única coisa que se mantém é a remuneração ao final do mês.
O judiciário e os juristas brasileiros estão demasiado ansiosos com a inteligência artificial. Seja para escalar negócios, seja para degolar recursos. Em ambos os casos, perde o direito e seus titulares.
O judiciário e os juristas brasileiros estão demasiado ansiosos com a inteligência artificial. Seja para escalar negócios, seja para degolar recursos. Em ambos os casos, perde o direito e seus titulares.
Resta saber o que é pior, a IA que não sabe e inventa ou o Juiz que sabe, mas entende contrário à Lei.
Entre o texto do venerador professor e os demais comentários feitos a ele, somente vi sabedoria e bom senso e falta de histeria ignorante, foi o de Chistofer Magalhães Castro. Parabéns, você pontuou muito bem a questão.
Com todo respeito ao Sr. Roberto Martins e ao Sr. Christofer Magalhães Castro, a questão é justamente como impedir o mau uso ou mesmo o uso doloso da Inteligência Artificial nas decisões judiciais em sentido AMPLO, uma vez que, uma tarefa que, à primeira vista, pode parecer *burocrática* como negar seguimento a recurso no STJ pode causar dano irreversível ao direito do cidadão por motivos fúteis (menos trabalho para os ministros) ou dolosos (locupletar a parte contrária). E com muito mais importância no uso da IA nas decisões de mérito, pois não se pode contar com a *natural* ou *espontânea* boa intenção ou boa vontade dos magistrados, uma vez que as questões jurídicas sempre são complexas, envolvem questões morais, ideológicas, religiosas, etc. Desse modo, o que realmente os *deslumbrados* com a IA parecem não perceber é que, num futuro não muito distante, caso seja a IA *institucionalizada* nas decisões judiciais, o Sr. Roberto e o Sr. Christofer serão vítimas de todo o tipo de disparate cibernético que a IA pode produzir verbalizado em pseudo argumentos jurídicos, como foi o caso da transcrição de um comentarista na coluna da semana passada que pediu à IA que contraditasse a coluna do Dr. Lenio Streck e a *máquina* disse que ele é TECNOFÓBICO. E a Inteligência Artificial lá sabe o que é fobia ? Senhores, raciocinem, pois quem não quer raciocinar já entregou para a IA a tarefa de *pensar* é isso é perigoso para todos porque a *máquina* tem alucinações e isso está comprovado. E, para finalizar, realmente acredito que faltam só *dois palitos* para a IA decretar que os seres humanos são todos *tecnofóbicos* e devem ser *contidos* ou *exterminados*. Esse será o resultado do julgamento dos seres humanos pela Inteligência Artificial magistrada. E se acaso os senhores considerarem que, argumentando como estou, eu sou *tecnofóbica*, então, tudo o que o Dr. Lenio Streck vem dizendo há tempos estará concretizado : o fracasso da Inteligência Humana de criticar a si própria e reconhecer que precisa raciocinar mais para resolver seus problemas pessoais e sociais EM SEUS PRÓPRIOS TERMOS.
Percebo no Brasil, sendo possível extrapolar para o mundo, uma enorme polarização das opiniões, sobre qualquer assunto, seja econômico, social, político etc: Israel x Palestina; Estados Unidos x China; direita x esquerda; Rússia x Ucrânia; Bolsonaro x Lula, Moraes x Cabeleireira, e por aí vai. Qualquer que seja a questão, imediatamente, aparecem os que a demonizam ou que ficam “deslumbrados” com a mesma. Raras são as vozes do meio-termo, do bom senso, da análise não apaixonada dos fatos, que substitui o estudo técnico do problema. Uma coisa, contudo, é comum aos dois grupos, a desmedida vontade de tachar os que manifestam posicionamento que lhes sejam contrários as suas paixões, como pertencente, ao grupo opositor, o seu inimigo. Um exemplo, singelo e real: a camisa da seleção brasileira de futebol. Se saio com o manto verde-amarelo, na rua, sou de direita, bolsonarista, partidário do 08/01 etc. Se defendo o uso de outra cor, além do da bandeira, como o vermelho, sou de esquerda, lulista, petrarca, partidário do MST, “ a nossa bandeira jamais será vermelha”, além de outos adjetivos, que a moral não permitem serem mencionados aqui. Esse acirramento é péssimo, pois restringe o diálogo e a produção intelectual. Infelizmente, isso tem ocorrido com a inteligência artificial. Recentemente, participei de um evento de lançamento de um modelo de inteligência artificial de uma empresa, pelo YouTube. Não participei dele, por ser um “deslumbrado” pelo tema, mas, porque, aprendi com meu pai, um pouco letrado torneiro mecânico, mas de grande sabedoria, que não basta ter um dom para executar uma tarefa, é necessário utilizar, e ter em mãos, as melhores ferramentas para isso. Ouvi, pacientemente, o longo comercial, no qual foi vendida a inteligência artificial como a solução de todos os problemas jurídicos, das complexas petições, à solução de eventual dor no dedão esquerdo de um potencial cliente. Apesar de todo ufanismo, percebi que havia algumas boas possibilidades pelo uso do instrumento. O conhecimento que obtive, ali, e em outra leituras que tenho feito, permitiu resolver, rapidamente, uma questão jurídica, posta recentemente por um amigo querido, idoso, de poucos recursos, portador de moléstia grave. Há anos ele pode se aposentar, mas não o fez, pelo receio de diminuição de seus rendimentos. Questionou-me se a isenção do Imposto de Renda, concedido as pessoas nas suas condições seria permanente, ou sujeita a revisões, caso seu quadro de saúde melhorasse no futuro. Não tinha a resposta. Disse lhe a Lei n. 7.713/88 instituí o benefício, mas é silente sobre o prazo e forma de revisão da concessão. Prometi uma resposta e me vi, imediatamente, fazendo longas pesquisas, no, nem sempre, amigável site do Carf. Tive a ideia de usar algumas das inteligências artificiais disponíveis, gratuitamente, a “deslumbrados” e não “deslumbrados” na Internet. Um breve prompt, pergunta, no jargão do meio, e tive como resposta que não foi um sim ou um não, mas a informação existência da Súmula n. 627 do STJ, a qual desconhecia, apesar da longa militância na área tributária, cujo teor trouxe alívio a meu preocupado e inseguro, quanto a seu futuro, amigo. Antes de repassar o dado, alertado pelas “temerosas”, ditas, corriqueiras, “alucinações “ da inteligência artificial, fui ao site do STJ e confirmei a existência da Súmula, inclusive com o voto do relator, que lhe deu origem. Não levei mais do que cinco minutos no processo e, com o tempo livre, pude me dedicar a minha família, esposa, dois filhos, um genro e uma nora e três netos.
Não escrevo esse texto por ser um “deslumbrado” pela inteligência artificial. Vejo-a, ainda, com ressalva, mas acredito que o problema não está no remédio, mas sim na dosagem em que ela está sendo utilizada. Não existe só o branco e o preto, mas percebe-se, ao menos, cinquenta tons de cinza. Que se repreenda e, se for o caso, que se criminalize o que fazem mal uso. Que, ao invés de se preocupar, tanto, com os “reborns”, os nossos legisladores procurem regulamentá-la, como fez recentemente o Estado de Goiás. Prego o equilíbrio e não o radicalismo. Pensando desta forma, que defendi o texto apresentado por Christofer Magalhães Castro. Não o conheço, mas vi, equilíbrio em sua ponderações, ao tempo, em que declaro que pode existir, sim, vencedores nessa batalha, se a inteligência artificial for usada com moderação.
Você precisa estar logado para enviar um comentário.
Fazer login