Resumo: Quem programa o programa do robô? Uma pessoa? E quem controla essa pessoa? Outra pessoa? E quem…?!
Debates teóricos são coisa rara. No Brasil não se naturalizou a ideia de que um debate filosófico é um debate filosófico; desacordos teóricos não são críticas pessoais. Parafraseando Dworkin, desacordos teóricos, no Direito, são uma terça-feira monótona.
Faço esse preâmbulo porque, hoje, quero fazer uma crítica — lhana e construtiva — aqui a um amigo, Alexandre Morais da Rosa, e Daniel Henrique Arruda Boeing, coautores de um novo livro: “Ensinando um Robô a Julgar: Pragmática, discricionariedade, heurísticas e vieses no uso de aprendizado de máquina no Judiciário”.
Ainda não tive o prazer de tomar um café com Daniel, mas conheço bem Alexandre e sei que temos preocupações muito parecidas. Compartilhamos o que é fundamental. Discordamos na solução para os problemas que nos preocupam. E é precisamente porque acredito no trabalho dos dois autores que faço aqui a crítica. Porque acredito na riqueza do debate filosófico e acho que é assim que se faz teoria do direito.
Muito bem. Quando vi o título da obra, já fiquei com um elefante atrás da orelha. Sou um jurássico. Sou cético quanto ao ceticismo jurídico (e qualquer tese empirista é cética!) que acha que, agora, a tal "inteligência artificial" é a panaceia que resolve tudo — da lateral-direita na Seleção à discricionariedade ou decisionismo no Direito.
A obra discute "as peculiaridades do aprendizado de máquina em face de outros modelos estatísticos, bem como quais são os requisitos necessários para que tais algoritmos possam ser utilizados na performance de argumentação jurídica". Depois, discute a filosofia analítica de Kelsen e Hart e fala do "problema do decisionismo" nesses teóricos,[1] passando para uma discussão sobre “como linguagens artificiais são capazes de assimilar o âmbito pragmático de linguagens naturais e de que forma processos decisórios humanos e algorítmicos são afetados por vieses”. Depois, Alexandre e Daniel reúnem "três tipos de uso mais recorrentes do aprendizado de máquina no Judiciário": o "Robô-Classificador", o "Robô-Relator" e o "Robô-Julgador".
Tenho algumas críticas ao modo como Daniel e Alexandre fizeram suas críticas a Kelsen e Hart. Ambos recorrem a Warat — bom! —, mas acho que ignoram algumas nuances fundamentais nos dois positivistas e algumas objeções que a literatura mais recente fez ao paradigma filosófico ali comentado. Voltarei a isso depois. Por ora, vemos aí aquilo que eu havia dito antes: temos uma preocupação comum. A discricionariedade é um problema.
Mas me incomoda que a saída adotada, ainda que bem intencionada, seja esse realismo jurídico 2.0. Sim, esse é o nome científico da coisa. Ora, a "machine learning" de que os autores falam, em suas palavras, refere-se a "algoritmos que podem 'aprender' a partir de dados e fazer predições". Eis o realismo jurídico, esculpido em carrara. Porque é empirismo. A tese de Daniel e Alexandre é: para resolver o "decisionismo", passaremos a nos contentar em prever o que o Judiciário dirá que o Direito é?! Então é o robô (a tecnologia) que passará a "pôr" o "fato social"? É a velha tese de Wendell Holmes. Só que agora é um robô. Realismo tech.
Alexandre e Daniel substituem o empirismo do velho realismo pelo realismo high tech. Veja-se: não é ruim ser realista jurídico. Apenas há consequência na adoção da tese, uma vez que o polo de poder fica todo no juiz. Bem, agora vai para a máquina. Ah, mas a máquina é apenas uma “coisa” alimentada pelo homem. Mas, então? Fica, ademais, uma pergunta: como fica a doutrina? O que resta para a doutrina? Aqui uma homenagem minha a Bernd Rüthers.
Sigo. Qual é o busílis aí? Sejam os estudos empíricos dos realistas do século 20, sejam os algoritmos de Alexandre e Daniel, ambos recaem no mesmo problema fundamental que há no positivismo (e o realismo é nada mais, nada menos, do que positivismo fático — Warat não concordava em nada com o realismo) — e que não é enfrentado pelos autores. E qual é o problema? Simples. O Direito é visto como mera questão de fato. Previsões. Ora, qual é o sentido em "prever" algo sem uma epistemologia robusta que dá as condições de possibilidade para aquele que diz o que será então "previsto" pelo algoritmo?! Os problemas já começam de saída.
Os autores seguem e dizem, bem, que "para que um programa de computador seja capaz de desempenhar atividades jurídicas ele deve possuir meios de não apenas responder questões, mas também de explicar suas respostas de forma inteligível aos profissionais do direito". A partir da identificação desse problema, que é um problema mesmo, Alexandre e Daniel dizem, novamente bem, que "existem regras específicas de validade de provas (dados) e âmbitos de atuação", que há "sutilezas".
Reconhecidas essas questões, os autores propõem melhorias em algoritmos existentes, para que a inteligência artificial no Direito seja capaz de "distinguir entre documentos relevantes e irrelevantes para um determinado caso, diferenciar trechos de decisões judiciais", "identificar estruturas argumentativas em documentos legais", enfim. Alexandre e Daniel montam belos gráficos.
Tudo muito bem construído. O problema é que eles erram exatamente onde a máquina tampouco daria conta. A chave está aqui: lembremos, eles dizem que "para que um programa de computador seja capaz de desempenhar atividades jurídicas ele deve possuir meios de não apenas responder questões, mas também de explicar suas respostas de forma inteligível aos profissionais do direito". Eles também disseram isso: não só responderam as questões levantadas, como explicaram suas respostas de forma inteligível. Nesse ponto, saúdo os autores.
O problema é que Daniel e Alexandre erraram não na resposta, mas na formulação das perguntas. E é exatamente o mesmo erro: ora, para que um programa de computador "seja capaz de desempenhar atividades jurídicas", ele não deve apenas "responder questões" e nem apenas "explicar suas respostas". Ora, deve saber fazer perguntas. Deve saber interpretar. Porque "atividades jurídicas" — e Daniel e Alexandre não explicam o que querem dizer com "atividades jurídicas" — são (e Dworkin mostrava isso, Alexandre sabe bem) interpretativas. Daí porque, para além de fazerem o que eles bem apontaram (melhor do que eu faria; não conseguiria fazer aqueles gráficos), o computador, para desempenhar atividades jurídicas, deve interpretar.
Sim, o robô deve interpretar. E aí está o paradoxo: não seria mais um computador. Alexandre e Daniel, pois, têm boas respostas. Mas erraram nas perguntas. E mesmo assim estão ainda melhor que as máquinas, que sequer saberão articulá-las. E aí não há gráfico, não há machine learning, não há algoritmo ou analytics que dê conta. Lamento.
Passada essa parte, aí os autores entram na minha área. Cheguei ansioso ao segundo capítulo, que discute "A linguagem no Direito: pragmática e discricionariedade". Alexandre e Daniel começam bem e começam mal. Começam bem citando Warat; mas também começam mal quando dizem que "tanto a atividade do juiz, quanto a dos robôs, estarão sujeitas à imprecisão da linguagem natural (vagueza e ambiguidade), abrindo espaço para casos em que há margens de interpretação". Opa, como assim? Não existe esse negócio de "casos em que há margens de interpretação". A própria definição de vagueza e ambiguidade é já uma questão interpretativa. O mais simples dos enunciados jurídicos é interpretado. Até quando digo que um relógio estragado não acerta as horas estou interpretando e fazendo um juízo moral. Não existe cisão entre aplicação e interpretação. Nada mais positivista que isso. Alexandre sabe disso. Outra coisa: o criticado neopositivismo lógico, nesse sentido, era muito mais avançado. Simplesmente substituía a realidade por proposições sobre o mundo. A ficção da metalinguagem, fictícia que seja, conserva o negócio de pé e limpo. Sem esse artifício, ficamos sujos de realidade. Até os robôs.
Na sequência, os autores dizem que, nos easy cases, o sistema pode indicar respostas, e que "novas variáveis" surgem nos hard cases. De novo o problema. O que é um easy case? Ao menos, os autores são coerentes: o erro aqui é o mesmo erro cometido anteriormente. Daniel e Alexandre continuam a operar com a cisão entre easy cases e hard cases, regra e princípio, discursos de justificação e discursos de aplicação. Vejam qual é o problema fundamental aí: não superaram o problema das múltiplas respostas — o que reafirma os alicerces do positivismo jurídico — uma teoria meramente descritiva que não se preocupa com a decisão — , o que reafirma o próprio decisionismo que buscavam resolver.
Não vou (re)discutir Kelsen e Hart. Alexandre e Daniel acertam, em alguma medida, na questão da discricionariedade como consequência do paradigma analítico. Apenas eu faria uma distinção diferente acerca do sentido de decisionismo e de discricionariedade e do modo como isso aparece em Hart e como isso aparece em Kelsen. De todo modo, estamos juntos: também rejeito a discricionariedade — sou insuspeito! — e me interessa seguir no ponto.
O problema aí é que volta a questão: a "solução" proposta no livro nos termos da inteligência artificial continua no chão linguístico lançado pelos analíticos. Ora, a aposta nos algoritmos depende da pretensa cisão entre o ato do conhecimento do sentido de um texto e a sua aplicação a um determinado caso concreto — depende, pois, de inadequadas contraposições fundadas no (metafísico) esquema sujeito-objeto. E isso é fatal. Não se pode cindir o que é incindível, como já dizia Castanheira Neves. Os autores correm o risco — e, vejam, sou cauteloso, digo que correm o risco — de buscarem um resposta que não formula perguntas, incapaz de reconhecer o Direito em sua dimensão interpretativa. A resposta epistemológica de Alexandre e Daniel pode ser muito boa em seus termos — e reconheço isso sinceramente — mas jamais conseguirá resolver um problema de hermenêutica.
Há outros problemas. Os autores reconhecem, bem, que certas opiniões enviesadas — e, destaco, ilegais-inconstitucionais! — como "fundamentações" (sic) baseadas em histórico criminal de familiar do condenado “quando embutidas em um algoritmo, além de se revestirem de autoridade científica, tais opiniões passam geralmente despercebidas”. Isso porque, em um dado momento, "alguém decidiu" que eram relevantes para o algoritmo. Claro: alguém alimenta o robô… Aqui um parêntesis e uma indagação: Alexandre e Daniel estariam admitindo que um robô possa julgar processos criminais? Um robô aplicando pena? As conclusões do livro, e as distinções entre os "tipos de robôs", deixam muitas questões em aberto. Questões perigosas. Como deixá-las em aberto, pois?! Por isso, neste debate, estas reflexões podem servir para que os autores deixem isso mais claro.
Vejam isso. Esse 'pequeno probleminha', mencionado em passant em duas páginas do livro, é suficiente para derrubar toda essa aposta repleta de fé na inteligência dos algoritmos. Alguém decidiu, em algum momento, que uma dada opinião, era relevante para o algoritmo. Claro. Robô não pensa. O que parece difícil de explicar é uma coisa anterior: como controlar a discricionariedade para estruturar o algoritmo que vai resolver o problema da discricionariedade (ou o nome que se dê a isso)?
Claro, os autores dirão que a solução é montar o algoritmo de forma adequada. Mas aí reparem bem: a solução que eles apresentam lança um novo problema que exige uma solução nova. Até que alguém resolva inventar um novo algoritmo pra resolver esse problema…! Já que Kelsen é mencionado (e nem poderia deixar de o ser), permito-me, sempre respeitosamente, brincar um pouco e dizer que estamos à espera do Grundalgoritmo! Pressuponha-se que exista um algoritmo que… Ou um algoritmo tipo "como se" (als ob), uma ficção necessariamente útil (como se sabe, Kelsen, na Teoria Geral das Normas, trocou o fundamento epistêmico da NF).
Por fim, os autores — com base nas ricas e preciosas análises que fizeram sobre o funcionamento das máquinas — delineiam os diferentes tipos de robôs que, afirmam, poderiam auxiliar no Direito. Mas repetem seu sempre coerente erro: "hard cases se mostram incompatíveis com a aplicação do aprendizado de máquina".
Ou seja, toda a argumentação de Alexandre e Daniel depende da possibilidade de raciocínios dedutivos (causais-explicativos) para os "casos simples". Que serão atribuídos por alguém que faz essa cisão. E, sempre de novo: quem diz o que é um easy case? Aliás, como afirmo de há muito, um hard case só existe porque ainda não foi compreendido. E um easy case é um hard case que foi compreendido. Ou, de outro modo: a cisão entre easy e hard cases já é um hard case.
Acreditar na distinção (cisão) entre casos simples (fáceis) e casos difíceis (complexos) é pensar que o direito se insere em uma "suficiência ôntica" (cf. Verdade e Consenso), isto é, que a "completude" do mundo jurídico pode ser "resolvida" por raciocínios causais-explicativos, em uma espécie de "positivismo da causalidade", um positivismo do século 19 — se examinarmos tecnicamente essa teoria.
Mais: Partir de uma pré-elaboração (prima facie) do que seja um caso simples ou complexo é incorrer no esquema sujeito-objeto, como se fosse possível existir um "grau zero de sentido", insulando a pré-compreensão e tudo o que ela representa como condição para a compreensão de um problema.
Eu saúdo a preocupação de Alexandre e Daniel com a discricionariedade e acho que a resposta que eles oferecem é uma boa resposta… para as perguntas erradas. Curiosamente, é exatamente o que acontece com as máquinas que eles sugerem como solução: terão respostas maravilhosas. Mas quem vai fazer as perguntas? Eis a pergunta.
Uma resposta pode ser muito bem elaborada e trazer vários ensinamentos sobre áreas diferentes e específicas do conhecimento. É o caso desse belo livro de Alexandre e Daniel. Aprendi muito. Mas tenho profundas divergências. Respostas boas e elaboradas podem ser boas e elaboradas, mas não serão satisfatórias quando errarem nas premissas. Não há solução quando o que se pretende como solução compartilha as bases do problema que pretende resolver.
Com todo o respeito que tenho por tudo o que Alexandre Morais da Rosa representa no âmbito da crítica e da defesa da democracia — e seu valor é enorme — , e pela preocupação que, repito, compartilhamos, parece-me que a saída oferecida no livro é uma espécie de desprezo pelo jurídico. Isto porque os realistas de então apostavam no que eram as inovações da época; os teóricos críticos apostaram sempre na política. Agora, a aposta é nos algoritmos.
Com isso, negligencia-se o elevado grau de autonomia[2] que deve ter o Direito e a dimensão interpretativa do fenômeno que, entendido corretamente em sua própria tradição autêntica, exige que a doutrina enfim passe a construir bases sólidas para uma adequada teoria da decisão, para a possibilidade de respostas constitucionalmente adequadas — que não dependam do algoritmo, já que existe (e os próprios Alexandre e Daniel reconhecem isso…!) aí alguns pequenos probleminhas…
Em resumo, permito-me acrescentar: apostar em robôs ou admitir que robôs possam "julgar" (ou de algum modo substituir o trabalho dos juízes) nada mais é do que transferir o polo de tensão (poder) do Direito para o poder julgador. Antes, era o instrumentalismo, o realismo; agora poderá ser o robô. O problema é: quem é o dono do robô? Quem o alimenta? Cabem embargos de declaração da decisão de um robô? Quem decidirá? Como o robô aplicará os incisos de I a VI dos artigos 489 do CPC e 315 do CPP? Ou o robô responderá, de forma padronizada (afinal, é um robô) que nada tem a esclarecer? Como os algoritmos resolvem uma distinguishing? Como interpretam o artigo 916 do CPC? Comi identificar um precedente e comparar com o caso concreto sem cair em uma abstratalidade? E o artigo 10, da não surpresa? E se o robô, ele mesmo, for surpreendido?
Eis a questão. Agradeço aos autores por propiciarem este debate. Aprendi muito. E pretendo aprender muito mais.
Uma observação final. Comprei e li o livro sob comento. Para criticar, tem de ler. Isso vale para todas as críticas na doutrina.
[1] Permito-me, respeitosamente, dizer que não há decisionismo em Hart. É absolutamente complexa essa questão “perspectiva interna e externa em Hart”. Assim como a regra de reconhecimento.
[2] Cf. o verbete Autonomia do Direito, in Streck, L.L., Dicionário de Hermenêutica. 2. Ed, Casa do Direito. 2020.
Streck mostrou com elegância a fraude desse negócio de algoritmos no direito.
É a velha questão das diferenças dos fundamentos epistemológicos das "Geisteswissenchaften" (ciências do espírito) em relação às "Naturwissenschaften" (ciências da natureza), já que, diferentemente destas, as primeiras se baseiam numa realidade social e histórica e, como tal, irredutíveis a modelos causalistas. Ou ainda, como dizia Blaise Pascal, "esprit de finesse" x "esprit de géometrie".
https://www.conjur.
O Direito NÃO ESTÁ no campo das ciências da natureza (Naturwissenschaften). Nas ciências humanas, temos de compreender a significação perseguida pelos seres que agem, pensam, prevêem e acreditam; Não podemos nos contentar com o conhecimento exterior das coisas, mas temos de apreender, no seu interior, o significado posto pelo homem. (cf. JASPERS, Karl. Introdução ao pensamento filosófico. São Paulo: Cultrix, 1992.)
Cf. GADAMER (O problema da consciência histórica) – sobre as diferenças dos fundamentos epistemológicos das ciências do espírito em relação às ciências da natureza. As chamadas “Geisteswissenchaften” – onde está o Direito – insisto – se baseiam numa realidade social e histórica e, como tal, irredutíveis a modelos causalistas. O teor essencialmente humanístico deve permear sempre o Direito em todas as suas situações.
“As verdades jurídicas, diferentemente do que ocorre com as naturais (que a epistemologia positivista entende, equivocadamente, como verdades universais e necessárias) – estão em constante mutação, num devir (vir a ser, transformar-se, devenir) permanente em compasso com uma hermenêutica que liga o mundo da vida e o mundo jurídico, o fato e a norma, sujeito e objeto.”
Como fiz Engenharia da computação antes de fazer Direito, tenho um certo conhecimento no assunto. Não li a obra aqui citada, mas poderia contribuir um pouco.
O problema aqui é, exatamente, a pergunta, que não me parece ser nem a da obra criticada nem a do Autor deste artigo. A questão é: Onde é possível se aplicar inteligencia artificial?
Isso porque as respostas das últimas perguntas desde artigo são simples: elas seriam indistinguíveis da de um humano, e sequer seriam padronizadas. Pra quem tem interesse, pesquisem sobre o teste de Turing e como os computadores atuais já passam fácil deste teste. Então, como os computadores processariam o CPC? Da mesma maneira que um humano o faria, e com as diferenças entre uma e outra que um humano faria. Mas isso não quer dizer que as máquinas são indistinguíveis dos humanos. Quer dizer que, pro leitor das peças, é impossível dizer qual foi feita pela máquina e qual foi feita por um humano. Mas o processo pra se chegar no texto final é fundamentalmente diferente. Porque a máquina, em última instância (e simplificando demais a questão) estará apenas imitando um humano, o Learning Machine é isso, o computador vai pegar vários casos sobre cada assunto e ver qual parte de qual se encaixa melhor no caso concreto segundo os parâmetros do seu algoritmo. Por isso que não acho que seria saudável que a máquina substituísse o Juiz, advogado ou promotor.
Mas não quer dizer que não possa substituir ninguém. Cartórios serão cada vez mais automatizados, o que é bom.
O INSS é um ótimo exemplo onde esse learning machine seria extremamente útil, uma vez que a decisão ali é extremamente formal, mais que um caso penal, pelo menos. Porque são lugares onde não há (muito) espaço para inovação e fatores externos à lei pura e simples.
Não sei porque mas meus comentários levam uma eternidade para serem publicados. O anterior será publicado hoje ou fica pra amanhã conjur?
A Prova de Gödel é um dos mais difíceis teoremas, um dos tópicos mais difíceis da matemática e da lógica, mas dá bem o tom de algumas impossibilidades.
https://www.nature
Um artigo genial, de leitura ímpar e obrigatória. Fica uma pergunta: o Robô prestará concurso público? Direito não é mecânico, é humano. Julgar é sacrifício, uma máquina não pode julgar.
Alguém comentara há muito tempo que o Prof. Streck é nosso sniper contra absurdos jurídicos. Agora mirou e acertou o alvo novamente.
Não é possível que ainda queiram que robôs passem a julgar... como se o sentido da lei já estivesse lá, prontinho. Onde está o "fit" de Dworkin?
Muitos advogados elogiam o uso de algoritmos, sem percerber que estão desmerecendo a própria profissão, colocando o direito como mera técnica e racionalidade instrumental.
Ainda que os robôs "aprendam", será sempre sobre uma base de sentidos petrificados, mortos; um coveiro de textos jurídicos.
A realidade não cabe na lei. E se numa dada decisão, para fundamentar, o juiz utilize uma metáfora (como um trecho de Grande Sertão Veredas)? O robô vai interpretar?
Já não gosto daquele negócio de teoria dos jogos (onde já se fala em aproximar a teoria do que "realmente" acontece na prática).
Julgamento por robôs é inconstitucional e que sigamos o exemplo da França.
Dr. Ronque, excelente o seu comentário com a autoridade de quem conhece a parte técnica do assunto. Concordo plenamente com a colocação de que a IA seria muito útil e apropriada ao trabalho burocrático dos cartórios, serviços administrativos, mas jamais no trabalho de um juiz, promotor, defensor, advogado, perito, etc.
A questão fundamental, a meu ver, é que nada disso foi questionado e muito menos debatido amplamente com a sociedade, ouvidos especialistas como o senhor. Por outro lado, há um grupo de magistrados e juristas que se consideram muito versados no assunto só porque dominam o glossário, nunca seriam capazes de programar e muito menos detectar adulterações na programação. Mesmo nas tarefas burocráticas, há necessidade de controle permanente sobre o que está sendo programado, pois o "sequestro de dados", por exemplo, ocorreu em algumas prefeituras e tribunais. E sempre é alguém de dentro da instituição que "abre a porta para o ladrão".
Simplesmente fomos (mal) informados de que existem robôs chamados Sofia, Vítor e outros. Não consultaram a sociedade, não expuseram em detalhes a relação custo-benefício e muito menos os riscos e a forma de combatê-los.
No que concerne à autoria dos dados, é simplesmente assustador ouvir de um especialista como o senhor que seria quase impossível distinguir quem fez o texto : o juiz ou a máquina. Tudo tem limite e devemos impô-los antes que nos imponham.
É o velho problema da discricionariedade, com um "quê" a mais traduzido pela atuação da inteligência artificial. "Quem programa o robô?". Excelente texto, professor.
Tenho o imenso prazer que vivenciar, no meu dia-a-dia, com a genialidade de Alexandre. Sou fã de carteirinha do Streck. Em um momento do passado (logo no início da implantação dos processos eletrônicos) anotei um comentário em um dos diversos temas levantados por Streck, criticando o sistema, no que o Professor veio a meu favor, demonstrando, como confessa, suas restrições acerca da tecnologia no direito. De lá pra cá, muita evolução se percebeu e avancei meus estudos sobre robôs. Digo que eles vão, inevitavelmente, julgar, e até mesmo distribuir ações. A questão é em quanto tempo, e a partir de qual momento a sua qualidade será igual ou superior ao que vemos hoje. A quantia de erros judiciais (advogados, juízes, assessores, serventuários) é tamanha que me atrevo a dizer que talvez seja uma solução inteligente.
Para concluir, como defensor incondicional da convicção do Streck, de que o livre convencimento do juiz é uma aberração e que o tempo deverá extirpá-lo do nosso ordenamento jurídico, entendo que o robô, por mais que seja alimentado pelo homem, trará mais segurança jurídica. O tempo dirá!
Você precisa estar logado para enviar um comentário.
Fazer login