Ronai Pires da Rocha, grande filósofo da Universidade Federal de Santa Maria, faz lembrar de um tema fundamental neste zeitgeist muito alucinado em que vivemos: o desafio das tecnologias.
Quase todos “os desafios do século 21”, diz Ronai, implicam alguma reflexão sobre as ciências e as tecnologias. A Filosofia tem feito isso, mas, ao menos um dos temas indicados acima, os desafios da IA, é novo para nós.
Ronai faz parte, como eu, de uma geração que pensou sobre a tecnologia usando metáforas, alegorias, metonímias, perguntas e premissas simples… mas complexas. A principal metáfora foi a do aprendiz de feiticeiro.
A principal pergunta era sobre a natureza das tecnologias, se eram neutras ou não. A principal premissa era a do perigo eminente que elas traziam. Para quem ainda não sabe, Ronai explica a metáfora do aprendiz de feiticeiro, que se refere a situações nas quais, movidos por algum desejo pouco refletido, começamos a fazer algo que, logo a seguir, não conseguimos mais controlar; surgem consequências que não previmos, que podem ser desastrosas.
A história original chama-se exatamente O Aprendiz de Feiticeiro e foi escrita por Goethe, faz mais de 200 anos. Nela, um aprendiz de feiticeiro, na ausência de seu mestre, usa uma fórmula mágica para fazer com que uma vassoura faça o trabalho de limpeza que cabia a ele.
No entanto, o aprendiz não conhece o feitiço para parar a vassoura. Ela segue trazendo água até que a casa fica inundada.
Aprendeu-se essa história sem saber que era de Goethe. Nem Disney contou pra gente. Veja-se o filme Fantasia, em que Mickey era o aprendiz, que tinha que esperar a volta do mestre para resolver o problema. A metáfora firmou-se, pois era boa para falar dos riscos inerentes a novos conhecimentos e tecnologias.
Não quero a volta do lápis. Nem do ábaco. Ou da Olivetti. Lembro de quando escrevi minha dissertação de mestrado. Com uma máquina de escrever. O xerox desbotava, lembram? Mas daí a que um robô escreva em meu lugar… a distância vai até a vassoura do aprendiz de feiticeiro.
A metáfora do aprendiz de feiticeiro pode ser vista como uma variação sobre um tema filosófico venerável, a questão dos efeitos colaterais da ação humana. As nossas ações não se resumem às intenções declaradas. E acrescenta Ronai: quando compro pão e queijo na padaria da esquina, para ter algo de comer, eu movo a corrente do mundo das vacas, das farinhas, do dinheiro, dos impostos, da minha saúde. O mundo não é movido apenas pelas nossas intenções. A metáfora do aprendiz vale não apenas para os efeitos colaterais das coisas e tecnologias que criamos (a energia nuclear) mas para ações humanas triviais, como dar (ou não) “bom dia” a alguém.
E o tema do perigo? Para Ronai, a metáfora do aprendiz de feiticeiro sugere que podemos desencadear forças que escaparão de nosso controle. É isso mesmo. Cada um de nós já experimentou isso, de alguma forma, de algum jeito. Em certo sentido somos todos aprendizes de feiticeiros.
Exercemos a arte da feitiçaria quando falamos: fazemos coisas com palavras, como no livro de John Austin: promessas, votos, juramentos, declarações, desculpas, apostas, mentiras, perdões, pedidos e dezenas de outras formas de fazer coisas com palavras que sempre tem consequências. E que nem sempre avaliamos bem.
O Direito parece ser o locus privilegiado em que habitam os aprendizes de feiticeiro. E já sentimos o perigo. Picaretagens a mil. Advogados fraudadores querendo enganar os tribunais. Juízes utilizando robôs para limpar a pauta e poder jogar golfe. Estagiários terceirizando trabalho ao ChatGPT. E gente que nunca escreveu um fonograma na vida agora escreve livros… com ChatGPT. Outro dia um italiano enganou o mundo, lançando um novo conceito (hipnocracia). E a malta acreditou. Bem-feito (leiam aqui). Torço para a briga.
Os robôs já podem fazer desenhos tão ou mais bem elaborados que os humanos. Agora surgiu um novo robô da Google. Os chineses também inventaram um novo. Os robôs já fazem dublagem. Imitam vozes. E falam.
No Direito, fazem petições melhores que os advogados, que nem se dão conta de que isso mostra o fracasso da humanidade. Se uma máquina faz coisas melhores que o homem, então teríamos que, até por vaidade, parar para pensar. Eis o paradoxo: se a IA der certo, dará errado. Porque nos ultrapassa(rá).
Lembremos do cão que atirava crianças na água para ganhar suculentos bifes, caso contado por dois cientistas de Oxford no Parlamento britânico e que contei aqui no ConJur. O cachorro também aprendeu de forma generativa.
Por enquanto o robô alucina quando alguém lhe pede pesquisas – afinal, ele precisa dar uma resposta, mesmo que alucinadamente.
Daí a pergunta: e quando o robô conseguir encontrar, por exemplo, no Direito, a resposta certa para os casos mais complexos, buscando os corretos precedentes, com inclusão das técnicas de overruling e distinguishing em dimensão superior a qualquer humano com razoável formação? O que será do Direito? E o que sobrará para os estudiosos, se o robô faz tudo melhor?
Outro dia um querido amigo disse, corretamente, que a doutrina jurídica ainda tinha muito valor; só que ele mesmo dias antes fazia uma ode ao ChatGPT. E aos precedentes (que não são precedentes).
Eis a questão. O perigo está na máxima representada pela alegoria do trapezista que, de tão competente e treinado, achou que poderia voar. E se estatelou no chão. Porque trapezista, por melhor que seja, não sabe voar.
O consolo? Talvez esteja no fato de que robô não desce escada. Por enquanto.
Nota: esta coluna é escrita em homenagem ao meu querido amigo Ronai Pires da Rocha.
Sim, Dr. Lenio, a metáfora do *aprendiz de feiticeiro* é muito apropriada para a situação que enfrentamos com a Inteligência Artificial. De fato, toda a História da Humanidade vem a ser, em última análise, a epopeia do aprendiz de feiticeiro, porém, nesse caso da Inteligência Artificial, criamos uma dependência da tecnologia que pode nos exterminar, senão fisicamente, moral e intelectualmente. A continuar como está, principalmente na área jurídica, prevejo, em pouco tempo, sermos obrigados a obedecer a decisões judiciais absurdas e alucinadas ditadas pela Inteligência Artificial e, o pior, considerar que é assim mesmo que tem que ser. O correto, desde o início, deveria ter sido manter o lápis, o ábaco e a máquina Praxis da Olivetti e usar moderadamente as novas tecnologias porque os *apagões* são relativamente frequentes e o que acontecerá quando houver um *apagão* tecnológico ? Não é de hoje que aderi ao *sobrevivencialismo* e, se o tal do *Apocalipse* não vier, sem dúvida, para pessoas como eu, isso que aí está já é o fim do mundo e será necessário sobreviver como antigamente em algum lugar remoto, onde a tecnologia não possa nos vigiar.
Brilhante. A metáfora de Goethe me faz pensar que o verdadeiro perigo não está nos robôs ou na IA, mas na nossa pressa em entregar a eles o que ainda mal conseguimos entender - a ignorância sendo terceirizada - na crença ingênua de que o controle continuará conosco.
Narciso acha feio o que não eh espelho .....
O escriba deveria assistir o filme Eu, robô. Ele se identifica muito com o protagonista.
Excelente texto, professor!
A inobservância do efeito cascata é, sem dúvida, uma sentença de morte a ser assinada pela humanidade. É assim com a implementação sem freio das tecnologias, a tomada de decisões intensificadoras do aquecimento global, a fixação de teses jurídicas no ordenamento desconsiderando que elas não possuem efeitos exclusivamente pontuais, mas, sim, sistêmicos. E aqui reside um ponto de penumbra. O senso comum pode observar essa afirmação e achar que estou defendendo uma tomada de decisões baseadas em um puro consequencialismo, que beire, até mesmo, um utilitarismo. No entanto, o olhar sistêmico das reações não exclui a preservação de princípios (desenvolvimento tecnológico, prosperidade econômica, individualização das decisões e das aplicações jurídicas), pois é justamente a partir da observação deles e do seu modo de aplicar que poderemos medir a relação entre causa e efeito. O sofrimento relacionado ao caminho que a implementação das IAs está tomando não é porque negamos a realidade, mas, sim, criticamos a fetichização da artificialidade.
A metáfora do aprendiz de feiticeiro se aplica ao Supremo Tribunal Federal.
Para o e-comerce. Sistematicamente ataca o articulista. E, pior, quer parecer erudito, o néscio. Como diz o professor Lenio, por que não vai carpir um lote ou ler um livro?
Professor Lenio com mais um importante texto sobre a inteligência artificial. Traz argumentos difíceis de contornar e angustia os leitores, o que parece desagradar alguns como o ecomerce.
Brilhantemente colocado, professor.
Percebo que a ânsia pelo uso de IAs na advocacia decorre de uma lógica produtivista que, lamentavelmente, contaminou a categoria. O papel essencial do advogado — garantidor de direitos e defensor da justiça — foi subjugado por essa nova identidade: a de 'produtor de honorários'.
Nesse cenário desvirtuado, a qualidade técnica das peças torna-se secundária. Para cumprir seu papel de 'produtor de honorários', não é imperativo que a argumentação seja profundamente pesquisada, rigorosamente fundamentada ou mesmo direcionada à questão central do litígio. Basta que o documento seja suficientemente plausível para evitar o indeferimento inicial — um mero cumprimento burocrático.
O advento das inteligências artificias é um marco histórico. Ao mesmo tempo que o Direito em sua concepção positivista se fortalece, a justiça em sua concepção jusnaturalista também ganha força. Estaremos vivos para ver pobres terem acesso à defesa qualificada. Viveremos para ver os grandes escritórios (incluindo os mega caros de parentes de magistrados) sucumbirem diante de um modelo gratuito de linguagem capaz de articular boas inicias. Quem sabe, viver um tempo onde a lei de fato seja aplicada de acordo com aquilo que o legislador pensou. A tecnologia vai tornar (e isso é questão de quando, não de se) o sonho de Kelsen uma realidade. Espero que este caminho sem volta que trilhamos de fato melhore a vida de quem busca a justiça.
A IA não pensa - pelo menos até agora não vi nenhuma afirmação nesse sentido -, ela apenas manipula o que já foi pensado pelos humanos. Quer dizer, diferentemente dos humanos, nada de novo pode, ainda, vir dela. Mas ela manipula, com incomparável velocidade, número imenso de dados. Muitas vezes, porém, ainda os manipula mal, necessitando que a sua resposta seja aferida por um humano. Ainda estamos, portanto, na fase do /aprendiz de feiticeiro/, quer dizer, a máquina ainda precisa ser confrontada. Mas não vai demorar muito para que o aprendiz venha a suplantar o feiticeiro. Há pouco tempo atrás, engenheiros usavam a famosa /régua de cálculo/, que já era uma evolução da fase dos cálculos manuais. Depois vieram as não menos famosas maquininhas de calcular, e a seguir, os computadores pessoais, que hoje resolvem as mais intrincadas equações. E ninguém mais cogita de conferir se as contas estão corretas, pois perdemos a capacidade de multiplicar dois por dois. Será que nós, humanos, também vamos perder a capacidade de produzir alimento para a máquina? E daí?
Interrogatório da tentativa de golpe:
Mostrou como o Bozo é uma cobra ignorante (deve-se ter cuidado pois ainda pica!)
Mostrou um Deputado (Ramagem) tentando passar lábia, porém, inchando como um baiacú, quando o procurador Gonet fez suas perguntas diretas ao ponto.
Mostrou réus militares usando a estratégia de exaltar (como santos, qualificados acima da média e impecaminosos - isso é uma ironia!) integrantes das Forças Armadas. Acho que isso é mentira!
Conclusão: o Bozo tentou sim dar golpe e tem que pegar, no mínimo, uns 20 anos de cadeia. Pra nunca mais voltar e ameaçar a democracia!
Daí a pergunta: e quando o robô conseguir encontrar, por exemplo, no Direito, a resposta certa para os casos mais complexos, buscando os corretos precedentes, com inclusão das técnicas de overruling e distinguishing em dimensão superior a qualquer humano com razoável formação? O que será do Direito? E o que sobrará para os estudiosos, se o robô faz tudo melhor?
Aí não haverá mais estudiosos, até porque as pessoas não utilizarão mais nem aqueles 10% de sua cabeça animal de que nos falava Raul Seixas.
Você precisa estar logado para enviar um comentário.
Fazer login