Caminho da destruição da ciência pela própria ciência
Tenho escrito aqui vários textos alertando para os perigos do uso da IA, principalmente na área do direito.
A cada dia aparecem notícias de trapaças e picaretagens das mais variadas provocadas pelo uso da IA, como a do advogado que “fez” sustentação oral por meio de robô, do juiz investigado por “mandar” o robô sentenciar, de advogado ingressando com petição estelionatária (inclusive junto ao STF), tudo como uma pequena amostragem do que ocorre nesta verdadeira pandemia de disseminação da Ignorância Artificial.
Por que digo Ignorância Digital? Porque o uso da inteligência artificial mata o conhecimento. Proporciona um mundo de informações que encobre o conhecimento, o saber e a sabedoria. O uso de chats etc. nas suas variadas espécies retira o mérito cognitivo dos seres humanos. O caminho da ciência é a autodestruição. O atalho acabará com o caminho.
IA vende facilidade. Coloca a disposição do usuário atalhos cognitivos. Não precisa ler o livro. Ela faz por você. Ela resume. E até traça um esquema para você palestrar e enganar os outros.
Por isso em breve — se é que já não estamos nesse patamar — já não conseguiremos separar o joio do trigo. E o joio será superior. Vencedor. Já nas redes sociais analfabetos funcionais aparecem como influencers e palestrantes. Já tem até cantor produto de IA.
Despiciendo lembrar o fenômeno brain rot, produto do uso da IA na aceleração do mundo da vida, transformando a linguagem em uma sucessão de “instantaneidades de trinta segundos”.
Ou seja, o mundo está emburrecendo, como se pode ver pela recente notícia de que há 60 milhões de analfabetos funcionais no Brasil. Interessante, porque isso comprova que informação não é conhecimento, conhecimento não é saber e saber não é sabedoria.
A frase não é minha, mas já falei coisas parecidas aqui nesta Conjur e em palestras: “Ficamos mais estúpidos justo quando as máquinas ficam inteligentes”, disse Jonathan Haidt, best-seller que está no Brasil para ciclo de conferência. Binguíssimo, acrescento.
O Brasil é o país em que existem mais smartphones per capita do mundo. Logo, é possível dizer, sem medo de errar, que esses analfabetos funcionais possuem smartphones e internet, o que é facilmente perceptível. Até mendigos possuem smartphones. Já indicam até o Pix para a esmola. Porém, mais informações, menos conhecimento. Quanto mais smartphones, mais ignorantes. Mais néscios.
Já não se vê nos corredores das faculdades pessoas transportando livros. Nem mesmo textos. “Estudam” por drops. Tudo está nas redes. E as informações (que não são conhecimento) são obtidos em um clique. O robô sempre responde. Mesmo que não nada saiba. Até mesmo em Harvard há queixas de que os alunos de doutorado já não leem textos longos ou livros.
Fecho esta primeira parte com Haidt: “Como professor universitário, meus alunos perderam a capacidade de ler palavras numa página”. Para ele, o resultado dessa perda de controle é a perda de sentido na vida, de forma mais ampla. “Se tudo o que você faz é consumir vídeos curtos o dia inteiro, sua vida se torna mesmo vazia. Se você não tem controle sobre a sua atenção, não consegue realizar nada.”
Três notícias arrasadoras
Se o mundo não acabou, vejam duas notícias:
Notícia 1. Inteligência artificial chinesa que aprende sozinha surpreende cientistas, dizem as notícias recentíssimas. Isso acende o alerta sobre riscos da inteligência autônoma (aqui). Trata-se do Absolute Zero Reasoner — ou “inteligência do zero absoluto” —, o modelo aprende sozinho, sem receber nenhuma informação de treinamento, e obteve desempenho superior ao de sistemas consagrados em tarefas de matemática e programação.
Diz a notícia que a proposta rompe com o modelo tradicional de treinamento de IA, que depende de bases massivas de dados humanos. O Absolute Zero começa do nada. Ele inventa os próprios exercícios e aprende com o próprio desempenho. Duas partes atuam em conjunto: uma propõe os desafios, a outra tenta solucionar. Quando acerta, é recompensada; quando erra, tenta novamente. Com o tempo, o sistema se torna mais eficiente.
Consta que a comunidade científica reagiu com entusiasmo. Em fóruns como Hacker News e Reddit, especialistas elogiaram o potencial do sistema para superar o principal gargalo da IA atual: a dependência de dados humanos caros e limitados.
Bingo. Ele se autonomiza. É o nirvana. Muita gente do direito que é entusiasta da IA deve estar exultante. Aqui mesmo nesta ConJur leio reportagens tecendo loas à IA. Pois os chineses trazem notícias animadoras para os apaixonados pela IA.
Todavia, como sou um jurássico que ainda acredita em livros e na ciência não resumida por robôs, registro aqui que, ao lado do “alvíssaras”, surgem preocupações. Atenção, porque em uma das tarefas geradas, a IA escreveu explicitamente que seu objetivo era “superar máquinas inteligentes e humanos menos inteligentes”. Bingo de novo. Estou torcendo para a IA, principalmente para superar muita gente da comunidade jurídica.
Notícia 2. Ela vem do ex-CEO do Google, Eric Schmidt, quem faz um alerta que daqui a três a cinco anos teremos a IAG (inteligência artificial geral), um sistema tão inteligente quanto mais inteligente dos físicos, matemáticos ou qualquer pessoa mais inteligente da terra. O que acontece quando cada um de nós tem o equivalente ao humano mais inteligente em qualquer tipo de problema em nosso bolso?
Mais: a IA, com o tempo, não precisará mais nos ouvir. Como é o caso da chinesa que contei acima. Eric também diz isso. Chame-se de superinteligência artificial. Haverá computadores mais inteligentes do que a soma de todos os humanos inteligentes. E isso estará no bolso de cada um. E digo eu: quem vai ler ou estudar ou pensar se basta um clique?
Notícia 3. As professoras Dirce Waltrick do Amarante e Fedra Rodríguez publicaram artigo seminal perguntando se a intelectualidade morre na era dos algoritmos. Contam, então, a história do escritor honconguês radicado na Europa, Jianwei Xun, quem revolucionou o pensamento filosófico com um novo conceito, a “hipnocracia”, que expôs no ensaio The hypnotic architecture of digital power: Algorithmic trance and the end of shared reality (a arquitetura hipnótica do poder digital: o transe e o fim da realidade compartilhada), que está disponível para download em sua página no site Academia.edu.
O ensaio de Xun fez o maior sucesso. Importantes universidades fizeram congressos e discussões. Jornais como El País dedicaram grande espaço. O mundo estava vendo uma nova teoria. Finalmente, descobriram que era uma pegadinha. O ensaio (livro) era produto de IA. Um italiano passara o cachorro na malta. Eis o Zeigeist (espírito do tempo). Bem feito.
Por que o cérebro podre já é vencedor: por aqui, 60 milhões de analfabetos funcionais
Isso não nos preocupa? Isso não preocupa a comunidade jurídica? A parcela de analfabetos funcionais (burrinhos, para sermos bem simples) aumenta dia a dia. Os alunos saem dos cursos superiores com forte grau de analfabetismo funcional ou déficit cognitivo ou ausência de o mínimo de substrato epistêmico. O brain rot já é vencedor.
Basta ver a onda de bebês reborn, que apenas mostra a idiotice sendo aperfeiçoada. A imbecilidade parece ser uma ciência — pode ser aperfeiçoada. Tem até parlamentar propondo projeto para atendimento de “parturientes de bebê reborn”. Por que essa gente não vai carpir um lote? A enxada é importante invenção humana, anterior à IA.
Como já escrevi aqui duas vezes, a agnotologia é estudo da ignorância como produto de um projeto deliberado. A IA faz parte desse projeto. Um instrumento que veio a calhar.
Portanto, se há algo que me irrita é essa conversa de IA no direito. Robôs que escrevem livros. Robôs que cavoucam precedentes-que-não-são-precedentes. Robôs que fazem petições…melhores do que advogados. Ora, ora, se um robô é melhor do que você, então você é um fracassado. Já se deu conta, mané? Perdeu, Einstein. Perdeu para você mesmo.
Post scriptum. Um alerta — este, aos “jênios” que, cancelando a IA, respondem a mim como se eu fosse um ludita, reacionário. “Ah, o professor não entende do assunto, seria contra o Google”. Comparam ovos com caixas de ovos e atacam um espantalho. Sou, sim, ortodoxo no direito: acho que há processos que só seres humanos podem e devem fazer. O argumento é normativo. No plano geral das coisas, bom… Se um raciocínio desde um ponto zero não causa preocupações, então sou mesmo um jurássico. Onde vamos parar? A autopoiese da IA já é realidade. Todos os freios que se diziam já não funcionarão mais. Mas é mais fácil chamar quem está avisando de reacionário. Admito: não entendo de programação. Mas acho que quem aplaude a IA acriticamente não entende de filosofia e história. Simples assim.
Resumos.
E pensar que há pouco tempo o escritor criticava os resumos, esquemas, etc....
Sente saudades?
Texto impactante e necessário. O professor Lenio Streck toca em pontos que não podem ser ignorados: estamos vivendo uma revolução tecnológica sem precedentes, mas precisamos parar para pensar aonde isso nos está levando. A facilidade oferecida pela IA é tentadora, sedutora até — afinal, quem não quer resumos rápidos, respostas imediatas, petições prontas?
Mas o preço disso tudo pode ser alto demais: a perda da capacidade crítica, da profundidade do pensamento, da habilidade de ler, escrever e entender algo com consistência. E pior: a banalização do conhecimento. Hoje, qualquer um pode "parecer inteligente" usando um chatbot, enquanto quem estuda há anos parece ultrapassado.
É inquietante ver que até ideias filosóficas profundas estão sendo fabricadas por algoritmos e aplaudidas pelo mundo acadêmico. Onde está a reflexão? Onde está o ser humano por trás do saber?
E essa questão dos analfabetos funcionais no Brasil, muitas vezes conectados 24h por dia, mas incapazes de compreender um texto simples, é um retrato cruel do nosso tempo. Informação abundante, conhecimento escasso.
O texto não é contra a tecnologia, é contra o automatismo cego. Não é reacionário, é alerta. E esse diálogo precisa continuar, especialmente na área do Direito, onde decisões que moldam vidas não podem ser terceirizadas para máquinas nem virar mero input-output .
Parabéns pelo artigo, professor. É hora de acordar.
Texto contundente e necessário: revela com lucidez os riscos epistemológicos da IA e reacende a urgência do pensamento crítico. Leitura indispensável.
Texto importantíssimo, professor Lenio! Esse canto das sereias produzido pela IA representa um perigo para o Direito.
"O atalho acabará com o caminho". Esse é o problema: o conhecimento se constrói no caminho e não na chegada. Por isso informação não é conhecimento, como o Professor Lenio adverte há tempos.
O atalho é uma armadilha que criamos para nós mesmos. E com ele, talvez, estejamos em direção a um abismo.
Bravo! Concordo em gênero, número e grau. Um alívio outra voz dissonante do entusiasmo geral.
Brilhante texto Professor.
O uso desenfreado da IA nas comunidades jurídicas me remeteu ao texto "O homem que sabia javânes", a cada dia que passa mais temos jurídicos que sabem javânes.
Daqui a pouco será necessário criarmos um pacto social, nos comprometendo a aceitar que todos sabemos o que é Direito e a nunca questionarmos o que o outro sabe acerca do que é o Direito.
Dessa forma podemos seguir contentes sabendo que todos nós sabemos javanês e que todos nos sabemos o que é Direito, afinal, o chat já me disse o que o Direito é.
Os alertas que o professor Lenio está fazendo sobre IA são fundamentais.
Essa fetichização com a capacidade de que a IA solucione todos os problemas está nos levando ao abismo e muitos estão correndo vorazmente em direção a ele sem perceber que vão morrer ao chegarem lá.
O professor está certíssimo. Aliás, a simples informação em tempos de fake news não é certeza de nada.
Os dados sobre o analfabetismo funcional são tristes e alarmantes. Ainda assim, há quem siga incentivando o uso da inteligência artificial.
Mais um excelente texto do professor Lenio!
Artigo brilhante e fundamental! E ainda o que mais impressiona é a quantidade de advogados na internet "vendendo" esta tecnologia e a nova forma de prospectar e de se fazer Direito. O cliente virou produto, a relação pessoal não importa mais e a IA define. Muito triste...
Assim que uma nova técnica mais eficiente é inventada ela começa a ser utilizada e substitui todas as outras que se tornaram menos lucrativas. A automatização da utilização de uma nova tecnologia é tão inevitável quando seu aperfeiçoamento. Com o tempo ela se propaga de um domínio para outro até invadir todos ou quase todos os campos de atividades humanas. Novas técnicas não produzem apenas desemprego, elas acarretam danos imprevistos com os quais a humanidade inevitavelmente terá que lidar. Esses são apenas alguns dos princípios da sociedade tecnológica referidos por Jacques Ellul em The Tecnological Society. Todavia, o grande teórico do determinismo tecnólógico estudou uma sociedade que está sendo ainda mais transformada por tecnologias que não respeitam barreiras temporais, geográficas, culturais e linguísticas. As tecnologias da informação e as IAs estão se tornando oniscientes, onipresentes e onipotentes. Primeiro elas invadiram nossos smartphones, agora invadem todo o sistema de justiça. Nos EUA, IAs são tratadas como se fossem divindades por alguns de seus desenvolvedores. Casos de pessoas que passaram a sofrer de delírios religiosos graves estão se tornando comuns. Mas no caso dos juízes brasileiros que sofrem de delírios de grandeza e de importância ocorrerá o inverso. À medida que as IAs começarem a ser mais e mais usadas para decidir processos eles se sentirão oprimidos pelo fato de terem se tornado irrelevantes, menos inteligentes que as IAs. Só os tolos são incapazes de imaginar o sofrimento psíquico profundo dos juízes num futuro próximo plausível. Do ponto de vista dos advogados, o desaparecimento da juizite pode ser um efeito colateral excepcionalmente bom do uso de IAs para decidir processos. Mas no outro lado desta tendência tecnológica que não pode ser interrompida existe um espectro assustador. E essa sombra é projetada por empresas privadas que estão adquirindo o privilégio de decidir tudo em todos os lugares o tempo todo. A mim parece evidente que nenhuma Big Tech vai produzir IAs que as condenem em valores elevados ou que deixem de absolvê-las por causa de um viez maliciosamente inserido durante a criação do algoritmo, do processo de aprendizado de máquina ou mesmo presente nos bancos de dados utilizados. Não veremos o fim da juizite e sim a transferência dela do servidor público concursado cujas atividades estão sujeitas às regras legais e regulamentos administrativos (eventualmente às punições impostas por corregedorias e pelo CNJ) para os donos de Big Techs que criam e licenciam produtos adquiridos pelo Judiciário. Nesse sentido, se levarmos em conta as teses de Jacques Ellul, o apodrecimento dos cérebros dos usuários de IAs é o menor dos problemas que serão enfrentados pelos cidadãos jurisdicionados.
Possui Inteligência Artificial o ser humano que usa esta tecnologia. No mundo jurídico, infelizmente, a inteligência artificial está em moda. Se a escola não pode reprovar um aluno, se é possível concluir o ensino fundamental e médio em 1 ano, se é possível cursar uma faculdade colocando o vídeo para rodar, enquanto se joga buraco ou brinca no TikTok, pensar tornou-se algo inimaginável.
Excelente texto, professor. Mas será que teremos bons livros paa ler (eu tbm gosto de livros ... nem sei mais onde guardei o meu kindle) para ler no futuro? Ou esses livros também serão produzidos por IA? Meu Deus! A nossa tarefa de leitor crítico serão hercúlea.
Ontem testei mais uma vez a tal da IA. O robot aterou o texto da lei para me dar uma resposta que relativizava a obrigatoriedade contida no dispositivo. Colei o texto da lei e perguntei o motivo da alteração, ele pediu desculpas e produxiu outro texto medonho para tentar justificar o erro, e fundamento errado. Corrigi e novas desculpas foram apresentadas desta vez menos enfáticas.
Caro prof. Lenio, seu texto é perfeito!
Excelente texto. Só tem um pequeno problema: os "jênios" não precisam de enxada para carpir o lote.
Excelente texto, professor!
Assim como a maioria dos instrumentos e inovações (positivas e negativas), e uma sociedade que clama por simplificações, estamos experienciando uma vulgarização da inteligência artificial. Vulgarização, essa, que transformou a artificialização das ferramentas cognitivas em um problema, além de técnico, existencial. A estruturação de uma cultura com "prompts" preenchendo as condições de possibilidade dos indivíduos. O grande paradoxo é que onde mora o perigo, nasce, também, a salvação; ou seja, considerando a impossibilidade de extinção da IA, sendo ela não mais uma ideia a ser desenvolvida, mas, sim, uma realidade do presente de crescimento exponencial, resta trabalharmos regulamentações e limitações (pessoais e coletivas) para o seu uso.
Se Tarcísio ganhasse a eleição, ele anistiaria o Bolsonaro, a qual seria derrubada pelo Supremo... E quem dará um golpe será o... Tarcísio.
Aldo Rebelo é um mal-amado que arrumou uma p*ta pra defender: as Forças Armadas (não generalizando).
Vai, Xandão! Vc é a nossa ponta da caneta! Desejo serenidade e cautela! Especialmente com o Trump, que não reconhece/respeita fronteiras.
Texto fantástico, Professor! Infelizmente, temos cada vez menos vozes como a do senhor. Vivemos cercados por uma legião de telespectadores passivos, que não se dão conta de que o atalho está destruindo o caminho. Confiam cegamente na inteligência artificial como se fosse um oráculo detentor de todas as verdades, sem o necessário exercício crítico e reflexivo.
No Direito, assistimos a uma crescente desumanização: um não-direito descontextualizado, automatizado e cada vez mais distante da sociedade. Trata-se da perda da capacidade reflexiva do ser humano.
Mesmo antes do boom da IA, Manfred Spitzer já alertava para o fenômeno da Demência Digital, isto é, a perda ou redução das capacidades cognitivas diante da imersão no mundo digital. John Danaher atualiza o problema ao mostrar como a dependência de processos decisórios algorítmicos abre caminho para uma algocracia — um inquietante processo de terceirização do ato de pensar.
Um texto que merece reflexão. Esse foi escrito por professor raiz !
Apoiado!
Você precisa estar logado para enviar um comentário.
Fazer login