A intelectualidade morre na era dos algoritmos?

Abstract: Ficções da realidade e realidade das ficções: o dia em que o robô criou uma teoria e os cientistas do mundo caíram feito trouxas ou de como tudo aqui nos dá a impressão de ocorrer de forma intencionalmente irrefletida.

Em preliminar: um mundo sem segredos é bom?

Fui convidado para falar sobre direito e literatura pelo TJ-GO (assista o vídeo aqui). Sobre as Vespas, de Aristófanes, sobre a qual fiz mais de um programa Direito & Literatura, inclusive com o tradutor, o professor Donaldo Schüller. Fiquei pensando: qual é a utilidade de eu contar e comentar a peça, se tudo está ao alcance da mão em um clique em qualquer desses robôs? Quando ainda não existia IA e quejandos, fiz minha própria interpretação sobre as Vespas — e contei na live. Bom, de todo modo, é assim que me movo nesse mundo novo. Lá vem o novo, brincada e denunciava Brecht. Novo… esse novo. Lembro logo do Zema (invocaria aqui o cientista de Lagado, de Swift, de Gulliver, e colocaria uma onomatopeia). [1]

Já não há segredos. Não há mais mistérios. Hoje em dia se você “sacar” algo de um livro alguém procurará nas redes para saber de onde você tirou. Espantoso. Já ninguém acredita em descobertas.

Mas, quem quer um mundo sem mistérios da descoberta? Um mundo com spoilers cotidianos? Quem quer um mundo em que as respostas vêm antes das perguntas serem feitas? Já não há nem o mistério da boa pergunta.

Alguém pensou em um mundo sem vícios, como na Fábula da Abelhas de Mandeville (o homem comum do direito não lerá a fábula e pedirá para a IA lhe apresentar o resumo e os pontos principais…!). Hoje qualquer moleque faz palestra sobre qualquer assunto (quando não é uma IA feita com sua foto). Por que ler um livro, se a IA lhe traz o resumo e os pontos principais em segundos?

Por isso, já em preliminar, respondo: sim, a intelectualidade morre. Spoiler: a intelectualidade é morta pela IA.

The end.

Artigo das professoras Dirce e Fedra mostrando a falcatrua

Volto a um artigo das professoras Dirce Waltrick do Amarante e Fedra Rodríguez, em que perguntam se a intelectualidade morre na era dos algoritmos. E respondem contando uma história estarrecedora. Fraudes sempre existiram, desde a dupla de cantores Milli Vanilli, que estourou com sucessos marcantes entre 1988 e 1990, embora o embuste não tenha durado muito. Dois anos foram suficientes, mesmo sem a internet, para se descobrir que eles não eram os verdadeiros intérpretes das canções. Naquela época, a farsa revoltava os fãs.

Atualmente é bem marcante a proliferação de imagens recriadas por IA inspiradas em Hayao Miyazaki, co-fundador do Studio Ghibli. Muitos se divertiram brincando de “ser Miyazaki por um dia”, sem se preocupar com direitos autorais, ética e outros fatores que envolvem o processo criativo.

Esse é o novo normal. Como antigamente em que médicos faziam propaganda de marca de cigarros…! “Mais e mais médicos fumam Chesterfield”.

A fraude está no ar. Basta abrir qualquer rede social. Quem nunca escreveu um fonograma agora escreve textos e livros. Produz “conteúdo”.

Nunca se sabe se algo é falso ou verdadeiro. Além disso, há o fenômeno do plágio. Como diz o linguista Noam Chomski, não existe inteligência artificial. O que há é um plagiador, que se alimenta de tudo e não cita a fonte.

Hipnocracia em transe

Dirce e Fedra então contam a história do escritor honconguês radicado na Europa, Jianwei Xun, quem revolucionou o pensamento filosófico com um novo conceito, a “hipnocracia”, que expôs no ensaio The hypnotic architecture of digital power: Algorithmic trance and the end of shared reality (A arquitetura hipnótica do poder digital: o transe e o fim da realidade compartilhada), disponível para download em sua página no site Academia.edu.

Xun construiu sua teoria com base em arcabouços teóricos e campos de conhecimento variados que vão do “simulacro” de Baudrillard à “nova crítica da política econômica” de Stiegler e reflexões sobre a farmacologia do proletariado.

Para o escritor asiático, a sociedade não mais disciplina os sujeitos com o lema do “dever”, como no início da Revolução Industrial. Tampouco eles são empreendedores escravos de si mesmos que, equivocadamente, se pensam livres, como propõe Byung Chul-Han acerca da contemporaneidade. Aliás – curiosidade –  Han é uma das referências para o artigo seminal de Xun, e ambos curiosamente parecem compartilhar trajetórias pessoais semelhantes.

Encantador, pois não? O artigo sobre a “hipnocracia” rapidamente ganhou reconhecimento, embora um olhar mais atento e cético pudesse identificar ali uma boa dose de inconsistências que contrastam com a aura de rigor que pretendeu transmitir. Xun declara, por exemplo, atuar como pesquisador bolsista em um tal Institute for Critical Digital Studies, cuja localização parece oscilar: no início do texto, aparece em Berlim, enquanto na seção “Sobre o Autor”, sua localização está em Dublin.

E começaram os simpósios sobre o paper de Xun. Discussões sobre a hipnocracia. Eis o novo. Lá vem o novo. Lá vem o Zema! Chamem Brecht. Jornais como El País da Espanha e sites do mundo todo discutiam a novidade. Intelectuais passaram a se debruçar sobre a hipnocracia. A coqueluche epistêmica!

E saiu o primeiro livro de Xun: Hypnocracy: Trump, Musk and the Architecture of Reality

Finalmente foi lançado o primeiro livro de Xun, em plena era trumpista, em fevereiro de 2025, com o pomposo título Hypnocracy: Trump, Musk and the Architecture of Reality (Hipnocracia: Trump, Musk e a arquitetura da realidade). O livro foi publicado de forma independente e já foi traduzido e publicado em editoras como a Editorial Rosamerón, de Barcelona.

O fascinante é que a obra foi aclamada por críticos europeus e chegou a ser considerada por Longobardi tão revolucionária quanto “Vigiar e Punir”, de Michel Foucault, foi em sua época. O que me dizem? O poder invisível de algoritmos atuaria não somente em um plano emocional e psicológico, mas manipulariam a própria experiência temporal, criando um “presente de antecipação constante”, ávido por novidades inúteis que não levam a qualquer forma de evolução pessoal ou intelectual.

Mas aqui vem o ponto de virada relatado por Dirce e Fedra. A raposa vai ao moinho e perde o focinho. Ninguém conseguia entrevistar Jianwei Xun. Mas a redatora-chefe da revista italiana L’Expresso, Sabina Minardi, descobriu que Xun não existe. Ou melhor, existe como uma fusão do pensamento do escritor e editor italiano Andrea Colamedici e o trabalho de escrita de duas ferramentas de IA, Claude, da Anthropic, e o famoso ChatGPT, da OpenAI. E é aqui que diversos pontos se entrelaçam, tecendo uma complexa trama que pouco ou quase nada tem a ver com uma fraude de músicos pop pelas implicações que traz. Chegamos a um marco: o primeiro fake book da era tecnológica com todas as camadas intrincadas que a IA é capaz de formar.

Spoiler: e o famoso Xun era um autor-fake

Xun era um fake-algoritmo. O pior de tudo é que parcela da intelligentsia do mundo entrou nessa barca furada. Pagaram mico para os robôs. E seguem as articulistas: em entrevista ao El País, Colamedici afirmou que a sua intenção não era enganar os leitores, mas “criar um experimento filosófico e uma performance artística para demonstrar os riscos e perigos” de usar a IA para desenvolver uma ideia de que nós mesmos somos capazes de colocar no papel ou na tela sem ajuda.

Além disso, em entrevista ao L’espresso, afirma sem vergonha ter “deixado rastros engraçados, coisas alienantes, migalhas como em João e Maria”. O argumento do experimento quase lúdico, entretanto, soa vazio e, convenhamos, tem ares de desculpa tirada da cartola para evitar processos e tribunais.

Observe-se — prosseguem — que em Nexus: Uma breve história das redes de informação, da Idade da Pedra à inteligência artificial , Yuval Noah Harari leva o tema a sério e não recorre a piadas para analisar numa perspectiva diacrônica e sincrônica as formas de comunicação ao longo da história da civilização, incluindo os célebres algoritmos e modelos de linguagem.

Nessa jornada, Harari posiciona o computador como um membro à parte, não humano, nas redes de informação. Isto porque durante milhares de anos, a linguagem esteve a serviço dos Homo sapiens para criar realidades intersubjetivas que nos conectam. Do mesmo modo, a linguagem nos permitiu elaborar mecanismos financeiros, legislações, arte, ciência, nações e religiões. Porém, e aqui é que está o busílis, ao concedermos essa potência às máquinas, automaticamente entregamos a chave-mestra da nossa complexa estrutura social a algo sobre o qual não temos total controle e que talvez já tenha escapado das nossas mãos e mentes.

Humanidade: cuidado com o que desejamos

O diagnóstico é terrível: em sua busca cega para obter um conhecimento maior, a humanidade programa sua própria destruição com a mesma ferocidade e falta de cerimônia com que se dedica à destruição de todas as espécies restantes. E arrematam as autoras: justamente, nessa vorágine, o tal “experimento hiptocracia” não deixou impune o meio ambiente.

Note-se que, para ser criado, o engodo demandou o uso de IAs generativas que consomem muita energia e, consequentemente, exigem uma maior busca por silício e cobalto, esse último extraído e, grande parte na República Democrática do Congo, de forma muitas vezes desumana, arrasando o ecossistema da região e não remunerando adequadamente quem faz o trabalho pesado.

Enfim, tudo aqui nos dá a impressão de ocorrer de forma intencionalmente irrefletida. E concluem as articulistas: diante desse episódio, fica evidente a urgência de uma discussão mais profunda e séria sobre ética, estudo, pensamento e fast-culture — temas cujo debate, aparentemente, se tornaram démodés.

Entre os “experimentalistas estéticos”, a tendência dominante é, ao que tudo indica, buscar visibilidade midiática a qualquer custo e capitalizá-la, mesmo que à custa do rigor e das práticas responsáveis. Para os intelectuais, pessoas de ciência e arte, a anedota traz um conselho pertinente. É necessário, de agora em diante, tomar dois antídotos muito eficazes para neutralizar os efeitos da era do consumo intelectual descontrolado e do jogo de espelhos da IA:

• a pausa reflexiva e
• a análise crítica. Em doses generosas, de preferência.

Quem assiste Black Mirror, deve lembrar de alguns episódios que retratam, de algum modo, o que acima foi relatado. Da quarta temporada retiro o episódio “Brinquedo”, no qual a inteligência artificial assume independência, vida própria, com “intenção dominadora”.

Sem spoiler, é estarrecedor, como o “caso Xun”.

De minha parte, continuo a dizer: a IA conforma um paradoxo. Se a IA der certo, a humanidade fracassou. Se tudo o que se diz da IA for isso mesmo, como ser mais “inteligente” que todos os mais sábios do mundo juntos, por que ainda o ser humano necessita ler e estudar, se o mundo é prêt-à-porter, prêt-à-penser e prêt-à-parler? Buscam uma espécie de reencantamento do mundo que fora desencantado no advento da modernidade. O que esse desencantamento e o reencantamento? Bom, isso por certo já exige do homem comum (do direito) uma nova visita à IA, para saber o que dizem esses conceitos.  A IA trará o resumo e os pontos principais. Ler quem escreveu sobre isso? Mas nem falar. Afinal, tem a IA…!

Post Scriptum sobre o uso da IA para resumir estudo sobre os malefícios da IA – o paradoxo do atalho cognitivo

Aliás, um novo estudo do MIT, segundo matéria do jornalista Andrew Chow, mostra que, sim, de fato o ChatGPT pode estar corroendo as habilidades de pensamento crítico. Os viciados em IA não gostaram da matéria e do estudo. Colocam defeitos na pesquisa. O estudo mostra que, ao longo de vários meses, os usuários do ChatGPT ficaram mais preguiçosos a cada redação subsequente, frequentemente recorrendo ao recurso de copiar e colar ao final do estudo.  Igualzinho ao que se vê nas aulas e nas redes sociais, digo eu.

O objetivo da pesquisa é mostrar como esse atalho cognitivo que é a IA pode fragilizar a abrendizagem. O artigo ainda não passou por revisão de pares. Mas já está sendo discutido. Diz a pesquisadora  Nataliya Kosmyna:  “O que realmente me motivou a publicá-lo agora, antes de esperar por uma revisão completa por pares, é que receio que, em 6 a 8 meses, algum formulador de políticas decida: ‘Vamos implementar o GPT no jardim de infância’. Acho que isso seria absolutamente ruim e prejudicial”, diz ela. “Cérebros em desenvolvimento correm o maior risco.”

O paradoxo e a ironia: Ironicamente, após a publicação do artigo, vários usuários de redes sociais o analisaram em LLMs para resumi-lo e, em seguida, publicar as descobertas online. Kosmyna já esperava que as pessoas fizessem isso, então inseriu algumas armadilhas de IA no artigo, como instruir os LLMs a “lerem apenas esta tabela abaixo”, garantindo assim que os LLMs retornassem apenas insights limitados do artigo.

Bingo. Autoexplicativo. Era previsível que a malta buscasse a IA para resumir a própria discussão sobre a IA. Uma metalinguagem de atalho cognitivo sobre matéria que trata de atalho cognitivo.

Bem dentro da lógica do Zeitgeist!

Espero que esta coluna não seja lida via ChatGPT.  Gaste uns 7 ou 8 minutos.

E de lambuja assistam Hall 9000, o robô — eis a autêntica distopia de 2001 — a Odisseia do Espaço:

___________________

[1] Isso é o máximo que eu posso explicar da anedo-metáfora.