IA, os juízes e o brinco sussurrante

O conto O Brinco Sussurrante, de Scott Alexander, fala sobre a existência, em Til Iosophrang — uma cidade imaginária —, de um brinco mágico, que sussurrava conselhos aos seus usuários. O primeiro desses conselhos era: “Não me use.”

Quem não seguia essa recomendação passava a receber conselhos sobre as melhores decisões a tomar em todos os aspectos de sua vida:

“O brinco começa oferecendo conselhos apenas sobre as principais decisões da vida. No entanto, à medida que conhece melhor quem o usa, torna-se mais sociável e oferece conselhos sobre tudo, desde a hora de dormir até o que comer no café da manhã. Se você seguir seus conselhos, descobrirá que a comida do café da manhã estava perfeita, que era exatamente o que você queria naquele dia, mesmo sem saber. O brinco nunca erra.”

Esses conselhos se mostravam invariavelmente corretos, de tal forma que o usuário do brinco acabava por ter uma vida “excepcionalmente bem-sucedida, geralmente terminando como um pilar rico e muito amado da comunidade, com uma família grande e feliz.”

Em um certo momento, os sacerdotes que custodiavam o anel e eram responsáveis pelo sepultamento dos seus usuários, após muita hesitação, revelaram que os seus cérebros apresentavam uma característica curiosa: o neocórtex, responsável pelas funções cognitivas superiores, como raciocínio, linguagem, planejamento consciente e percepção sensorial, estava curiosamente atrofiado, “e a maior parte de sua massa era um cérebro médio e inferior anormalmente hipertrofiado, especialmente as partes associadas à ação reflexiva.”

Esse conto serve como uma alegoria antecipatória do fenômeno que estamos vivenciando com o uso desenfreado da inteligência artificial.

Cada vez mais as pessoas estão abdicando do uso de suas faculdades cognitivas e do senso crítico, delegando-as à IA. Essa renúncia ao uso das próprias faculdades, conhecida como descarga cognitiva (cognitive offloading), não é inócua e seus efeitos neurológicos deletérios estão comprovados cientificamente [1]: estudos de eletroencefalografia recentes constataram a diminuição sistemática da conectividade cerebral conforme aumenta a “terceirização” cognitiva, com subengajamento das redes de atenção interna e processamento semântico, essenciais para a ideação criativa.

O cérebro do utilizador de IA sofre uma reconfiguração. Os circuitos cerebrais responsáveis pelas funções terceirizadas se atrofiam, com o consequente declínio da capacidade de realizar essas tarefas de forma independente. Talvez até se pudesse falar de uma espécie de lobotomia não-cirúrgica.

Será necessário acrescentar que, entre as vítimas dessa lobotomia, poderão estar também os juízes, a despeito das salvaguardas que o Conselho Nacional de Justiça pretende ter estabelecido?

[1] KOSMYNA, Nataliya e outros. Seu cérebro no ChatGPT: Acumulação de dívida cognitiva ao usar um assistente de IA para tarefas de redação de ensaios. Cambridge, MA: MIT Media Lab, 2025.