O conto O Brinco Sussurrante, de Scott Alexander, fala sobre a existência, em Til Iosophrang — uma cidade imaginária —, de um brinco mágico, que sussurrava conselhos aos seus usuários. O primeiro desses conselhos era: “Não me use.”
Quem não seguia essa recomendação passava a receber conselhos sobre as melhores decisões a tomar em todos os aspectos de sua vida:
“O brinco começa oferecendo conselhos apenas sobre as principais decisões da vida. No entanto, à medida que conhece melhor quem o usa, torna-se mais sociável e oferece conselhos sobre tudo, desde a hora de dormir até o que comer no café da manhã. Se você seguir seus conselhos, descobrirá que a comida do café da manhã estava perfeita, que era exatamente o que você queria naquele dia, mesmo sem saber. O brinco nunca erra.”
Esses conselhos se mostravam invariavelmente corretos, de tal forma que o usuário do brinco acabava por ter uma vida “excepcionalmente bem-sucedida, geralmente terminando como um pilar rico e muito amado da comunidade, com uma família grande e feliz.”
Em um certo momento, os sacerdotes que custodiavam o anel e eram responsáveis pelo sepultamento dos seus usuários, após muita hesitação, revelaram que os seus cérebros apresentavam uma característica curiosa: o neocórtex, responsável pelas funções cognitivas superiores, como raciocínio, linguagem, planejamento consciente e percepção sensorial, estava curiosamente atrofiado, “e a maior parte de sua massa era um cérebro médio e inferior anormalmente hipertrofiado, especialmente as partes associadas à ação reflexiva.”
Esse conto serve como uma alegoria antecipatória do fenômeno que estamos vivenciando com o uso desenfreado da inteligência artificial.
Cada vez mais as pessoas estão abdicando do uso de suas faculdades cognitivas e do senso crítico, delegando-as à IA. Essa renúncia ao uso das próprias faculdades, conhecida como descarga cognitiva (cognitive offloading), não é inócua e seus efeitos neurológicos deletérios estão comprovados cientificamente [1]: estudos de eletroencefalografia recentes constataram a diminuição sistemática da conectividade cerebral conforme aumenta a “terceirização” cognitiva, com subengajamento das redes de atenção interna e processamento semântico, essenciais para a ideação criativa.
O cérebro do utilizador de IA sofre uma reconfiguração. Os circuitos cerebrais responsáveis pelas funções terceirizadas se atrofiam, com o consequente declínio da capacidade de realizar essas tarefas de forma independente. Talvez até se pudesse falar de uma espécie de lobotomia não-cirúrgica.
Será necessário acrescentar que, entre as vítimas dessa lobotomia, poderão estar também os juízes, a despeito das salvaguardas que o Conselho Nacional de Justiça pretende ter estabelecido?
[1] KOSMYNA, Nataliya e outros. Seu cérebro no ChatGPT: Acumulação de dívida cognitiva ao usar um assistente de IA para tarefas de redação de ensaios. Cambridge, MA: MIT Media Lab, 2025.
Afinal, um membro da magistratura tocou na ferida. Dr. Carlos Alberto, não pare.
Obrigado por citar esse estudo, muito interessante.
O brinco sussurrante e o dever de decidir
A alegoria do “brinco sussurrante” é particularmente feliz para ilustrar um fenômeno cada vez mais presente na vida contemporânea: quanto mais sofisticadas se tornam as ferramentas de aconselhamento algorítmico, maior tende a ser a tentação de transferir a elas parcelas crescentes da atividade cognitiva humana.
No conto mencionado, o artefato nunca erra. Suas recomendações conduzem a decisões invariavelmente acertadas. O preço dessa eficiência aparece apenas ao final: a vida torna-se bem-sucedida, mas a autonomia intelectual desaparece.
A metáfora dialoga diretamente com o debate atual sobre o uso da inteligência artificial em ambientes institucionais de decisão.
Ferramentas algorítmicas são capazes de organizar grandes volumes de informação, identificar padrões, reconstruir precedentes e sugerir probabilidades. Sob esse aspecto, representam instrumento valioso de apoio ao trabalho de bem decidir.
O problema surge quando o instrumento passa a ser percebido — ainda que silenciosamente — como substituto da própria atividade decisória.
A decisão jurisdicional não é mero resultado de cálculo informacional.
Trata-se de um ato institucional que exige interpretação normativa, ponderação de princípios e, sobretudo, responsabilidade pessoal do julgador pela decisão proferida.
Algoritmos podem sugerir caminhos. Não exercem jurisdição.
A legitimidade da decisão judicial – e o mesmo se verifica na decisão administrativa - depende da existência de um sujeito responsável pela interpretação do direito e pela justificativa pública do resultado alcançado. É essa imputação que permite o controle, o recurso e a crítica institucional.
Por isso, a advertência sugerida pela metáfora permanece atual.
O risco não está em a inteligência artificial produzir respostas cada vez mais sofisticadas, mas na possibilidade de que o decisor humano passe a aceitá-las sem o mesmo esforço reflexivo que caracteriza a deliberação autônoma.
A tecnologia pode ampliar a capacidade analítica do Judiciário. O que não pode ocorrer é a substituição da responsabilidade decisória humana.
Talvez por isso o primeiro conselho do brinco continue sendo o mais sábio: não porque a máquina esteja errada, mas porque a função de decidir não pode ser terceirizada — nem mesmo quando a resposta parece perfeita.
Parabéns ao autor pelo brilhante e instigante artigo!!!
Marcia Buccolo, advogada.
Você precisa estar logado para enviar um comentário.
Fazer login