Os erros da inteligência artificial

A inteligência artificial é surpreendente. A cada dia, nos encantamos com sua capacidade de produzir textos, artigos e sofisticadas apresentações, algumas até com trilhas sonoras ao fundo. Planilhas são construídas em passe de mágica, composições musicais, projetos de arquitetura e petições judiciais surgem aos borbotões, e em segundos. Até mesmo quadros de boa qualidade, pintados por robôs, são apresentados em exposições internacionais.

Mas é preciso cautela. Não falo daquela cautela estrutural, que se preocupa com o futuro dos empregos e das relações humanas, eventualmente substituídas pelos aplicativos, nem daquela decorrente da angústia diante de um mundo distópico dominado por seres tecnológicos sem compaixão.

Trata-se de um cuidado mais rasteiro e sem charme, destinado aos que fazem uso cotidiano e normal da tecnologia: a IA erra, erra muito e erra feio em determinadas atividades. Em especial no campo acadêmico.

Há alguns dias, deparei-me com um artigo de um antigo professor de Direito Penal do Largo de S. Francisco, Noé de Azevedo. Sisudo, o estudo defendia o fim do Direito Penal baseado na pena justa e proporcional à gravidade do delito, e o desenvolvimento de um sistema voltado a “livrar a sociedade da ação maléfica” do criminoso. Para isso, propunha sanções medidas pela periculosidade do delinquente, e não mais pela extensão do dano. Autoritário e pouco afeito a direitos individuais, o artigo expunha ideias fortes, como “a necessidade de aplicar medidas de caráter penal mesmo aos indivíduos que nenhuma falta cometeram, desde que se verifique a sua periculosidade”

Por curiosidade, submeti o artigo a um aplicativo de inteligência artificial e pedi uma síntese. O resultado: “O texto ‘A socialização do direito penal’ trata da necessidade de repensar o direito penal à luz de uma perspectiva mais humanista, democrática e voltada para a inclusão social”, acrescentando mais adiante que a proposta do autor visava “valorizar os direitos fundamentais, especialmente a dignidade humana” e “promover o respeito aos princípios constitucionais”.

Tamanha era a convicção da IA no senso de justiça de Noé Azevedo que, quando solicitada a transcrição de algum trecho do artigo que expressasse suas ideias, o aplicativo inventou as seguintes aspas: “esse direito penal tradicional, autoritário e repressivo, revelou-se ineficaz para enfrentar os problemas reais da sociedade. Serviu, muitas vezes, para reproduzir desigualdades e marginalizações, funcionando como instrumento de controle dos setores excluídos”. Ao ser indagado sobre a página do estudo na qual constava a afirmação, foi firme: “página 6 do PDF”.

Por óbvio, a página 6 do PDF não continha nem de longe tais assertivas.

Tal qual aluno matreiro, que não leu o texto do seminário, mas explica com firmeza as características de algum autor desconhecido, a inteligência artificial seguiu defendendo a simpatia de Noé Azevedo por direitos individuais, mesmo quando questionado repetidas vezes sobre as incongruências de sua interpretação com o material a ela submetido.

Após muita insistência, o aplicativo capitulou. Reconheceu o erro e explicou: “Você está absolutamente certo, o autor não defende o fortalecimento de direitos fundamentais, tampouco uma perspectiva humanista ou garantista. Muito pelo contrário: ele propõe uma crítica frontal ao modelo liberal de direito penal, que ele entende como um obstáculo à efetividade da norma penal no contexto de transformação social”.

O  bom e velho método

Não foi um equívoco conceitual, sobre ideias abstratas e de difícil compreensão. O erro grosseiro se deu sobre um objeto definido, um PDF apresentado, em relação ao qual a única exigência era criar um resumo, uma síntese das ideias. Não se tratava de algo longo, mas de uma introdução de 21 páginas a um estudo simples, de ideias claras e objetivas, cuja interpretação não demandava grande sofisticação algorítmica.

O ocorrido revela que ainda há muito a ser desenvolvido em termos de inteligência artificial para que ela tenha capacidade para auxiliar de forma confiável o trabalho acadêmico, o jornalismo, a pesquisa científica, e outras atividades, nas quais a sensibilidade humana ainda é um filtro necessário à qualidade da produção. É possível que versões futuras dos aplicativos corrijam os problemas mencionados, mas atualmente a inteligência artificial não é capaz de substituir o velho e bom método de aprendizado derivado do ato de ler de artigos e documentos, grifar suas principais partes, fichar as ideias mais importantes e sistematizar o pensamento. São atos analógicos, que demandam um tempo talvez demasiado para a régua das dinâmicas gerações digitais. Um labor de velhos dinossauros rumo à extinção, mas ainda a única forma de desatar nós conceituais, decantar ideias, reproduzir argumentos, e sofisticar o pensamento.