Quando uma inteligência artificial generativa produz um documento tido como prova em um processo judicial, o julgador e as partes não têm como saber com clareza os critérios adotados, nem como reproduzir ou auditar o procedimento.
IA não tem metodologia verificável a ponto de validar provas produzidas em sua função generativa
Essa falta de metodologia explícita é o fator que torna impraticável o uso dessas peças, conforme advogados ouvidos pela revista eletrônica Consultor Jurídico.
Essa barreira cognitiva para as peças feitas por IA generativa — tecnologia voltada à geração de conteúdos novos a partir de padrões aprendidos em dados — foi devidamente respeitada pela 5ª Turma do Superior Tribunal de Justiça no precedente em que anulou um laudo pericial feito pelo Gemini, do Google, e pelo Perplexity.
A prova foi produzida pelo delegado do caso em uma investigação de possível injúria racial. A vítima diz que foi chamada de “macaco velho”. O acusado negou o racismo e alegou ter dito “paca véia”.
Como a ofensa foi gravada em vídeo, foi possível analisá-la. Há dois laudos produzidos por humanos que afastam a ocorrência de injúria racial. Já o Gemini e o Perplexity, quando chamados a analisar o áudio, concluíram que a palavra “macaco” foi dita.
Por unanimidade de votos, a 5ª Turma do STJ mandou devolver o caso ao Tribunal de Justiça de São Paulo para que analise o recebimento da denúncia sem considerar o laudo pericial feito pela IA generativa.
Metodologia
A posição do relator, ministro Reynaldo Soares da Fonseca, considerou especificidades de operação dos sistemas de inteligência artificial explicados na coluna Criminal Player, publicada pela ConJur.
O texto, assinado por Alexandre Morais da Rosa, Juliano de Oliveira Leonel e Yuri Felix, mostra como modelos de LLM (Large Language Model) podem apoiar atividades no ambiente do Direito, mas não substituir a atuação de peritos, por serem inadequados para estabelecer com precisão e confiabilidade o que alguém falou em um contexto fático.
Para Ricardo Jacobsen Gloeckner, que também publicou texto sobre o tema na ConJur, a ausência de metodologia empregada pela IA implica falta de transparência da prova, o que inviabiliza o contraditório.
“Se consideramos que o uso da IA possa substituir a perícia humana, estaremos condenando todos os jurisdicionados a terem suas decisões submetidas a um software sobre o qual não conhecemos o modelo de operação”, afirma.
A perícia humana pode ser contestada porque o perito é obrigado a descrever a metodologia empregada, que pode ser discutida, aferida, reproduzida e auditada. Gloeckner destaca que é inviável reproduzir esse procedimento quando a prova é feita por IA generativa.
“É impossível a realização do contraditório quando a prova científica requer uso e descrição de metodologia, sendo que a IA não oferece nenhuma. Não é só porque a IA pode alucinar — e nós não temos garantias contra isso —, mas também pelo fato de que não tem como ser contestada.”
Pontos de alerta
A ausência de metodologia verificável na elaboração do laudo foi apontada pela defesa do réu, feita por Edlênio Barreto, logo que tomou conhecimento da peça anexada ao processo. Ele relata à ConJur que houve pontos de alerta.
O primeiro deles foi a ruptura do padrão legal de produção da prova pericial. A investigação já contava com dois laudos de peritos oficiais, que acabaram contraditos pela peça produzida pela inteligência artificial.
Além disso, o relatório foi produzido e utilizado praticamente de forma imediata para embasar o indiciamento, sem aprofundamento técnico compatível com a complexidade da análise proposta. O próprio documento indicava ter sido produzido por IA generativa.
“Não foi uma descoberta casual, mas o resultado de uma análise crítica sobre como a prova foi construída, o que permitiu à defesa demonstrar que aquele elemento não possuía confiabilidade suficiente para ser admitido no processo penal”, diz o advogado.
Em sua análise, o caso evidencia que a advocacia criminal precisa ampliar o foco da análise probatória: não basta examinar seu conteúdo; é necessário investigar o modo como foi produzida e se é apta a gerar conhecimento confiável sobre o fato.
“É essencial exigir transparência metodológica, com descrição clara dos critérios adotados, possibilidade de reprodução dos resultados e viabilidade de auditoria independente. Se esses elementos não estiverem presentes, há um forte indicativo de que o material não atende aos padrões mínimos exigidos para sua utilização como prova.”
HC 1.059.475
Seja o primeiro a comentar.
Você precisa estar logado para enviar um comentário.
Fazer login