Cadeia de custódia do raciocínio e risco da alucinação algorítmica

Quando a Lei nº 13.964/19 inseriu no Código de Processo Penal os artigos 158-A a 158-F, o legislador positivou aquilo que a boa técnica já reconhecia como pressuposto de qualquer prova confiável. O artigo 158-A é expresso ao definir o instituto:

“Considera-se cadeia de custódia o conjunto de todos os procedimentos utilizados para manter e documentar a história cronológica do vestígio coletado em locais ou em vítimas de crimes, para rastrear sua posse e manuseio a partir de seu reconhecimento até o descarte.”

A preocupação, ali, é com a materialidade — com o objeto físico que, passando por múltiplas mãos, precisa chegar ao julgador idêntico àquilo que se afirma ser. É o que a doutrina e o Superior Tribunal de Justiça, no julgamento do HC 653.515, nomearam de princípio da mesmidade. O presente estudo propõe analisar como essa mesma racionalidade — a exigência de um percurso rastreável e verificável — pode ser transposta para a auditabilidade do raciocínio algorítmico que começa a se infiltrar na produção dos atos de investigação.

Ocorre que a lógica subjacente ao instituto é mais larga do que o seu objeto literal. O que a cadeia de custódia protege, no fundo, não é o invólucro lacrado nem a etiqueta numerada, mas a confiança de que existe um fio contínuo e verificável ligando o fato àquilo que dele se conclui. O lacre é apenas a forma material de uma exigência mais profunda: a de que nenhuma etapa do percurso seja inverificável. E é exatamente aqui que o instituto, pensado para a prova física, encontra um campo de aplicação que o legislador de 2019 não tinha como antever.

Um relatório de investigação não é um objeto inerte. Ele é, antes de tudo, uma cadeia de inferências — um encadeamento de premissas, indícios e conclusões que se sustentam umas sobre as outras. Se a integridade do vestígio material exige rastreabilidade, a integridade do raciocínio investigativo exige o mesmo. Cada passo dedutivo precisa poder ser refeito, conferido e, se for o caso, refutado. Uma conclusão cuja origem não se consegue reconstruir é, do ponto de vista da legitimidade, tão imprestável quanto uma prova cujo lacre foi rompido sem registro. A diferença é que a quebra, no primeiro caso, não deixa marca física.

IA generativa vira problema de cadeia de custódia

É nesse ponto que a inteligência artificial generativa deixa de ser uma questão de modernização administrativa e passa a ser um problema de cadeia de custódia. O fenômeno já não é hipótese de laboratório. Ao multar, em fevereiro de 2025, o autor de um recurso que invocara precedentes e doutrina inexistentes, o Tribunal de Justiça de Santa Catarina consignou que “o surgimento de novas tecnologias de inteligência artificial exige que os operadores a utilizem com cautela e parcimônia, sob o risco de incorrer em reprodução de informações e fundamentos que não encontram respaldo concreto de existência”.

Não muito distante, ao advertir um advogado por petição com os sinais típicos de geração automática, a Justiça de Planaltina (GO) registrou que “a utilização de ferramentas de inteligência artificial na elaboração de petições exige supervisão humana rigorosa, especialmente quanto à verificação da veracidade de citações doutrinárias e jurisprudenciais”. O traço comum a esses casos é sempre o mesmo: o texto soa verdadeiro. Cita número de processo, nome de relator e data de julgamento — e nada disso corresponde ao real.

Trazido o problema para a investigação criminal, a consequência é mais grave do que parece à primeira vista. O caso da citação falsa flagrada é, na verdade, o cenário afortunado: ali a invenção deixou uma costura visível, passível de conferência. O risco verdadeiro está na alucinação que não se anuncia — aquela que se dissolve numa lógica argumentativa plausível, sem precedente fabricado à vista nem dado obviamente inverídico, mas igualmente desprovida de lastro. Quando um relatório policial incorpora, em qualquer medida, um produto gerado por inteligência artificial nada assegura que as inferências de aparência sólida — a leitura de um indício, a correlação entre dois fatos, a atribuição de sentido a uma circunstância — não tenham nascido do mesmo processo não verificável que produziu a citação inexistente.

E, flagrada ou não a primeira invenção, jamais se saberá onde ela começou e onde terminou. É por isso que um relatório investigativo não pode se apoiar em inteligência artificial em hipótese alguma: não há método que permita, depois do fato, isolar o que foi raciocínio verificável do que foi mera fabricação de aparência convincente. Não se trata de presumir má-fé do agente, mas de reconhecer que a verificabilidade do todo ficou irremediavelmente comprometida.

Cognição no processo penal

Esse risco se soma a uma patologia que o processo penal já conhecia muito antes da automação. A narrativa investigativa, por sua natureza unilateral, tende a organizar os elementos em torno de uma tese inicial, e a coerência interna de um relato produz, por si só, uma sensação psicológica de verdade que dispensa o suporte empírico. O viés de confirmação não é uma invenção da máquina. Bernd Schünemann demonstrou-o empiricamente, em pesquisa hoje referência — “O juiz como um terceiro manipulado no processo penal?” —, ao verificar que magistrados previamente expostos aos autos da investigação condenam com mais frequência e processam a prova de modo seletivo, reforçando a hipótese inicial e descartando o que a contradiz, naquilo que denominou efeito perseverança.

No Brasil, o diagnóstico foi desenvolvido por Alexandre Morais da Rosa, que trabalhou a dissonância cognitiva do julgador e, mais recentemente, voltou-se ao impacto das novas tecnologias sobre a cognição no processo penal. A inteligência artificial generativa apenas o potencializa, porque entrega, com fluência impecável, exatamente o tipo de texto coerente e seguro que mais facilmente passa por demonstração sem nunca ter sido demonstração. A hipótese, que deveria ser testada, ganha a roupagem de fato já assentado — e o faz com a autoridade aparente de uma citação que ninguém conferiu.

A resposta normativa começa a se desenhar, e o seu vocabulário não é casual. A Resolução nº 615/2025 do Conselho Nacional de Justiça arrola, entre os princípios do uso de inteligência artificial no Judiciário, “a transparência, a eficiência, a explicabilidade, a contestabilidade, a auditabilidade e a confiabilidade das soluções que adotam técnicas de inteligência artificial”. Mais expressivo, porém, é o seu Anexo de Classificação de Riscos, que reputa de alto risco a “formulação de juízos conclusivos sobre a aplicação da norma jurídica ou precedentes a um conjunto determinado de fatos concretos” — ou seja, precisamente a operação intelectual que sustenta um relatório investigativo.

Coerentemente, a mesma resolução condiciona o uso dessas ferramentas a que ele seja “de caráter auxiliar e complementar, consistindo em mecanismos de apoio à decisão, vedada a utilização como instrumento autônomo de tomada de decisões judiciais sem a devida orientação, interpretação, verificação e revisão”, de modo que o responsável “permanecerá integralmente responsável pelas decisões tomadas e pelas informações nelas contidas”. Auditabilidade, verificação, rastreabilidade: é o léxico da cadeia de custódia, transposto da prova física para o raciocínio. Não por acaso.

Licitude da ferramenta não garante legitimidade

A defesa técnica, diante desse cenário, tem um campo de atuação que ainda não foi plenamente explorado. Assim como lhe cabe questionar a quebra do lacre físico, cabe-lhe exigir a rastreabilidade do raciocínio que conduziu às conclusões da investigação. Uma citação inexistente não é um mero erro material a ser sanado por emenda; é o indício de que a corrente inferencial perdeu a sua verificabilidade. E uma inferência inverificável não se legitima pela elegância do texto que a embala.

Ao fim, a lição é a mesma que o processo penal aprende e reaprende a cada ciclo tecnológico. A licitude de uma ferramenta não garante a legitimidade do seu produto, e a verossimilhança narrativa não supre o ônus da demonstração probatória. A cadeia de custódia nunca foi sobre o plástico do invólucro. Sempre foi sobre a possibilidade de se confiar no caminho. Quando esse caminho deixa de ser rastreável — seja porque um vestígio se perdeu, seja porque uma conclusão nasceu de uma alucinação que ninguém conferiu —, o que se rompe não é um elo isolado. É a confiança em toda a corrente.

__________________________________

Referências

BRASIL. Lei nº 13.964, de 24 de dezembro de 2019 (Pacote Anticrime), que incluiu os arts. 158-A a 158-F no Código de Processo Penal.

BRASIL. Superior Tribunal de Justiça. Habeas Corpus nº 653.515/RJ. Rel. Min. Laurita Vaz; Rel. p/ acórdão Min. Rogerio Schietti Cruz. Sexta Turma, julgado em 23/11/2021 (Informativo de Jurisprudência nº 720).

BRASIL. Conselho Nacional de Justiça. Resolução nº 615, de 11 de março de 2025 (em especial arts. 3º, 4º e 19 e o Anexo de Classificação de Riscos). Disponível aqui.

TRIBUNAL DE JUSTIÇA DE SANTA CATARINA. 6ª Câmara Civil, julgado em 18/02/2025 — aplicação de multa por litigância de má-fé diante de jurisprudência e doutrina inexistentes geradas por inteligência artificial. Aqui.

TRIBUNAL DE JUSTIÇA DE GOIÁS. Juíza Bruna de Oliveira Farias, 1ª Vara Cível, de Família, de Sucessões e da Infância e Juventude de Planaltina (GO): aqui.

SCHÜNEMANN, Bernd. O juiz como um terceiro manipulado no processo penal? Uma confirmação empírica dos efeitos perseverança e aliança. Revista Liberdades, São Paulo, n. 11, set./dez. 2012, p. 30-50. Também em: SCHÜNEMANN, Bernd; GRECO, Luís (coord.). Estudos de Direito Penal, Direito Processual Penal e Filosofia do Direito. São Paulo: Marcial Pons, 2013.

ROSA, Alexandre Morais da. Guia do Processo Penal conforme a Teoria dos Jogos. Florianópolis: EMais. E: ROSA, Alexandre Morais da; FELIX, Yuri. Novas tecnologias e a transformação cognitiva no processo penal. Boletim do IBCCRIM, ano 27, n. 322, set. 2019, p. 6-7.