A máquina endoidou

Ministro do STJ identifica HC com alucinações de IA e determina comunicação à OAB

Ao negar liminar para revogar a prisão preventiva de um homem investigado por tráfico de drogas, o ministro do Superior Tribunal de Justiça Rogerio Schietti Cruz demonstrou “surpresa e preocupação” ao verificar falhas graves na petição apresentada pela defesa, com indícios de uso de ferramentas de inteligência artificial que geraram referências erradas a precedentes judiciais e trechos de julgados inexistentes.

Emerson Leal/STJ

Rogerio Schietti Cruz ministro Superior Tribunal de Justiça STJ

O ministro Rogerio Schietti Cruz determinou a expedição de ofício à OAB

Após ouvir a manifestação do advogado, o ministro determinou a expedição de ofício à Ordem dos Advogados do Brasil para ciência dos fatos e adoção das providências que considerar cabíveis.

“O uso de inteligência artificial na prática jurídica não é, em si, censurável. Trata-se de recurso que, quando bem empregado, pode qualificar o trabalho advocatício e racionalizar o esforço judicial. O problema está na ausência de verificação humana do conteúdo gerado. A tecnologia serve ao profissional, mas não o substitui nem o desobriga de conferir o que assina”, afirmou Schietti.

Depois de perceber indícios de uso de IA na petição inicial, o ministro determinou que o advogado esclarecesse se a peça havia sido integralmente preparada com a tecnologia. O defensor confirmou a utilização “eventual” de IA no documento, mas alegou que fez a revisão técnica e jurídica do conteúdo.

Para o relator, porém, “os elementos dos autos contradizem essa afirmação de forma categórica”. O ministro observou que a peça se baseia quase exclusivamente em precedentes dos tribunais superiores, mas os 16 julgados citados apresentam erros relacionados à relatoria, ao órgão julgador ou ao tipo de decisão. Além disso, prosseguiu Schietti, os trechos reproduzidos não constavam nem das ementas, nem do inteiro teor das decisões mencionadas.

Segundo ele, o caso revela mais do que “um simples erro de referência”. O magistrado explicou que, aparentemente, a ferramenta de IA utilizada para produzir a petição de Habeas Corpus inseriu citações fabricadas em série, em um fenômeno conhecido como alucinação, no qual modelos de linguagem geram informações aparentemente plausíveis, porém falsas em seu conteúdo.

Prejuízo ao cliente

De acordo com Schietti, a petição não apresentou a adequação das teses à situação concreta do preso e não articulou os precedentes citados e o caso analisado. “Uma petição que não apresenta raciocínio jurídico próprio e que se apoia apenas em citações atribuídas a julgados que não existem não pode ser considerada produto de trabalho advocatício responsável.”

Para o ministro, a situação pode induzir o órgão julgador a erro a contaminar o debate com premissas e informações falsas. Segundo ele, a conduta adotada pelo defensor viola, em tese, os deveres de boa-fé, cooperação, lealdade processual e veracidade.

“O dano não é apenas institucional: é também do próprio cliente, que confia ao seu procurador a defesa de algo tão grave quanto sua liberdade e merece uma peça que reflita análise real do seu caso.”

Mesmo ultrapassando as deficiências da petição inicial e em observância ao grau de sensibilidade dos pedidos de Habeas Corpus que envolvem pessoas presas, o relator examinou os fundamentos da decisão que decretou a prisão preventiva e do acórdão que a manteve, porém apontou que a Justiça de origem justificou adequadamente a custódia preventiva do acusado, o que impede o acolhimento do pedido liminar de soltura. Com informações da assessoria de imprensa do STJ.

Clique aqui para ler a decisão
HC 1.094.270

Seja o primeiro a comentar.

Você precisa estar logado para enviar um comentário.

Leia também