Inteligência artificial e automação decisória nos processos administrativos

A era digital tem transformado profundamente as relações sociais e econômicas, e o setor público não é exceção. A inteligência artificial e a automação decisória emergem como ferramentas promissoras para otimizar e dar eficiência nos processos judiciais e administrativos tributários, por meio do Programa Justiça 4.0. [1]

De acordo com o Conselho Nacional de Justiça (CNJ), a IA generativa é utilizada em mais de 45,8% dos tribunais brasileiros e 81,3% dos que não utilizam pretendem integrar essas ferramentas ainda nos próximos anos. [2] Tal implementação tecnológica está autorizada pela Resolução CNJ nº 615/2025, a qual estabelece diretrizes para o desenvolvimento, utilização e governança de soluções desenvolvidas com recursos de inteligência artificial no Poder Judiciário. [3]

Ferramenta, cujo objetivo é auxiliar em julgamentos administrativos, que se pode adotar como exemplo é a Iara (Inteligência Artificial em Recursos Administrativos) utilizada no Conselho Administrativo de Recurso Fiscais (Carf). [4] [5]

Em que pese a evidente necessidade do uso dessas tecnologias, a implementação dessas tecnologias levanta uma série de desafios jurídicos e éticos que demandam atenção e regulamentação, especialmente no que tange às garantias fundamentais dos contribuintes.

Com efeito, o uso da IA em âmbito processual tributários abrange diversas frentes, como: (i) análise de cumprimento de requisitos processuais, (ii) separação/classificação de processos conforme o pedido ou a natureza do recurso, (iii) elaboração de resumos e (iv) sugestão de decisões com base em jurisprudência (STJ, STF, decisões anteriores do Carf) e precedentes.

O impacto esperado é de eficiência e celeridade, com a redução de erros humanos e agilidade na tomada de decisões, de tal modo que a expectativa de redução do tempo médio de tramitação processual seja de seis anos para apenas um.

No entanto, a crescente autonomia desses sistemas na tomada de decisões administrativas fiscais tem gerado preocupação, pois, a substituição ou o auxílio significativo de algoritmos em decisões que afetam diretamente os direitos e deveres dos contribuintes exige uma análise aprofundada das implicações jurídicas e da necessidade de salvaguardas processuais para evitar prejuízo ao devido processo legal material.

Desafios

Um dos maiores desafios é garantir a transparência algorítmica e a explicabilidade das decisões tomadas por sistemas de IA. Mas, não só, o princípio da motivação dos atos administrativos exige que as decisões sejam fundamentadas, permitindo ao contribuinte compreender as razões que levaram a produção de determinada conclusão, haja vista que um algoritmo ao tomar uma decisão sem em enunciar como ela foi alcançada — o chamado risco de “caixa preta” — pode comprometer o direito à ampla defesa e ao contraditório, garantias fundamentais do processo administrativo tributário. [6]

Desse modo, é fundamental que os contribuintes possam entender os critérios e os dados utilizados pelos algoritmos para contestar eventuais equívocos ou vieses. Por tal motivo existem as vedações prescritas no artigo 10, da Resolução CNJ nº 615/2025, em especial a do inciso I, plenamente aplicável em ambiente litigioso administrativo:

“Art. 10. São vedados ao Poder Judiciário, por acarretarem risco excessivo à segurança da informação, aos direitos fundamentais dos cidadãos ou à independência dos magistrados, o desenvolvimento e a utilização de soluções:
I – que não possibilitem a revisão humana dos resultados propostos ao longo de seu ciclo de treinamento, desenvolvimento e uso, ou que gerem dependência absoluta do usuário em relação ao resultado proposto, sem possibilidade de alteração ou revisão.”

Diante desse dispositivo, compreende-se que a automação decisória não pode suprimir o direito à revisão humana. Mesmo em sistemas altamente automatizados, a intervenção humana deve ser garantida para corrigir falhas, interpretar nuances que os algoritmos não captam e assegurar a conformidade com os princípios jurídicos. A discricionariedade administrativa, embora possa ser “assistida” por IA, não pode ser totalmente delegada a máquinas, sob o risco de violação do devido processo legal.

Sistemas de IA são treinados com base em dados, e se esses dados contiverem vieses históricos ou sociais, as decisões automatizadas podem reproduzir e até amplificar essas distorções, resultando em injustiças.[7] [8]

A discricionariedade assistida pela IA deve ser cuidadosamente monitorada para evitar que os algoritmos imponham vieses não intencionais ou que a máquina tome decisões que são prerrogativa de um agente público, considerando o contexto e a equidade.[9]

No Brasil, a discussão sobre a regulamentação da IA na administração pública está em estágio inicial. A Lei Geral de Proteção de Dados (LGPD), em seu art. 20, já prevê o direito à revisão de decisões automatizadas.[10]

A doutrina também tem explorado a necessidade de princípios como a “transparência algorítmica”, a “auditabilidade” para garantir a legitimidade do uso da IA, bem como o devido processo tecnológico.[11] [12]

Projetos de lei sobre IA no Brasil buscam estabelecer diretrizes para o desenvolvimento e uso responsável da tecnologia, incluindo a exigência de explicabilidade e a garantia de revisão humana para decisões de alto risco. A Receita Federal, por sua vez, tem emitido normas internas sobre o uso de IA, mas a discussão sobre a abrangência e os limites dessas ferramentas ainda é intensa.

A inteligência artificial e a automação decisória representam um avanço inegável para concretização da eficiência da administração tributária. No entanto, sua implementação deve ser acompanhada de um robusto arcabouço jurídico que garanta a proteção dos direitos fundamentais dos contribuintes.

A transparência algorítmica, a explicabilidade das decisões, o direito à revisão humana, a mitigação de vieses e a superação do risco de “caixa preta” são elementos cruciais para assegurar que a tecnologia sirva ao interesse público e à justiça fiscal.

É imperativo que a legislação, a doutrina e a jurisprudência evoluam para acompanhar o ritmo da inovação tecnológica, garantindo um equilíbrio entre eficiência administrativa e as garantias constitucionais do contribuinte.

___________________________________________

[1] BRASIL. Conselho Nacional de Justiça (CNJ). Tecnologia da Informação e Comunicação – Justiça 4.0. Disponível aqui.

[2] BRASIL. Conselho Nacional de Justiça (CNJ). IA generativa é utilizada em mais de 45% dos tribunais brasileiros. 2025. Disponível aqui.

[3] BRASIL. Conselho Nacional de Justiça (CNJ). Resolução CNJ nº 615/2025. Disponível aqui.

[4] BRASIL. Serpro. Carf e Iara: inteligência artificial do Carf. Brasília, 2024. Disponível aqui.

[5] HOFFMAN, Susy Gomes. A IA (Iara) nos julgamentos pelo Carf. FGV Direito SP. Disponível aqui.

[6] Tem-se por caixa-preta ou “blackbox” o efeito, conhecido no meio da inteligência artificial, que impede a visualização ou compreensão, de modo incontestável, do caminho percorrido pelo algoritmo para chegar num determinado resultado. IBM. Black box AI. Disponível aqui.

[7] Apet. Iara: a inteligência artificial do Carf. Disponível aqui.

[8] Resolução CNJ nº 615/2025, art. 10, II.

[9] Resolução CNJ nº 615/2025, art. 10, §1º.

[10] BRASIL. Lei nº 13.709, de 14 de agosto de 2018. Lei Geral de Proteção de Dados Pessoais (LGPD). Disponível aqui.

[11] FRANÇA, I. C. T. Algoritmos fiscais e garantias do contribuinte: limites constitucionais da fiscalização tributária automatizada pelos estados brasileiros. Contribuciones a las ciencias sociales, [S. l.], v. 18, n. 9, p. e20838, 2025. DOI: 10.55905/revconv.18n.9-189. Disponível aqui.

[12] Susy Gomes Hoffman, em seu material, cita que o termo fora cunhado por Danielle Citron, o qual envolve a aplicação do devido processo legal ao ambiente da tecnologia. No que tange ao direito tributário, este conceito representa o dever dos contribuintes ao acesso aos parâmetros que foram utilizados pelos algoritmos.