Cuidados no uso de IA com agência em licitações

As promessas de eficiência e correção como atributos indissociáveis dos mecanismos de inteligência artificial seguem presentes em nosso entorno, sempre reforçadas pela superveniência de novas “gerações” desses mesmos produtos, que agregando cada vez mais funções, estariam a refinar ainda mais sua entrega.

No campo das contratações públicas, temos o exemplo mais radical de confiança nessas proclamações, na “nomeação”, havida na Albânia, de Diella — um mecanismo de IA — como ministra, responsável pela execução e monitoramento dessas mesmas avenças naquele país [1]. Antes de alcançar a “titularidade do cargo” [2], Diella, desde janeiro de 2025 era localizável na plataforma digital do governo albanês, funcionando como assistente virtual de buscas empreendidas pela cidadania e pelos agentes de mercado, de informações no campo de contratações públicas.

Uma avaliação de sucesso da iniciativa determinou sua “promoção” à condição de ministra, com a função de supervisionar todos os processos de licitação e contratações públicas, garantindo com isso – alegadamente – níveis de transparência nunca alcançados. Cuida-se, ao que parece, de um mecanismo de IA com agência – a saber, aptidão decisória autônoma – o que determina de outro lado uma série de críticas e discussões quanto à própria legalidade da medida naquele país.

O apelo ao caráter quase mágico do funcionamento de IA não cessou nessa iniciativa do governo albanês: mais recentemente, sobrevém o anúncio de que Diella está grávida de 83 bebês. Uma vez mais, o que se tem é a exploração do hype que tais mecanismos geram. A iniciativa, na verdade, é de oferta de 83 assistentes de IA a serem ofertados a cada qual dos integrantes do Parlamento, que funcionariam como canal estruturado de informações, e suporte de decisões.

Os “bebês” ainda não nasceram.

Não se sabe se haverá chá revelação.

A par da curiosidade da estratégia albanesa de governança de contratações públicas; o que o fenômeno revela é uma crença (não necessariamente fundamentada) no potencial de mecanismos de IA para proceder progressiva qualificação dos procedimentos licitatórios, afastando o sempre temido fantasma de corrupção nestas avenças. Multiplicam-se as iniciativas de incorporação de mecanismos de IA em diversas etapas do procedimento, oferecidos seja às entidades administrativas que licitam [3], ou ainda a virtuais interessados na iniciativa privada [4], que são com isso convidados a ingressar no ecossistema das contratações públicas.

O movimento de incorporação de mecanismos de IA no âmbito das contratações públicas é inevitável; impulsionado também pela circunstância de que se tem na sua estrutura primária de controle (Tribunais de Contas) uma intensa utilização desta tecnologia. O desafio é o desenvolvimento de uma aproximação crítica de seu potencial de entrega, mas também dos riscos envolvidos, que permita um uso efetivamente responsável.

Spacca

Uma primeira questão, quando se cuida da utilização de mecanismos de IA para estas finalidades, envolve definir se tal tecnologia pode ou deve ser efetivamente revestida de agência; de capacidade de formular decisões autônomas sem a necessária intervenção humana, ou com essa mesma intercessão reduzida a padrões mínimos. Essa funcionalidade hoje já se tem por incorporada em mecanismos de IA agêntica, que dotados de interação intermodal e relativa autonomia de decisão, executam tarefas sem a necessidade do comando humano. A indagação portanto é: o campo das contratações públicas pode se beneficiar do uso de IA agêntica?

O leitor deve ter em conta que essa decisão, pelo atributo da agência, pode ser segmentada para determinadas funcionalidades associadas ao longo percurso que se tem no processo de licitação – mas, de toda forma, esta se constitui decisão importante, seja no que toca à garantia da confiabilidade da entrega da IA, seja no que se refere aos mecanismos próprios de monitoramento e controle de sua ação a serem aplicados quando se tem essa opção de desenho da solução digital.

A opção pelo uso de mecanismos com agência, evidentemente se apresenta ainda mais atrativa, pelas promessas de redução da necessária intervenção do agente humano. Em tempos de discurso permanente de redução do quadro de servidores públicos, a transferência de tarefas para o agente digital desonera o humano, que pode ser reservado a missões mais sofisticadas de supervisão e revisão. O desafio, de outro lado, está em que o uso de mecanismos de IA com agência vão exigir ainda maior cuidado na definição do tipo de entrega que dele se requer. Afinal, se o mecanismo de IA, no exercício da agência de que é revestido, formula escolhas estratégicas orientadas ao êxito da chamada à contratação, é preciso que ele tenha absoluta clareza em relação àquilo que dele se pretende, e ainda de potenciais externalidades positivas e negativas que podem se apresentar no percurso de construção da entrega.

Âmbito de ação

Destaco a importância de se prevenir, no uso de mecanismos de IA com agência no campo de licitações públicas, o risco potencial de se presumir sabidas condições importantes e necessárias à qualificação da entrega pretendida. Afinal, seres humanos em geral — e agentes de contratação não serão exceção — frequentemente operam a partir de conhecimento implícito, sedimentado em seu acervo de informações construído em toda uma vida profissional. Indispensável, em se cuidando de mecanismos de IA revestidos de agência, que esse conhecimento seja transferido ao agente digital, seja em seu desenvolvimento [5], seja na construção do prompt que define a tarefa que se requer.

Outro relevante ponto de atenção será, uma vez definido no momento de desenvolvimento ou contratação da solução digital, o âmbito de ação do mecanismo de IA investido de agência. Identificar com precisão quais sejam os atores do processo que devam aportar contribuições ao desenvolvimento ou customização de solução de IA, ou que devam ser tidos como potenciais fontes de input para seu funcionamento. Um exemplo clarifica a assertiva.

Se no desenvolvimento da solução, opta-se por conferir agência ao mecanismo de IA tão-somente no tema de tratamento dos dados relacionados, por exemplo, aos preços indicados nas propostas ofertadas, é certo que o ator a ser considerado como contribuinte relevante é de ser o agente de contratação ou pregoeiro — caso seja essa a modalidade em questão. É possível pensar num mecanismo de IA agêntico que examine propostas, identificando fenômenos que determinem sua desconsideração; procedendo (no exercício da agência) à sua desclassificação; ordenando segundo o critério de julgamento eleito etc. Para essa tarefa, o interlocutor necessário no plano do analógico, é um só.

De outro lado, se a IA agêntica de que se cogita está concebida como apta a empreender, por exemplo, à análise de congruência entre documento de formalização de demandas, estudo técnico preliminar e termo de referência; é de se ter no contexto de desenvolvimento e operação, a abertura à oportunidade de oferta de inputs para um número mais amplo de participantes, que se imagina distinto do agente de contratação, observado o princípio de especialização de funções preconizado no artigo 7º, § 1º da Lei 14.133/2021. Na hipótese em tela, a entrega ofertada pela IA agêntica se beneficiaria de um juízo crítico mais amplo, eis que as informações ofertadas pelos responsáveis por cada qual dos documentos preparatórios tem em conta perspectivas distintas — fator que pode ser decisivo para um juízo de adequação da entrega do mecanismo em operação.

Rastreabilidade e transparência

Finalmente — mas não menos importante — é de se apontar que o uso de mecanismos de IA investidos de agência podem ofertar (e nisso se tem uma vantagem que é de ser considerada) uma rastreabilidade maior dos critérios que informaram cada decisão. Não se está aqui aludindo à explicabilidade algorítmica — atributo reclamado por muitos, mas que, a sentir desta autora, não se apresenta como indispensável ao uso de IA [6]. A rastreabilidade da decisão envolve o conhecimento dos elementos informacionais considerados, e o percurso lógico dessa mesma deliberação – e não o conhecimento do método de operação e tratamento de dados e algoritmos aplicado pela rede neural de deep learning.

Tem-se nessa rastreabilidade um efetivo potencial de enriquecimento das razões de decidir, que a depender dos critérios estabelecidos no desenvolvimento do mecanismo de IA, pode efetivamente significar um robustecimento da motivação. Afinal, mecanismos de IA tendencialmente não desenvolverão uma seletividade em relação a quais fatores determinantes declinar – e quais pareçam melhor ocultar. A vantagem, na perspectiva da ação pública, é o incremento não só da fundamentação da decisão, mas também, eventualmente, do potencial de aprendizado caso uma instância de controle, diante daquele conjunto de razões determinantes, aponte a inadequação de qualquer uma delas.

Existem outros cuidados, decerto indispensáveis na incorporação de mecanismos de IA, agêntica ou não, na atividade contratual da administração. Conferir transparência a esse uso, por exemplo, é um deles. Indispensável igualmente fixar responsabilidades, com a imputação subjetiva da entrega da IA a um agente público humano, eis que ainda não se cogita de conferir personalidade jurídica a estes mecanismos [7]. O indispensável, todavia, é que esse processo de internalização de mecanismos de IA se dê a partir de uma perspectiva de institucionalidade [8] — especialmente porque as operações lógicas que eles vêm se revelando aptos a desenvolver se apresentam cada vez mais sofisticadas.

Considerações finais

Da IA descritiva até aquela generativa investida de agência, tem-se um salto evolutivo surpreendente, verificado em espaço de tempo reduzido. O cenário atual sugere uma integração progressiva dos modais de IA, com a correspondente ampliação de seu potencial de ação em relação a operações humanas de todo gênero — inclusive e especialmente atividade contratual da administração pública. A multiplicação exponencial de mecanismos de IA operando em todo o ciclo da contratação não se afigura como uma simples possibilidade remota.

Diella, grávida, sinaliza o nascimento de 83 IAs filhotes.

Importante reconhecer a irradiação da tecnologia, sem descurar, contudo, dos pontos de atenção que devam ser especialmente tratados no desenvolvimento, e monitorados na execução, como caminho seguro de efetiva entrega de todas as promessas de qualidade.

[1] Veja Diella defendendo a pertinência de sua nomeação e funcionamento no governo no link de sua apresentação ao Parlamento.

[2] Na verdade, não se tem propriamente um cargo titularizado por um mecanismo ao qual não se reconhece personalidade – portanto, a aptidão para ocupar estes mesmos centros de competência.

[3] A título de ilustração, confira-se a iniciativa do Governo do Estado do Ceará, que disponibilizou IA generativa que subsidia a redação de justificativas exigidas pela Lei 14.133/2021.

[4] Confira-se, dentre muitos, o portal Licitei, destinado a particulares interessados em participar de certames, que integrado ao PNCP proporciona a identificação de oportunidades, e vários outros serviços.

[5] No tema do desenvolvimento de mecanismos de IA no âmbito da Administração Pública vocacionados a funcionar como suporte à decisão em procedimentos licitatórios, consulte-se meu texto anterior nesta Coluna, em parceria com Flavia Caroline Fonseca Amorim – Planejamento de licitações com auxílio de IA: prós e contras.

[6] Para uma exploração mais ampla do tema, consulte-se “Ensinando Direito a(à) IA”, meu livro mais recente, publicado neste ano pela Editora Fórum.

[7] Chamo a atenção do gentil leitor ao fato de que o uso da palavra “ainda” não foi ocioso. Afinal, é de se ter em conta que o hoje comum regime de atribuição de personalidade a um elemento ficcional como o são as pessoas jurídicas pode ter parecido, a seu tempo, igualmente impossível ou inaceitável.

[8] Sobre esse tema, consulte-se texto meu anterior, nesta mesma coluna: Institucionalização: imperativo para o uso de IA na Administração Pública.