Inteligência artificial se contrata ou se institucionaliza?

A explosão de uso de modelos de inteligência artificial, em especial depois da popularização dos modelos generativos, tem gerado uma pressão significativa para a sua incorporação à ação da administração pública, movimento esse que tem, na sua raiz, as promessas de eficiência associadas à celeridade acuidade das entregas ofertadas pela referida tecnologia.

O resultado é uma corrida pela internalização de modelos de IA nas organizações públicas, eis que se tem neles o símbolo mais fulgurante de uma organização moderna, antenada com as tendências mais recentes. Essa corrida, a rigor, se manifesta em duas linhas de ação já indicadas em textos anteriores desta coluna. Uma estratégia tem sido o estímulo a que servidores públicos se valham da tecnologia, sem que a administração se comprometa formalmente com essa mesma conduta – isso foi explorado no texto mais recente, denominado “Uso envergonhado de IA: o pior dos mundos”. Outra linha de ação envolve o desenvolvimento de iniciativas isoladas, contratações avulsas, disjuntas de outras linhas de ação da organização, no campo de internalização da tecnologia ou não.

Por que iniciativas isoladas têm predominado na administração?

O percurso às experiências em curso na administração pública de internalização de IA evidencia que a estratégia tem sido a de compreender esse esforço como algo que possa — se não deva — se dar a partir de iniciativas pontuais. Os motivos para tal são diversos.

Um primeiro estímulo a essa visão de túnel se tem na circunstância de que os proponentes de iniciativas de internalização de IA frequentemente têm conhecimento reduzido da tecnologia — e, por essa razão, tendem a identificar, como uso e benefício potencial, aquilo que o usuário mais básico hoje pratica. Assim, a inclinação inicial é por modelos generativos, que se relacionem com a produção ou correção de textos — algo que vemos acontecer diariamente em nossos e-mails ou mensagens de WhatsApp, em que a ferramenta sugere ou corrige a redação proposta.

Segundo elemento que direciona organizações a escolhas mais simples é a dificuldade identificada na própria delimitação de um virtual objeto de contratação — seja para desenvolvimento específico, seja para aquilo que o mercado está denominando fine tuning de solução “de prateleira” já oferecida a todos. Exercer uma prospectiva de solução de IA de maior abrangência, que possa compreender diferentes dimensões da ação pública, se apresenta a muitos como um desafio; um obstáculo que convida a resistência das estruturas de controle e, portanto, frustração. Soluções de menor porte, em que a especificação do que possa ser pretendido se apresentam como mais atrativas do que, por exemplo, a contratação pública de soluções inovadoras (CPSI), prevista pela Lei Complementar 182/2021.

Há ainda um terceiro elemento, este cultural, que reside nas relações frequentemente, se não adversariais, quando menos de competição entre estruturas da administração. A lógica da segmentação funcional tem por consequência aquilo que Giannini (2021, p. 9) [1] denominada “estado desagregado” — e nesse espírito as relações administrativas não priorizam a ação articulada. Ao revés, dá-se uma “corrida” pelo triunfo de iniciativas individuais, tudo na busca do alcance de uma marca pessoal, ou de um espaço político mais relevante com o chefe do Poder Executivo. Nestes termos, prevalece a lógica da iniciativa pontual fragmentada.

Nenhum desses obstáculos, é de se dizer, constitui impedimento absoluto a uma correção de rota que reconhece a incorporação de IA como iniciativa a ser identificada como política pública de ampliação da capacidade estatal.

Institucionalizar o uso de IA numa visão macro

Em artigo anterior, apontei a importância da institucionalização de modelos de IA. Esse ponto de vista tem por consequência o reconhecimento de que o caminho de otimização da recepção de IA pela administração pública deve repousar não na sua compreensão como uma contratação isolada, mas sim numa visão de que o caminho de internalização de IA consubstancia política pública orientada à ampliação da capacidade estatal de oferta de solução a problemas públicos.

Para compreender essa proposição, é importante retomar duas modalidades de observação que se empreende em relação ao uso de IA: 1) a aferição de ganhos potenciais; e 2) a exploração e prevenção de virtuais riscos.

No campo dos ganhos potenciais, modelos de IA podem contribuir, como referido acima, para um ganho de qualidade no diagnóstico, na formatação e na avaliação de respostas a problemas públicos. Esse predicado, todavia, será alcançado na sua maior extensão, na medida em que o modelo de IA aplicado pela administração não se veja limitado a bases de dados específicas de uma organização contratante, ou ainda, do fornecedor da solução.

Numa aproximação simplificada — mas útil à compreensão da proposta —, modelos de IA operam a partir de inferências estatísticas, respostas probabilísticas que são potencializadas pelo uso de bases de dados que hoje podem ser extensas. O atual estágio de desenvolvimento permite aos modelos de IA a identificação daquilo que Lee [2]  denominava preditores fracos — componentes que, presentes e associados, permitem a identificação de uma tendência, e com isso refinam o resultado da predição, da entrega da IA. Esse resultado qualificado será tanto mais significativo quanto mais ampla a base de dados a partir da qual opera a solução digital. Nestes termos, a opção cômoda pela iniciativa recortada navega no sentido contrário dos pretendidos ganhos.

A par disso, é certo que ações públicas frequentemente guardam entre si relações de matricialidade, o que determina por sua vez o chamado web effect, ou ainda efeito de transbordamento. Significa dizer que a perspectiva otimizada do uso de IA pela administração pública não deve ser aquela do isolamento cognitivo; da limitação da base de dados àquela de uma determinada organização contratante. Ao contrário; o resultado ótimo do uso de IA só pode ser alcançado por uma construção estruturada de aplicação da tecnologia digital que considere não só a interdependência sistêmica de políticas públicas — e, portanto, das bases de dados a partir das quais elas foram construídas, ou que elas deem origem com sua implementação —, mas também o potencial de aprendizado institucional que essa ampliação de visão pode oferecer.

Não se pode desconsiderar que, na incorporação de tecnologia tão recente, erros vão se verificar, e são essas ocorrências que permitirão o aprimoramento do seu uso, seja para fins de contratação e desenvolvimento, seja para fins de interpretação e análise crítica da entrega. Identificar se a predição de riscos se materializou ou não, é atividade crítica nesta primeira onda de recepção da tecnologia. Mais uma razão para recomendar que as iniciativas relacionadas à internalização de IA obedeçam uma lógica estruturada, determinada pelo desenho da correspondentes política pública, e não aos impulsos de momentos da organização, ou de um de seus agentes, que por sua vagueza e indeterminação, não oportunizem aprendizado e correção.

Importante ter em conta que a institucionalização de IA operada a partir da perspectiva macro permitirá conciliar o critério de especialização funcional — tradicional, orientador das escolhas associadas à dimensão organizacional da administração pública — com a importância de uma compreensão global dos efeitos de cada ação pública sobre o conjunto de recursos de toda ordem disponíveis, e sobre os problemas públicos objeto de atenção.

Internalização de IA como política pública

Perceba o gentil leitor que a institucionalização de IA que tenha em perspectiva o potencial máximo de qualificação da ação pública é processo que exigirá um conjunto de iniciativas que reproduzem exatamente aquilo que a literatura de políticas pública reclama. Se tivermos em conta a ideia do ciclo de políticas públicas — que, em que pese as críticas, ainda se apresenta como recurso pedagógico útil — podemos identificar a identidade dos elementos necessários à identificação de uma solução digital efetivamente apta a assegurar a eficiência.

Afinal, como se sabe, embora a linguagem comum se refira à IA no singular — dando a ideia de que se cuida de uma unidade monolítica —, a referida tecnologia se materializa hoje num verdadeiro ecossistema, com soluções orientadas ao desenvolvimento de tarefas distintas, com diferentes níveis de acurácia e expertise. Nestes termos, a recepção otimizada de IA nas organizações públicas depende de uma identificação clara de um problema — quais as necessidades da instituição receptora; quais os componentes deste ecossistema que podem ser chamados à oferta de soluções.

No que toca ao desenho do que se pode pretender como solução, também as variáveis a serem aferidas guardam proximidade com o que se identifica como formulação da política pública. Há indagações como: 1) onde a IA pode agregar valor: 2) quais dados serão utilizados? 3) como medir a performance da solução? 4) quais são os riscos envolvidos? 5) quais os potenciais de expansão da área de atuação da solução?

Na sequência, no campo específico de soluções de IA, fala-se muito em governança da solução — mas isso nada mais é do que o monitoramento que é próprio da implementação de política pública.

Finalmente, a avaliação se revela igualmente necessária, seja para a aferição da ocorrência de riscos projetados, seja, em particular no campo de IA, para aferir como eventos próprios à sua relação com o agente humano se apresentam. Assim, na hipótese de substituição — a opção foi adequada? Revelou-se efetivamente proveitosa? No tema da supervisão humana — ela está acontecendo como previsto? O desenvolvimento da supervisão está obliterando os alegados benefícios da solução?

É de se considerar ainda que a internalização de modelos de IA na administração pública tende à ampliação — mas essa prospectiva é de ser embasada em aferição estruturada do funcionamento da iniciativa já havida e dos resultados alcançados. Tudo isso ganha ainda mais relevância quando se tem em conta não só o ineditismo da tecnologia como também a reformatação em curso da relação entre agente humano e artefato tecnológico.

A internalização da inteligência artificial pela administração pública, portanto, não deve ser compreendida como mera aquisição de tecnologia, mas como um processo de institucionalização de novas capacidades estatais. Isso exige uma ação planejada e monitorada em seus diversos componentes, sem o que não só os benefícios potenciais da IA serão seriamente reduzidos, mas também o eventual aprendizado institucional remanescerá encerrados em silos de dados e conhecimentos disseminados por toda a administração — o que representa a antítese da proposta de “inteligência aumentada” frequentemente associada à tecnologia.

A promessa da IA é mais ampla do que velocidade ou acurácia. Sua internalização empreendida de maneira adequada — orientada à solução de problemas públicos identificados e valorados, estruturado por objetivos mensuráveis, dotada de governança de dados e de solução, mecanismos de implementação e avaliação contínua — assume a natureza de uma política pública de transformação institucional.

[1] GIANNINI, Massimo Severo.  Il pubblico potere. Bologna: Il Mulino, 2001.

[2] LEE, Kai-Fu.  Inteligência artificial. Como os robôs estão mudando o mundo, a forma como amamos, nos relacionamos, trabalhamos e vivemos. Tradução Marcelo Barbão. Rio de Janeiro: Globo Livros, 2019.