Institucionalização: imperativo para o uso de IA na Administração Pública

A proclamação de que uma determinada organização faz uso de inteligência artificial — doravante designada como IA — hoje se apresenta como um sinal externo de modernidade; sintonia com o que há de mais nova em tendências. Para millenials  e Gen Z essa proclamação se traduz em #newtrend. Inevitável que esse estado de coisas gere uma pressão também em relação à Administração Pública. Afinal, se a escola do meu filho usa IA; se eu tenho uma porção de gadgets no meu celular que usam IA; se isso é o que há de mais novo e útil, como o Estado não usa? Como pode ser possível pensar numa Administração Pública sintonizada com o que há de mais atual, se nem mesmo mecanismos de IA estão incorporados à sua atuação nos dias de hoje?

Spacca

Sobrevém então essa nova manifestação da “corrida do ouro” — quem está mais avançado no uso deste tipo de tecnologia? Tem-se uma contaminação, que pode ser qualificada de positiva, no sentido de que determina a incorporação da matéria à pauta de debates; ou pode merecer o epíteto de negativa, pelo que de açodamento no desenvolvimento de iniciativas ela pode determinar.

Despontam no cenário de uso de IA, as estruturas institucionais incumbidas do desenvolvimento da função controle. Assim, Tribunais de Contas — o da União em especial — proclamam seu pioneirismo no uso deste tipo de ferramenta; o CNJ avança com a regulação do uso deste tipo de mecanismo; ambos alavancando uma percepção coletiva de que despontam como usuários desta tecnologia, sempre e sempre posta a serviço deste grande objetivo legitimador — a tutela do interesse público. Organização que usa IA, no imaginário coletivo, é reputada eficiente — ao menos, é o que se propaga.

E no Executivo, como andam as coisas?

Firme no #newtrend, é preciso dizer que se usa IA; que se pretende usar IA; que haverá enorme ganho de qualidade e de eficiência — sobretudo de eficiência, esse Santo Graal do administrador público — com o uso de IA. Se não a temos hoje, teremos em breve, e então tudo será novo e bom.

A par da crítica que os parágrafos iniciais já revelam, de uma evocação meramente retórica do potencial útil associado ao emprego de mecanismos de IA; o que se busca neste ensaio é destacar a importância de que esse tipo de iniciativa se dê a partir de uma perspectiva institucional, planejada na sua concepção e parametrizada na sua execução. Mecanismos de IA em organizações públicas não podem ser internalizados a partir de iniciativas puramente voluntaristas, ou ainda de uma aproximação pessoal à matéria de determinado agente público.

Profissionais do Direito, historicamente são pouco afeitos às contribuições das áreas de exatas. O afastamento entre estes campos de conhecimento é notório — mas não pode subsistir em tempos em que a dimensão digital das relações humanas de toda ordem só se amplia, seja no número de envolvidos, ou na variedade de temas e dimensões da vida em que este mesmo plano se irradia. O Direito se vê compelido a dialogar com o digital; a compreender a dinâmica própria deste universo — e a Administração Pública não constitui exceção a este imperativo. O problema que se põe, é em que termos esta aproximação entre Administração e IA pode se verificar, especialmente quando se tem em conta o braço organizacional da primeira.

Internalização de IA não é tarefa delimitada por começo, meio e fim

Uma observação que auxilia na compreensão dos desafios que se nos apresentam, é a circunstância de que a relação entre a Administração Pública e novas tecnologias; incorporação de novos sistemas digitais, normalmente é vista como uma tarefa sujeita a início, meio e fim. Desenvolvimento, por exemplo, dos diversos sistemas onde hoje tem curso o processo administrativo: isso é visto como uma tarefa recortada, que uma vez implementada, tem-se por concluída, e futuras intervenções serão puramente ajustes de sintonia fina.

Segundo essa compreensão, bastaria à Administração designar abnegados servidores que tenham mínima aproximação com o tema, para que eles presidam a iniciativa da incorporação do novo sistema em diálogo com profissionais de TI. Isto feito, bastaria por sua vez uma sumária sessão de treinamento para servidores diretamente envolvidos no uso deste novo sistema — e com isso, completo estaria o ciclo de inovação. O problema está em que esse tipo de modelo certamente não se revela próprio à incorporação de mecanismos de IA.

A incorporação deste tipo de tecnologia é de ter sempre em consideração não só uma necessidade específica da organização já identificada, mas também seu potencial de incremento de informações e funções. Mecanismos de IA podem admitir aplicação inicial para a construção, por exemplo, de chatbots, que permitem um canal de comunicação mais efetivo com a cidadania.

O uso prolongado de chatbots, por outro lado, pode oferecer um quadro rico de informações quanto à tipologia de demandas de informação e esclarecimento que a cidadania dirige à Administração — elemento que pode orientar, por exemplo, campanhas de esclarecimento em relação a matérias mais perguntadas. Assim, um mecanismo de processamento de linguagem natural como o é o chatbot, pode sugerir a incorporação de modelos analíticos, que dissecarão o tipo de demanda direcionada à Administração. Estes, por sua vez, podem sugerir modelos preditivos, onde se poderá desenvolver uma prospectiva de ações futuras da Administração e seus potenciais efeitos.

Não se afigura correta portanto a percepção de que iniciativas de incorporação de mecanismos de IA se apresentem como uma tarefa com começo, meio e fim — e que possam prescindir de estruturas de acompanhamento futuro.

De outro lado, nas funções mais corriqueiras, como geração de textos, o cenário de mecanismos de IA disponíveis é amplo, e igualmente dinâmico. A ideia de que uma IA geral possa reunir em si um nível ótimo de entrega de resultados parece cada vez mais anacrônica. Isso desafia para os integrantes das organizações públicas, uma série de problemas: posso usar mecanismos de IA generativa? Qualquer um dos disponíveis no mercado? Se optei por usar, e sou indagado quanto a isso — se uso ou não — qual a melhor estratégia?  Negar o uso? Como assegurar que o uso de mecanismos de IA que eu empreendo é compatível com os objetivos da organização? Com o uso eventual de meus colegas? Como monitorar a adequação do uso e da entrega de mecanismos de IA?

Hoje, em boa parte das organizações administrativas, estas questões remanescem sem resposta, pela simples circunstância de que não há uma preocupação com a institucionalização formal no uso de mecanismos de IA. A resistência imemorial de profissionais do Direito à matéria tecnológica ainda se apresenta como uma barreira à adequada internalização da ferramenta, e iniciativas pontuais tem sua concepção e execução ordinariamente entregues àqueles que manifestem maior abertura à matéria. Assim, o uso de IA acontece sem maior planejamento quanto às necessidades do órgão; às relações de conexão e desdobramento de iniciativas primeiras, e sobretudo, sem homogeneidade entre seus agentes.

Para o enfrentamento desta e de outras dificuldades, impõe-se a institucionalização das iniciativas de incorporação de mecanismos de IA de qualquer natureza em organizações públicas.

Ganhos prováveis da institucionalização

Primeiro ganho associado à institucionalização reside no potencial de desenvolvimento de ação planejada, que pense o uso de IA como uma iniciativa contínua e sujeita a permanente revisão para assegurar seu potencial máximo de ganho. É a institucionalização do uso de IA que permitirá o desenvolvimento de um Plano Diretor de internalização desta mesma tecnologia, onde se tenha o olhar voltado para uma prospectiva em relação a desdobramentos da referida tecnologia.

Institucionalizar permitirá ainda que a incorporação de mecanismos de IA não seja uma opção-proprietária; uma escolha empreendida por um agente específico, cujas razões de decidir não sejam (como deveria ser) documentadas e compartilhadas pela organização. Escolhas desta natureza não podem resultar de voluntarismo ou preferências pessoais em relação a esta ou aquela ferramenta. A opção pela institucionalidade formal concorre ainda para a formação de uma memória da organização — necessidades pretendidas atender ab initio, razões de decidir em relação às estratégias adotadas etc. — prática que ainda hoje, a rigor não se revela inteiramente desenvolvida.

É também a institucionalização de um programa estruturado de internalização de IA que permitirá o monitoramento da entrega destas mesmas soluções — atividade indispensável à identificação de vieses a contaminar a solução, ou qualquer outro desalinhamento que a aplicação da ferramenta permita identificar, assegurando a revisibilidade dos mecanismos como atributo indispensável à sua utilização.

Finalmente, mas não menos importante, é só no plano da institucionalização de mecanismos de IA que se poderá inclusive identificar qual o grau de eventual dissociação do agente decisor em relação à entrega digital — avaliação imprescindível para que não se tenha uma adesão irrefletida à oferta digital, a partir de um pensamento computacional segundo o qual tudo o que venha da máquina tenha um superior signo de qualificação.

No terreno em especial da Administração Pública, como se sabe, o princípio regedor há de ser aquele da impessoalidade — e a institucionalização é o caminho para um agir estatal que reverencie esse critério orientador.

Os desafios propostos por mecanismos de IA não podem ser identificados como cláusula de bloqueio à sua utilização pela Administração Pública — as vantagens que se apresentam como decorrência destes mesmos meios são inequívocas e não admitem abdicação. Um discurso recorrente tem sido aquele segundo o qual é a governança dos mecanismos de IA que permitirá a prevenção em relação a estes mesmos riscos — mas é só com o recurso à institucionalização que esse comportamento poderá se desenvolver.