Recebi a cópia de um e-mail dizendo:
“Prezados colegas,
Compartilho abaixo, o ‘prompt criador de prompts’. A ideia partiu de experiências trocadas durante os cursos de Inteligência Artificial Aplicada promovidos pela Academia Judicial do Tribunal.
O objetivo é transformar o Copilot (ou qualquer outra IA) em um assistente de criação de prompts, capaz de ajudar usuários a criar, analisar e aprimorar os comandos de forma tecnicamente fundamentada usando o framework P.O.E.M.A. como espinha dorsal metodológica.
Para usá-lo, basta colar o prompt em modelo de linguagem de sua preferência (Copilot, Claude, ChatGPT, Gemini, etc.) e seguir as instruções. Para melhores resultados, priorize modelos mais avançados e com deep reasoning (pensamento aprofundado).
O comando também está disponível na biblioteca institucional”.
Prompt. Quer dizer, pronto. Não estou inventando. Está na comunicação do tribunal. Eis o ápice da “evolução” da espécie algorítmica, o homo algoritmicus.
Pois não é que, não contentes em usar prompts para realizar os trabalhos judiciários, agora inventaram um “fazedor de prompts”. De fato, elaborar prompts dá muito trabalho. “- Melhor é deixar o prompts para a IA fazer o próprio prompt”. Uma autogestão completa. Terceirização de carteirinha.
Até há poucos dias, “dar um prompt”, em linguagem simples, era transformar a vontade do usuário em comando. Agora essa vontade ela mesma é delegada para a IA. Basta ler o e-mail acima que circula em um tribunal da federação. Eis: o prompt dos prompts! O que mais necessitamos para jogar golfe?
Com o já expliquei, o problema, para além dessa nova invenção, é que o modelo de linguagem não investiga fatos nem “apura a verdade”. Ele produz texto plausível a partir de padrões. Assim, quando o juiz fornece a conclusão (“condene”, “deferir a reintegração”, “negar o Habeas”), o sistema tende a organizar, com impressionante fluidez, uma fundamentação coerente com o resultado, ainda que isso signifique preencher lacunas com ‘encaixes’ não verificados.
Mas, e se o prompt é originado de IA? O perigo já estava (como denunciei aqui) no “primeiro ponho o prompts e depois a IA justifica” (o que suprime a fundamentação, transformando-a em “sabor fundamentação”, como o sanduíche ficcional do McDonald’s (sabor picanha, que de picanha nada tinha).
Qual será o limite? Temos consciência das consequências disso tudo?
Enigma Streck
Participando do Congresso no CNJ sobre IA organizado magnificamente pelo conselheiro Rodrigo Badaró no dia 24 último, aprendi muito. O avanço tecnológico dos tribunais Brasil afora é fascinante. Mas ainda não está integrado. Integração é a palavra-chave.
Daí que lancei uma pergunta, que pode ser denominada de “Enigma Streck”: se a IA do judiciário estiver totalmente integrada, não poderá ocorrer algo como “recurso zero” ou “impossibilidade de respostas contraditórias advindas do mesmo sistema”? Afinal, se o juiz decide por IA (pensemos, ademais, se a nova ferramenta de geração dos próprios prompts funcionar), por qual razão a IA que examina o recurso (apelação, agravo etc.) proferirá uma decisão diferente? Proverá o recurso dizendo que a IA do juiz está equivocada? O fazedor de prompts (ou o humano) no tribunal gerará um prompt diferente do que foi feito pelo juiz (ou por fazedor de prompts)? Mas, como isso seria feito, se “está tudo integrado”? Os servidores reexaminarão o trabalho da IA? E o farão minuciosamente para ver os erros apontados no recurso? Mas, como isso será apontado?
Portanto, se o plano der certo e tudo for integrado, poderemos chegar ao paradoxo do “recurso zero”. O paradoxo do queijo suíço: o melhor queijo é o suíço; o queijo suíço tem muitos furos; quanto mais queijo, mais buracos; quanto mais buracos, menos queijo; logo, quanto mais queijo, menos queijo; em síntese: mais furos, menos queijo, melhor queijo. Consequência: o queijo ideal é o queijo zero. O não queijo.
Numa palavra: luta-se tanto para diminuir recursos; luta-se tanto que o sucesso pode acarretar o colapso, porque o extremo sucesso é o zeramento dos recursos. E sem recursos não há sistema.
Como diz um antigo provérbio, “Cuidado com o que você deseja, pois pode se tornar realidade”. Nem tudo que almejamos é benéfico a longo prazo. Muitas vezes recebe-se exatamente o que se pede, mas depois se sofre por não prever efeitos colaterais.
É meio irônico tudo isso.
Eis o enigma para decifrar.
Os pardais e as corujas: a advertência de Scronkfinkle
Parece que o Fator Scronkfinkle terá espaço nos próximos meses ou anos. O processo é rápido. Conto aqui o que Nick Bostrom, em livro sobre “Superinteligência — caminhos, perigo e estratégias para um novo mundo”, fala da “Fábula Inacabada dos Pardais”, que reproduzo no meu livro Robô Não Desce Escada e Trapezista Não voa (ed. Contracorrente).
Era a estação de construção dos ninhos. Mas, após longos dias de trabalho árduo, os pardais se sentaram sob o luar, relaxando e gorjeando.
“Nós somos tão pequenos e fraquinhos… Imagine como a vida seria fácil se tivéssemos uma coruja que nos ajudasse na construção de nossos ninhos!”
“Sim”, disse outro. “E nós poderíamos ter a ajuda dela para cuidar dos pardais mais velhos e também dos mais novos.”
“Ela poderia nos aconselhar e ficar de olho no gato do vizinho”, acrescentou um terceiro. Então, Pastus, o pássaro mais velho, disse: “Vamos enviar olheiros para procurar em todos os lugares uma corujinha abandonada, ou talvez um ovo. Um filhote de corvo ou de doninha também serviria. Isso poderia ser a melhor coisa que já nos aconteceu, pelo menos desde a abertura do Pavilhão do Grão Ilimitado, no quintal ao lado”.
O bando estava radiante e os pardais começaram a gorjear com toda a força.
Apenas Scronkfinkle, o pardal rabugento e de um olho só, não estava convencido da prudência daquela empreitada. Disse ele:
“Será, com certeza, nossa destruição. Não deveríamos pensar um pouco sobre a arte da domesticação e do adestramento das corujas antes de trazer criaturas desse tipo para o nosso meio?”.
Pastus respondeu: “Adestrar uma coruja parece algo extremamente difícil. Vamos começar procurando um ovo, o que já não será tarefa fácil. Depois que tivermos sido bem-sucedidos em criar uma coruja, então poderemos pensar em outros desafios”.
“Há uma falha nesse plano”, grunhiu Scronkfinkle, mas seu protesto foi em vão, pois o bando já havia levantado voo para começar a colocar em ação as diretrizes fornecidas por Pastus. Apenas dois ou três pardais ficaram para trás. Juntos começaram a imaginar como as corujas poderiam ser domesticadas e adestradas.
Final da estória: a coruja foi “contratada” e arrasou com tudo: comeu os ovos, matou os velhinhos e comeu os filhotes.
Eis o Fator Scronkfinkle. Se o plano dá certo (contratar corujas), dá errado (as corujas arrasam com os pardais)!
Post scriptum: as perguntas fundamentais do Congresso foram feitas pela ministra Daniela Teixeira e pelo ministro Afrânio Vilela: quem quer ser julgado por uma IA?
Eis a questão!
Sinto-me como Scronkfinkle!
Seja o primeiro a comentar.
Você precisa estar logado para enviar um comentário.
Fazer login