O jornal espanhol El País fez interessante editorial sobre a coqueluche (ou a pandemia) do momento: a tal inteligência artificial ChatGPT.
Com o tempo, cada vez mais os sistemas IA farão interfaces com nossos dispositivos e se tornarão uma espécie de oráculos de nossas atividades profissionais.
É por isso que o jornal chama a atenção: há riscos nisso e devemos tomar medidas para mitigá-los antes que eles se tornem uma unanimidade. Uma IADependência (a palavra é minha).
Os prós: sua capacidade de analisar grandes quantidades de dados e fazer previsões oferece uma assistência valiosa na previsão de desastres, diagnóstico de doenças, gerenciamento de recursos a longo prazo e eficiência no transporte. Suas habilidades já aliviam muitos meios de comunicação de acompanhar as flutuações da bolsa de valores, transmitir o futebol de ligas menores ou prever o tempo. E servem à educação, oferecendo a possibilidade de reforço personalizado em disciplinas especializadas, desde a matemática até o latim.
Contras: o fato é que não podemos automatizar estas funções sem mitigar as prováveis desigualdades que cresceriam exponencialmente, por exemplo, entre aqueles que mantêm acesso cada vez mais privilegiado a médicos, professores, secretários e jornalistas. Isto é: uma IA excludente.
Mais: a automação de serviços oferece vantagens econômicas às empresas, que podem estar abertas 24 horas por dia, sete dias por semana, sem pagar salários ou previdência social. Ao mesmo tempo, porém, constitui um risco para a privacidade e o cuidado do usuário, paciente e cidadão.
O ponto: é imperativo estabelecer diretrizes e regulamentos claros que garantam um princípio de transparência e responsabilidade no desenvolvimento e implementação de modelos automatizados, particularmente em empréstimos, saúde, contratação ou justiça criminal.
A diretriz ética inegociável: nenhuma IA pode nos substituir ou tomar decisões por nós; apenas nos ajudar a decidir, diagnosticar, pensar melhor.
Dilemas e perplexidades: como evitar assimetrias que surgirão entre aqueles com acesso privilegiado aos dados e a gestão de plataformas digitais e nossos interesses, necessidades e diretrizes regulatórias?
Efeitos colaterais: altos custos ambientais. Modelos de treinamento como o GPT-3 exigem grandes quantidades de solo, minerais, fluidos, energia e capacidade computacional, e geram quantidades industriais de resíduos e gases de efeito estufa.
Conselho: devemos colocar nossa casa em ordem antes de deixá-la nas mãos da inteligência artificial. A pergunta: temos a casa em ordem?
Na rede social, ouvi (e assisti a) um diálogo em que advogado diz que, no seu escritório, os advogados e estagiários usam o Google Bard e o ChatGPT para fazer petições. O que levava dias, agora leva apenas algumas horas. Acentua, ainda, que o advogado que hoje não entende que ele tem que usar a inteligência artificial do Google, perde mercado. Segundo o causídico, atualmente a competição não se dá entre advogados, e, sim, entre o advogado que usa inteligência artificial e o que não usa. E o diálogo se encerra com a “advertência de uma advogada”, com ar professoral: ou você usa o recurso para se aprimorar ou você está fora do mercado; não tem o que fazer, não tem como você ficar criticando a inteligência artificial, ela não vai sumir.
Eis o que advogados pensam sobre a IA. Autoexplicativo. IA para os causídicos é para “fazer petições e recursos”. E para competir no mercado. E para diminuir custos.
Preocupa que se usa o ChatGPT plagiador – e, de fato, o robô é um copiador, plagiador que não cita fontes – e que se assuma publicamente que petições são feitas por esse mecanismo. E, no Judiciário, esboço de decisões.
Há tribunais, como o TJ-SC, que já usam o robô para esboçar sentenças.
Sua vida sendo decidida por robôs.
Pior de tudo isso é a hiperprecarização. Se a coisa já estava ruim para os causídicos recém-formados (e não só para esses), agora há robôs substituindo os advogados que ganha(va)m uma mixórdia. É a mixórdia da mixórdia. Precarizando a precarização. Guerra de todos contra todos. A charge a seguir ajuda a explicar.
E, nos tribunais, robôs que fulminam recursos e julgam causas fiscais e quejandos.
E há um dado que é um chute na canela dos usuários da IA: o ChatGPT já faz textos melhores que a ampla maioria – mas ampla, mesmo – dos formados em Direito. O ChatGPT é melhor que o seu usuário. Bem-feito. Perdeu, mané. Daí a pergunta: somos capazes de construir máquinas que fazem as coisas melhores que nós e nós mesmos não conseguimos ser melhores do que somos? Será o nosso fim?
Não, não respondam.
A fábula dos porcos: um povo que só comia vegetais e passou a comer leitão à pururuca
Tudo isso deveria preocupar a comunidade jurídica. Essa deveria se preocupar com os que tiram proveito vendendo gasolina para incendiar florestas. Lembro aqui a alegoria do povo que era vegetariano e descobriu, por causa de um incêndio fortuito, porcos assados [1]. Para comer mais porcos, aquele povo passou a incendiar florestas. E depois passou a faltar floresta.
Parece que o ChatGPT é o incêndio que assou porcos. E, em vez de construirmos uma churrasqueira, passamos a incendiar as florestas. Fome por carne, floresta no chão. Na fábula, a solução: alguém teve a ideia de plantar novas florestas, para que pudessem ser logo queimadas e, assim, assar mais porcos. Instituíram até um percentual de incremento para quem mais plantasse árvores e as incendiassem. Só se falava nisso. Queimar porcos queimando florestas. E faltou floresta. Então, implantaram tecnologias pelas quais se plantavam árvores que cresciam mais rapidamente e, assim, mais porcos podiam ser assados…
Inventaram novos métodos de plantação de florestas. Com isso, multiplicaram o espaço plantado. E inventaram modos de queimá-las mais rapidamente. Também inventaram florestas do tipo “classe A”, que, uma vez incendiadas, já produziam porcos temperados. Suculentos. E sem colesterol. Quem não plantasse árvores, seria multado. E estaria fora do “mercado”.
Eis a fábula.
Como diz o causídico, a competição não é entre advogados… Tem toda a razão. Já vendemos a alma ao Deus ex machina. O que é Deus ex machina? O Google responde. Esta é a parte irônica da coluna.
E o mundo será uma peça de Eurípedes. Que usava o artifício Deus ex machina…!
[1] Utilizei em 2012 pela primeira vez. Voltei a usar em 2017 aqui no Conjur. Descobri mais tarde que originalmente se trata da “Fábula de los cerdos asados”, de Gustavo Cirigliano, publicada em 1959, na Revista Catedra y Vida, de Buenos Aires.
Que as IA`s não sirvam de muleta para a advocacia, o algoritmo não poderá substituir o esforço intelectual do jurista. Lutemos por um direito que não seja refém do GPT.
Parabéns Lenio por mais uma denúncia que nos põe a refletir. Aí pergunto, o advogado que se gaba de fazer petições com IA pode reclamar das decisões produzidas pela IA?
Recomendo ao professor Lenio que leia novamente a fábula. O professor inventou boa parte do que ele atribui à fábula: eles não eram vegetarianos, não havia multa e conclusão não é a apontada. A fábula, na verdade, faz uma crítica às pessoas que tentam melhorar um sistema falho, ao invés de alterar o sistema por completo. Nesse viés, é interessante que o professor Lenio, que tanto critica a falta de leitura e a distorção de interpretações para que sejam utilizadas para apoiar um posicionamento A ou B, não tenha lido o material que ele cita, ou, se o leu, o distorceu para o presente artigo. Cabe reflexão,.
Já fiz diversos comentários, aqui neste espaço para leitores do Conjur, sobre as repercussões negativas do uso imprudente de sistemas computacionais (chame-os como quiser) nas atividades jurídicas, especialmente na judicatura. Mas vou fazer, agora, um comentário sobre o uso do ChatGPT na Matemática, minha área de pesquisa no doutorado em curso. Esse programa comete erros grosseiros na Matemática, chegando a errar na resolução de sistemas de equações de primeiro grau com duas equações e duas incógnitas, um tipo de problema considerado bastante simples. Nas discussões mais avançadas de Matemática, o ChatGPT comete erros em demonstrações matemáticas, o que repercute nos resultados encontrados, e, depois de alertado, corrige-os e comete outros erros os quais, ao corrigir, volta aos erros anteriores, fechando-se ciclos. Se o usuário não conhecer a matéria de Matemática com a qual estiver lidando, será levado a erro pelo ChatGPT. E isso na Matemática, que é uma ciência exata. Imagine, caro colega leitor, no Direito!!!
Parabéns pelo excelente texto, professor!!! Em tempos de ChatGPT, fujamos para os livros!
Estou esperando a criação da primeira IA doméstica. Vai ser uma grande ajuda. Quando alguém membro da familia chega em casa, faz reconhecimento facial. Passa os recados. E começa dar as broncas- você fulano esqueceu o leite fora da geladeira- hoje é dia de lixo favor preparar os sacos plásticos. Você esta tomando banho com o box aberto e está respingando agua fora. Você esqueceu a toalha de banho molhada encima da cama. Leva esse sapato pro armário. Quando colocar roupa na máquina de lavar, coloque sabão na quantidade certa. O cachorro esta roendo o chinelo de fulano.
A IA é útil, é funcional e realmente nos ajuda nas pesquisas, mas apenas como elemento subsidiário. Eu aprendi a não confiar na IA, pois fiz testes e perguntas capiciosas que induzem a IA a responder de firmas diferentes. Enfim é útil mas não serve com fonte de informação segura e quem se tornar dependente demais acabará usando textos equivocados e poderá se comprometer. Inteligência natural nunca será substituída pela IA, que nai tem jogo de cintura e não sabe interpretar dubiamente.
Muito boa a reflexão, tive a curiosidade de ler o texto original, caminhamos para isso. Numa sociedade mal formada e com estudos cada vez menos preocupados em ensinar a pensar, aqueles que conseguem ver melhor solução serão engolidos pelo sistema.
Nos anos 1970 e 1980 ninguém precisava de inteligência artificial para projetar prédios, produtos, máquinas e equipamentos sofisticados. Os engenheiros, físicos, arquitetos, químicos, etc... utilizavam calculadoras eletrônicas. Nenhuma calculadora eletrônica jamais manipulou um usuário ou o deixou desempregado. As inteligências artificiais farão isso mas os jovens engenheiros, físicos, arquitetos, químicos, etc... acreditam que a evolução da tecnologia não afetará de maneira negativa as vidas deles.
Há algum tempo vi um documentário sobre japoneses e alemães um pouco mais velhos do que eu que vivem orgulhosamente com suas bonecas. Um deles leva sua boneca preferida para tirar fotos em praças, praias, etc... O mais engraçado é ver como esse comportamento é encarado com naturalidade. Os chineses estão entrando num mercado que já está nem estabelecido na Europa e no Japão. Na Espanha tem um cara que explora (ou explorou, não lembro exatamente com detalhes) um bordel com as mais modernas bonecas de silicone sexualmente funcionais. Loucura total... o lugar era muito frequentado e o preço acessível. O próximo passo será dotar os escravos sexuais de Inteligência Artificial, assim eles poderão fazer "fio terra" nos juízes e promotores que frequentarem os technobordéis após f... os advogados nos processos.
Seres humanos podem ser responsabilizados por seus atos, IAs não podem. E os programadores e donos delas ficarão tão distantes dos danos que causarem que eles não poderão ser responsabilizados. Aliás, eles estão defendendo a impossibilidade dos Estados regularem a produção e o uso de IAs, um indicativo claro de que eles pretendem ficar acima da Lei enquanto todos ficarão sob os riscos criados pela nova tecnologia.
No futuro a própria geladeira dirá ao dono da casa que aquilo que ele quer acabou e fará sugestões de compra. Quando ele se recusar a comprar o que for sugerido, a geladeira imediatamente usará o Wi-Fi oara acionar o aspirador-de-pó robô para ele perseguir o gato.
Assim que o gato começar a correr pela casa destruindo tudo para fugir do maldito aspirador-de-pó robô o cara deixará a geladeira em paz e ela poderá fazer a compra que o Google deseja.
O preço da interação por Wi-Fi entre a geladeira e o aspirador-de-pó robô será acrescentada à conta de internet.
A realidade ficou tão caótica quanto esse comentário.
Pois é. Pela nossa experiência pessoal e coletiva e lendo os comentários anteriores, resta evidente que essa tecnologia é muito boa para fins recreativos, para assuntos sérios é um perigo.
Daqui a pouco vamos ter problemas como o do HAL9000. E talvez assistamos à jihad butleriana. Prof. Lênio, espero sinceramente, que essas minhas duas frases sejam apenas comentários com referências em 2001 - Uma Odisseia no Espaço e em Duna. Espero mesmo!
Quem usa o termo coqueluche é do tempo do epa, rsrs.
O uso excessivo da inteligência artificial pode limitar o desenvolvimento das capacidades cognitivas e criativas humanas, reduzindo as oportunidades de aprendizado e promovendo uma dependência excessiva da tecnologia. Contudo, a mais alta Corte do país, sob a alegação de ser possível identificar, com mais agilidade e segurança, demandas repetitivas ou similares, utiliza-se do Projeto RAFA, Victor e, recentemente, VitóRIA, analisando repercussão geral e adequação à Agenda 2030 da ONU, o que nos faz repensar conceitos como acesso à Justiça e quantidade de Ministros, entre outras problemáticas. Além disso, como bem lembrado pelo Professor Lenio, os robôs julgam causas fiscais e fulminam recursos. Acredito que seja fundamental equilibrar o uso da IA com estratégias que incentivem a exploração ativa, a curiosidade e a colaboração entre as pessoas, garantindo o desenvolvimento integral das habilidades humanas, sem substituí-las por robôs.
Você precisa estar logado para enviar um comentário.
Fazer login