Além da realidade: IA, menores e o espaço cibernético inexplorado

Em um mundo cada vez mais permeado pela tecnologia, onde a inteligência artificial (IA) já faz parte do nosso cotidiano, surgem questões éticas e jurídicas de uma complexidade inédita. Imagine a capacidade de criar imagens, vídeos e vozes indistinguíveis da realidade; agora imagine que essas criações possam ser usadas para fins nefastos, como a simulação de conteúdo pedófilo. Este não é um cenário distópico de um filme de ficção científica [1], mas uma realidade [2] iminente que o nosso ordenamento jurídico não está preparado para enfrentar.

​A IA tem sido saudada como uma revolução na forma como vivemos e trabalhamos, oferecendo avanços notáveis em campos tão diversos quanto medicina, finanças e transporte. No entanto, essa mesma tecnologia que promete nos levar a uma nova era de eficiência e personalização também tem o potencial de ser deturpada. O lado sombrio da IA é raramente discutido na esfera pública, principalmente quando se trata de tópicos delicados e potencialmente polarizadores como a exploração de menores.

O Brasil, ainda sem debates significativos sobre o tema, se encontra em um vácuo legal e ético que pode abrir portas para uma nova forma de cibercriminalidade. E enquanto as fronteiras do que é tecnologicamente possível continuam a se expandir, nosso sistema legal permanece estagnado, mal equipado para lidar com os dilemas emergentes dessa nova era digital.

Este artigo busca jogar luz sobre essa área obscura, para que a sociedade e operadores do Direito iniciem essa importante discussão e debate sobre os novos desafios e as implicações legais dessas tecnologias emergentes, para que sejam encontrados caminhos claros e seguros para proteção de crianças e adolescentes.

Tecnologia envolvida
Nos últimos anos, a IA avançou significativamente, abrindo caminho para a criação de tecnologias cada vez mais sofisticadas. Uma dessas tecnologias é a Rede Adversarial Generativa (GAN), que é especialmente habilidosa na criação de imagens, vídeos e áudios hiper-realistas. GANs funcionam através de uma rede neural que cria conteúdo (geradora) e uma segunda rede que tenta distinguir esse conteúdo gerado de dados reais (discriminadora). Esse duelo contínuo resulta em imagens e vídeos cada vez mais realistas.

Atualmente, há uma variedade de plataformas amplamente acessíveis que possibilitam a geração desses tipos de conteúdo, incluindo MidJourney, Stable Diffusion e Photoshop AI. Essas plataformas têm se tornado ferramentas poderosas para profissionais de diversas áreas, desde artistas gráficos até cientistas de dados. No entanto, essa mesma tecnologia pode ser uma espada de dois gumes. Enquanto muitas dessas plataformas vêm com restrições e regras que limitam a geração de imagens para determinados comandos, o fato é que várias variações desses softwares podem ser modificadas por usuários com conhecimentos intermediários em programação.

Esse cenário abre um leque preocupante de possibilidades, uma vez que essas modificações podem desbloquear funcionalidades que foram projetadas para serem restritivas. Assim, qualquer indivíduo com um nível razoável de habilidade em programação pode adaptar esses sistemas para gerar conteúdos que poderiam ser usados para fins nefastos, como a produção de material explícito envolvendo crianças e adolescentes gerados artificialmente.

Como no Brasil, uma considerável parte desses crimes está relacionado à comercialização, divulgação e posse de imagens de crianças ou adolescentes expostos de forma sexualmente explícitas, esse debate se mostra urgente e necessário [3] [4].

Legislação atual: não estamos prontos para IAs
O Brasil possui um arcabouço legal estabelecido para combater a exploração sexual de crianças e adolescentes. A Lei 8.069 de 1990, também conhecida como Estatuto da Criança e do Adolescente (ECA), em seu artigo 240, define o crime de produzir, reproduzir, dirigir, fotografar, filmar ou registrar, por qualquer meio, cena de sexo explícito ou pornográfica, envolvendo criança ou adolescente. Além disso, o Código Penal, através dos artigos 217-A e 218-B, também tipifica crimes relacionados à pedofilia, sendo um deles o estupro de vulnerável e o outro a satisfação da lascívia mediante a presença de criança ou adolescente.

É relevante notar que essas leis foram elaboradas em um contexto onde a tecnologia de IA como conhecemos hoje não existia. Elas se aplicam claramente a situações onde há uma vítima humana envolvida. Entretanto, com a emergência de tecnologias como GANs, que podem criar imagens extremamente realistas de pessoas que não existem, surge uma lacuna legal. Por exemplo, seria possível argumentar que, em casos onde as imagens são geradas artificialmente e não envolvem crianças reais, não há, tecnicamente, uma “vítima” como descrito na legislação vigente.

Outra questão intrincada é a definição de idade nas imagens geradas artificialmente. As leis atuais exigem a existência de uma vítima claramente identificável e sua idade para a configuração do crime. No cenário de imagens geradas por IA, quem ou que tipo de análise determinará a idade da pessoa representada na imagem?

O preocupante é que, será muito frágil a argumentação da aplicação de penas a este tipo de crime por interpretação analógica das leis existentes, tendo em vista o posicionamento do STF e STJ que o uso da analogia somente é aplicado em sentido in bonam partem, ou seja, para beneficiar o réu, sendo vedada in malam partem, ou seja, para agravar a situação do réu, é vedada [5].

Dadas essas complexidades, é imperativo que o sistema legal brasileiro evolua para abordar esses novos desafios. O rápido avanço tecnológico exige uma atualização igualmente ágil nas nossas leis e regulamentações. Esta é uma necessidade não apenas para proteger as vítimas de crimes existentes, mas também para antecipar e prevenir novas formas de exploração que possam surgir.

Desafios jurídicos
À medida que as tecnologias de Inteligência Artificial avançam, desafios significativos surgem para o sistema jurídico brasileiro, especialmente no que diz respeito à criminalização da exploração sexual de crianças e adolescentes. Abaixo, discutiremos alguns dos principais desafios:

Determinação da “vítima”
Em conformidade com a legislação atual, a existência de uma vítima é um elemento fundamental para a configuração de um crime [6]. Entretanto, as tecnologias de IA, como as GANs, têm a capacidade de criar imagens que não envolvem indivíduos reais, o que levanta a pergunta: pode haver um crime quando não há vítima humana direta? Essa questão desafia o entendimento tradicional e exige uma revisão conceitual do que constitui a exploração sexual de menores.

Estabelecimento da idade: questão de perícia e objetividade
O segundo desafio, possivelmente um dos mais complexos, é o estabelecimento da idade das figuras representadas nas imagens criadas por IA. A legislação brasileira, sobretudo o ECA e o Código Penal, depende fortemente da clara identificação da idade da vítima [7] para a caracterização do delito. No entanto, as figuras criadas artificialmente colocam um desafio nesse sentido, já que não possuem documentos ou testemunhas que possam atestar sua idade.

Mas quem ou que tipo de perícia seria suficientemente habilitado para tal tarefa? Na esfera jurídica tradicional, peritos em medicina legal poderiam ser chamados para avaliar a idade aparente de uma pessoa por meio de exames físicos, mas esses métodos são intrinsecamente limitados quando aplicados a imagens digitais. Se até no mundo real ocorrem confusões sobre a idade de pessoas, em se tratando de de imagens digitais, as margens para erro e subjetividade aumentariam exponencialmente, podendo ser facilmente utilizada como argumento de defesa por advogados criminais.

Seriam necessários critérios objetivos estabelecidos cientificamente para a determinação da idade aparente de imagens geradas por IA.

A dificuldade reside em formular esses critérios de forma que possam ser universalmente aplicados, algo quase impossível dado o nível de realismo e diversidade que essas tecnologias podem alcançar. Podemos nos perguntar se seriam necessários novos campos de perícia tecnológica e psicológica especializados em IA para abordar esse desafio específico.

A criação de protocolos de perícia técnicos, embasados em metodologias científicas, poderia ser uma saída para essa questão.

No entanto, tais protocolos exigiriam uma colaboração interdisciplinar entre tecnólogos, juristas e profissionais de saúde para garantir sua eficácia e aplicabilidade, resultando em um processo de revisão e atualização contínua da legislação e da perícia forense.

Facilitação e incitação
Outro desafio reside na capacidade dessas tecnologias de facilitar ou incitar crimes contra menores, mesmo quando não estão diretamente envolvidas na produção de material explícito. A questão aqui é se o uso dessas tecnologias, ainda que não envolva vítimas reais, deveria ser considerado como facilitação ou incitação a crimes, sujeito às mesmas penalidades.

Jurisprudência e precedentes
A falta de precedentes judiciais envolvendo casos de IA e exploração infantil dificulta a aplicação das leis existentes. Em muitas situações, os tribunais baseiam-se em casos anteriores para tomar decisões, e a falta desses precedentes torna incerto o caminho jurídico a ser seguido.

Atualização legislativa
O cenário tecnológico está em constante evolução, o que exige uma atualização contínua das leis. Isso representa um desafio particularmente complicado para o sistema legal, que tradicionalmente não é ágil o suficiente para acompanhar as mudanças tecnológicas.

Em suma, o surgimento de tecnologias avançadas de IA desafia a eficácia da legislação penal brasileira atual, expondo lacunas e ambiguidades que precisam ser abordadas urgentemente. Cabe aos legisladores, juristas e à sociedade como um todo engajar-se em discussões robustas e fundamentadas para atualizar nosso sistema legal, a fim de proteger eficazmente crianças e adolescentes contra novas formas de exploração que podem surgir com o advento dessas tecnologias.

Questões éticas: labirinto inexplorado
A evolução das tecnologias de IA e suas aplicações práticas abrem um amplo campo de questionamentos éticos que transcendem as esferas jurídicas e sociais. Embora a tecnologia possa ser uma ferramenta valiosa para diversos setores, seu uso indevido ou inescrupuloso levanta preocupações éticas significativas, principalmente quando se trata de criar representações de menores em contextos sexualmente explícitos, mesmo que fictícios.

Não é difícil imaginar um cenário onde uma pessoa poderia argumentar que as imagens geradas não são “reais”, logo não há vítima [8]. Este é um argumento que, embora tecnicamente possa ser verdadeiro, é profundamente problemático do ponto de vista ético. A criação e disseminação dessas imagens poderia normalizar e até incentivar comportamentos predatórios, colocando em risco crianças e adolescentes reais.

Além disso, as imagens geradas por IA podem ser quase indistinguíveis de imagens reais, tornando quase impossível para um observador comum determinar sua origem. Esta ambiguidade apresenta um terreno fértil para defesas jurídicas que poderiam invalidar acusações e enfraquecer a eficácia das leis existentes. A sociedade e o universo jurídico têm o dever ético de endereçar estas questões de forma séria e ponderada.

É importante frisar que a discussão aqui apresentada não tem o intuito de fornecer argumentos de defesa para atos ilícitos ou imorais, mas sim o de abrir um debate necessário e urgente. A falta de clareza e os vazios legais existentes podem não apenas permitir brechas para a prática de crimes mas também resultar em acusações frágeis que podem ser facilmente desmontadas em tribunal por advogados habilidosos. Assim, o chamado é para que a sociedade e o meio jurídico iniciem esse importante debate, visando criar caminhos claros e eficazes para a proteção de crianças e adolescentes, bem como para o fortalecimento do sistema legal como um todo.

Perspectivas futuras
Estamos indiscutivelmente adentrando uma era onde a tecnologia e, em particular, a Inteligência Artificial, estão reformulando não apenas nossa vida cotidiana, mas também os sistemas e estruturas sociais que mantemos como dados. Esse novo panorama apresenta desafios únicos e inexplorados para a comunidade jurídica. Advogados de defesa, promotores e, especialmente, juízes terão que se adaptar a essa nova realidade tecnológica para aplicar a lei de forma eficaz e justa.

A formação contínua desses profissionais do Direito precisará incluir um entendimento profundo de tecnologias emergentes e suas implicações. Já não será suficiente ter apenas um entendimento teórico do Direito Penal; um entendimento técnico sobre como essas tecnologias funcionam será igualmente vital. Isso inclui, mas não se limita a, compreender como algoritmos de GANs geram imagens e áudios, como eles são distribuídos na internet e quais são as potenciais brechas para uso indevido.

Além disso, como estes avanços tecnológicos frequentemente cruzam fronteiras internacionais, há uma necessidade imperativa de cooperação jurídica internacional. As leis de um país podem não ser suficientes para lidar com crimes cometidos através de uma rede global, e isso requer um esforço coordenado para atualizar e harmonizar as legislações. É um desafio colossal, mas crucial, pois os criminosos estão se adaptando rapidamente às novas tecnologias, e o sistema legal não pode ficar para trás.

O papel do judiciário não será apenas o de interpretar a lei no contexto dessas novas tecnologias, mas também o de influenciar as discussões legislativas sobre a necessidade de reformas legais. A justiça precisa ser dinâmica e adaptável para proteger os vulneráveis e punir os culpados de forma eficaz.

Não se sabe se a evolução da lei vai conseguir acompanhar a evolução tecnológica, estabelecendo mecanismos de controle e penalidades para novas formas de crimes que ainda não foram concebidas pelo nosso sistema jurídico. A corrida já começou, e quem não se atualizar estará inevitavelmente em desvantagem.

Necessidade de atuação proativa e coordenada
O advento e a rápida evolução das tecnologias de Inteligência Artificial geram tanto oportunidades incríveis quanto dilemas éticos e jurídicos inéditos, alguns dos quais exploramos neste artigo. Estes dilemas não são simplesmente questões para o futuro: eles já estão conosco, exigindo uma resposta imediata e ponderada da sociedade e, em particular, dos operadores do Direito.

A capacidade de criar imagens, vídeos e áudios realistas de seres humanos através de IA como GANs traz ao sistema legal desafios que vão desde o estabelecimento de idade em imagens geradas até o próprio conceito de vitimização. A urgência desses desafios nos obriga a iniciar um diálogo aberto e informado, pautado por evidências e guiado por princípios éticos e jurídicos sólidos.

Por mais complexo que seja esse cenário, ele também oferece uma oportunidade para a advocacia e a jurisprudência se modernizarem e se adaptarem às demandas de nosso tempo. Como representantes da lei e guardiães da justiça, é nossa responsabilidade não apenas responder a esses desafios, mas também antecipá-los sempre que possível. A iniciativa para ação proativa e coordenada não deve ser adiada.

Assim, este artigo não é um ponto final, mas sim um ponto de partida. Serve como um chamado à ação para advogados, promotores, juízes, legisladores e a sociedade como um todo, para iniciar essa discussão vital. Jogamos luz sobre essa área obscura com a intenção de incitar o debate e promover a busca por soluções jurídicas que possam encontrar caminhos claros e seguros para a proteção de crianças e adolescentes, evitando, assim, que brechas legais possam ser exploradas indevidamente.

[1] https://www.bbc.com/portuguese/articles/c13m42n8e2go: As imagens falsas de crianças nuas geradas por inteligência artificial que chocaram cidade da Espanha

[2] https://agenciabrasil.ebc.com.br/geral/noticia/2023-05/imagens-de-abuso-sexual-infantil-online-crescem-70-no-Brasil-em-2023

[3] https://www12.senado.leg.br/noticias/materias/2022/06/06/projeto-aumenta-pena-para-registro-venda-e-exposicao-de-pornografia-infantil: Segundo a SaferNet Brasil, nos primeiros quatro meses de 2021, houve um aumento de 33,45% das denúncias envolvendo pornografia infantil na internet. No período, 15.856 páginas foram denunciadas por indício de crime

[4] https://agenciabrasil.ebc.com.br/geral/noticia/2023-05/imagens-de-abuso-sexual-infantil-online-crescem-70-no-Brasil-em-2023 Em 2023, a quantidade de imagens de abuso e exploração sexual infantil encontradas na internet cresceu 70% no primeiro quadrimestre do ano, na comparação com 2022, sendo a maior alta desde 2020. No período, a organização não governamental SaferNet recebeu 23.777 denúncias, remetidas para apuração ao Ministério Público Federal

[5] Súmula nº 611 STF: é inadmissível a analogia in malam partem em matéria penal / Súmula n. 438, STJ: não se aplica ao processo penal a analogia in malam partem

[6] Teoria Geral da Penal, A Pena e a Lei, Guilherme de Souza Nucci

[7] Art. 2º – Estatuto da Criança e do Adolescente

[8] https://pt.euronews.com/next/2023/09/20/adolescentes-espanhois-receberam-nudes-ia-deepfake-de-si-proprios-sera-isso-um-crime  Segundo Manuel Cancio, professor de Direito Penal na Universidade Autónoma de Madrid, em entrevista à Euronews, o código penal Neerlandês é o único no mundo com previsão sobre essas questões.