A Advocacia-Geral da União solicitou ao Google que remova dos resultados de busca da plataforma os sites que usam técnicas de inteligência artificial (IA) e deepfake para produzir imagens sexualizadas falsas de pessoas reais. A notificação extrajudicial à big tech foi enviada na quarta-feira (1/4), após solicitação da Secretaria de Comunicação Social da Presidência da República (Secom-PR), com base na pesquisa “Desindexação de sites de ‘nudify’ pelo Google: proteção de direitos humanos e prevenção de violência online contra mulheres, crianças e adolescentes”, publicada pela Fundação Getúlio Vargas do Rio de Janeiro (FGV-Rio).
Por meio da Procuradoria Nacional da União de Defesa da Democracia (PNDD), a AGU expõe o crescente uso de expressões como nudify (produção de imagens sexuais falsas, criadas por meio de IA, também chamado de nudificação) e correlatas, desde meados de 2023, na ferramenta de buscas do Google no Brasil. A pesquisa da FGV-Rio alerta que as principais vítimas de nudificação sem consentimento são mulheres, crianças e adolescentes.
A PNDD requer a adoção de duas medidas pelo Google no prazo de cinco dias. A primeira é a desindexação dos sites de nudificação, a partir de listagem exemplificativa com mais de 40 links que estavam disponíveis no momento da notificação. A outra é a implementação de filtros algorítmicos para impedir indexação futura de sites similares.
Atmosfera misógina
A AGU cita ainda outras pesquisas e relatórios, inclusive de outros países, que apontam “o exponencial crescimento de uma atmosfera misógina nas redes sociais — agravadas (mas não apenas) pelo uso de ferramentas de IA para criar deepfakes (forma de inteligência artificial usada para criar imagens, sons e vídeos falsos convincentes) de mulheres reais”. No caso da Inglaterra, a organização pública independente Children’s Commissioner, ligada ao Departamento de Educação, lançou um extenso relatório sobre o tema em 2025.
De acordo com a AGU, não se nega a responsabilidade do autor direto na criação e distribuição do conteúdo ilícito, ou do próprio desenvolvedor da ferramenta. Ainda assim, “a disponibilidade/indexação dessas ferramentas e sites pelo buscador do Google (ainda que não se consubstancie em hospedeiro direto) tem o condão de facilitar o acesso massivo a essas mesmas ferramentas, alçando-as à mesma categoria de qualquer outro item lícito de busca/interesse”, afirma o órgão.
No documento, os advogados da União destacam que o próprio Google já possui diretrizes específicas a respeito de veiculação de imagens íntimas não consensuais em seus Termos de Uso. Entretanto, apontam que as medidas da plataforma não têm sido suficientes para mitigar os riscos que as ferramentas nudificação carregam, visto que os sites continuam indexados ao buscador.
Dever de cuidado
A notificação reforçou que, conforme definido pelo Supremo Tribunal Federal, as plataformas podem ser responsabilizadas por conteúdos gerados por terceiros nos casos em que, tendo conhecimento dos atos ilícitos, não procedam à remoção imediata do material. Além disso, a AGU alertou que as empresas têm dever de cuidado sobre esses conteúdos. Ou seja, independentemente de notificação, devem buscar impedir a circulação de material que configure crimes graves, como é o caso dos nudes criados por IA sem autorização.
A AGU fundamentou também sua argumentação no dever constitucional do Estado, da sociedade e da família em pôr a salvo a criança e o adolescente de toda forma de negligência, discriminação, exploração, violência, crueldade e opressão. A notificação cita ainda o Marco Civil da Internet e o recente Estatuto Digital da Criança e do Adolescente (ECA Digital), além da Lei Geral de Proteção de Dados e dos Códigos Civil, Penal e de Defesa do Consumidor. Com informações da assessoria de comunicação da AGU.
Seja o primeiro a comentar.
Você precisa estar logado para enviar um comentário.
Fazer login