Em janeiro de 2024, um funcionário da empresa britânica Arup, em Hong Kong, participou de uma videoconferência com o que pareciam ser o diretor financeiro da companhia e vários colegas. Todos falavam, gesticulavam e respondiam perguntas. Entretanto, eram apenas o produto de uma fraude com inteligência artificial. Ao final da reunião, o funcionário havia autorizado quinze transferências bancárias para cinco contas diferentes, totalizando HK$ 200 milhões (aproximadamente US$ 25,6 milhões). Os fundos jamais foram recuperados [1].
As perdas financeiras globais atribuídas ao uso fraudulento de conteúdo gerado por IA são preocupantes. A Deloitte projeta que somente nos Estados Unidos o prejuízo será de US$ 40 bilhões até 2027 [2]. O Brasil ocupa posição particularmente desconfortável nesse cenário: contatou-se 822% de crescimento de problemas desse tipo em 2024 em relação ao ano anterior [3]. A Kaspersky noticia que os fraudadores conseguem contratar como serviço a produção de material audiovisual adulterado na dark web de forma cada vez mais barata [4].
O fenômeno ainda não é apreendido com clareza pelo sistema jurídico. No Brasil, o artigo 5º, X, da Constituição, a disciplina dos direitos da personalidade do Código Civil, o Marco Civil da Internet, a LGPD e a Lei 14.811/2024 formam o arcabouço normativo básico sobre o tema. Entretanto, na doutrina ainda não existem categorias assentes para o seu enfrentamento. A terminologia estrangeira geralmente empregada para identificá-lo (deepfake) é problemática desde a origem, como se verificará adiante. A partir de ideias expostas em palestra que proferi no II Encontro Nacional do Clube Literário de Direito Privado [5], apresentam-se algumas contribuições iniciais sobre o tema, de modo a contribuir com o debate.
Miragem que o Direito ainda não nomeou
O nome deepfake vem de deep learning, técnica de inteligência artificial baseada em redes neurais que aprendem a reconhecer e reproduzir padrões [6], combinado com fake (falso). Foi cunhado em 2017 por um usuário anônimo do Reddit que publicava vídeos pornográficos não consensuais de celebridades [7]. O neologismo carrega a marca de sua origem. Como observam Chesney e Citron em estudo seminal publicado pela California Law Review, o fenômeno representa um desafio para a privacidade, a democracia e a segurança nacional, cujos efeitos mais perversos incluem o que os autores denominam liar’s dividend: a mera existência de falsificações convincentes abre margem para que mentirosos contestem evidências legítimas visando evitar a responsabilização por fatos que efetivamente ocorreram [8].
A literatura técnica geralmente classifica o fenômeno pelo suporte: vídeo, áudio, imagem estática e conteúdo híbrido. A literatura jurídica, quando existe, enumera danos sem sistematizá-los. Ainda não existe uma taxonomia estruturada por finalidade e tipo de dano que esteja bem estabelecida e possa ajudar na solução dos casos concretos.
A proposta desta coluna é denominar o gênero de material audiovisual ultraforjado (MAU) e organizá-lo em categorias funcionais. O prefixo “ultra” não é retórica: distingue a falsificação gerada por redes neurais profundas, indistinguível a olho nu, das manipulações anteriores à IA generativa. “Forjado” preserva a conotação jurídica de intencionalidade ilícita. “Material audiovisual” circunscreve o suporte, incluindo imagens estáticas, vídeos e áudios.
A escolha de “miragem” como metáfora subjacente decorre do fato de que parece ser real para quem a vê, mas não tem existência material: desaparece quando se tenta alcançá-la. É a descrição jurídica do MAU.
Proposta inicial de taxonomia funcional
A taxonomia básica aqui apresentada opera pelo critério da finalidade predominante, sem prejuízo da possível sobreposição entre categorias. Não são hipóteses excludentes, mas a sua visualização pode contribuir para melhor entender grupos de casos. O material audiovisual ultraforjado (MAU) pode ser:
Financeiro-fraudulento. Uso do material para obter vantagem patrimonial ilícita mediante engano. Além do caso Arup, outro exemplo foi o golpe operado por uma quadrilha de vinte e sete pessoas em Hong Kong, desarticulada em outubro de 2024: universitários operavam a partir de um galpão industrial de 370 m2, mantendo videochamadas com homens em toda a Ásia que acreditavam estar em relacionamentos românticos com mulheres atraentes, todas geradas por IA. O prejuízo total superou US$ 46 milhões [9].
Biométrico-identitário. Uso para fraudar sistemas automatizados de verificação de identidade: reconhecimento facial bancário, autenticação por voz e verificação de documentos. A fraude cria desafios significativos em matéria de cibersegurança. Muitas vezes, a responsabilização de instituições financeiras depende exatamente da comprovação da identidade do usuário em determinada operação.
Sexual não consensual. A categoria numericamente mais expressiva. Dados de 2023 indicam que 98% de todos os materiais audiovisuais ultraforjados disponíveis online têm conteúdo pornográfico, e 99% das vítimas são mulheres [10]. O tema merece tratamento próprio e aprofundado [11], que extrapola os limites desta coluna. Registra-se apenas que a Lei 14.811/2024 inaugurou o primeiro quadro penal específico no Brasil para a manipulação de imagem com fins sexuais.
Político-eleitoral. Uso para manipular processos democráticos. O Brasil dispõe, desde 2 de março de 2026, da Resolução nº 23.755 do Tribunal Superior Eleitoral (TSE), que vem sendo descrita por observadores internacionais como um dos marcos regulatórios mais abrangentes do mundo sobre IA em eleições, cujas disposições merecem reconhecimento como avanço institucional relevante.
Difamatório-reputacional. Uso que macula a reputação da vítima. Um caso brasileiro emblemático envolveu o dr. Drauzio Varella: a plataforma “Britesflix” vendia cursos para criação de materiais audiovisual ultraforjados de figuras públicas e os utilizava para promover produtos de saúde fraudulentos. Por meio do processo nº 1078499-98.2025.8.26.0100, o TJ-SP determinou a remoção dos conteúdos e fixou reparação por danos morais. O interesse do caso para o Direito Civil não é apenas o resultado. É a pergunta que ele deixa aberta: como se quantifica a perda de credibilidade de um médico cuja imagem foi usada para vender charlatanismo?
Comercial não autorizado. Uso da imagem ou voz de pessoa real em contexto publicitário ou de entretenimento, com finalidade lucrativa, sem consentimento. Distingue-se do difamatório porque não há necessariamente dano à honra: há exploração econômica da identidade alheia.
Probatório. Categoria paradoxal e de crescente relevância: o uso do MAU dentro de processos judiciais, seja para constituir prova falsa, seja para negar a autenticidade de prova verdadeira, que é a dimensão mais inquietante. Em setembro de 2025, um tribunal da Califórnia extinguiu o processo Mendones v. Cushman & Wakefield [12] sem resolução do mérito e com a fixação de sanções ao descobrir que os autores haviam submetido vídeos ultraforjados como evidência.
De extorsão e controle. Uso como instrumento de coerção para extorquir dinheiro, silenciar vítimas ou exercer controle sobre comportamento alheio. Tem interface direta com o crime de extorsão e com a disciplina da violência psicológica na Lei Maria da Penha.
Problema da extensão do dano causado pelo MAU
A regra brasileira de que “[a] indenização mede-se pela extensão do dano” (CC, artigo 944) pressupõe que o dano seja mensurável. O MAU cria danos que resistem sistematicamente à mensuração.
Tome-se o caso ocorrido em fevereiro de 2025 na Itália. Golpistas clonaram a voz do ministro da Defesa Guido Crosetto com precisão suficiente para convencer empresários da elite italiana, entre eles Giorgio Armani, Patrizio Bertelli da Prada e o ex-proprietário da Internazionale de Milão, de que precisavam transferir recursos urgentes para libertar jornalistas italianos sequestrados. Um dos alvos transferiu €1 milhão para uma conta em Hong Kong. Os fundos foram congelados pela polícia holandesa antes de desaparecerem completamente [13]. O somatório indevidamente transferido, nesse caso, foi recuperável. Entretanto, o dano à confiança institucional, à convicção de que uma voz é prova de identidade, é de valoração extremamente difícil.
O custo de produção de um MAU sofisticado pode ser inferior a US$ 10 mil. Essa assimetria entre o custo de criação e a extensão do dano é estrutural e não acidental. Desafia a lógica comum da reparação em pelo menos seis dimensões: a conversão do dano reputacional intangível em perda econômica mensurável; os danos em cascata gerados por um único MAU; a impossibilidade de mensurar o alcance real da disseminação viral; o anonimato frequente dos perpetradores; a impossibilidade da técnica forense atual de determinar com certeza se um conteúdo é ou não ultraforjado; e a fragmentação jurisdicional de crimes que cruzam múltiplas fronteiras em milissegundos.
Diante desses limites, alguns instrumentos são úteis: o dano in re ipsa, consolidado pelo STJ para o uso indevido de imagem, que dispensa a prova de prejuízo concreto; o arbitramento judicial, que permite ao juiz estimar o dano com razoabilidade quando a quantificação exata é impossível; e o disgorgement dos lucros obtidos pelo uso indevido da identidade alheia. Em termos legislativos, há grande discussão sobre o velho tema da tarifação dos danos. Nos Estados Unidos, por exemplo, após a aprovação pelo Senado, tramita na House of representatives o DEFIANCE Act, que, em linhas gerais, prevê a fixação dos danos entre US$ 150 mil e US$ 250 mil por vítima.
Permanece o valor da leitura e das perguntas na era da inteligência artificial
Em julho de 2024, executivos da Ferrari foram contatados por alguém que imitava a voz do CEO Benedetto Vigna, com sotaque do sul da Itália incluído, para negociar, sob sigilo, uma grande aquisição. Um executivo desconfiou de sutilezas na entonação e fez uma pergunta aparentemente banal: qual livro Vigna havia recomendado recentemente? O impostor não soube responder. Não teve outra opção senão desistir do golpe [14].
O debate doutrinário sobre o qual se pretendeu contribuir nesta coluna é o equivalente jurídico da pergunta sobre o livro: um teste de realidade num mundo em que se tornou difícil distinguir a autenticidade mesmo daquilo que se vê e ouve com clareza. Formular boas perguntas e construir as categorias pertinentes é complexo. Nomear o fenômeno é o primeiro passo. Material audiovisual ultraforjado é a proposta que se submete à análise dos leitores deste privilegiado espaço de debate.
* Esta coluna é produzida pelos membros e convidados da Rede de Pesquisa de Direito Civil Contemporâneo (USP, Humboldt-Berlim, Coimbra, Lisboa, Porto, Girona, UFMG, UFPR, UFRGS, UFSC, UFPE, UFF, UFC, UFBA e UFMT).
[1] CHEN, Heather; MAGRAMO, Kathleen. Finance worker pays out $25 million after video call with deepfake “chief financial officer”. CNN, 4 fev. 2024. Disponível aqui.
[2] LALCHAND, Satish; SRINIVAS, Val; MAGGIORE, Brendan; HENDERSON, Joshua. Generative AI is expected to magnify the risk of deepfakes and other fraud in banking. Deloitte Insights, 29 maio 2024. Deloitte Center for Financial Services. Disponível aqui.
[3] SUMSUB. Deepfake cases surge in countries holding 2024 elections. Disponível aqui.
[4] KASPERSKY. How scammers have mastered AI: deepfakes, fake websites, and phishing emails. Kaspersky Official Blog, 26 set. 2025. Disponível aqui.
[5] Realizado nos dias 26 e 27 de março de 2026 em Salvador, na Faculdade de Direito da UFBA. Recomenda-se aos leitores da coluna que conheçam o perfil do Instagram @bibliotecadedireitoprivado, mantido pelo prof. Dante Carbonar, presidente do Clube.
[6] Para uma explicação sobre o tema, vide COSTA NETO, Geraldo. Criações de inteligência artificial: reflexos nos direitos de patentes. Rio de Janeiro: Lumen Juris, 2021. P. 29-32.
[7] O subreddit r/deepfakes foi criado em novembro de 2017 e banido pelo Reddit em fevereiro de 2018. Sobre a origem do termo, v. BIRRER, Alena; JUST, Natascha. What we know and don’t know about deepfakes: an investigation into the state of the research and regulatory landscape. New Media & Society, Londres, v. 26, n. 10, p. 5595-5619, out. 2024; e VOLKERT, Robert; AJDER, Henry. Analyzing the commoditization of deepfakes. N.Y.U. Journal of Legislation & Public Policy, Nova York, v. 22, 2020. Disponível aqui.
[8] CHESNEY, Robert; CITRON, Danielle Keats. Deep fakes: a looming challenge for privacy, democracy, and national security. California Law Review, Berkeley, v. 107, n. 6, p. 1753-1820, dez. 2019. P. 1758.
[9] CNN. Deepfake romance scam raked in $46 million from men across Asia, police say. CNN, 15 out. 2024. Disponível aqui.
[10] HOME SECURITY HEROES. 2023 State of Deepfakes: realities, threats, and impact. Disponível aqui.
[11] Aos interessados no tema, recomenda-se a leitura da monografia ALVES, Tatiana Caldeira. Deepfake sexual: responsabilidade civil pelo uso de IAs para geração de conteúdo pornográfico não consentido de mulheres adultas. Orientador: Técio Spínola Gomes. 2024. Monografia (Graduação) – Curso de Direito na Faculdade de Direito da Universidade Federal da Bahia, 2024.
[12] CALIFORNIA. Superior Court, County of Alameda. Mendones v. Cushman & Wakefield, Inc. et al. Case No. 23CV028772. Juíza Victoria Kolakowski. Terminating Sanctions Order. 9 set. 2025. Disponível aqui.
[13] EURONEWS. Scammers clone Italian defence minister’s voice with AI in ransom scheme. Euronews, 10 fev. 2025. Disponível aqui.
[14] MIT SLOAN MANAGEMENT REVIEW. How Ferrari hit the brakes on a deepfake CEO. MIT Sloan Management Review, Cambridge, 2024. Disponível aqui.
Seja o primeiro a comentar.
Você precisa estar logado para enviar um comentário.
Fazer login