Como caso de Taylor Swift pode ajudar vítimas de deepfakes pornográficos

Imagens obscenas de Swift começaram a circular no Twitter em 25 de janeiro. As imagens, que os fãs descrevem como "repugnantes", supostamente originaram-se em um grupo no Telegram dedicado à criação de conteúdo pornográfico artificial de mulheres. Elas ficaram disponíveis por cerca de 17 horas e foram vistas mais de 45 milhões de vezes antes de serem removidas. A rede social bloqueou temporariamente as buscas pelo nome de Swift na tentativa de impedir que outros usuários compartilhassem as fotos.

Em resposta, um grupo de senadores dos EUA apresentou um projeto de lei para criminalizar a distribuição de imagens sexuais não consensuais geradas por IA. Atualmente, não existe uma lei federal nos EUA contra o conteúdo deepfake. Essa legislação tem sido discutida, contudo, principalmente em resposta ao uso da IA generativa em desinformação política.

Mas até que uma lei seja aprovada, as opções de recurso de Swift são limitadas. Ela poderia processar a empresa responsável pela tecnologia ou possivelmente mover uma ação civil contra os criadores, ou distribuidores das imagens. A Microsoft, cujo software foi supostamente usado para criar as imagens, já aplicou restrições para evitar a geração de imagens semelhantes.

O caso de Swift é de alto perfil devido ao seu status de celebridade, mas a pornografia gerada por IA e os deepfakes são um problema que cresce rapidamente à medida que a tecnologia se torna mais acessível. Atualmente, leva apenas 25 minutos e custa nada para criar pornografia artificial.

Quase todo o conteúdo deepfake é de natureza pornográfica e quase sempre retrata mulheres. Embora celebridades sejam frequentemente alvo, a realidade é que qualquer pessoa com sua imagem poderia facilmente criar imagens pornográficas usando sua semelhança.

Embora as imagens sejam falsas, o impacto prejudicial dessa experiência é muito real. Estudos sobre o compartilhamento não consensual de imagens pornográficas ou íntimas documentaram os sentimentos de violação e vergonha sentidos pelas vítimas. Ansiedade, depressão e Transtorno de Estresse Pós-Traumático (TEPT) são resultados comuns dessa experiência.

Como as vítimas frequentemente se culpam ou enfrentam a culpa dos outros, pode ser difícil seguir em frente. Além disso, a natureza digital do compartilhamento de imagens sexuais significa que as vítimas precisam viver com o medo constante de que sua foto seja compartilhada repetidamente.

A atriz Jennifer Lawrence e a personalidade da televisão Georgia Harrison, ambas vítimas famosas de abuso sexual baseado em imagens, discutiram como seu status de celebridade aumentou a escala e o alcance de suas próprias experiências.

A pornografia deepfake e outras formas de abuso sexual digital às vezes são descartadas como um dano "menor" do que o assédio sexual físico por causa de sua natureza online. Um caso de alto perfil como o de Swift pode ajudar a chamar a atenção para o impacto genuíno dessas imagens nas vítimas.

O fato de não ser "realmente" o corpo dela não diminui a seriedade. Uma pesquisa mostra mostram que a "pornificação" de fotos não explícitas usando photoshop ou IA pode ser tão prejudicial quanto para a pessoa retratada. A intenção por trás dessas imagens não é apenas sexual — a degradação e humilhação da vítima são resultados igualmente desejados.

Através da Lei de Segurança Online, a legislação do Reino Unido agora criminaliza a distribuição (embora não a criação) de imagens íntimas feitas ou alteradas digitalmente. Embora a mudança tenha sido bem recebida por ativistas, ainda existem barreiras que impedem as vítimas de buscar justiça.

Como ocorre com a violência sexual de forma mais ampla, incidentes de compartilhamento não consensual de imagens sexuais frequentemente não são denunciados. Quando são denunciados, a má resposta da polícia pode agravar os danos.

As taxas de acusação são baixas, muitas vezes devido à falta de evidências ou à retirada do apoio das vítimas. A falta de orientação dos policiais, a falta de garantia de anonimato ou o medo de represálias do agressor são apenas alguns dos fatores que podem levar alguém a decidir não dar continuidade a um caso.

Esta não seria a primeira vez que Swift toma medidas legais contra o machismo. Em 2017, ela venceu sua reivindicação contra um ex-DJ de rádio que a agarrou durante um meet & greet. Ela solicitou apenas US$1 (R$4,95) em indenização, afirmando que queria usar o caso para se posicionar contra a violência sexual.

Embora o status de celebridade de Swift a torne um alvo, sua fama traz vantagens que muitas vítimas de violência sexual não têm, como ela observou no rescaldo de seu julgamento em 2017. Sua plataforma, riqueza e influência lhe deram os meios para falar quando outros não podem.

O "efeito Taylor Swift" provou ser uma força econômica poderosa. Se ela escolher tomar medidas contra os criadores das imagens, isso poderia ser um caso emblemático contra a pornografia artificial. Aumentar a conscientização pública pode encorajar as vítimas e pressionar os órgãos governamentais ao redor do mundo para uma melhor aplicação da lei.

*Jade Gilbourne é doutoranda em Sociologia na Universidade de York, na Inglaterra

Este artigo foi originalmente publicado em inglês no site The Conversation.