X bloqueia buscas por 'Taylor Swift' após fotos pornográficas falsas feitas com IA viralizarem

• Fotos: Conheça a nova picape de Ana Castela, que custa R$ 530 mil e tem quase 6 metros de comprimento
• Saiba o que aconteceu: Depois de confusão com Davi no BBB 24, web resgata 'treta' de Yasmin Brunet com escola de samba

Em comunicado enviado à BBC, o chefe de operações comerciais de X, Joe Benarroch, afirmou que a suspensão das buscas pelo nome da artista foi uma "ação temporária" para priorizar a segurança.

Uma das imagens foi vista 47 milhões de vezes no X, antigo Twitter, antes de ser removida na quinta-feira. Segundo a mídia americana, a publicação ficou visível na plataforma por cerca de 17 horas.

Imagens pornográficas “deepfake” – falsas, mas extremamente realistas – de celebridades não são novidade. Mas os ativistas e as autoridades estão preocupados com o fato de ferramentas fáceis de usar que empregam inteligência artificial (IA) generativa criarem uma inundação incontrolável de conteúdos tóxicos ou prejudiciais.

O ataque a Swift, segunda artista mais ouvido do mundo na plataforma Spotify, depois do rapper canadense Drake, pode lançar uma nova luz sobre o fenômeno.

“A única fresta de esperança para isso acontecendo com Taylor Swift é que ela provavelmente tem poder suficiente para aprovar uma legislação para derrubá-la. Vocês estão doentes”, escreveu a influenciadora Danisha Carter no X.

X é uma das maiores plataformas de conteúdo pornográfico do mundo, dizem alguns analistas, já que suas políticas de nudez são mais flexíveis do que as das plataformas de propriedade da Meta, Facebook ou Instagram.

Em comunicado, X esclareceu que “a publicação de imagens de nudez não consensual (NCN) é estritamente proibida” em sua plataforma. “Temos uma política de tolerância zero em relação a esse conteúdo”.

A plataforma, de propriedade do magnata Elon Musk, disse inicialmente que estava “removendo ativamente todas as imagens identificadas e tomando as medidas apropriadas contra as contas responsáveis ​​por publicá-las”.

Além disso, sublinhou que estava a “monitorar de perto a situação para garantir que quaisquer novas violações sejam resolvidas imediatamente e que o conteúdo seja removido”.

Os representantes de Swift não responderam imediatamente a um pedido de comentários da AFP.

Yvette Clarke, uma congressista democrata de Nova Iorque que apoiou legislação para combater fotos pornográficas falsas, destacou que “com os avanços na IA, criar deepfakes é mais fácil e barato”.

O legislador republicano Tom Keane alertou que “a tecnologia de inteligência artificial está avançando mais rapidamente do que as barreiras necessárias”.

“Quer a vítima seja Taylor Swift ou qualquer jovem do nosso país, devemos implementar salvaguardas para combater esta tendência alarmante”, acrescentou.