‘Deepfake’ com Taylor Swift reacende temor sobre explosão de conteúdos nocivos ou prejudiciais gerados por IA

• Swifties: fãs de Taylor Swift se revoltam com fotos pornográficas falsas feitas com inteligência artificial
• Taylor Swift: homem é preso após tentar invadir prédio da cantora

Imagens e vídeos pornográficos deepfake (falsos, mas extremamente realistas) não são novidade, muito menos os que envolvem celebridades. Mas ativistas e autoridades estão preocupados agora com a possibilidade de ferramentas que empregam inteligência artificial generativa criarem uma explosão incontrolável de conteúdos nocivos ou prejudiciais. De acordo com uma pesquisa citada pela revista Wired, nos primeiros nove meses de 2023, 113 mil vídeos deepfake foram carregados nos sites pornográficos mais populares.

Yvette Clarke, uma congressista democrata de Nova York que apoiou uma lei para criminalizar o uso sem consentimento da imagem de qualquer pessoa em situações sexualizadas, destacou que “com os avanços na IA, criar deepfakes ficou mais fácil e barato”.

O legislador republicano Tom Keane alertou que “a tecnologia de inteligência artificial está avançando mais rapidamente do que as barreiras necessárias”. “Quer a vítima seja Taylor Swift, quer seja qualquer jovem do nosso país, devemos implementar salvaguardas para combater esta tendência alarmante”, acrescentou.

Até mesmo a Casa Branca se manifestou, pela primeira vez na História, sobre a urgência de combater a pornografia artificial.

Quando as imagens de Taylor começaram a circular no X, fãs da estrela pop inundaram a rede social com mensagens de protesto. “A única fresta de esperança com o que ocorre com Taylor Swift é que ela provavelmente tem poder suficiente para aprovar uma legislação para derrubar (a pornografia falsa). Vocês estão doentes”, escreveu a influenciadora Danisha Carter no X.

Os fãs postaram a frase “Proteja Taylor Swift” e palavras-chave relacionadas, num esforço para abafar as imagens explícitas e torná-las mais difíceis de serem encontradas. A plataforma X foi além: bloqueou as pesquisas por “Taylor Swift”.

Em comunicado enviado à BBC, o chefe de operações comerciais da empresa, Joe Benarroch, afirmou se tratar de uma “ação temporária” para priorizar a segurança. O dono do X, Elon Musk, anunciou que contratará cem novos moderadores para impedir o compartilhamento em massa de imagens do tipo. Vale lembrar que, ao comprar o site, em 2022, o bilionário demitiu os profissionais que atuavam nessa função, com a justificativa de potencializar a liberdade de expressão na rede.

A Reality Defender, empresa de segurança cibernética focada na detecção de IA, determinou com 90% de confiança que as imagens falsas de Taylor Swift foram criadas usando um modelo de difusão — uma tecnologia orientada por IA acessível através de mais de cem mil aplicativos e modelos disponíveis publicamente.

À medida que a indústria da IA crescia, as empresas correram para lançar ferramentas que permitissem aos usuários criar imagens, vídeos, texto e gravações de áudio com instruções simples. Essas ferramentas já são muito populares e tornam mais fácil e barato do que nunca a criação dos chamados deepfakes, que retratam pessoas fazendo ou dizendo coisas que nunca fizeram ou disseram.

• Sem Taylor Swift, Ariana Grande e Drake: entenda a crise que levou a Universal Music a deixar o TikTok

Os investigadores temem agora que os deepfakes se tornem uma poderosa força de desinformação, ao permitir que pessoas comuns criem imagens falsas de nudez ou retratem candidatos políticos em situações embaraçosas. A inteligência artificial foi usada para criar falas falsas do presidente Joe Biden durante as eleições americanas, e a própria Taylor Swift protagonizou este mês anúncios falsos vendendo utensílios de cozinha. Nem a cantora nem a empresa em questão concordaram ou participaram de fato da “campanha”.

Os legisladores se preparam para outras consequências da inteligência artificial, como o material que retrata de forma realista crianças a serem exploradas sexualmente. A perspectiva de processar esse tipo de crime levanta questões espinhosas sobre se tais imagens são ilegais e que tipo de recurso pode haver para as vítimas. Esse material também torna ainda mais difícil identificar vítimas e combater os abusos.

“Criar imagens sexualmente explícitas de crianças através do uso de inteligência artificial é uma forma particularmente hedionda de exploração on-line”, disse Steve Grocki, chefe da seção de exploração infantil e obscenidade do Departamento de Justiça.

Empresas começam a propor ferramentas para combater o deepfake. A agência de talentos WME anunciou terça-feira uma parceria com a empresa Vermillio que espera proteger seus clientes de que suas imagens sejam mal utilizadas por meio de tecnologia de IA. A Vermillio criou uma plataforma, Trace ID, que pode proteger os clientes WME de roubos de sua imagem e propriedade intelectual usando tecnologia de IA para rastrear imagens. A parceria também buscará formas de usar a tecnologia para permitir que os clientes monetizem sua imagem.

Chefe de estratégias digitais da WME, Chris Jacquemin lembra que hoje não existem recursos avançados para impedir deepfakes. A única forma de detectá-las ainda é esbarrando manualmente nas imagens. “Com a Vermillio, esse processo poderá ser automatizado”, garante.

Os clientes da WME fornecerão seus dados digitais de identificação à Vermillio para serem registrados e protegidos. Essa operação permitirá, de acordo com a empresa, rastrear e autenticar imagens dos clientes que aparecem on-line. Essas imagens poderiam então ser removidas ou os clientes poderiam solicitar o pagamento. Vermillio receberia uma parte dessa receita.