Deepfakes na mira: Estados dos EUA já criam leis para evitar falsos nudes de adolescentes criados por IA

• Na mira: UE abre investigação contra TikTok Lite, alegando que app pode levar usuários a desenvolver vício
• ‘Deepfake’ como negócio: Empresas de IA ultrarrealista geram indústria de bilhões, mas riscos on-line crescem

Tudo correu bem. Até que, alguns semanas depois, ela e outras estudantes souberam que um colega de classe estava compartilhando nudes falsos das meninas que haviam comparecido ao baile - imagens sexualmente explícitas que ele havia criado usando um aplicativo de inteligência artificial generativa projetado para, automaticamente, "despir" fotos de meninas e mulheres reais.

Caroline, com 15 anos, correu para alertar seu pai, Mark, um senador democrata de Washington. Ela não estava entre as meninas das fotos, mas perguntou a ele se algo poderia ser feito para ajudar suas amigas, que se sentiam "extremamente desconfortáveis" por colegas terem visto imagens simulando nudez delas.

• FraudGPT: O 'irmão' do ChatGPT usado para criar golpes e outras ameaças digitais

Foi então que Mark Mullet e um colega na Câmara Estadual propuseram legislação para proibir o compartilhamento de representações sexualmente explícitas geradas por IA de menores reais.

"Eu odeio a ideia de ter que me preocupar com isso acontecendo novamente com qualquer uma das minhas amigas, minhas irmãs ou até mesmo comigo mesma", disse Caroline Mullet aos legisladores estaduais durante uma audiência sobre o projeto de lei em janeiro.

• IA x IA: Empresas aplicam inteligência artificial contra crimes digitais que usam a mesma tecnologia

A legislação estadual aprovou o projeto de lei sem oposição. O governador Jay Inslee, um democrata, o assinou o projeto no mês passado.

Os estados estão na linha de frente para coibir casos de exploração sexual e assédio nas escolas. Meninos em todo os Estados Unidos têm usado aplicativos amplamente disponíveis de "nudificação" para fabricar imagens sexualmente explícitas de suas colegas e, em seguida, circular as imagens falsas através de chats em grupo em aplicativos como Snapchat e Instagram.

Agora, impulsionados pelos relatos preocupantes de adolescentes como Caroline, legisladores federais e estaduais estão correndo para promulgar proteções na tentativa de acompanhar aplicativos de IA exploradores.

Desde o início do ano passado, pelo menos duas dezenas de estados introduziram projetos de lei para combater imagens sexualmente explícitas geradas por IA - conhecidas como deepfakes - de pessoas menores de 18 anos, de acordo com dados compilados pelo Centro Nacional de Crianças Desaparecidas e Exploradas, uma organização sem fins lucrativos. E vários estados promulgaram as medidas.

• ‘Deepfake’ com Taylor Swift: imagens reacendem temor sobre explosão de conteúdos nocivos ou prejudiciais gerados por IA

Entre eles, Dakota do Sul aprovou uma lei este ano que torna ilegal possuir, produzir ou distribuir material de abuso sexual gerado por IA que represente menores reais. No ano passado, Louisiana promulgou uma lei sobre deepfakes que criminaliza representações sexualmente explícitas geradas por IA de menores.

"Eu senti uma urgência ao ouvir sobre esses casos e o quanto de dano estava sendo feito", disse a deputada Tina Orwall, democrata, que redigiu a lei de deepfakes explícitos de Washington após ouvir sobre incidentes como o da Issaquah High.

Alguns legisladores e especialistas em proteção infantil dizem que essas regras são urgentemente necessárias porque a fácil disponibilidade de aplicativos de nudificação de IA está permitindo a produção em massa e distribuição de imagens falsas e gráficas que podem potencialmente circular online por toda a vida, ameaçando a saúde mental, reputações e segurança física das meninas.

"Um garoto com seu celular no curso de uma tarde pode vitimar 40 meninas, meninas menores de idade", disse Yiota Souras, diretora jurídica do Centro Nacional de Crianças Desaparecidas e Exploradas, "e então suas imagens estão por aí."

• NVIDIA: O que faz a empresa que dobrou de valor em 9 meses e entrou no seleto clube dos US$ 2 trilhões?

Nos últimos dois meses, incidentes de deepfakes nus se espalharam em escolas - incluindo em Richmond, Illinois, e Beverly Hills e Laguna Beach, Califórnia.

O código legal dos EUA proíbe a distribuição de material de abuso sexual infantil gerado por computador que represente menores identificáveis envolvidos em condutas sexualmente explícitas. No mês passado, o FBI emitiu um alerta avisando que tal material ilegal incluía imagens realistas de abuso sexual infantil geradas por IA.

Agora, os estados estão trabalhando para aprovar leis para interromper imagens exploradoras de IA. Este mês, a Califórnia introduziu um projeto de lei para atualizar uma proibição estadual de material de abuso sexual infantil para cobrir especificamente material abusivo gerado por IA.

E legisladores de Massachusetts estão finalizando uma legislação que criminalizaria o compartilhamento não consensual de imagens explícitas, incluindo deepfakes. Também exigiria que uma entidade estadual desenvolvesse um programa de desvio para menores que compartilhassem imagens explícitas para ensiná-los sobre questões como o "uso responsável da inteligência artificial generativa".

• Cantora: X bloqueia buscas por Taylor Swift após cantora ser alvo de deepfake

As punições podem ser severas. Sob a nova lei da Louisiana, qualquer pessoa que conscientemente criar, distribuir, promover ou vender deepfakes sexualmente explícitos de menores pode enfrentar uma sentença mínima de cinco a 10 anos de prisão.

A nova lei de deepfake no estado de Washington adota uma abordagem diferente.

Após saber do incidente na escola pela sua filha, Mark Mullet procurou Orwall, uma defensora de sobreviventes de agressão sexual e ex-assistente social. Orwall, que havia trabalhado em um dos primeiros projetos de lei sobre pornografia de vingança do estado, então redigiu um projeto de lei na Câmara para proibir a distribuição de imagens íntimas ou sexualmente explícitas geradas por IA de menores ou adultos. (Mullet, que patrocinou o projeto de lei do Senado, agora está concorrendo a governador.)

• 'Central dos vazamentos': Banco de dados reúne informações de 26 bilhões de registros e vende informações. Há brasileiros na lista

De acordo com a nova lei, os infratores primários podem enfrentar acusações de contravenção, enquanto pessoas com condenações anteriores por divulgar imagens sexualmente explícitas enfrentariam acusações de crime. A nova lei de deepfake entra em vigor em junho.