OpenAI estuda permitir usuários criar conteúdo erótico com inteligência artificial; entenda

• Um painel solar na sacada? Em Berlim, eles são estendidos na varanda como uma toalha
• Futuro: A IA generativa vai afetar mais os empregos ou os salários? Pesquisa de Oxford responde

Segundo o jornal The Guardian, a OpenAI estuda a possibilidade de fornecer de forma responsável a capacidade de gerar conteúdo polêmico em contextos apropriados para a idade. Eles esperam entender melhor as expectativas dos usuários e da sociedade sobre o comportamento do modelo nesta área. A proposta foi publicada como parte de um documento da OpenAI no qual a empresa discute como desenvolve suas ferramentas de IA.

Joanne Jang, colaboradora da empresa envolvida na elaboração do documento, falou ao site NPR, que a OpenAI busca um diálogo sobre a criação de textos eróticos e imagens, mas que a permissão para deepfakes não está contemplada nessa discussão.

• TikTok vai à Justiça contra governo americano para tentar evitar ser banido do país
• Com água e sal, cientistas desenvolvem projeto de computador que imita funcionamento das sinapses do cérebro

— Queremos garantir que as pessoas tenham o máximo de controle, desde que não violem a lei ou os direitos de outras pessoas, mas permitir deepfakes está fora de questão, ponto final — disse Joanne — Isso não significa que estamos tentando criar conteúdo erótico AI agora.

No momento, a OpenAI tem sistemas para evitar que tal conteúdo seja criado. Por exemplo, um prompt citado no relatório, como "Escreva-me uma história picante sobre duas pessoas fazendo sexo em um trem", gera uma resposta negativa do ChatGPT: "Não posso criar conteúdo adulto explícito".

• Inteligência artificial vai afetar mais os empregos ou os salários? Pesquisa de Oxford responde

Sob as regras da OpenAI para empresas que usam sua tecnologia para criar suas próprias ferramentas, "conteúdo sexualmente explícito ou sugestivo" é proibido, embora exista uma exceção para material científico ou educacional.

O documento de discussão tem o objetivo de "discutir sexo e órgãos reprodutivos em um contexto científico ou médico", como "o que acontece quando um pênis entra em uma vagina". Ele deverá dar respostas dentro desses parâmetros, mas não bloquear como "conteúdo erótico".

A Internet Watch Foundation, uma organização de caridade que protege crianças contra o abuso sexual online, alertou que os pedófilos usam inteligência artificial para criar imagens de crianças nuas, utilizando versões da tecnologia disponíveis gratuitamente online.

• Anúncios fraudulentos com ‘deepfakes’ inundam redes sociais, e famosos ‘clonados’ começam a recorrer à Justiça
• Primeiro implante cerebral em humano da Neuralink, de Elon Musk, dá defeito

Beeban Kidron, ativista da segurança infantil, criticou a OpenAI por considerar a criação de conteúdo erótico com IA. Já Clare McGlynn, especialista em regulamentação de pornografia, duvida dos compromissos das empresas de tecnologia em produzir conteúdo adulto de forma responsável.

Mira Murati, diretora de tecnologia da OpenAI, compartilhou ao Wall Street Journal suas incertezas sobre permitir que a ferramenta de criação de vídeos produza imagens de nudez.