França e Espanha abrem investigação contra ChatGPT por violação de lei de proteção de dados

• Especial: Entenda como o salto tecnológico trará mudanças profundas, mas imprevisíveis
• Avanço: Nova fase da inteligência artificial permite criar vídeos a partir de frases curtas

A Agência Espanhola de Proteção de Dados (AEPD) informou em comunicado que "iniciou oficialmente" uma investigação contra a empresa americana OpenAI, proprietária do ChatGPT, por uma possível violação dos regulamentos sobre proteção de dados. Na França, a autoridade de proteção de dados anunciou também nesta quinta-feira que abriu sua própria investigação.

Ao mesmo tempo, o Conselho Europeu de Proteção de Dados (EDPB), encarregado de coordenar escritórios similares em países da UE, disse ter criado um grupo de trabalho dedicado ao assunto. Com isso, o EDPB busca a troca de informações entre as autoridades europeias a respeito das possíveis ações a serem tomadas em relação ao ChatGPT.

Além de Espanha e França, outros países europeus têm adotado medidas em relação ao ChatGPT. No dia 31 de março, as autoridades italianas bloquearam o robô de inteligência artificial alegando precisamente o desrespeito à legislação sobre dados pessoais.

Na China, o órgão regulador da internet planeja exigir uma revisão de segurança dos programadas de inteligência artificial criam conteúdo antes que eles sejam autorizados a operar no país.

O cerco ao ChatGPT, o bot lançado em novembro e que consegue manter conversas complexas com o seu interlocutor, só aumenta na Europa. De acordo com reportagem do britânico Financial Times, o Parlamento Europeu está preparando duras medidas sobre o uso de inteligência artificial que fariam parte da Lei de Inteligência Artificial da Europa, e a União Europeia se prepara para decretar o regime mais restritivo do mundo sobre o desenvolvimento de IA.

• Futuro: Por que o ChatGPT, o Midjourney e o Dall-E são uma nova era na inteligência artificial?

Entre as medidas a serem propostas pelos parlamentares está exigir que os fabricantes de chatbots, como o ChatGPT, revelem se estão usando material protegido por direitos autorais para treinar seus modelos de IA, uma medida projetada para permitir que os criadores de conteúdo exijam pagamento.

Os parlamentares também querem que a responsabilidade pelo uso indevido de programas de IA seja de desenvolvedores como a OpenAI, e não de empresas menores que o utilizam. Uma proposta controversa dos eurodeputados é a proibição do uso de reconhecimento facial em espaços públicos sob quaisquer circunstâncias.

Os estados membros da UE, sob pressão de suas forças policiais locais, devem recuar contra a proibição total da biometria, disseram pessoas com conhecimento direto das negociações. O acordo entre os eurodeputados, que lutam por medidas para policiar a inteligência artificial há quase dois anos, é fundamental para iniciar negociações mais amplas sobre a Lei da IA.

• Greg Brockman: Robôs não vão superar pessoas, diz cofundador da OpenAI, criadora do ChatGPT

A lei proposta representaria algumas das regras mais rígidas para o desenvolvimento da inteligência artificial e vem na sequência de preocupações crescentes sobre possíveis abusos da tecnologia. Assim que o parlamento concordar com sua posição, os estados membros, a Comissão Europeia e os eurodeputados redigirão juntos um projeto de lei final, com o objetivo de aprová-la antes do fim do atual mandato do parlamento europeu, em 2024.

Os parlamentares europeus esperam finalizar sua posição na próxima semana, disse Brando Benifei, um dos principais negociadores do parlamento, em entrevista ao Financial Times. De acordo com as propostas atuais para o AI Act, os chatbots devem dizer aos usuários que eles não são humanos.

• IA em debate: Pesquisadores e governos discutem códigos de ética

- Queremos uma lista de divulgação pública do material que está sendo usado para treiná-lo porque [os autores] podem recorrer a outras legislações e vias para tentar receber pelo que está sendo usado sem o seu consentimento - acrescentou Benifei, ressaltando que os eurodeputados querem mais transparência sobre o uso dos bots.

De acordo com o FT, as propostas do Parlamento Europeu, que devem ser ratificadas até maio, também podem incluir a proibição do policiamento preditivo, o uso de algoritmos para prever crimes ou identificar suspeitos, além do reconhecimento emocional, usando inteligência artificial para detectar sentimentos humanos e estado de mente.

No entanto, os envolvidos nas negociações alertaram que é muito cedo para dizer exatamente o que seria incluído no texto até o fim das discussões na próxima semana.