Europa avança em regulação para inteligência artificial, que deve impor limites ao ChatGPT

• Do Brasil aos EUA: Propostas de regulação aumentam o cerco às novas tecnologias de IA
• Coluna Capital: 'A IA é uma derivação do capitalismo de vigilância', diz CEO da OneSignal

Parlamentares dos comitês de Mercado Interno e de Justiça do Parlamento Europeu chegaram nesta quinta-feira a um acordo sobre o texto base do novo Ato de Inteligência Artificial da UE, que foi aprovado por 84 parlamentares dessas comissões, com sete votos contra e 12 abstenções.

• Risco: As empresas que criam modelos de IA "fundacionais", ou seja, a inteligência artificial generativa, capaz de gerar linguagens como textos, códigos ou imagens, precisarão produzir relatórios com avaliações de risco de seu negócio.
• Transparência: Essas empresas também terão que deixar claro que conteúdos foram gerados por IA, para garantir que os usuários saibam quando estão interagindo com textos, imagens e vídeos criados dessa forma ou quando estão assistindo a uma 'deepfake'
• Direitos autorais: As empresas também deverão publicar uma lista dos dados protegidos por direitos autorias que tenham sido usados para treinar suas ferramentas, para que os autores sejam devidamente remunerados.
• Reconhecimento facial: Haverá praticamente um total banimento dessa prática. Empresas e governos não poderão usar reconhecimento facial em tempo real. O reconhecimento facial será aceitado apenas em circunstâncias limitadas, como, por exemplo, na eventualidade de uma ameaça terrorista, segundo fontes a par das negociações.

O texto acordado nesta quinta-feira envolveu uma das mais difíceis negociações na história do Parlamento europeu, com mais de mil emendas.

- O Ato de Inteligência Artificial será a primeira legislação deste tipo no mundo. A UE pode liderar, globalmente, em fazer da IA uma tecnologia centrada no ser humano, confiável e segura - afirmou ao jornal britânico Financial Times o eurodeputado romeno Dragos Tudorache, que liderou a articulação da proposta.

• Coluna Capital: 'Você ainda precisa de alguém para controlar a máquina', diz CEO do GitHub

A União Europeia pretende ser a pioneira no mundo a adotar um quadro jurídico abrangente para limitar os excessos da inteligência artificial, mas, ao mesmo tempo, garantir a inovação. Entre as preocupações na Europa estão a difusão de conteúdos perigosos, a manipulação de opinião através da criação de imagens falsas e os modelos de vigilância em massa.

Após passar pelas comissões, o texto deverá ser votado no Parlamento Europeu em junho. Em seguida, o parlamento terá que negociar um acordo final com a Comissão Europeia e os 27 estados membros da UE.

Em todo o mundo, governos e reguladores estão tentando criar regras para a inteligência artificial, depois que novos modelos de IA generativa, como o ChatGPT, deram um salto de popularidade e acesso este ano.

No Brasil, não é diferente. No último dia 4, o presidente do Senado, Rodrigo Pacheco, apresentou um projeto de lei estabelecendo diretrizes gerais para o desenvolvimento, implementação e uso de sistemas de inteligência artificial (IA) no Brasil. O objetivo é mapear e entender os impactos econômicos e sociais que o desenvolvimento dessa tecnologia pode provocar no país.

• Ben Goertzel: Inteligência artificial vai substituir até 80% dos empregos e 'isso é bom', diz pesquisador americano

Na semana passada, a Comissão de Comércio dos EUA, publicou um alerta às empresas do setor, informando que iria "observar intensamente se as companhias estão adotando a tecnologia de IA, incluindo as novas ferramentas de IA generativa, de maneira que possa ter impacto real e substancial para os consumidores".

Na próxima semana, o subcomitê do Senado americano responsável por criar a regulamentação em IA vai ouvir o CEO da OpenAI, Sam Altman, que foi convocado para uma audiência pública sobre o tema. E, na semana passada, a vice-presidente dos EUA, Kamala Harris, disse que a Casa Branca vai apoiar a nova regulamentação, após realizar um encontro com Altman e outros CEOs, como os de Alphabet (controladora do Google), Microsoft e Anthropic.

• 'Riscos profundos': ‘O poderoso chefão da IA’ deixa o Google e avisa sobre o perigo à frente

- Essa abordagem pode produzir algum efeito de Bruxelas em termos não apenas de influenciar as práticas regulatórias do mundo, mas também fazer o resto do mundo iniciar a discussão - disse Brando Benifei, um dos principais autores da Lei de IA no parlamento, antes da votação.

Os formuladores de políticas em todo o mundo estão lutando para atenuar os riscos de um boom de ferramentas de IA generativas que permitem que as pessoas criem conteúdo como texto e imagens com prompts simples.

O CEO da OpenAI, Sam Altman, deve testemunhar perante o Senado dos Estados Unidos na próxima semana, falando ao subcomitê responsável pela regulamentação dos desenvolvimentos em IA, à medida que começa a explorar possíveis padrões para o setor.

Altman pediu aos reguladores que abordem os possíveis danos à sociedade, à medida que grandes empresas de tecnologia correm para desenvolver e lançar versões mais avançadas de modelos de IA.

• IA sedenta: Treino do ChatGPT consumiu 700 mil litros de água, equivalente a encher uma torre de resfriamento de um reator nuclear

O debate sobre se a UE deveria regulamentar especificamente a IA generativa em sua Lei de IA começou depois que uma versão atualizada do ChatGPT foi lançada no início deste ano, executando tarefas humanas de forma convincente, como fazer testes, escrever e-mails e produzir código de computador.

A tecnologia gerou preocupações de que a IA generativa pudesse espalhar desinformação e violar as leis de proteção de dados e direitos autorais.

Em março, especialistas em inteligência artificial e líderes do setor, incluindo Elon Musk; o professor de ciência da computação da Universidade da Califórnia em Berkeley, Stuart Russell; e o cofundador da Apple, Steve Wozniak, pediram aos desenvolvedores que fizessem uma pausa de seis meses no treinamento de modelos poderosos para permitir o desenvolvimento de protocolos de segurança compartilhados.