UE aprova proposta para regular Inteligência Artificial

A proposta, a Lei de IA, foi aprovada pelo Parlamento Europeu e impõe novas restrições aos usos mais arriscados da tecnologia. Entre os pontos estão limites ao uso de tecnologia de reconhecimento facial e exigências para que desenvolvedores de sistemas como o ChatGPT forneçam informações sobre como usam os dados que alimentam seus programas.

A lei estabelece a proibição de sistemas de reconhecimento facial em espaços públicos, bem como o uso posterior dessas imagens para fins judiciais, exceto em casos de crimes graves. Também fica proibido o uso de IA para reconhecimento de emoções, bem como para classificação de cidadãos por gênero, etnia e outros.

Também fica proibida a coleta de imagens de rostos de câmeras de circuito interno (CCTV) para criar bases de dados de reconhecimento facial, por ser uma violação de direitos humanos e de privacidade.

— A Lei de IA dará o tom, globalmente, para o desenvolvimento e a governança da inteligência artificial, de modo a assegurar que essa tecnologia, destinada a transformar radicalmente nossa sociedade pelos benefícios que pode oferecer, evolua e seja usada de acordo com os valores europeus de democracia, direitos fundamentais e Justiça — disse o eurodeputado Dragos Tudorache, da Romênia, correlator do texto.

A UE está mais adiantada que outros governos na regulamentação da IA. Há mais de dois anos, o bloco debate o assunto, o que ganhou nova urgência após o lançamento do ChatGPT no ano passado. O programa aumentou as preocupações sobre potenciais consequências da tecnologia nos empregos e na sociedade.

Nos Estados Unidos, a Casa Branca divulgou ideias que incluem regras para testar sistemas de inteligência artificial antes que eles sejam liberados para o público e a proteção dos direitos de privacidade. Na China, uma proposta divulgada em abril exige que fabricantes de chatbots acatem as regras de censura do país. Pequim também está assumindo mais controle sobre como eles usam dados.

O nível de eficácia dessas regulamentações ainda não está claro. Em sinal de que os novos recursos da tecnologia surgem em velocidade maior que a capacidade dos legisladores em lidar com eles, versões anteriores da lei da UE não deram muita atenção aos chamados sistemas de IA generativos, como o Chat GPT. Essas ferramentas podem produzir texto, imagens e vídeos em resposta a comandos digitados por usuários.

Na versão mais recente do projeto, aprovada na quarta, a IA generativa teria que cumprir novos requisitos de transparência. Isso incluiria a publicação de resumos de materiais protegidos por direitos autorais e usados para treinar o sistema, uma proposta apoiada pela indústria editorial, mas contestada por desenvolvedores de tecnologia por ser inviável. Os fabricantes de sistemas de IA generativos também teriam que implementar salvaguardas para impedir as ferramentas de gerar conteúdo ilegal.

Francine Bennett, diretora interina do Ada Lovelace Institute, uma organização de Londres que pressiona por novas leis de IA, disse que a proposta da UE é um “marco importante”:

— É claro que é difícil regulamentar uma tecnologia rápida e rapidamente reaproveitável, quando nem mesmo as empresas que constroem essa tecnologia não têm de forma clara como as coisas vão acontecer. Mas definitivamente seria pior para todos nós continuar operando sem nenhuma regulamentação adequada.

O projeto de lei da UE adota uma abordagem baseada em risco para regular a IA, concentrando-se em aplicativos com maior potencial de danos, como ferramentas usadas para operar infraestrutura crítica, como água ou energia, no sistema legal e para determinar o acesso a serviços públicos e benefícios do governo. Os fabricantes terão que realizar avaliações de risco antes de colocar a tecnologia em uso diário, em processo semelhante à aprovação de medicamentos.

Uma grande área de debate é o uso de reconhecimento facial. O Parlamento Europeu votou para proibir o uso de reconhecimento facial ao vivo, mas permanecem dúvidas se as isenções devem ser permitidas para fins de segurança nacional e outras aplicações da lei.

Outra disposição proibiria as empresas de extrair dados biométricos das mídias sociais para criar bancos de dados, uma prática que atraiu escrutínio depois de ser usada pela empresa de reconhecimento facial Clearview AI.

Os líderes de tecnologia têm tentado influenciar o debate. Sam Altman, CEO da OpenAI, criadora do Chat GPT, visitou nos últimos meses pelo menos 100 legisladores americanos e outros formuladores de políticas globais na América do Sul, Europa, África e Ásia, incluindo Ursula von der Leyen, presidente da Comissão Europeia. Altman pediu a regulamentação da IA, mas também disse que a proposta da UE pode ser difícil de cumprir.