EUA, China, União Europeia e outros países assinam 1ª declaração mundial sobre riscos da IA

• De hipertensão a dieta personalizada: veja o que a próxima versão do Apple Watch vai conseguir indicar para você
• Publicidade nas redes: Google e Facebook são notificados por anúncios falsos do programa Voa Brasil

"Há potencial para danos graves e até catastróficos, deliberados ou não, decorrentes das capacidades mais significativas desses modelos de I.A.", diz o documento, chamado de "Declaração de Bletchley". "Muitos riscos decorrentes da IA são inerentemente de natureza internacional e, portanto, são mais bem tratados por meio da cooperação internacional. Decidimos trabalhar juntos de forma inclusiva para garantir uma IA centrada no ser humano, confiável e responsável."

"Esta declaração histórica marca o começo de um novo esforço mundial para aumentar a confiança do público na IA, garantindo que seja segura", disse o primeiro-ministro britânico, Rishi Sunak, no X (antigo Twitter).

No entanto, o documento não definiu metas políticas específicas.

Ante o crescente potencial de modelos como ChatGPT, a Declaração de Bletchley "mostra que, pela primeira vez, o mundo se reúne para identificar o problema e destacar suas oportunidades", destacou à AFP a ministra britânica de Tecnologia, Michelle Donelan. A reunião "não tem como objetivo lançar as bases de uma legislação mundial, mas deve servir para traçar um caminho a seguir", detalhou.

Na semana passada, um relatório do governo britânico alertou que os sistemas avançados de IA facilitariam a construção de armas químicas e biológicas, ataques cibernéticos, fraudes e abuso sexual de crianças e até mesmo representaria um risco para a própria humanidade. Segundo o relatório, no entanto, também há benefícios, inclusive o de tornar os serviços públicos mais econômicos.

• IA: abreviatura de inteligência artificial supera 'nepo baby' e é eleita palavra do ano pelo dicionário Collins

Duas cúpulas internacionais sobre a IA ocorrerão posteriormente: uma, na Coreia do Sul, dentro de seis meses; e outra, na França, dentro de um ano, afirmou a ministra no emblemático centro onde foram decifrados os códigos secretos nazistas na Segunda Guerra Mundial.

O encontro de dois dias reúne representantes de governos, empresas, pesquisadores e grupos da sociedade civil, com a esperança de começar a desenvolver padrões de segurança globais para a inteligência artificial.

- Precisamos nos unir e chegar a um acordo sobre um caminho sensato a seguir - disse Ian Hogarth, empresário e investidor em tecnologia que foi nomeado pelo primeiro-ministro britânico, Rishi Sunak, para liderar a força-tarefa do governo sobre o risco da inteligência artificial e que ajudou a organizar o encontro sobre segurança na IA.

Com Elon Musk, dono da Tesla e da rede social X, e outros executivos de tecnologia na plateia, o Rei Charles III fez um discurso em vídeo na sessão de abertura, gravado no Palácio de Buckingham antes de partir para uma visita de Estado ao Quênia nesta semana.

- Estamos testemunhando um dos maiores saltos tecnológicos da história do esforço humano. Há um imperativo claro para garantir que essa tecnologia em rápida evolução permaneça segura e protegida - afirmou Charles III.

• Para reduzir riscos: G7 aprova código de conduta voluntário para empresas que desenvolvem tecnologia

Entre os executivos da área de tecnologia que devem comparecer estão Sam Altman, da Open Ai, empresa que criou o ChatGPT; o ex-vice-premiê do Reino Unido Nick Clegg, agora presidente de assuntos globais da Meta; James Manyika e Demis Hassabis, do Google e da DeepMind Technologies, que são controlados pela Alphabet.

Paralelamente ao encontro, a vice-presidente americana, Kamala Harris, que representa os Estados Unidos, deve anunciar em um discurso em Londres a criação de um instituto sobre a segurança da Inteligência Artificial em Washington. Esta estrutura - similar à anunciada pelo Reino Unido - reunirá especialistas para estabelecer "diretrizes" e analisar os modelos de IA mais avançados para "identificar e mitigar" os riscos, segundo a Casa Branca.

Kamara anunciará também que o governo dos EUA está trabalhando com grandes fundações, incluindo a Fundação Ford, que comprometeram US$ 200 milhões para financiar esforços de segurança de IA. Além disso, salientará que os EUA se juntaram a outros países para ajudar a estabelecer normas para o uso militar da IA.

• Entrevista: ‘Há empresas de IA crescendo em um faroeste sem regulação’, diz executiva portuguesa que integrou grupo da Casa Branca

Esta semana, o presidente americano Joe Biden anunciou as primeiras regulamentações sobre sistemas de inteligência artificial nos EUA.

Os modelos de IA generativa - capazes de produzir textos, sons, ou imagens, em apenas alguns segundos - fizeram avanços gigantescos nos últimos anos. E as próximas gerações desses modelos serão lançadas no verão.

A tecnologia suscita grandes esperanças na medicina e na educação, mas também pode desestabilizar sociedades, permitindo fabricar armas, ou escapando ao controle humano, advertiu o governo britânico.

Depois deste primeiro dia dedicado aos perigos potenciais de uma IA mais avançada, são esperados representantes políticos de alto nível na quinta-feira no Bletchley Park. Entre eles, a presidente da Comissão Europeia, Ursula von der Leyen, o secretário-geral da ONU, António Guterres, e a chefe do Governo italiano, Georgia Meloni.

• Serviço de atendimento: O que fazer quando a inteligência artificial atende, mas não entende o consumidor?

A França enviará o ministro da Economia, Bruno le Maire, e a Alemanha será representada por Volker Wissing, ministro do digital e dos transportes.

O bilionário americano Elon Musk, presente na cúpula nesta quarta-feira, conversará com o primeiro-ministro britânico, Rishi Sunak, na noite de quinta-feira.

"Nosso objetivo é estabelecer um marco para uma melhor compreensão (...) e para que haja ao menos um árbitro independente que possa observar o que as empresas de IA estão fazendo e dê sinal de alarme se algo lhe preocupar", disse Musk à imprensa. "Minha esperança para esta cúpula é que haja um consenso internacional sobre a compreensão inicial da IA avançada", afirmou.

Em uma carta aberta publicada na terça-feira, vários dos "pais fundadores" dessa tecnologia, como Yoshua Bengio e Geoffrey Hinton, pediram "a elaboração e a ratificação de um tratado internacional sobre IA", para reduzir os "riscos potencialmente catastróficos que os sistemas avançados representam para a humanidade".

O principal desafio é definir salvaguardas sem impor obstáculos à inovação nos laboratórios de IA e nos gigantes tecnológicos. União Europeia (UE) e Estados Unidos, ao contrário do Reino Unido, escolheram a regulamentação.

Várias empresas, como OpenAI, Meta (Facebook) e DeepMind (Google), concordaram na semana passada em tornar públicas algumas das suas regras de segurança de IA, depois da solicitação do Reino Unido. Em uma carta aberta dirigida ao premiê britânico, quase 100 organizações, especialistas e ativistas internacionais lamentaram que essa reunião aconteça "a portas fechadas", dominada por gigantes da tecnologia e com acesso limitado à sociedade civil.