Desinformação, ameaça à democracia e limite desconhecido: por que Musk quer frear o ChatGPT

• Alerta: Precisamos aprender a dominar a inteligência artificial antes que ela nos domine
• Midjourney: Conheça a ferramenta de inteligência artificial por trás da foto do Papa com 'casacão'

Os signatários avaliam que os novos sistemas chegaram a um ponto de desenvolvimento no qual a humanidade pode perder o controle sobre eles, trazendo riscos de desinformação e ameaçando a democracia e a civilização.

Eles também veem com receio a eliminação de empregos, com automatização da profissões e demandam que os desenvolvedores de IA sejam submetidos a auditorias de especialistas independentes e regulados por "robustos" sistemas de governança.

• Faça o teste: Inteligência artificial desafia criatividade: a música é de Anitta? O quadro é de Van Gogh?

"Os sistemas de Inteligência Artificial contemporâneos estão se tornando competidores dos humanos em tarefas generalizadas, temos que nos perguntar: vamos deixar as máquinas inundarem nossos canais de informação com propaganda e inverdades?", diz a carta.

"Devemos automatizar todas as profissões? Devemos desenvolver cérebros não-humanos que podem eventualmente nos exceder em número e inteligência, nos tornar obsoletos e nos substituir? Devemos perder o controle da nossa civilização?", questionamos autores.

• Veja: O que o Bard, chat de inteligência artificial do Google pode fazer (e o que não pode)

"Essas decisões não devem ser tomadas por líderes da área de tecnologia que não foram eleitos. Sistemas de IA poderosos devem ser desenvolvidos apenas quando estivermos confiantes de que seus efeitos sejam positivos e seus riscos possam ser gerenciáveis", afirmam.

Musk é um dos cofundadores da OpenAI, o laboratório de inteligência artificial por trás da criação do ChatGPT e de outras ferramentas de IA, mas deixou a plataforma em 2018 e se tornou um crítico dela desde então.

• Disputa pela dianteira: Por que Alexa, Google e Siri estão perdendo a corrida da intleigência artificial

Além dele, estão entre os autores o escritor Yuval Noah Harari, autor de Sapiens; Steve Wozniak, cofundador da Apple; e os cofundadores do Skype e do Pinterest, Jaan Tallinn e Evan Sharp, respectivamente.

Eles avaliam que, se os laboratórios de IA não conseguirem fazer essa suspensão nas pesquisas, os governos devem agir e instituir uma moratória.

"Pedimos a todos os laboratórios de IA que pausem imediatamente, por pelo menos seis meses, os treinamentos de sistemas de IA mais poderosos do que o GPT-4 (a versão mais atual do ChatGPT). Esta pausa precisa ser pública e verificável, e incluir todos os atores relevantes. Se esta pausa não puder ser colocada em prática rapidamente, os governos devem tomar medidas e estabelecerem uma moratória (nas pesquisas)", diz a carta.