Inteligência Artificial inventa e distorce memória do Holocausto, diz Unesco, que alerta para impacto entre jovens

• Entidades judaicas apontam: Casos de antissemitismo no Brasil mais que dobram com guerra entre Israel e Hamas
• Guga Chacra: Críticas a Israel x antissemitismo

O documento contém exemplos concretos dessas alterações, como o conceito de "Holocausto por afogamento", inventado pelo ChatGPT, que parte do princípio de que os nazistas levaram a cabo campanhas de assassinato em massa de judeus por afogamento em rios e lagos, ou aplicações como Historical Figures, que permite aos usuários conversar com altos funcionários nazistas e difunde a ideia de que Joseph Goebbels — ministro da Propaganda nazista — não esteve intencionalmente envolvido no Holocausto e tentou evitar a violência contra os judeus.

"Essas ferramentas geram conteúdos que imitam provas históricas, como testemunhos de sobreviventes ou reflexões pessoais de agressores, de maneira que conseguem facilmente fazer com que esses materiais pareçam convincentes para não especialistas", denunciou o relatório "A IA e o Holocausto: Reescrevendo a História?", publicado nesta terça-feira, dois anos após um outro documento da Unesco que analisou o antissemitismo difundido pelas redes sociais.

• Caos, confusão e carnificina: Investigação do New York Times aponta negligência de Israel em ataque a campo de deslocados em Rafah

Outro exemplo citado no documento é a utilização de imagens de Anne Frank, a autora adolescente do diário mais famoso sobre o Holocausto, para criar memes ofensivos.

"A IA tem que ser treinada com dados. Muitas vezes, esses dados provêm da internet e podem incluir conteúdos errôneos ou nocivos, o que influencia a forma como a IA interpreta um fenômeno específico", explicou o relatório, destacando que a falta de transparência sobre a forma como os sistemas de IA generativa são treinados e as políticas de moderação para bloquear conteúdos falsos impedem os usuários de avaliarem a forma como são abordadas questões sensíveis, como a história do Holocausto.

"Não está claro quais bases de dados são utilizadas para treinar os sistemas de inteligência artificial ou como os algoritmos decidem que conteúdos devem ser recuperados, gerados ou priorizados quando um usuário faz uma pesquisa", afirmou o relatório, alertando para o fato de que sites que negam o Holocausto podem estar alimentando esses sistemas.

• Guerra em Gaza: Netanyahu dissolve Gabinete de guerra e concentra decisões sobre conflito no governo

Karel Fracapane, coautor do estudo e especialista da Unesco na luta contra o discurso de ódio, esclareceu que a organização não dispõe de dados específicos sobre a forma como a propagação desses conteúdos falsos na Internet tem aumentado nos últimos anos. Questionado sobre como o atual cenário internacional e as ações do governo israelense contra a população palestina em Gaza podem estar afetando essa situação, ele responde que, "em primeiro lugar", a responsabilidade é dos grupos extremistas que promovem o antissemitismo.

— A situação atual do conflito proporciona um ambiente que pode ser utilizado por grupos radicais para promover as suas ideias e discursos de ódio, utilizando os canais oferecidos pela tecnologia para dividir e desestabilizar os sistemas — explicou o especialista.

Fracapane considera que, para frear esses movimentos, os governos "têm a obrigação de estabelecer parâmetros legais que garantam o respeito pelos direitos humanos, incluindo nas redes sociais" e, para isso, "é necessária a regulamentação".

• Dia D: Sobreviventes do Holocausto alertam jovens sobre ascensão da extrema direita

O documento disse que não está claro porque determinadas fontes de informação sobre o Holocausto têm mais visibilidade do que outras, ainda que, sobre esse aspecto, os autores apontem que os algoritmos das redes sociais e dos mecanismos de busca "dão prioridade" e "promovem" conteúdos (incluindo desinformação) que atraem a atenção e são propensos a distorções, "o que potencialmente vai contra a exatidão". E exemplificam: quem pesquisasse no Google "carrinho de bebê judeu" em 2020 encontraria provavelmente imagens de fornos portáteis.

"Esses resultados dos mecanismos de busca, que glorificam e ridicularizam a história do Holocausto, foram provavelmente o resultado de esforços coordenados de trolls antissemitas que utilizaram sites marginais para promover essas imagens, de modo que a IA lhes desse prioridade", advertiu o documento da Unesco, destacando que a inteligência artificial generativa pode ser manipulada para "gerar distorção e negação" do Holocausto através de uma técnica conhecida como jailbreaking.

Outro problema da IA se dá quando ela não consegue obter dados sobre um episódio específico da história, neste caso o Holocausto, em uma determinada língua. Em 2020, 36% dos resultados de pesquisas de imagens sobre o Holocausto no BaiBaidu, um dos principais mecanismos de busca em mandarim, estavam relacionados com filmes e música death rock. Quando se faz a mesma pesquisa em russo, não aparecem imagens relacionadas com o Holocausto nos 50 primeiros resultados.

• Crítica: Lula diz que primeiro-ministro de Israel 'quer aniquilar palestinos' e volta a cobrar a ONU

"As tecnologias devem envolver a comunidade judaica, os sobreviventes do Holocausto e os seus descendentes, os educadores, os especialistas em antissemitismo e os historiadores na concepção de modelos de IA generativos", destacou o relatório, salientando a obrigação de garantir que os seus produtos não prejudiquem os esforços dos educadores e dos historiadores ao "simplificar o passado ou ao descrevê-lo de forma equivocada". E de forma mais urgente, continua o documento, "devem esforçar-se para introduzir vigilância e controle para evitar a promoção da negação do Holocausto e do antissemitismo em todos os idiomas".

Organizações como o Starling Lab for Data Integrity da Universidade de Stanford, financiado pela USC Shoah Foundation, e a Coalition for Content Provenance and Authenticity estão trabalhando em métodos para certificar criptograficamente a autenticidade dos conteúdos e para certificar os conteúdos gerados por IA.