A notícia foi publicada no MSN.com: “Proeminente radialista irlandês enfrenta julgamento por suposto abuso sexual”. E, no topo da reportagem, havia uma foto de Dave Fanning. O problema era que Fanning, um DJ irlandês e apresentador de talk show famoso por ter descoberto a banda de rock U2, não era o radialista em questão.
— Não dá para acreditar na quantidade de pessoas que entraram em contato — disse Fanning, que chamou o erro de “ultrajante”.
- Inteligência artificial no WhatsApp? Veja como vai funcionar a nova tecnologia que a Meta anunciou no Brasil
- Nos EUA: Governo vai abrir investigações antitruste sobre IA contra Nvidia, Microsoft e OpenAI
A notícia falsa, visível por horas na página inicial para qualquer pessoa na Irlanda que usasse o Microsoft Edge como navegador, foi o resultado de um erro de inteligência artificial.
Um obscuro veículo jornalístico chamado BNN Breaking usou um chatbot de IA para parafrasear um artigo de outro site de notícias, de acordo com um funcionário do BNN. O robô envolveu Fanning na história ao incluir uma foto de um “proeminente radialista irlandês”. A história foi então publicada pelo MSN, um portal de propriedade da Microsoft.
A história foi excluída da internet um dia depois, mas o dano à reputação de Fanning não foi tão facilmente desfeito, disse ele em um processo por difamação movido na Irlanda contra a Microsoft e o BNN Breaking.
A ação de Fanning é apenas uma das muitas queixas contra o BNN, um site com sede em Hong Kong que publicou inúmeras fake news em seu curto período de vida on-line, como resultado do que pareciam ser erros de uma IA generativa.
- Mais proteção: Editores de jornais e revistas dos EUA demandam regulação do governo sobre buscas com IA generativa
O BNN foi desativado em abril. A empresa e seu fundador não responderam várias solicitações de comentários. Por sua vez, a Microsoft não fez comentários sobre o processo de difamação de Fanning, mas informou que havia encerrado seu contrato de licenciamento com o BNN.
Durante os dois anos em que o BNN esteve ativo, ele se assemelhava a um serviço de notícias legítimo, que afirmava ter uma lista mundial de jornalistas “experientes” e 10 milhões de visitantes mensais. Sites de notícias conceituados como The Washington Post, Politico e The Guardian criaram links para reportagens do BNN. O Google News também os exibia com frequência.
Um olhar mais atento, no entanto, teria mostrado que os jornalistas individuais do BNN publicavam longas histórias várias vezes por minuto, escrevendo em uma prosa genérica, reconhecível por qualquer pessoa que tenha usado o mais popular chatbot de IA, o ChatGPT.
Inteligência artificial: ferramenta recria personagens icônicos com traços 'realistas'; veja imagens
A facilidade com que o site e seus erros entraram no ecossistema de notícias legítimas destaca uma preocupação crescente: o conteúdo gerado por IA está alterando, e muitas vezes envenenando, o fornecimento de informações on-line.
- Existe ‘deepfake’ do bem? Conheça usos positivos da simulação de imagens com IA que já geram negócios
Freelancers mal remunerados e algoritmos produziram grande parte do conteúdo de notícias falsas, valorizando a velocidade e o volume em detrimento da exatidão das informações.
Agora, dizem os especialistas, a IA pode turbinar a ameaça, roubando facilmente o trabalho dos jornalistas e permitindo que notícias falsas cheias de erros circulem ainda mais amplamente.
O resultado é uma espiral alimentada por máquinas, que pode acabar com o jornalismo sustentável e confiável. Mesmo que as histórias geradas por IA sejam geralmente mal construídas, elas ainda podem superar material original nos mecanismos de pesquisa e nas plataformas sociais, que geralmente usam IA para posicionar o conteúdo.
Identidades reais, usadas pela IA
“Você deveria ter vergonha de si mesmo”, escreveu uma pessoa em um e-mail para Kasturi Chakraborty, um jornalista da Índia cuja assinatura estava na reportagem do BNN com a foto de Fanning.
- Após resultados 'estranhos': Google limita escopo de buscas feitas por IA
Chakraborty trabalhou para o BNN Breaking por seis meses, com dezenas de outros jornalistas, principalmente freelancers com experiência limitada, baseados em países como Paquistão, Egito e Nigéria, onde o salário de cerca de US$ 1 mil por mês era atraente. Eles trabalhavam remotamente, comunicando-se via WhatsApp e Google Hangouts.
Mas o BNN Breaking não era um veículo de jornalismo tradicional. Embora os jornalistas pudessem ocasionalmente fazer reportagens e escrever artigos originais, eles eram solicitados a usar principalmente uma ferramenta de IA generativa para compor histórias, disseram Chakraborty e Hemin Bakir, um jornalista baseado no Iraque que trabalhou para o BNN por quase um ano.
Eles disseram que enviaram artigos de outros veículos de notícias para a ferramenta de IA generativa, a fim de criar versões que seriam publicadas pelo BNN.
Bakir, que agora trabalha no site Rudaw, disse que estava cético em relação a essa abordagem, mas que o fundador do BNN, o empresário Gurbaksh Chahal, a descreveu como “uma revolução no setor de jornalismo”.
O posicionamento de Chahal tinha peso entre seus funcionários por causa de sua riqueza e de seu histórico impressionante de empreendedor, disseram eles.
Mas Chahal também tinha um passado criminoso. Em 2013, ele atacou sua namorada na época e foi acusado de bater nela e chutá-la mais de 100 vezes, o que teve forte repercussão na mídia local porque a agressão foi gravada por uma câmera de vídeo que ele mesmo havia instalado em seu quarto.
No entanto, a gravação foi desconsiderada no inquérito, pois a polícia a havia apreendido sem mandado. Chahal se declarou culpado de agressão, foi condenado a prestar serviços comunitários e perdeu seu cargo de CEO da RadiumOne, uma empresa de marketing on-line.
Após uma condenação envolvendo outro incidente de violência doméstica com uma parceira diferente em 2016, ele cumpriu seis meses de prisão.
- Dona do Facebook e Instagram: Após limitar notícias em redes, Meta usa conteúdo de jornais em ferramenta de IA
Chahal, hoje com 41 anos, acabou se mudando para Hong Kong, onde fundou o BNN Breaking em 2022. No LinkedIn, ele se descreveu como o fundador da ePiphany AI, um modelo amplo de aprendizado de linguagem, que, segundo ele, era superior ao ChatGPT. Essa era a ferramenta que o BNN usava para gerar suas histórias, de acordo com ex-funcionários.
Resistência dos jornalistas
No início, os funcionários eram solicitados a colocar artigos de outros sites de notícias na ferramenta para que ela os reescrevesse. Depois, eles tinham de “validar” manualmente os resultados, verificando se havia erros, disse Bakir.
As reportagens geradas por IA que não eram verificadas por uma pessoa recebiam assinaturas genéricas de BNN Newsroom ou BNN Reporter. E a ferramenta produzia muito mais matérias do que a equipe podia “validar”.
Os funcionários não queriam que suas assinaturas aparecessem em histórias geradas exclusivamente por IA, mas Chahal insistiu nisso. Em pouco tempo, a ferramenta passou a atribuir aleatoriamente seus nomes aos textos.
- Wall Street Journal: Jornal americano fecha acordo para fornecer conteúdo ao OpenAI
A situação passou dos limites para alguns funcionários do BNN, de acordo com capturas de tela de conversas do WhatsApp analisadas pelo Times. Eles disseram a Chahal que estavam recebendo reclamações sobre reportagens que eles desconheciam ter sido publicadas com seus nomes.
— Isso manchou nossa reputação — afirmou Chakraborty.
Inúmeros erros
Durante o ano passado, o BNN acumulou inúmeras reclamações sobre fatos errados, citações falsas de especialistas e roubo de conteúdo e fotos de outros sites de notícias sem crédito ou compensação.
A história com a foto de Fanning, que Chakraborty disse ter sido gerada por IA com o nome dele atribuído aleatoriamente, foi publicada porque as notícias sobre o julgamento de um radialista irlandês acusado de má conduta sexual estavam em alta.
- 'Monocultura' na internet, direitos autorais, desinformação: Especialistas alertam para riscos da busca do Google com IA
O nome do radialista não era mencionado no artigo original porque uma ordem judicial proibia a mídia de citá-lo — então a IA simplesmente ilustrou o texto com uma foto genérica de um “proeminente radialista irlandês”.
Os advogados de Fanning no escritório Meagher Solicitors entraram em contato com o BNN e nunca receberam uma resposta, embora a história tenha sido excluída. Em janeiro, ele entrou com um processo por difamação contra o BNN e a Microsoft no Tribunal Superior da Irlanda.
O BNN respondeu publicando naquele mês uma história sobre Fanning que o acusava de “táticas desesperadas em um processo judicial fraudulento para obter dinheiro”.
Dinheiro, um motivador de peso
O apelo do uso da IA para notícias é claramente um só: dinheiro.
A crescente popularidade da publicidade programática —- que usa algoritmos para colocar anúncios automaticamente na internet — permite que os sites de notícias com IA obtenham receita com a produção em massa de conteúdo caça-cliques de baixa qualidade, disse Sander van der Linden, especialista em notícias falsas da Universidade de Cambridge.
Muitos públicos já têm dificuldades para discernir o material gerado por máquinas das reportagens produzidas por jornalistas humanos, disse van der Linden:
— Isso terá um impacto negativo sobre as notícias confiáveis.
Em março, o Google lançou uma atualização para “reduzir o conteúdo não original nos resultados de pesquisa”, visando sites com conteúdo semelhante a spam, seja este produzido por “automação, humanos ou uma combinação destes”, de acordo com uma postagem no blog da empresa. Logo depois, as matérias do BNN pararam de aparecer nos resultados de pesquisa.
O BNN parou de publicar matérias no início de abril e excluiu seu conteúdo. Os visitantes do site agora encontram o BNNGPT, um chatbot de IA que, quando perguntado, diz que foi criado usando modelos de código aberto.
Chahal disse a Bakir para se concentrar na verificação das matérias que tinham um número significativo de leitores, como as republicadas pelo MSN.com.
Mas Chahal não estava abandonando o negócio de notícias. Cerca de uma semana após o fechamento do BNN Breaking, a mesma operação foi transferida para um novo site chamado TrimFeed.
A página “Sobre nós” do TrimFeed tinha o mesmo conjunto de valores que a do BNN Breaking, prometendo “um cenário de mídia livre de distorções”.
No dia 4 de junho, depois que um repórter informou a Chahal que este artigo do NYT seria publicado em breve, o TrimFeed também foi fechado.