Isso é mesmo o que parece? Detector de mentiras para inteligência artificial vira filão

• Sam Altman: ‘IA não vai superar o ser humano’, diz CEO da OpenAI, dona do ChatGPT
• Alô, pai? Golpistas usam Inteligência Artificial para clonar vozes e pedir dinheiro. Veja como se proteger

Em 2023, seus medos se aproximaram da realidade: empresas de tecnologia passaram a competir para aprimorar ferramentas de inteligência artificial. A chamada IA Generativa agora está ao alcance de todos, sendo cada vez mais capaz de enganar com textos, áudios, imagens e vídeos que parecem ser concebidos por humanos.

Para empresários como Doronichev, isso se tornou uma oportunidade de negócio. Ele fundou a empresa Optic para ajudar a identificar material sintético ou falsificado — ou para ser, em suas palavras, “uma máquina de raio-X de aeroporto para conteúdo digital”.

• Novidade: ChatGPT tem agora um aplicativo oficial para iPhone

Em março, ele lançou um site onde os usuários podem checar se imagens foram feitas por câmeras reais e diz estar trabalhando em outros serviços para verificar vídeo e áudio.

De acordo com a empresa de pesquisa de mercado Grand View Research, o mercado de IA generativa deve ultrapassar os US$ 109 bilhões até 2030, com um crescimento anual médio em 35,6%.

Empresas focadas na detecção de IA têm crescido em participação na indústria. Meses depois de ser criado por um estudante da Universidade de Princeton, o GPTZero afirma que mais de 1 milhão de pessoas usaram seu programa para analisar textos gerados por computador.

• Chip no cérebro: empresa de Elon Musk recebe aval para testes em humanos

Já a Reality Defender foi uma das 414 empresas escolhidas entre 17 mil aplicativos para serem financiadas pelo acelerador de startups Y Combinator neste inverno. A Copyleaks levantou US$ 7,75 milhões no ano passado para expandir seus serviços antiplágio para escolas e universidades.

O Sentinel fechou uma rodada inicial de US$ 1,5 milhão em 2020 para ajudar a proteger as democracias contra deepfakes e outras mídias sintéticas maliciosas.

Grandes empresas de tecnologia também estão envolvidas: o FakeCatcher, da Intel, afirma ser capaz de identificar deepfakes com 96% de precisão, analisando pixels em busca de sinais sutis de fluxo sanguíneo em rostos humanos.

• Avanço: por que o ChatGPT, o Midjourney e o Dall-E são uma nova era na inteligência artificial?

Dentro do governo federal, a Defense Advanced Research Projects Agency planeja gastar quase US$ 30 milhões este ano para executar o Semantic Forensics, um programa que desenvolve algoritmos para detectar deepfakes e determinar se eles são maliciosos.

Até a OpenAI, que impulsionou o boom da IA ​​quando lançou sua ferramenta ChatGPT no ano passado, está trabalhando em serviços de detecção. A empresa lançou uma ferramenta gratuita em janeiro para ajudar a diferenciar textos escritos por seres humanos e por inteligência artificial.

A OpenAI enfatizou que a nova ferramenta ainda “não é totalmente confiável”. Enquanto ela identificou corretamente 26% do texto gerado artificialmente, erroneamente sinalizou 9% do texto de humanos como gerados por computador.

Segundo especialistas, as ferramentas de detecção estão sempre atrasadas em relação à tecnologia generativa que estão tentando detectar.

• No mercado de trabalho: Inteligência artificial vai eliminar empregos e mudar profissões, mas elevará produtividade

No momento em que um sistema de defesa é capaz de reconhecer o trabalho de um chatbot ou gerador de imagens, os desenvolvedores já estão criando uma outra versão, que pode escapar dessa defesa.

A situação foi descrita como uma corrida armamentista ou uma relação vírus-antivírus em que um gera o outro, repetidamente.

- Quando o Midjourney lança o Midjourney 5, minha arma inicial dispara e começo a trabalhar — e enquanto faço isso, eles estão trabalhando no Midjourney 6 - disse Hany Farid, professor de ciência da computação na Universidade da Califórnia, Berkeley, especializado em ciência forense digital. - É um jogo inerentemente contraditório em que, enquanto trabalho no detector, alguém está construindo uma ratoeira melhor, um sintetizador melhor - concluiu o especialista.

Especialistas explicam que vídeos gerados por IA ainda são desajeitados e fáceis de identificar. Mas a clonagem de áudio e a criação de imagens estáticas estão em estágio muito avançado. Separar o real do falso exigirá táticas forenses digitais, como pesquisas reversas de imagens e rastreamento de endereço IP.

• Geoffrey Hinton: Ex-chefe da IA na Google alerta que tecnologia é um perigo para a sobrevivência humana

Outro problema é que os programas de detecção disponíveis estão sendo testados com exemplos que são muito diferentes dos conteúdos que circulam on-line, com “imagens que foram modificadas, cortadas, reduzidas, transcodificação e anotadas e Deus sabe o que mais aconteceu com elas”, explica Farid.

- Há uma verdadeira "lavagem" de informações falsas, o que torna tudo mais difícil - explica Farid.

Um consórcio de mil empresas e organizações criou recentemente o Content Authenticity Initative (Iniciativa de Conteúdo Autêntico, numa tradução livre), liderado pela Adobe (fabricante de software que criou o PDF) e que tem entre seus participantes o The New York Times. O objetivo do grupo é identificar padrões que tornem mais fácil o rastreio do que é autêntico ou falso.

• Inteligência artificial: do Brasil aos EUA, propostas de regulação aumentam o cerco às novas tecnologias

No início deste mês, a Adobe afirmou que a sua tecnologia de IA generativa Firefly seria incorporada ao Google Bard, que é a ferramenta de textos gerados por inteligência artificial da gigante de tecnologia. Mas a Firefly terá rótulos de identificação, sinalizando a data em que foi criada cada imagem e a partir de quais ferramentas digitais foi gerada.

Para Jeff Sakasegawa, criador da Persona, empresa que ajuda a verificar identidades de consumidores, os desafios criados pela IA apenas começaram.

- A onda (de IA) está se formando, não chegou ao auge e ainda está longe de estourar - resumiu.