Para ter uma ideia do rumo que a inteligência artificial está tomando nas campanhas eleitorais, olhe para a Índia, a maior democracia do mundo, que começa a ir às urnas nesta sexta-feira. Uma versão gerada por IA do primeiro-ministro que foi compartilhada no WhatsApp mostra as possibilidades de alcance hiperpersonalizado em um país com quase 1 bilhão de eleitores. No vídeo — um clipe de demonstração cuja fonte não é clara — o avatar de Narendra Modi se dirige a uma série de eleitores diretamente, pelo nome. No entanto, ele não é perfeito. O premier parece estar usando dois pares de óculos diferentes, e algumas partes do vídeo estão pixeladas.
- Veja vídeo: Ex-presidente da Venezuela 'ressuscita' com IA para apoiar candidato opositor
- Não são jornalistas, são avatares: como o chavismo promove propaganda e desinformação com inteligência artificial
Os funcionários do partido de Modi estão distribuindo vídeos pelo WhatsApp nos quais seus próprios avatares de IA enviam mensagens pessoais a eleitores específicos sobre os benefícios governamentais que receberam e pedem seu voto. Essas mensagens de vídeo podem ser geradas automaticamente em qualquer um dos dezenas de idiomas da Índia que o eleitor fale. O mesmo pode acontecer com as mensagens telefônicas de chatbots com tecnologia de IA que ligam para os eleitores nas vozes dos líderes políticos e solicitam seu apoio.
Esse tipo de alcance requer uma fração do tempo e do dinheiro gastos em campanhas tradicionais e tem o potencial de se tornar um instrumento essencial nas eleições. Mas, à medida que a tecnologia entra em cena no cenário político, há poucas barreiras para evitar o uso indevido.
O jogo dos seis erros da inteligência artificial
![O que foi informado ao sistema: imagem hiper-realista retrata um homem tirando uma selfie com os amigos em um cinema lotado. As pessoas assistem a uma comédia e riem muito — Foto: Imagem gerada por Midjourney](https://s2-oglobo.glbimg.com/iMoTPHt3O9ExJUHARME6INKXdCA=/0x0:689x529/648x248/smart/filters:strip_icc()/i.s3.glbimg.com/v1/AUTH_da025474c0c44edd99332dddb09cabe8/internal_photos/bs/2024/O/g/0AfkXETSefvFzCYpVhBw/106073085-ec-credito-imagem-gerada-por-ia-midjourney-prompt-the-hyperrealistic-image-depicts-the-ma.jpg)
![O que foi informado ao sistema: imagem hiper-realista retrata um homem tirando uma selfie com os amigos em um cinema lotado. As pessoas assistem a uma comédia e riem muito — Foto: Imagem gerada por Midjourney](https://s2-oglobo.glbimg.com/TkhlvrytsKlogH0eXZY-fb4mPF0=/689x0/smart/filters:strip_icc()/i.s3.glbimg.com/v1/AUTH_da025474c0c44edd99332dddb09cabe8/internal_photos/bs/2024/O/g/0AfkXETSefvFzCYpVhBw/106073085-ec-credito-imagem-gerada-por-ia-midjourney-prompt-the-hyperrealistic-image-depicts-the-ma.jpg)
O que foi informado ao sistema: imagem hiper-realista retrata um homem tirando uma selfie com os amigos em um cinema lotado. As pessoas assistem a uma comédia e riem muito — Foto: Imagem gerada por Midjourney
![No cinema. A figura que segura o celular tem as mãos deformadas — Foto: Imagem gerada por IA/Midjourney](https://s2-oglobo.glbimg.com/vqNfZeZZF1m0mGH_iEKNrYjqSow=/0x0:1316x915/323x182/smart/filters:strip_icc()/i.s3.glbimg.com/v1/AUTH_da025474c0c44edd99332dddb09cabe8/internal_photos/bs/2024/Q/3/YOLFuJTWuG2HaoaVE25g/106073085-ec-credito-imagem-gerada-por-ia-midjourney-prompt-the-hyperrealistic-image-depicts-the-ma-1-.jpg)
![No cinema. A figura que segura o celular tem as mãos deformadas — Foto: Imagem gerada por IA/Midjourney](https://s2-oglobo.glbimg.com/x-Xn4bu1ktM76c625ZuiKkkWk38=/1316x0/smart/filters:strip_icc()/i.s3.glbimg.com/v1/AUTH_da025474c0c44edd99332dddb09cabe8/internal_photos/bs/2024/Q/3/YOLFuJTWuG2HaoaVE25g/106073085-ec-credito-imagem-gerada-por-ia-midjourney-prompt-the-hyperrealistic-image-depicts-the-ma-1-.jpg)
No cinema. A figura que segura o celular tem as mãos deformadas — Foto: Imagem gerada por IA/Midjourney
Publicidade
![Harmonia: Um maestro conduz uma orquestra, rege com energia, a câmera está de costas para o maestro, os músicos estão de frente para a câmera, ele toca a Nona Sinfonia de Beethoven - Foto: imagem gerada por IA/Midjourney](https://s2-oglobo.glbimg.com/JGn0rzYKl56kvwjd40tgdu83Mr0=/0x0:788x605/323x182/smart/filters:strip_icc()/i.s3.glbimg.com/v1/AUTH_da025474c0c44edd99332dddb09cabe8/internal_photos/bs/2024/w/w/WbJWvdQH6rEcsxxhBhzQ/106073097-ec-credito-imagem-gerada-por-ia-midjourney-prompt-a-conductor-leads-an-orchestra-conducts.jpg)
![Harmonia: Um maestro conduz uma orquestra, rege com energia, a câmera está de costas para o maestro, os músicos estão de frente para a câmera, ele toca a Nona Sinfonia de Beethoven - Foto: imagem gerada por IA/Midjourney](https://s2-oglobo.glbimg.com/jchLBnz4xv3Bk7rLH-0NfAtxGQg=/788x0/smart/filters:strip_icc()/i.s3.glbimg.com/v1/AUTH_da025474c0c44edd99332dddb09cabe8/internal_photos/bs/2024/w/w/WbJWvdQH6rEcsxxhBhzQ/106073097-ec-credito-imagem-gerada-por-ia-midjourney-prompt-a-conductor-leads-an-orchestra-conducts.jpg)
Harmonia: Um maestro conduz uma orquestra, rege com energia, a câmera está de costas para o maestro, os músicos estão de frente para a câmera, ele toca a Nona Sinfonia de Beethoven - Foto: imagem gerada por IA/Midjourney
![Regência. A imagem exibe mão direita do maestro com dedo alongado. E a batuta se assemelha a um arco de violino — Foto: Imagem gerada por IA/Midjourney](https://s2-oglobo.glbimg.com/DZLWWJiGRqcfNaAAtDvy8PaSXFc=/1248x0/smart/filters:strip_icc()/i.s3.glbimg.com/v1/AUTH_da025474c0c44edd99332dddb09cabe8/internal_photos/bs/2024/6/L/arZQ3aSguk4I4UnjeBBg/106073097-ec-credito-imagem-gerada-por-ia-midjourney-prompt-a-conductor-leads-an-orchestra-conducts.jpg)
Regência. A imagem exibe mão direita do maestro com dedo alongado. E a batuta se assemelha a um arco de violino — Foto: Imagem gerada por IA/Midjourney
Publicidade
![O que foi informado ao sistema de inteligência artificial: imagem exibe uma pessoa com os braços cruzados, não foi solicitado que aparecesse o rosto - foto: imagem criada por IA/Midjourney](https://s2-oglobo.glbimg.com/NRKfo0zYSxhP5Tf9WnLMjOQ5qWE=/625x0/smart/filters:strip_icc()/i.s3.glbimg.com/v1/AUTH_da025474c0c44edd99332dddb09cabe8/internal_photos/bs/2024/P/q/XLsEZlQeOQQSVhw7lcwA/106073077-ec-credito-imagem-gerada-por-ia-midjourney.-prompt-with-arms-crosse.jpg)
O que foi informado ao sistema de inteligência artificial: imagem exibe uma pessoa com os braços cruzados, não foi solicitado que aparecesse o rosto - foto: imagem criada por IA/Midjourney
![Em excesso. Imagem gerada por inteligência artificial mostra uma pessoa com mais um braço — Foto: Imagem gerada por IA/Midjourney](https://s2-oglobo.glbimg.com/_03jsUgiFSELbHOApAdOu0Szk3A=/1600x0/smart/filters:strip_icc()/i.s3.glbimg.com/v1/AUTH_da025474c0c44edd99332dddb09cabe8/internal_photos/bs/2024/R/E/2Rz8DUTJA8EZNPyQCoEQ/106073077-ec-credito-imagem-gerada-por-ia-midjourney.-prompt-with-arms-crosse.jpg)
Em excesso. Imagem gerada por inteligência artificial mostra uma pessoa com mais um braço — Foto: Imagem gerada por IA/Midjourney
Publicidade
![Alegria: Uma criança sorri imensamente feliz e até grita de boca aberta de tanta felicidade quando recebe um presente. Esta imagem serve como uma prova do poder da felicidade — Foto: Imagem gerada por IA/Midjourney](https://s2-oglobo.glbimg.com/wI8JxbOb8dcgOdtOZMMMPznBg5I=/1272x0/smart/filters:strip_icc()/i.s3.glbimg.com/v1/AUTH_da025474c0c44edd99332dddb09cabe8/internal_photos/bs/2024/B/8/8rXBM7S5K4mld8A9KYiA/106073063-ec-dente1jpg-credito-imagem-gerada-por-ia-midjourney-prompt-a-child-smiles-immensely-happ.jpg)
Alegria: Uma criança sorri imensamente feliz e até grita de boca aberta de tanta felicidade quando recebe um presente. Esta imagem serve como uma prova do poder da felicidade — Foto: Imagem gerada por IA/Midjourney
![Sorriso assustador. O dente da criança que recebe o presente se confunde com a gengiva — Foto: Imagem gerada por IA/Midjourney](https://s2-oglobo.glbimg.com/AZmP2OoerFUa1c-QQ7A4C8Hrmhw=/1600x0/smart/filters:strip_icc()/i.s3.glbimg.com/v1/AUTH_da025474c0c44edd99332dddb09cabe8/internal_photos/bs/2024/d/t/0mbdcPQcK2iBCko4ATCA/106073063-ec-dente1jpg-credito-imagem-gerada-por-ia-midjourney-prompt-a-child-smiles-immensely-happ-1-.jpg)
Sorriso assustador. O dente da criança que recebe o presente se confunde com a gengiva — Foto: Imagem gerada por IA/Midjourney
Publicidade
![Dueto inusitado: Produção exibe a cantora brasileira Anitta cantando com o líder do Coldplay, Crhis Martin, dançando e cantando no palco, com luz de neon — Foto: Imagem gerada por IA/Midjourney](https://s2-oglobo.glbimg.com/TOHoW1u2hh7JwrU9maiGjOmbbUY=/1000x0/smart/filters:strip_icc()/i.s3.glbimg.com/v1/AUTH_da025474c0c44edd99332dddb09cabe8/internal_photos/bs/2024/i/m/sdP1QyQlCy3MhKLcoJ0g/106073079-ec-credito-imagem-gerada-por-ia-midjourney.-prompt-production-still-of-a-brazilian-singe-1-.jpg)
Dueto inusitado: Produção exibe a cantora brasileira Anitta cantando com o líder do Coldplay, Crhis Martin, dançando e cantando no palco, com luz de neon — Foto: Imagem gerada por IA/Midjourney
![Atenção ao vocalista. A mão direita do cantor Chris Martin aparece com seis dedos — Foto: Imagem gerada por IA/Midjourney](https://s2-oglobo.glbimg.com/BcA_XwDkmnX0bgqhK_35uJQmVEQ=/1600x0/smart/filters:strip_icc()/i.s3.glbimg.com/v1/AUTH_da025474c0c44edd99332dddb09cabe8/internal_photos/bs/2024/n/c/WGBKgDQw67slQEjTU0NQ/106073079-ec-credito-imagem-gerada-por-ia-midjourney.-prompt-production-still-of-a-brazilian-singe.jpg)
Atenção ao vocalista. A mão direita do cantor Chris Martin aparece com seis dedos — Foto: Imagem gerada por IA/Midjourney
Publicidade
![Apreciando a vista. Um grupo de capivaras com a cidade do Rio de Janeiro ao fundo, em um dia de garoa, imagem no estilo de publicações voltadas para a vida animal — Foto: Imagem gerada por IA/Midjourney](https://s2-oglobo.glbimg.com/czI_fBnJgzlc6905ED71t-s7Cw0=/1600x0/smart/filters:strip_icc()/i.s3.glbimg.com/v1/AUTH_da025474c0c44edd99332dddb09cabe8/internal_photos/bs/2024/B/O/bp8KovREqBQ5Pvb5AGjg/106086327-production-still-a-hundred-capybara-the-city-of-rio-de-janeiro-in-the-background-rain-driz.jpg)
Apreciando a vista. Um grupo de capivaras com a cidade do Rio de Janeiro ao fundo, em um dia de garoa, imagem no estilo de publicações voltadas para a vida animal — Foto: Imagem gerada por IA/Midjourney
![É esse animal mesmo? Capivara aparece de rabo e mais parece um rato — Foto: Imagem gerada por IA/Midjourney](https://s2-oglobo.glbimg.com/ijWsS4rwau69tZ3V7M16bPt_YR4=/1304x0/smart/filters:strip_icc()/i.s3.glbimg.com/v1/AUTH_da025474c0c44edd99332dddb09cabe8/internal_photos/bs/2024/k/H/QAJqWJRlyhC5cEASVPCA/106086327-production-still-a-hundred-capybara-the-city-of-rio-de-janeiro-in-the-background-rain-driz-2-.jpg)
É esse animal mesmo? Capivara aparece de rabo e mais parece um rato — Foto: Imagem gerada por IA/Midjourney
Publicidade
Chatbots e vídeos personalizados podem parecer mais ou menos inofensivos. No entanto, os especialistas se preocupam com o fato de que os eleitores terão cada vez mais dificuldade em distinguir entre mensagens reais e sintéticas à medida que a tecnologia avança e se espalha.
— Será como um faroeste em um espaço de IA não regulamentado este ano — disse Prateek Waghre, diretor executivo da Internet Freedom Foundation, um grupo de direitos digitais com sede em Nova Délhi, acrescentando que a tecnologia está entrando em um cenário de mídia já poluído com desinformação.
Em todo o mundo, as eleições se tornaram um campo de testes para o boom da IA. As ferramentas foram usadas para transformar um candidato presidencial argentino em Indiana Jones e em Caça-Fantasmas. Durante as primárias de New Hampshire, nos EUA, os eleitores receberam mensagens de ligações automáticas pedindo que não votassem, em uma voz que provavelmente foi gerada artificialmente para soar como a do presidente Joe Biden.
E na Índia, o Partido Bharatiya Janata (BJP), de Modi, e o partido de oposição Congresso Nacional Indiano acusaram um ao outro de disseminar conteúdo deepfake relacionado às eleições on-line.
'O caminho a seguir'
Um posto avançado nessa nova fronteira indiana fica no estado desértico do Rajastão, no oeste do país. No andar térreo de um prédio residencial em uma rua empoeirada, Divyendra Singh Jadoun, de 31 anos, que abandonou a faculdade, opera uma startup de IA, a The Indian Deepfaker.
- Um estupro coletivo a cada quatro horas na Índia: caso de brasileira expõe histórico assustador de violência sexual
Sua equipe de nove pessoas tem feito comerciais com avatares gerados por IA de atores e atrizes de Bollywood. Mas este ano, partidos e políticos começaram a pedir que ela fizesse por eles o que havia feito pelas celebridades. Segundo Jadoun, das 200 solicitações, 14 foram atendidas.
Entre os que estão recebendo o tratamento de IA está Shakti Singh Rathore, um membro do BJP de 33 anos. Seu trabalho nesta temporada eleitoral é informar o maior número possível de pessoas sobre os programas e as políticas de Modi. Por isso, ele decidiu criar uma réplica de si mesmo.
— A IA é maravilhosa e o caminho a seguir — disse Rathore enquanto se acomodava em frente a uma câmera de vídeo no escritório do The Indian Deepfaker, preparando-se para encarnar sua versão digital. — De que outra forma eu poderia alcançar os tantos beneficiários dos programas de Modi em um período tão curto de tempo?
Enquanto Rathore ajustava um lenço cor de açafrão com o logotipo do partido pendurado em seu pescoço, Jadoun o instruiu:
— Basta olhar para a câmera e falar como se a pessoa estivesse sentada bem na sua frente.
Com cerca de cinco minutos de material, incluindo uma gravação de áudio e fotos de perfil, Jadoun começou a trabalhar. Ela disse que usa sistemas de IA de código aberto e os desenvolve com seu próprio código.
Primeiro, o rosto de Rathore foi isolado de cada quadro da gravação. Em seguida, foram coletados dados de suas características faciais, incluindo o tamanho do rosto e dos lábios, bem como seu olhar. O conjunto de dados foi então inserido em modelos de IA que aprendem a prever padrões faciais.
— É preciso continuar a executar o programa e fazer o ajuste fino do rosto até obter o melhor rosto possível — comentou Jadoun.
Um "algoritmo de clonagem" também analisou a gravação de áudio, aprendendo a cadência e a entonação da voz. De acordo com Jadoun, geralmente leva de seis a oito horas de ajustes para aperfeiçoar o rosto e para que os lábios se sincronizem com as palavras. O restante é amplamente automatizado.
Em uma demonstração, foram necessários cerca de quatro minutos para criar aproximadamente 20 vídeos de saudação personalizados.
Jadoun disse que sua equipe poderia produzir até 10 mil vídeos por dia. Para trabalhos maiores e dentro do prazo, ela alugará unidades de processamento gráfico.
Controle de qualidade
A IA generativa também pode remover barreiras linguísticas, o que é especialmente útil em um país tão diverso. O avatar de Rathore pode ser programado para falar idiomas regionais para alcançar os cantos mais remotos da Índia.
Os partidos políticos não estão apenas enviando mensagens de vídeo aos eleitores, mas também usando vozes clonadas para ligar diretamente para as pessoas, tudo isso com a ajuda de chatbots como o ChatGPT.
No passado, quando um representante do partido ligava para os eleitores, eles desligavam, “mas agora, quando um líder local pronuncia o nome de um eleitor, ele imediatamente chama sua atenção”, afirmou Rathore.
Durante a conversa, o chatbot pergunta sobre programas do governo local que oferecem eletricidade gratuita ou financiamento para startups. Segundo Jadoun, as chamadas foram gravadas e transcritas para controle de qualidade e treinamento de IA.
Rathore afirma que gastou cerca de US$ 24 mil (cerca de R$ 126 mil) de seu próprio dinheiro para alcançar cerca de 1,2 milhão de pessoas por meio de suas mensagens de vídeo e chamadas telefônicas e para receber informações sobre quem não respondeu. Para ele, isso é um investimento em seu futuro com o BJP.
Nikhil Pahwa, editor da MediaNama, que cobre a mídia digital na Índia, disse que as mensagens personalizadas podem ser particularmente poderosas entre os indianos.
— A Índia é um país onde as pessoas adoram tirar fotos com imitadores de celebridades. Portanto, se elas receberem uma ligação, digamos, do primeiro-ministro, e ele falar como se as conhecesse, onde vivem e quais são seus problemas, elas ficarão realmente entusiasmadas com isso — concluiu.
Inscreva-se na Newsletter: Guga Chacra, de Beirute a NY