IA e ‘deepfake’ põem eleições em risco

• Investigação: Assessora de Carlos Bolsonaro pediu informações a auxiliar de Ramagem sobre inquérito 'envolvendo PR e 3 filhos'

Nas recentes eleições presidenciais da Argentina, o mundo todo assistiu ao uso criminoso de deepfake (termo usado para caracterizar manipulações de material audiovisual com uso de inteligência artificial) como arma política. Os recursos — que permitem a perfeita recriação de vozes humanas e de imagens em vídeo — fizeram estragos na campanha do candidato Sergio Massa, derrotado pelo atual presidente, Javier Milei. A imagem do rosto de Massa foi sobreposta a um vídeo para simular que ele estivesse usando cocaína. A fraude foi descoberta, mas um desgaste de tamanha proporção, em plena disputa eleitoral, é irreversível.

No Brasil, há denúncias de deepfake por áudio. O prefeito de Manaus, David Almeida, afirma que sua própria voz foi reproduzida num áudio falso em que chamava de “vagabundos” os professores do município. O caso do prefeito manauara acende um alerta, especialmente pela proximidade das eleições municipais de 2024. Há urgência na regulamentação do uso da inteligência artificial no Brasil.

• Bela Megale: Gleisi defende apoio à reeleição de Paes só com PT como vice

Autoridades brasileiras já estão atentas à questão. O Tribunal Superior Eleitoral (TSE) trabalha na normatização do uso de IA em disputas políticas. A previsão é que a divulgação de deepfake seja caracterizada como abuso de poder ou crime eleitoral, com penas que podem variar de multa a prisão.

Embora seja um avanço importante, a ação do TSE, isoladamente, não é suficiente para o combate à aplicação inadequada das novas tecnologias nas campanhas eleitorais. É necessário que, paralelamente, o assunto seja regulamentado pela legislação federal, de forma que as punições ocorram para além do âmbito da Justiça Eleitoral.

Câmara e Senado também estão debatendo a inteligência artificial, e a expectativa é que o país possa ter uma legislação específica ainda neste ano, a tempo de ser aplicada nas eleições de outubro. Para isso o tema precisa ser colocado em regime de urgência assim que as Casas iniciarem o ano legislativo.

Com mais de 30 anos de experiência em campanhas eleitorais e atuação no universo político, minha opinião é que a futura lei precisará ser rigorosa, incluindo entre as penas previstas perda de mandato e dos direitos políticos para candidatos que comprovadamente propagarem vídeos manipulados para atacar adversários. Apenas com punições rígidas as novas regulamentações efetivamente terão potencial de combater as deepfakes. Do contrário, estará em risco o processo eleitoral.

Reproduções falsas de vídeo e áudio têm potencial para causar fortes danos à imagem política de qualquer candidato. Mais do que isso, podem induzir o eleitor ao erro, influenciando o resultado das urnas e maculando todo o processo democrático.