IA x IA: empresas aplicam inteligência artificial contra crimes digitais que usam a mesma tecnologia

• Entrevista: A desinformação em plataformas digitais é um problema para a democracia e tende a crescer com uso da IA, alerta executiva
• Especialistas: busca do Google com IA pode afetar tráfego de sites e alimentar desinformação

A técnica que recriou Hillmann é a mesma usada recentemente por adolescentes de uma escola particular no Rio para distribuir falsos nudes de alunas: deepfake. Trata-se de imagem, vídeo ou áudio gerado por IA que podem simular voz, fotografias ou até mesmo sequências de uma pessoa em movimento, com pouca nitidez entre o que é falso e verdadeiro.

Casos similares se espalham pelo mundo, num risco crescente para pessoas, de anônimos a celebridades, mas também para os negócios, diante da capacidade da inteligência artificial de multiplicar o potencial — e os danos — de crimes cibernéticos. Por isso, do outro lado da trincheira, empresas de tecnologia aplicam a própria IA no desenvolvimento de verdadeiros antídotos, soluções capazes de barrar o mau uso da nova tecnologia.

• Veja o resultado: Testamos o sistema do Google que gera respostas com uma IA generativa

1. ‘Deepfakes’ melhores: Manipular vídeos, imagens e áudios se torna uma tarefa acessível a quase todo mundo a partir de sistemas de inteligência artificial generativa. O resultado também é mais realista.
2. Hackeamento de senhas: Cibercriminosos usam inteligência artificial para aperfeiçoar algoritmos usados para decifrar senhas. A adivinhação fica mais rápida e precisa, e os hackers ganham eficiência.
3. Engenharia social: Com IA, hackers automatizam processos para gerar ataques que buscam induzir usuários de dispositivos ao erro por meio de manipulações, seja com ‘deepfakes’ ou ‘phishing’.
4. Envenenamento de dados: Nesse caso, o foco é a própria IA. Hackers alteram dados de treinamento usados por um algoritmo de IA para influenciar as decisões que um sistema toma, o que pode ser difícil de detectar.

A batalha entre a IA dos criminosos e a dos que exploram esse novo mercado de proteção já é bilionária. Segundo a consultoria Allied Market Research, a IA na indústria de segurança cibernética movimentou US$ 19,2 bilhões no mundo em 2022 e deve alcançar US$ 154,8 bilhões em 2032, o equivalente a R$ 760 bilhões.

Os riscos também estão na casa dos bilhões. Ataques cibernéticos — com uso de IA ou não — devem gerar prejuízos de US$ 10,5 bilhões por ano até 2025, estima a McKinsey. É um aumento de 300% em relação aos níveis de 2015.

— Da mesma forma que podemos alavancar a IA generativa para o bem, infelizmente existe o outro lado. Os ataques baseados em IA podem ser mais sofisticados e difíceis de detectar — diz Patrick Rinski, sócio da consultoria no Brasil.

• Um ChatGPT para chamar de seu? Sistema de IA supera 100 milhões de usuários e terá chatbot personalizado

Criar e alterar imagens de maneira muito convincente ficou mais fácil e acessível com a IA. A técnica já era usada há alguns anos, mas agora se difundiu em uma profusão de ferramentas na internet, muitas gratuitas, enquanto a regulação não tem mesma velocidade. Por trás de alguns sistemas populares desse tipo estão desde startups promissoras como Midjourney e Prisma AI até big techs como a Microsoft, que tem no buscador Bing um recurso desse tipo.

Plataformas e aplicativos se multiplicam em parte pelo fluxo de capital para o setor. Um relatório da PitchBook, empresa de dados que monitora o mercado de inovação, mostra que fundos de venture capital (capital de risco) investiram US$ 187,7 milhões (R$ 920 milhões), só no ano passado, em startups desse segmento. Em 2017, esse fluxo tinha sido de apenas US$ 1 milhão.

• Inteligência artificial: tecnologia aprofunda uso da tecnologia nas seguradoras e muda relação com o consumidor

O problema não está na tecnologia — que já abre novas oportunidades de negócios em vários aspectos e se mostra útil, por exemplo, na criação de conteúdo publicitário, como no comercial da Volkswagen que recriou a cantora Elis Regina —, mas em como ela pode ser usada por criminosos, facilitando golpes. Por isso, empresas de segurança digital e as próprias big techs (preocupadas com o peso que a regulação pode ter sobre seus planos) usam a própria IA em mecanismos de proteção.

No Brasil, golpistas usam deepfake, por exemplo, para ultrapassar barreiras de segurança que usam o rosto ou a voz como chave. Bancos e instituições financeiras estão entre os principais alvos. A ideia de simular uma imagem para aplicar um golpe não é nova, diz Adriano Volpini, diretor setorial do Comitê de Segurança Cibernética da Febraban, entidade que reúne os bancos, mas a IA se tornou um facilitador.

• Comer bem, viajar e cuidar do corpo: negócios de bem-estar disparam e movimentam R$ 27 trilhões no mundo

— O que essa nova fase da tecnologia traz é mais acessibilidade e simplificação para quem quer fazer um ataque ou uma fraude. Você não precisa ter um conhecimento técnico tão avançado porque fica mais fácil usar a ferramenta e acessar informações. Essa é a grande mudança — diz o executivo, que também é diretor de Segurança Corporativa do Itaú Unibanco, lembrando que essa mesma lógica se aplica do outro lado. — A democratização do acesso não é só para quem ataca mas também para quem defende. Toda tecnologia que surge pode ser uma ameaça, mas também é uma oportunidade de desenvolvimento de ferramentas de segurança.

A capacidade de detectar ataques com rapidez, de analisar grandes quantidades de dados e de evoluir sistemas de defesa a partir da sofisticação dos ataques com machine learning (aprendizado de máquina) está entre as vantagens que a IA traz para a cibersegurança. Grandes empresas e startups trabalham em ferramentas defensivas potencializadas pela IA. Na internet, já há plataformas — a maioria paga — que detectam se uma foto ou um vídeo são autênticos ou gerados por IA, por exemplo.

A Intel criou uma ferramenta chamada FakeCatcher, que consegue detectar vídeos falsos em tempo real com uma taxa de precisão de 96%. Está disponível, por meio de um código aberto, para a sua base de clientes e desenvolvedores aplicarem em seus próprios programas. Para diferenciar um humano real de um criado por robôs, o sistema foi treinado com IA para identificar padrões sutis de pixels relacionados ao corpo humano, explica Fabiano Sabatini, gerente de contas e especialista da Intel na América Latina:

— A luz tem um reflexo diferente nas veias do nosso corpo dependendo do batimento sanguíneo. Então criamos um mapa desses pixels da imagem, baseado no fluxo sanguíneo. Também identificamos o movimento dos olhos. A resposta vem em milissegundos.

Na Unico, empresa de soluções de biometria facial, a IA entra para analisar dados biométricos dos usuários e reforçar a confirmação de determinada identidade. Para garantir que se trata de um humano, a companhia, que tem clientes como Vivo, Latam e Magalu, também usa um sistema chamado “liveness”, espécie de prova de vida virtual.

— A identidade, na verdade, precisa sempre de mais confirmações. Juntamos várias informações para confirmar que alguém é ele mesmo — diz Yasodara Cordova, pesquisadora-chefe em privacidade da Unico e integrante do grupo de pesquisa de Digital Trust do Fórum Econômico Mundial.

Em outubro deste ano, o influenciador americano MrBeast, a pessoa física dona do canal do Youtube com maior número de inscritos no mundo, foi alvo de um golpe viabilizado pela IA. Ele supostamente aparecia em um vídeo no TikTok oferecendo iPhones por apenas dois dólares. Bastava clicar em um link. O youtuber alertou para a fraude, e o vídeo foi retirado da rede social.

Um mês antes, um relatório conjunto das agências Segurança Nacional (NSA) e de Segurança Cibernética e de Infraestrutura (CISA) dos EUA havia alertado para o perigo das “mídias sintéticas”, como deepfakes, “para influenciar o público e difundir informações falsas sobre questões políticas, sociais, militares ou econômicas”.

O documento destaca três riscos principais para organizações: ameaça à marca, personificação de líderes e diretores financeiros e estratégias para a obtenção de acesso criminoso a redes, comunicações e informações sensíveis.

A IA também tem potencializado ciberataques do tipo phishing — que fisgam vítimas com falsos links por e-mail e até pelo WhatsApp para ter acesso a um banco de dados — com seu poder de automação. Em 2022, segundo a Kaspersky, o Brasil foi o quarto maior alvo no mundo desse tipo de crime.

Renato Opice Blum, especialista em direito digital e sócio do escritório Opice Blum e Bruno Advogados Associados, explica que é possível usar a nova tecnologia para criar programas que vasculhem permanentemente ambientes digitais em busca de vulnerabilidades. Segundo ele, a IA também pode ajudar na criação de sistemas com algoritmos voltados para quebrar senhas ou criar programas maliciosos, os malwares.

Fabio Assolini, diretor de Pesquisa e Análise da Kaspersky para a América Latina, explica como a empresa já treina robôs de IA para o “trabalho árduo” de detecção de ameaças, liberando os analistas de carne e osso para examinar os ataques mais complexos.

— Temos uma ferramenta de análise de malware que consegue fazer a identificação de um código de forma automática. Quando uma nova ameaça é descoberta, conseguimos distribuir uma proteção ao meu cliente pela nuvem em 40 segundos. É muito rápido — diz Assoline, para quem, do lado da segurança, a mistura ideal é a expertise humana com a potência da máquina. — Você precisa de um ser humano para programar a IA. Mas o volume de ataques virtuais e ferramentas usadas hoje é tão grande que precisamos da IA para lidar com esse fluxo. Seria impossível só com humanos.