Desmistificando a fraude com deepfake: como o preço da tecnologia determina os alvos

"Golpes vão ser o setor que mais vai crescer em todos os tempos", disse ninguém menos que o investidor Warren Buffet recentemente, em sua assembleia anual de acionistas, depois de ver um vídeo deepfake de si mesmo. O bilionário lendário acrescentou que o gênio já saiu da garrafa e vai mudar o nosso mundo para sempre.

Com a crescente prevalência da fraude com deepfake, a ansiedade aumenta entre pessoas e empresas, e muitos responsáveis por decisões em prevenção a fraudes acreditam que a IA hoje contribui de forma significativa para o roubo de identidade.

Para quem opera risco, tornou-se fundamental entender como e por que um cibercriminoso empreendedor pode decidir cometer fraude usando tecnologia de deepfake. Este artigo apresenta os diversos tipos de fraude com deepfake e a economia por trás deles.

Principais conclusões

• A fraude com deepfake está em alta, com cibercriminosos usando geração de texto, voz e imagem com IA para escalar ataques de forma mais barata e eficaz.
• A economia da fraude determina os padrões de ataque, e os criminosos escolhem as técnicas que maximizam o retorno sobre o investimento, equilibrando custo, escalabilidade e ganho potencial.
• Plataformas avançadas de prevenção a fraudes, como a Taktile, ajudam os credores a reagir, permitindo experimentação, adaptação e automação rápidas para detectar e bloquear fraudes com IA em tempo real.

A economia da fraude com deepfake

A maioria dos fraudadores são agentes econômicos racionais. Cada atividade fraudulenta pode ser vista como um empreendimento em que o ganho precisa compensar os custos, o tempo e a energia gastos para executar o esquema. É por isso que algumas atividades são mais comuns que outras: são mais baratas de executar ou mais fáceis de escalar, como o account takeover com a ajuda de credential stuffing.

Para entender melhor e se preparar para agentes mal-intencionados que usam IA, bancos e fintechs devem se familiarizar com:

1. Os custos associados à execução de um ataque,
2. As possíveis superfícies de ataque em que um determinado ataque pode ser escalado,
3. A viabilidade do plano e o ganho esperado.

A seguir, aprofundamos os custos operacionais dos vários tipos de fraude com deepfake, pois eles influenciam fortemente as diferentes técnicas que se combinam em camadas para executar fraudes sofisticadas.

Os custos operacionais da fraude com deepfake

Os custos são determinados, antes de tudo, pela técnica de IA específica usada, que se divide em três grandes categorias: textos, vozes e imagens.

1. Fraude com geração de texto

A fraude com geração de texto é o caso de uso mais comum da IA, geralmente implementada como chatbots ou como geração de texto em massa para fins de marketing ou vendas.

A geração de texto é incrivelmente barata. A OpenAI cobra cerca de US$ 1,50 por 1 milhão de tokens de saída do ChatGPT 3.5 Turbo, o que equivale a cerca de 750.000 palavras. Para treinar o modelo de linguagem com um corpus de tamanho semelhante, o fraudador paga apenas US$ 0,50.

O uso malicioso aqui está no phishing e em outras formas de golpes baseados em texto, em que a IA pode ajudar um cibercriminoso a elaborar mensagens convincentes e personalizadas ou simplesmente superar a barreira do idioma para um criminoso de um país pobre que mira consumidores de países ricos.

No contexto empresarial, os fraudadores costumam usar a geração de texto para se passar por um cliente existente, cometer fraude de faturas ou realizar ataques de Business Email Compromise (BEC).

Hoje, ferramentas de IA especializadas são vendidas na dark web para cometer os três tipos de fraude.

Um modelo GPT treinado para fraude custa US$ 200 por mês e ajuda os cibercriminosos não só com e-mails de phishing: como foi treinado com código de malware, funciona na prática como um hacker virtual de aluguel.

Grupos criminosos também lançaram um conjunto de ferramentas que facilitam a fraude contra empresas por meio de BEC. O invoice swapper (trocador de faturas) depende de o atacante ter acesso a e-mails comprometidos, que a IA varre em busca de oportunidades para trocar faturas, por um preço alto de US$ 2.000 por semana. Eles também oferecem kits de phishing para ataques direcionados aos clientes de uma empresa, disponíveis por apenas US$ 999.

Embora a geração de texto seja barata o suficiente para que qualquer fraudador que saiba contornar as barreiras de segurança a use para “aprimorar” suas fraudes, as ferramentas especializadas são investimentos consideráveis para organizações criminosas profissionais.

Por isso, os alvos precisam ser grandes: seja empresas complexas, nas quais é possível escapar com fraude de faturas, seja, no caso de campanhas de phishing, uma base de clientes grande o bastante para justificar o investimento.

2. Fraude com geração de voz

A fraude com geração de voz ocorre quando um fraudador usa IA para copiar a voz de alguém.

Quanto melhor a qualidade e maior o volume das amostras usadas para treinar o sistema, mais convincente o resultado. Por isso, a faixa de preço vai de US$ 20 por mês, numa assinatura, a centenas ou milhares de dólares por um clone perfeito, como a Sky Voice da OpenAI.

No contexto dos provedores de serviços financeiros, os fraudadores usam essa tecnologia para facilitar account takeovers, obter mais informações sobre seus alvos ou clonar a voz do atendimento ao cliente para novos ataques.

A geração de voz parece ser o ponto ideal para golpes. Além de ser relativamente barata, as empresas têm pouca oportunidade de verificar de fato com quem estão falando durante uma ligação. Como resultado, esse tipo de fraude vem sendo adotado em massa, tanto em golpes contra consumidores quanto contra pessoas que trabalham em empresas, já que costuma ser bastante fácil de escalar.

3. Fraude com geração de imagem

A fraude com geração de imagem é o que o público chama de deepfake propriamente dito: usar IA para gerar a imagem de uma pessoa, seja como foto estática ou, mais comumente, em vídeo.

Assim como na clonagem de voz, enquanto clones simples de imagem custam quase nada, falsificações de alta qualidade custam de US$ 200 a US$ 20.000 por minuto.

Com isso, vimos uma rápida proliferação de golpes com deepfakes, em que figuras de grande visibilidade foram usadas em anúncios fraudulentos para levar as vítimas a entregar seus dados pessoais ou a transferir dinheiro para criminosos.

Naturalmente, o processo de onboarding nos serviços financeiros fica particularmente vulnerável a fraudadores que usam fraude com geração de imagem. Os deepfakes tornaram as identidades sintéticas muito mais difíceis de detectar.

Nas verificações de KYC durante o onboarding, os deepfakes costumam assumir duas formas: apresentação e injeção.

A apresentação é relativamente simples do ponto de vista tecnológico, pois consiste em usar uma foto impressa ou uma segunda tela para apresentar o deepfake ao sistema e enganá-lo, enquanto a injeção consiste em manipular o próprio fluxo de vídeo no software.

A rapidez de adoção desses ataques precisa ser avaliada em contraste com os métodos tradicionais, já testados e aprovados, como roubar documentos ou falsificá-los para o mesmo efeito. Um documento de identidade dos EUA com selfie, por exemplo, custa apenas US$ 110, o que o torna competitivo frente às soluções mais sofisticadas do mercado. Já investimentos extraordinários, como vídeos deepfake de vários minutos, exigem um ganho extraordinário.

Como se proteger contra fraudes com IA

É evidente que a IA está se tornando parte integrante do arsenal dos cibercriminosos, movida principalmente por incentivos econômicos. Em essência, os fraudadores sempre vão optar pelas ferramentas que oferecem a máxima eficiência com o mínimo custo.

No entanto, as empresas estão hoje mais preparadas do que nunca para combater fraudes com IA. Isso não se deve apenas aos seus orçamentos para tecnologias avançadas, mas também aos procedimentos desenvolvidos ao longo de décadas de combate ao cibercrime.

Para se manter à frente das fraudes com IA, é preciso ter processos robustos para determinar, identificar, avaliar e fazer o onboarding de novos clientes ou empresas. Como não existe solução única para isso, quem combate fraudes de forma proativa recorre cada vez mais a plataformas avançadas de gestão de fraude e risco. Plataformas como a plataforma de decisão de risco de nova geração da Taktile permitem experimentar e adaptar rapidamente políticas automatizadas de detecção e prevenção de fraudes, ajudando as equipes a identificar fraudadores de forma melhor e mais rápida.

Perguntas frequentes (FAQs)