Desvendando a fraude com deepfakes: como o custo da tecnologia determina os alvos

O aprendizado de máquina continua a revolucionar a forma como as fintechs e os bancos operam, especialmente no que diz respeito ao combate à fraude. Embora o avanço da IA pareça promissor para a tomada de decisões eficazes em matéria de risco, desde o lançamento do ChatGPT da OpenAI, os criminosos vêm encontrando novas maneiras de burlar o sistema.

"A fraude vai ser o setor que mais crescerá de todos os tempos", afirmou ninguém menos que o investidor Warren Buffett , recentemente, em sua assembleia anual de acionistas, após assistir a um vídeo deepfake de si mesmo. O lendário bilionário acrescentou que o gênio saiu da lâmpada, mudando nosso mundo para sempre.

Devido ao aumento da prevalência de fraudes com deepfakes, a ansiedade está crescendo entre pessoas físicas e jurídicas — e muitos responsáveis pela prevenção de fraudes acreditam que a IA é hoje um dos principais fatores que contribuem para o roubo de identidade.

Como profissional da área de riscos, tornou-se fundamental compreender como e por que um cibercriminoso empreendedor pode decidir cometer fraudes utilizando a tecnologia deepfake. Este artigo irá abordar os diversos tipos de fraudes deepfake e os aspectos econômicos por trás delas.

A maioria dos fraudadores são agentes econômicos racionais. Cada atividade fraudulenta pode ser vista como um empreendimento em que o ganho deve compensar os custos, o tempo e a energia gastos na execução do esquema. É por isso que certas atividades são mais comuns do que outras: elas são mais baratas de executar ou mais fáceis de ampliar, como a invasão de contas com o uso de credential stuffing.

Para compreender melhor e se preparar para os agentes mal-intencionados que utilizam IA, os bancos e as empresas de fintech devem se familiarizar com:

1. Os custos associados à realização de um ataque,

2. As possíveis superfícies de ataque nas quais um determinado ataque pode ser ampliado,

3. A viabilidade do plano e o retorno financeiro esperado.

A seguir, analisamos em profundidade os custos operacionais de vários tipos de fraudes com deepfakes, uma vez que isso pode influenciar significativamente as diferentes técnicas que se combinam para realizar atividades fraudulentas sofisticadas.

Os custos são determinados, em primeiro lugar, pela técnica específica de IA utilizada, que se divide em três grandes categorias: textos, vozes e imagens.

A fraude por geração de mensagens de texto é o caso de uso mais comum da IA, geralmente implementada na forma de chatbots ou geração em massa de mensagens de texto para fins de marketing ou vendas.

A geração de texto é incrivelmente barata. A OpenAI cobra cerca de US$ 1,50 pelo ChatGPT 3.5 Turbo por 1 milhão de tokens de saída, o que equivale a aproximadamente 750 mil palavras. Para treinar o modelo de linguagem em um corpus de tamanho semelhante, um fraudador precisa pagar apenas US$ 0,50.

O caso de uso malicioso aqui diz respeito ao phishing e a outras formas de golpes baseados em texto, nos quais a IA pode ajudar um cibercriminoso a criar mensagens convincentes e personalizadas ou simplesmente superar a barreira linguística para um criminoso de países em desenvolvimento que tem como alvo consumidores de países desenvolvidos.

No contexto empresarial, os fraudadores costumam usar a geração de texto para se passar por um cliente existente, cometer fraudes em faturas ou realizar ataques do tipo Business Email Compromise (BEC). 

Atualmente, ferramentas especializadas de IA são vendidas na dark web para cometer esses três crimes.

Um modelo GPT treinado para detectar fraudes custa US$ 200 por mês e ajuda os criminosos cibernéticos não apenas com e-mails de phishing, mas, como foi treinado com código de malware, funciona essencialmente como um hacker virtual à disposição.

Grupos criminosos também lançaram um conjunto de ferramentas que facilitam a fraude contra empresas por meio do BEC. O “Business Invoice Swapper” depende do acesso do invasor a e-mails comprometidos, que a IA então analisa em busca de oportunidades para trocar faturas, por um preço exorbitante de US$ 2.000 por semana. Eles também oferecem kits de phishing para ataques personalizados contra os clientes de uma empresa, disponíveis por apenas US$ 999.

Embora a geração de texto seja tão barata que qualquer fraudador que saiba contornar as barreiras de segurança possa utilizá-la para “aperfeiçoar” suas táticas fraudulentas, as ferramentas especializadas representam investimentos consideráveis para organizações criminosas profissionais. 

Por isso, seus alvos precisam ser de grande porte: tanto no caso de empresas complexas, onde conseguem cometer fraudes com faturas, quanto no caso de campanhas de phishing, onde precisam de uma lista de clientes suficientemente grande para justificar o investimento.

A fraude por geração de voz ocorre quando um fraudador usa IA para copiar a voz de alguém.

Quanto melhor for a qualidade e o volume das amostras utilizadas para treinar o sistema, mais convincente será o resultado. Assim, a faixa de preço varia de US$ 20 por mês para uma assinatura até centenas ou milhares de dólares por um clone perfeito, como o Sky Voice da OpenAI.

No contexto dos prestadores de serviços financeiros, os fraudadores estão utilizando essa tecnologia para facilitar a invasão de contas, obter mais informações sobre seus alvos ou clonar a voz do atendimento ao cliente para realizar novos ataques.

A geração de voz parece ser um ponto fraco propício para golpes. Além de ser relativamente barata, as empresas têm poucas possibilidades de verificar de verdade com quem estão falando durante uma ligação. Como resultado, esse tipo de fraude está sendo amplamente adotado tanto em golpes direcionados a consumidores quanto contra funcionários de empresas, já que geralmente é bastante fácil de ser replicado em grande escala.

A fraude por geração de imagens é o que o público costuma chamar de deepfake propriamente dito: o uso da IA para gerar uma representação de uma pessoa, seja na forma de uma imagem estática ou, mais comumente, em um vídeo.

Assim como na clonagem de voz, embora as clonagens simples de imagem custem quase nada, as falsificações de alta qualidade variam entre US$ 200 e US$ 20.000 por minuto. 

Assim, temos assistido a uma rápida proliferação de golpes que utilizam deepfakes, nos quais figuras públicas de destaque são usadas em anúncios fraudulentos para induzir as vítimas a fornecer seus dados pessoais ou a transferir dinheiro para criminosos.

Naturalmente, o processo de integração no setor de serviços financeiros torna-se particularmente vulnerável a agentes fraudulentos que utilizam fraudes envolvendo geração de imagens. Os deepfakes tornaram as identidades sintéticas significativamente mais difíceis de detectar. 

Quando se trata de verificações KYC durante o processo de integração, os deepfakes costumam assumir duas formas: apresentação e injeção.

A apresentação é relativamente simples, pois envolve o uso de uma imagem impressa ou de uma segunda tela para mostrar o deepfake ao sistema com o objetivo de enganá-lo, enquanto a injeção se refere à manipulação do próprio fluxo de dados dentro do software. 

A rapidez com que esses ataques estão sendo adotados deve ser comparada aos métodos tradicionais e comprovados, como o roubo ou a falsificação de documentos para obter o mesmo resultado. Um documento de identidade americano com uma selfie, por exemplo, custa apenas US$ 110, o que o torna competitivo em relação às soluções de alta tecnologia disponíveis no mercado. Por outro lado, investimentos extraordinários, como vídeos deepfake com vários minutos de duração, exigem um investimento financeiro considerável.

É evidente que a IA está se tornando parte integrante do arsenal dos cibercriminosos, impulsionada principalmente por incentivos econômicos. Em essência, os fraudadores sempre optarão por ferramentas que ofereçam a máxima eficiência ao menor custo.

No entanto, as empresas estão hoje mais preparadas do que nunca para combater fraudes baseadas em IA. Isso não se deve apenas aos seus orçamentos para tecnologias avançadas, mas também aos procedimentos desenvolvidos ao longo de décadas de combate ao crime cibernético.

Para se antecipar às fraudes impulsionadas por IA, são necessários processos robustos para determinar, identificar, filtrar e integrar novos clientes ou empresas. Como não existe uma solução única para isso, os profissionais que combatem fraudes de forma proativa estão recorrendo cada vez mais a plataformas avançadas de gestão de fraudes e riscos. Essas plataformas, como a plataforma de decisão de risco de última geração da Taktile, permitem a rápida experimentação e adaptação de políticas automatizadas de detecção e prevenção de fraudes — ajudando, em última instância, as equipes a identificar os fraudadores de forma mais eficaz e rápida.

P: O que é a fraude por deepfake e como ela afeta os serviços financeiros?

R: A fraude por deepfake utiliza imagens, vídeos ou vozes gerados por IA para se passar por outras pessoas com o objetivo de aplicar golpes, invadir contas ou contornar os procedimentos de KYC. As instituições financeiras enfrentam um risco crescente, à medida que os fraudadores utilizam cada vez mais a IA para realizar ataques sofisticados.

P: Como os fraudadores decidem quais ataques baseados em IA utilizar?

R: Os fraudadores avaliam o custo, a escalabilidade e o retorno esperado das ferramentas de IA. A geração de texto é barata e escalável para o phishing; a clonagem de voz tem um custo moderado para a engenharia social; e os vídeos deepfake de alta qualidade visam vítimas de alto valor.

P: Como os bancos e as fintechs podem se proteger contra fraudes impulsionadas por IA?

R: As plataformas avançadas de prevenção de fraudes monitoram padrões de transações, detectam identidades sintéticas e automatizam regras de detecção. Ao utilizar a IA de forma responsável, as equipes podem identificar ataques de deepfake antecipadamente e reduzir as perdas decorrentes de fraudes. 

P: Quais são as formas mais comuns de fraude envolvendo IA no setor de serviços financeiros?

R: Os tipos mais comuns são o phishing por mensagens de texto, a clonagem de voz para apropriação de contas e as imagens ou vídeos falsificados (deepfakes) usados para contornar o processo de KYC ou em golpes de identidade sintética. Cada método se adapta de maneira diferente, dependendo do orçamento e dos alvos do fraudador.

P: Por que a gestão proativa da fraude é essencial na era da IA?

R: A fraude impulsionada pela IA está evoluindo rapidamente, por isso medidas reativas são insuficientes. Plataformas proativas permitem a experimentação, a automação e a adaptação contínuas, mantendo as instituições financeiras à frente dos cibercriminosos. Solicite uma demonstração para ver como você pode se antecipar ao crime financeiro com a Plataforma de Decisão por IA da Taktile.