Desmitificando el fraude con deepfakes: cómo el precio de la tecnología determina los objetivos

"Las estafas van a ser la industria de mayor crecimiento de todos los tiempos", afirmó nada menos que el inversor Warren Buffett hace poco en su junta anual de accionistas, tras ver un video deepfake de sí mismo. El legendario multimillonario añadió que el genio ya salió de la botella y que cambiará nuestro mundo para siempre.

Ante la creciente prevalencia del fraude con deepfakes, la ansiedad aumenta entre personas y empresas, y muchos responsables de decisiones en prevención de fraude creen que la IA es hoy un factor importante en el robo de identidad.

Como operador de riesgo, ahora es fundamental entender cómo y por qué un ciberdelincuente emprendedor podría decidir cometer fraude con tecnología deepfake. Este artículo explica los distintos tipos de fraude con deepfakes y la economía que los sustenta.

Conclusiones clave

• El fraude con deepfakes va en aumento, y los ciberdelincuentes aprovechan la generación de texto, voz e imagen con IA para escalar los ataques de forma más barata y eficaz.
• La economía del fraude determina los patrones de ataque, ya que los delincuentes eligen las técnicas que maximizan el retorno de la inversión, equilibrando costo, escalabilidad y posible ganancia.
• Las plataformas avanzadas de prevención de fraude como Taktile ayudan a los prestamistas a defenderse, al permitir experimentar, adaptarse y automatizar con rapidez para detectar y bloquear en tiempo real el fraude impulsado por IA.

La economía del fraude con deepfakes

La mayoría de los estafadores son actores económicos racionales. Cada actividad fraudulenta puede verse como una empresa cuya ganancia debe compensar los costos, el tiempo y la energía invertidos en ejecutar el esquema. Por eso ciertas actividades son más comunes que otras: son más baratas de ejecutar o más fáciles de escalar, como la apropiación de cuentas mediante credential stuffing.

Para entender mejor a los actores maliciosos que usan IA y prepararse frente a ellos, los bancos y las fintech deberían familiarizarse con:

1. Los costos asociados a ejecutar un ataque,
2. Las posibles superficies de ataque donde un ataque determinado puede escalarse,
3. La viabilidad del plan y la ganancia esperada.

A continuación analizamos en detalle los costos operativos de los distintos tipos de fraude con deepfakes, ya que esto puede influir mucho en las diferentes técnicas que se combinan en capas para llevar a cabo actividades fraudulentas sofisticadas.

Los costos operativos del fraude con deepfakes

Los costos dependen, ante todo, de la técnica de IA específica que se use, que se agrupa en tres grandes categorías: textos, voces e imágenes.

1. Fraude con generación de texto

El fraude con generación de texto es el uso más común de la IA, y suele desplegarse como chatbots o como generación masiva de texto con fines de marketing o ventas.

La generación de texto es increíblemente barata. OpenAI cobra su ChatGPT 3.5 Turbo a unos USD 1,5 por 1 millón de tokens de salida, es decir, unas 750.000 palabras. Para entrenar el modelo de lenguaje con un corpus de tamaño similar, un estafador solo tiene que pagar USD 0,50.

El uso malicioso aquí está en el phishing y otras formas de estafa basadas en texto, donde la IA puede ayudar a un ciberdelincuente a redactar mensajes convincentes y personalizados, o simplemente a superar la barrera del idioma de un delincuente de un país en desarrollo que apunta a consumidores de países ricos.

En el ámbito empresarial, los estafadores suelen usar la generación de texto para suplantar a un cliente existente, cometer fraude con facturas o realizar ataques de Business Email Compromise (BEC).

Hoy en día se venden en la dark web herramientas de IA especializadas para cometer los tres.

Un modelo GPT entrenado para el fraude cuesta USD 200 al mes y ayuda a los ciberdelincuentes no solo con correos de phishing: como está entrenado con código de malware, funciona en la práctica como un hacker virtual por encargo.

Los grupos criminales también han lanzado un conjunto de herramientas que facilitan el fraude a empresas mediante BEC. El intercambiador de facturas empresariales depende de que el atacante tenga acceso a correos comprometidos, que la IA analiza en busca de oportunidades para intercambiar facturas, a un elevado precio de USD 2000 por semana. También ofrecen kits de phishing para ataques a medida contra los clientes de una empresa, disponibles por apenas USD 999.

Si bien la generación de texto es lo bastante barata como para que cualquier estafador que sepa eludir las barreras de protección la use para "mejorar" su juego, las herramientas especializadas son inversiones considerables para organizaciones criminales profesionales.

Por eso, sus objetivos tienen que ser grandes: tanto empresas complejas en las que puedan salirse con la suya con fraude de facturas, como, en el caso de las campañas de phishing, una lista de clientes lo bastante grande como para justificar la inversión.

2. Fraude con generación de voz

El fraude con generación de voz ocurre cuando un estafador usa IA para copiar la voz de alguien.

Cuanto mejores sean la calidad y el volumen de las muestras usadas para entrenar el sistema, más creíble será el resultado. Por eso el rango de precios va desde USD 20 al mes por una suscripción hasta cientos o miles de dólares por un clon perfecto, como Sky Voice de OpenAI.

En el contexto de los proveedores de servicios financieros, los estafadores usan esta tecnología para facilitar la apropiación de cuentas, obtener más información sobre sus objetivos o clonar la voz del servicio de atención al cliente para lanzar nuevos ataques.

La generación de voz parece ser un punto ideal para las estafas. No solo es relativamente barata, sino que las empresas tienen pocas posibilidades de verificar realmente con quién hablan durante una llamada telefónica. Como resultado, este tipo de fraude se está adoptando de forma masiva, tanto en estafas dirigidas a consumidores como contra personas que trabajan en empresas, ya que en general es bastante fácil de escalar.

3. Fraude con generación de imágenes

El fraude con generación de imágenes es lo que el público conoce como deepfake propiamente dicho: usar IA para generar la imagen de una persona, ya sea como foto estática o, más comúnmente, en un video.

Al igual que con la clonación de voz, mientras que los clones de imagen simples cuestan casi nada, las falsificaciones de alta calidad van de USD 200 a USD 20.000 por minuto.

Por eso hemos visto una rápida proliferación de estafas con deepfakes, en las que se ha usado a figuras de alto perfil en anuncios fraudulentos para atraer a las víctimas y lograr que entreguen sus datos personales o transfieran dinero a los delincuentes.

Naturalmente, el proceso de onboarding en los servicios financieros se vuelve especialmente vulnerable a los actores fraudulentos que usan fraude con generación de imágenes. Los deepfakes han hecho que las identidades sintéticas sean mucho más difíciles de detectar.

En los controles KYC durante el onboarding, los deepfakes suelen adoptar dos formas: presentación e inyección.

La presentación es relativamente rudimentaria, ya que consiste en usar una foto impresa o una segunda pantalla para mostrarle el deepfake al sistema y engañarlo, mientras que la inyección consiste en manipular el propio flujo de video dentro del software.

La velocidad de adopción de estos ataques debe contrastarse con los métodos tradicionales de siempre, como robar documentos o falsificarlos para lograr el mismo efecto. Un documento de identidad estadounidense con selfie, por ejemplo, cuesta apenas USD 110, lo que lo hace competitivo frente a las soluciones de alta tecnología del mercado. En cambio, inversiones extraordinarias como videos deepfake de varios minutos exigen una ganancia extraordinaria.

Cómo protegerse del fraude impulsado por IA

Es evidente que la IA se está convirtiendo en una parte integral del arsenal de los ciberdelincuentes, impulsada sobre todo por incentivos económicos. En esencia, los estafadores siempre optarán por las herramientas que ofrezcan la máxima eficiencia al menor costo.

Sin embargo, hoy las empresas están más capacitadas que nunca para combatir el fraude impulsado por IA. Esto no se debe solo a sus presupuestos para tecnologías avanzadas, sino también a los procedimientos desarrollados durante décadas de lucha contra el cibercrimen.

Mantenerse a la vanguardia frente al fraude impulsado por IA requiere procesos sólidos para determinar, identificar, evaluar e incorporar a nuevos clientes o empresas. Como no existe una solución única para todos los casos, quienes combaten el fraude de forma proactiva recurren cada vez más a plataformas avanzadas de gestión de fraude y riesgo. Estas plataformas, como la plataforma de decisiones de riesgo de próxima generación de Taktile, permiten experimentar y adaptar con rapidez las políticas automatizadas de detección y prevención de fraude, lo que, en definitiva, ayuda a los equipos a identificar a los estafadores mejor y más rápido.

Preguntas frecuentes (FAQ)