Desentrañando el fraude con deepfakes: cómo el precio de la tecnología determina a las víctimas

El aprendizaje automático sigue revolucionando la forma en que operan las empresas de tecnología financiera y los bancos, especialmente en lo que respecta a la lucha contra el fraude. Si bien el avance de la inteligencia artificial se muestra prometedor para la toma de decisiones efectivas en materia de riesgo, desde el lanzamiento de ChatGPT de OpenAI, los delincuentes están encontrando nuevas formas de engañar al sistema.

«Las estafas van a ser el sector con mayor crecimiento de todos los tiempos», afirmó nada menos que el inversionista Warren Buffett , recientemente en su reunión anual de accionistas tras ver un video deepfake de sí mismo. El legendario multimillonario agregó que el genio ya salió de la lámpara, cambiando nuestro mundo para siempre.

Debido al aumento de la prevalencia del fraude con deepfakes, crece la inquietud entre las personas y las empresas, y muchos responsables de la prevención del fraude consideran que la inteligencia artificial es ahora uno de los principales factores que contribuyen al robo de identidad.

Como profesional de la gestión de riesgos, hoy en día es fundamental comprender cómo y por qué un ciberdelincuente emprendedor podría decidir cometer un fraude utilizando la tecnología deepfake. Este artículo analizará los distintos tipos de fraude deepfake y los aspectos económicos que los sustentan.

La mayoría de los estafadores son agentes económicos racionales. Cada actividad fraudulenta puede considerarse como una iniciativa en la que la ganancia debe compensar los costos, el tiempo y la energía invertidos en llevar a cabo el plan. Por eso ciertas actividades son más comunes que otras: son más baratas de llevar a cabo o más fáciles de ampliar, como la apropiación de cuentas mediante el «credential stuffing».

Para comprender mejor y prepararse ante los actores malintencionados que utilizan la inteligencia artificial, los bancos y las empresas de tecnología financiera deberían familiarizarse con:

1. Los costos asociados que implica llevar a cabo un ataque,

2. Las posibles superficies de ataque en las que un ataque determinado puede ampliarse,

3. La viabilidad del plan y el rendimiento esperado.

A continuación, analizamos en profundidad los costos operativos de diversos tipos de fraude con deepfakes, ya que esto puede influir considerablemente en las diferentes técnicas que se combinan entre sí para llevar a cabo actividades de fraude sofisticadas.

Los costos dependen, ante todo, de la técnica específica de IA que se utilice, la cual se clasifica en tres categorías generales: textos, voces e imágenes.

El fraude mediante la generación de mensajes de texto es el caso de uso más común de la IA, que suele implementarse mediante chatbots o la generación masiva de mensajes de texto con fines de mercadotecnia o ventas.

La generación de texto es increíblemente barata. OpenAI fija el precio de su ChatGPT 3.5 Turbo en alrededor de 1.5 dólares por 1 millón de tokens de salida, lo que equivale a unas 750,000 palabras. Para entrenar el modelo de lenguaje con un corpus de tamaño similar, un estafador solo tiene que pagar 0.50 dólares.

El caso de uso malicioso en este contexto se da en el phishing y otras formas de estafas basadas en texto, en las que la IA puede ayudar a un ciberdelincuente a redactar mensajes convincentes y personalizados o, simplemente, a superar la barrera del idioma para un delincuente del tercer mundo que tiene como objetivo a consumidores del primer mundo.

En el ámbito empresarial, los estafadores suelen utilizar la generación de texto para hacerse pasar por un cliente real, cometer fraudes en facturas o llevar a cabo ataques de suplantación de correo electrónico empresarial (BEC). 

En este momento, en la web oscura se venden herramientas especializadas de inteligencia artificial para cometer estos tres delitos.

Un modelo GPT entrenado para detectar fraudes tiene un precio de 200 dólares al mes y ayuda a los ciberdelincuentes no solo con los correos electrónicos de phishing, sino que, al estar entrenado con código de malware, actúa esencialmente como un hacker virtual a sueldo.

Los grupos criminales también han lanzado un conjunto de herramientas que facilitan el fraude a empresas a través del BEC. La herramienta para la sustitución de facturas empresariales se basa en que el atacante tenga acceso a correos electrónicos comprometidos, los cuales la IA analiza en busca de oportunidades para sustituir facturas, a un elevado precio de 2000 dólares por semana. También ofrecen kits de phishing para ataques personalizados contra los clientes de una empresa, disponibles por tan solo 999 dólares.

Si bien la generación de texto es lo suficientemente barata como para que cualquier estafador que sepa cómo eludir los controles de seguridad pueda usarla para “mejorar” sus técnicas de fraude, las herramientas especializadas representan inversiones considerables para las organizaciones criminales profesionales. 

Por eso, sus objetivos deben ser grandes: tanto en el caso de empresas complejas, donde pueden salirse con la suya cometiendo fraude en las facturas, como en el caso de las campañas de phishing, donde necesitan una lista de clientes lo suficientemente grande como para justificar la inversión.

El fraude mediante la generación de voz ocurre cuando un estafador utiliza la inteligencia artificial para imitar la voz de alguien.

Cuanto mejor sea la calidad y el volumen de las muestras utilizadas para entrenar el sistema, más creíble será el resultado. Por ello, el rango de precios varía desde los 20 dólares al mes por una suscripción hasta cientos o miles de dólares por un clon perfecto, como el Sky Voice de OpenAI.

En el ámbito de los proveedores de servicios financieros, los estafadores están utilizando esta tecnología para facilitar la apropiación de cuentas, obtener más información sobre sus víctimas o clonar la voz del servicio al cliente con el fin de llevar a cabo nuevos ataques.

La generación de voz parece ser un punto débil para las estafas. No solo es relativamente barata, sino que las empresas tienen pocas posibilidades de verificar de manera confiable con quién están hablando durante una llamada telefónica. Como resultado, este tipo de fraude se está generalizando tanto en las estafas dirigidas a consumidores como en las dirigidas a personas que trabajan en empresas, ya que, por lo general, es bastante fácil de ampliar a gran escala.

El fraude mediante la generación de imágenes es lo que el público conoce como «deepfake» propiamente dicho: el uso de la inteligencia artificial para generar una representación de una persona, ya sea en forma de imagen estática o, más comúnmente, en un video.

Al igual que con la clonación de voz, aunque los clones de imagen simples no cuestan prácticamente nada, las falsificaciones de alta calidad oscilan entre los 200 y los 20 000 dólares por minuto. 

Por ello, hemos visto una rápida proliferación de estafas que utilizan deepfakes, en las que se ha utilizado a figuras de gran notoriedad en anuncios fraudulentos para engañar a las víctimas y que estas revelen sus datos personales o transfieran dinero a los delincuentes.

Naturalmente, el proceso de incorporación en el sector de los servicios financieros se vuelve particularmente vulnerable ante los actores fraudulentos que utilizan el fraude mediante la generación de imágenes. Los deepfakes han hecho que las identidades sintéticas sean mucho más difíciles de detectar. 

En lo que respecta a las verificaciones KYC durante el proceso de incorporación, los deepfakes suelen adoptar dos formas: la presentación y la inyección.

La presentación es relativamente poco sofisticada, ya que implica el uso de una imagen impresa o una segunda pantalla para mostrarle el deepfake al sistema con el fin de engañarlo, mientras que la inyección se refiere a la manipulación del flujo de datos del propio software. 

La rapidez con la que se adoptan estos ataques debe sopesarse frente a los métodos tradicionales de probada eficacia, como el robo o la falsificación de documentos para lograr el mismo efecto. Un documento de identidad estadounidense con una selfie, por ejemplo, cuesta solo 110 dólares, lo que lo hace competitivo frente a las soluciones de alta tecnología disponibles en el mercado. En cambio, inversiones extraordinarias como los videos deepfake de varios minutos de duración requieren un gasto extraordinario.

Es evidente que la inteligencia artificial se está convirtiendo en una parte integral del arsenal de los ciberdelincuentes, impulsada principalmente por incentivos económicos. En esencia, los estafadores siempre optarán por herramientas que ofrezcan la máxima eficiencia a un costo mínimo.

Sin embargo, las empresas están ahora más preparadas que nunca para combatir el fraude impulsado por la inteligencia artificial. Esto no se debe solo a sus presupuestos para tecnologías avanzadas, sino también a los procedimientos desarrollados a lo largo de décadas de lucha contra la ciberdelincuencia.

Para adelantarse al fraude impulsado por la inteligencia artificial, se requieren procesos sólidos que permitan determinar, identificar, evaluar e incorporar a nuevos clientes o empresas. Dado que no existe una solución única que sirva para todos los casos, quienes luchan de manera proactiva contra el fraude recurren cada vez más a plataformas avanzadas de gestión de riesgos y fraude. Estas plataformas, como la plataforma de decisión de riesgos de última generación de Taktile, permiten experimentar y adaptar rápidamente las políticas automatizadas de detección y prevención de fraude, lo que, en última instancia, ayuda a los equipos a identificar a los estafadores mejor y más rápido.

P: ¿Qué es el fraude mediante deepfakes y cómo afecta a los servicios financieros?

R: El fraude mediante deepfakes utiliza imágenes, videos o voces generadas por inteligencia artificial para suplantar la identidad de personas con el fin de cometer estafas, apropiarse de cuentas o eludir los procesos de KYC. Las instituciones financieras se enfrentan a un riesgo cada vez mayor, ya que los estafadores aprovechan cada vez más la inteligencia artificial para llevar a cabo ataques sofisticados.

P: ¿Cómo deciden los estafadores qué ataques basados en inteligencia artificial utilizar?

R: Los estafadores evalúan el costo, la escalabilidad y las ganancias esperadas de las herramientas de inteligencia artificial. La generación de texto es económica y escalable para el phishing; la clonación de voz tiene un costo moderado para la ingeniería social; y los videos deepfake de alta calidad se dirigen a víctimas de alto valor.

P: ¿Cómo pueden los bancos y las empresas de tecnología financiera protegerse contra el fraude impulsado por la inteligencia artificial?

R: Las plataformas avanzadas de prevención de fraudes monitorean los patrones de transacciones, detectan identidades sintéticas y automatizan las reglas de detección. Al utilizar la inteligencia artificial de manera responsable, los equipos pueden identificar a tiempo los ataques de deepfake y reducir las pérdidas por fraude. 

P: ¿Cuáles son las formas más comunes de fraude relacionado con la IA en los servicios financieros?

R: Los tipos más comunes son el phishing basado en texto, la clonación de voz para apropiarse de cuentas y los deepfakes de imágenes o videos utilizados para eludir los procesos de KYC o en estafas de identidad sintética. Cada método se adapta de manera diferente según el presupuesto y los objetivos del estafador.

P: ¿Por qué es esencial la gestión proactiva del fraude en la era de la inteligencia artificial?

R: El fraude impulsado por la inteligencia artificial está evolucionando rápidamente, por lo que las medidas reactivas son insuficientes. Las plataformas proactivas permiten la experimentación, la automatización y la adaptación continuas, lo que permite a las instituciones financieras mantenerse un paso adelante de los ciberdelincuentes. Solicita una demostración para ver cómo puedes adelantarte a los delitos financieros con la Plataforma de Decisión con IA de Taktile.