3 aprendizajes clave sobre innovación en IA de Ai4 2025 en Las Vegas

3 conclusiones clave

1. Estamos en modo innovación, incluso cuando se suma la mayoría temprana

Todos están bajo presión para adoptar IA. Los líderes necesitan una respuesta a la pregunta "¿qué están haciendo con la IA?" y necesitan demostrar que están invirtiendo en ella.

Todos saben que este es un cambio transformacional enorme, y estamos en una etapa en la que las posibilidades superan los patrones establecidos. Como resultado, las personas tratan los proyectos como experimentos, para ver qué flota y qué se hunde. Este enfoque experimental trae consigo una tolerancia a una tasa de fracaso relativamente alta. En una sesión titulada “Driving AI ROI”, Jyothi Srirangam de PayPal planteó la pregunta: “Si les digo que más del 50 % de los proyectos de IA fracasan, ¿seguirían invirtiendo en ellos?”. Varias personas gritaron “¡Sí!” y vi cabezas asintiendo por toda la sala. Ella continuó:

“Gartner informa que más del 30 % no pasa de la etapa piloto. Y aquí viene lo mejor: para fines de 2025, más del 30 % de los proyectos de IA generativa no pasarán de la etapa de prueba de concepto.”

Dicho esto, el reconocimiento de que se trata de aplicaciones no probadas de una tecnología nueva es lo que impulsa el apetito por el riesgo. En su charla, Rajesh Janu de Mastercard mencionó el infame incidente de Knight Capital Group. Ocurrió en la edad de piedra de la IA, en 2012, pero sirve como advertencia: por un “fallo” en su algoritmo, perdieron más de USD 440 millones en solo 45 minutos, sumieron al mercado en el caos y casi destruyeron a su firma en el proceso. Abundan las historias sobre el daño financiero y reputacional que se produce cuando la IA sale mal, o cuando malos actores la desvían. (Vea este artículo, que se centra en el lado DevOps de este incidente, pero es una lectura muy interesante de 5 minutos)

Si bien el riesgo en la punta del pelotón puede alejar a algunos de los casos de uso más de vanguardia, hay casos de uso en los que la mayoría temprana sí se está apoyando. Esta división parece más evidente en finanzas. Algunos de los casos de uso más establecidos o aceptados de los que escuché en finanzas fueron las herramientas de productividad del personal (Chris Patterson de CIBC presentó un conjunto premiado de herramientas de productividad para empleados basado en OpenAI), los agentes de atención al cliente y la documentación orientada al cliente.

Lo que vemos aquí es muy interesante desde la perspectiva de “Crossing the Chasm”: la mayoría temprana llega por casos de uso más seguros y establecidos, mientras que, al mismo tiempo, los innovadores siguen descubriendo los límites de la tecnología, del negocio y de los usuarios.

2. Las instituciones financieras tienen que descubrir cómo lidiar con una IA no determinista

En ciencias de la computación, el concepto de “determinista” frente a “no determinista” se refiere a si un algoritmo, dada una entrada particular, siempre producirá la misma salida pasando por los mismos estados para llegar a ella (determinista), o no (no determinista).

La IA generativa nos ha cautivado y deleitado en gran medida por su naturaleza no determinista: puede ser creativa, puede entregar lo inesperado, puede sorprenderlo con las conexiones que establece. Para muchas tareas, todos estos son grandes beneficios.

En finanzas hay muchísimas aplicaciones posibles y maravillosas de la IA generativa para reducir el trabajo manual y mejorar la experiencia del cliente, pero necesitamos conciliar la naturaleza no determinista de la IA generativa (y, en un grado aún mayor, de la IA agéntica) con las regulaciones y los marcos de riesgo. Las instituciones financieras llevan mucho tiempo teniendo que garantizar que sus sistemas no tengan sesgos y que todas las decisiones sean explicables y replicables. Además, para justificar las decisiones, estas deben ser predecibles. Escuché varias versiones de esto en distintas charlas, tanto en relación con los marcos de riesgo internos de las instituciones financieras como con las preocupaciones regulatorias.

En una sesión, EJ Achtner, Head of Applied Artificial Intelligence en BMO, lo expresó así:

“Hay que poder medir las cosas, hay que poder repetirlas, hay que poder demostrar, matemáticamente en la mayoría de los casos, que se tiene una buena idea de cuál será el siguiente resultado.”

Eso no suena a IA generativa. Se complica aún más si se considera la conciencia de contexto y la generación aumentada por recuperación (RAG) con un catálogo de materiales en constante cambio. El estoico Heráclito dijo: “Nadie puede entrar dos veces en el mismo río, porque no es el mismo río ni él es el mismo hombre”.

Lo que me llama la atención de esta discusión es que estamos intentando usar IA para reemplazar tareas que realizan las personas. No estoy seguro de que haya algo más no determinista que los humanos… Entonces, ¿necesitamos actualizar nuestra forma de pensar sobre el determinismo y apoyarnos en cambio en la auditabilidad, la transparencia y el análisis? ¿O necesitamos descubrir cómo hacer que la IA generativa sea más determinista? En mi opinión, deberíamos trabajar en ambas cosas.

Al hablar de su visión sobre esto en riesgo y compliance, Dustin Eaton, Principal of Fraud & AML en Taktile, afirma:

“La orquestación explicable en AML y fraude no se trata solo de seguir a los delincuentes; demuestra la justificación de cada acción tomada. Las decisiones automatizadas que toma una IA de caja negra carecen de la auditabilidad y la flexibilidad necesarias para un contexto adecuado. Esta es la buena noticia: la transparencia y la explicabilidad son la forma de tender un puente entre la confianza y la innovación en la tecnología de IA y los marcos regulatorios.”

3. La regulación es el comodín

Casi todas las personas con las que hablé estaban preocupadas por el incierto entorno regulatorio de los próximos tiempos. Por ahora, la pregunta es sobre todo si la IA se regulará a nivel federal, a nivel estatal o en ambos. Creo que el sector tecnológico está en cierta medida acostumbrado a esto (piense en las regulaciones de privacidad como una buena analogía) y las empresas también (piense en los impuestos o las prohibiciones sobre ciertos ingredientes alimentarios a nivel federal y local), pero saber que algo viene sin tener idea de QUÉ viene (ni cuándo) es un problema.

La primera Ley de Inteligencia Artificial de la UE puede ser un buen indicador. Para quienes trabajan en finanzas, esta ley identificó la suscripción de crédito y de seguros como casos de uso de “alto riesgo” para la IA.

Nota al margen: nuestro cofundador Maximilian Eber (junto con Philipp Hacker) escribió un artículo exhaustivo en la Harvard Data Science Review que explica qué significa esto para los servicios financieros una vez que la ley entre en vigor.

Si bien las empresas no parecen estar paralizándose por esto, sí parece influir en los casos de uso que abordan primero y en cómo piensan la diversificación de su portafolio de proyectos. Ravi Venugopal de Giggso habló de la importancia de la vida útil y de cómo las empresas “quieren ver en qué proyectos pueden invertir que tengan una vida útil más larga, y ver cómo puede ir su dinero hacia ellos”.

Aunque la incertidumbre regulatoria influye en las estimaciones de vida útil de ciertos proyectos, las empresas no están conteniendo la respiración: todas están encontrando iniciativas que perseguir.

Qué significa esto a nivel operativo

Las conversaciones que tuve en esta conferencia me recordaron mucho al mundo de las startups hacia 2010, cuando la revolución móvil se estaba volviendo real, con la diferencia de que el tiempo y el dinero necesarios para construir experimentos son mucho menores. Así como los fondos de capital de riesgo armaban portafolios de startups de apps, hoy los líderes de negocio están armando portafolios internos de proyectos, y esperan una tasa de fracaso alta, pero un enorme retorno por los éxitos.

Parece que las empresas que lo hacen bien están creando grupos y puestos dentro de sus organizaciones para construir un portafolio de proyectos equilibrado en cuanto a plazos, perfil de riesgo e impacto potencial. Mona Hassanzadeh, Head of Data Science and AI en Meridian Credit Union, habló de cómo su comité directivo de IA funciona como un grupo de inversión centralizado: construye un portafolio de inversiones según el riesgo, el plazo y el impacto, y luego se asegura de que esos proyectos se ejecuten de manera segura y operativamente sólida.

Entonces, ¿cómo abordar estos experimentos? Los líderes del sector comienzan cada experimento con una hipótesis basada en una métrica de negocio (¿y si pudiéramos duplicar la velocidad con la que hacemos X? ¿y si pudiéramos reducir el costo de Y en un 60 %?), toman mediciones de referencia, delimitan su inversión en el experimento y miden los resultados. Volviendo a las inversiones en startups impulsadas por el capital de riesgo en la década de 2010, el mantra de moda era “fracasar rápido”. Quizás esa sea también la clave aquí. Permitir la experimentación rápida (o, más precisamente, la rápida falsación) permite a las empresas descartar objetivamente lo que no va a funcionar para concentrar la inversión en lo que sí lo hará.

En cuanto a aprovechar la IA no determinista: tuve algunas conversaciones sobre cómo dividir los flujos de trabajo agénticos en unidades de trabajo más pequeñas y discretas puede dar visibilidad e instrumentación sobre esas unidades. Esto permite mayor control, visibilidad y auditabilidad. También puede ayudar a estructurar los prompts de manera más concreta.

Prepárese para lo impredecible. La diferencia entre predecir y prepararse es un concepto muy importante, y uno en el que pensé mucho durante estas sesiones y conversaciones. No se puede saber cómo será el futuro y no se pueden predecir los eventos “cisne negro”, que son impredecibles por naturaleza, pero sí se pueden hacer cosas que lo vuelvan resiliente ante muchos futuros posibles.

En este caso, se trata de incorporar diversidad (de proveedores, audiencias y casos de uso) a su portafolio de proyectos, volverse más adaptable preparándose para iterar rápido, gestionar su exposición y someter su tecnología a “red teaming” para encontrar el riesgo antes de que el riesgo lo encuentre a usted. La nueva generación de líderes de IA en las empresas está descubriendo y refinando los patrones a medida que madura la aplicación de esta tecnología, y es muy emocionante ser parte de ello.

Terminaré con otra nota, una con la que en realidad comenzó la conferencia: la oradora principal, Randi Weingarten, presidenta de la American Federation of Teachers, abrió la conferencia con un llamado a “construir un futuro en el que queramos vivir, uno en el que queramos que vivan nuestros hijos”. Vivimos tiempos decisivos y todos debemos recordar nuestra responsabilidad con la sociedad y con nuestro futuro colectivo al decidir cómo avanzar.

¿Opiniones? ¿Preguntas? Escríbame, siempre con gusto conversaré.