3 aprendizados sobre inovação em IA da Ai4 2025 em Las Vegas

3 principais aprendizados

1. Estamos em modo de inovação, mesmo com a chegada da maioria inicial

Todos estão sob pressão para adotar IA. Os líderes precisam de uma resposta para a pergunta “o que vocês estão fazendo com IA?” e precisam mostrar que estão investindo nisso.

Todos sabem que essa é uma mudança transformacional enorme, e estamos na fase em que as possibilidades superam os padrões estabelecidos. Como resultado, as pessoas tratam os projetos como experimentos, para ver o que vai flutuar e o que vai afundar. Essa abordagem experimental traz consigo uma tolerância a uma taxa de falha relativamente alta. Em uma sessão chamada “Driving AI ROI”, Jyothi Srirangam, do PayPal, fez a pergunta: “Se eu disser que mais de 50% dos projetos de IA fracassam, vocês ainda investiriam neles?” Várias pessoas gritaram “Sim!” e vi cabeças concordando por toda a sala. Ela continuou:

“O Gartner relata que mais de 30% não passam da fase piloto. E aqui vai o detalhe: até o fim de 2025, mais de 30% dos projetos de IA generativa não passarão da fase de prova de conceito.”

Dito isso, o reconhecimento de que são aplicações ainda não comprovadas de uma nova tecnologia é o que alimenta o apetite por risco. Em sua palestra, Rajesh Janu, da Mastercard, mencionou o infame incidente da Knight Capital Group. Ele aconteceu na idade da pedra da IA, em 2012, mas serve como um alerta: por causa de um “glitch” no algoritmo, a empresa perdeu mais de US$ 440 milhões em apenas 45 minutos, jogando o mercado no caos e quase destruindo a própria firma no processo. Há histórias de sobra sobre os danos financeiros e de reputação causados quando a IA dá errado ou é levada a errar por agentes mal-intencionados. (Veja este texto, que foca bastante no lado de DevOps desse incidente, mas é uma leitura muito interessante de 5 minutos)

Embora o risco na ponta do pelotão possa afastar alguns de casos de uso mais de vanguarda, há casos de uso em que a maioria inicial está avançando. Essa divisão parece mais evidente no setor financeiro. Alguns dos casos de uso mais estabelecidos e aceitos de que ouvi falar em finanças foram ferramentas de produtividade da equipe (Chris Patterson, do CIBC, apresentou um conjunto premiado de ferramentas de produtividade para colaboradores baseado na OpenAI), agentes de atendimento ao cliente e documentação voltada ao cliente.

O que vemos aqui é muito interessante do ponto de vista de “Crossing the Chasm”: a maioria inicial entra por casos de uso mais seguros e estabelecidos, ao mesmo tempo em que os inovadores ainda descobrem os limites da tecnologia, do negócio e dos usuários.

2. As instituições financeiras precisam descobrir como lidar com a IA não determinística

Na ciência da computação, o conceito de “determinístico” versus “não determinístico” refere-se a se um algoritmo, dada uma entrada específica, sempre produzirá a mesma saída passando pelos mesmos estados para chegar lá (determinístico) ou não (não determinístico).

A IA generativa nos encantou em grande parte por causa de sua natureza não determinística: ela pode ser criativa, pode entregar o inesperado, pode surpreender com as conexões que faz. Para muitas tarefas, tudo isso são grandes benefícios.

No setor financeiro, há muitas aplicações maravilhosas possíveis da IA generativa para reduzir o trabalho manual e melhorar a experiência do cliente, mas precisamos conciliar a natureza não determinística da IA generativa (e, em grau ainda maior, da IA agêntica) com as regulações e os frameworks de risco. As instituições financeiras sempre tiveram que garantir que não haja viés em seus sistemas e que todas as decisões sejam explicáveis e replicáveis. Além disso, para justificar as decisões, elas precisam ser previsíveis. Ouvi várias versões disso em palestras diferentes, tanto em relação aos frameworks internos de risco das instituições quanto às preocupações regulatórias.

Em uma sessão, EJ Achtner, Head of Applied Artificial Intelligence do BMO, disse assim:

“Você precisa ser capaz de medir as coisas, de repetir as coisas, de provar, matematicamente, na maioria dos casos, que tem uma boa ideia de qual será o próximo resultado.”

Isso não soa como IA generativa. A situação se agrava quando se considera a consciência de contexto e a geração aumentada por recuperação (RAG) com um catálogo de materiais em constante mudança. O estoico Heráclito disse: “Nenhum homem pode entrar duas vezes no mesmo rio, pois não é o mesmo rio e ele não é o mesmo homem.”

O que me chama atenção nessa discussão é que estamos tentando usar a IA para substituir tarefas realizadas por pessoas. Não tenho certeza de que exista algo mais não determinístico do que os humanos… Então precisamos atualizar nossa forma de pensar sobre determinismo e, em vez disso, confiar em auditabilidade, transparência e análise? Ou precisamos descobrir como tornar a IA generativa mais determinística? Na minha opinião, devemos trabalhar para fazer as duas coisas.

Sobre a sua visão em risco e compliance, Dustin Eaton, Principal de Fraud & AML na Taktile, afirma:

“A orquestração explicável em AML e fraude vai além de rastrear criminosos: ela comprova a justificativa de cada ação tomada. Decisões automatizadas por uma IA caixa-preta não têm a auditabilidade e a flexibilidade necessárias para o contexto adequado. A boa notícia é que transparência e explicabilidade são a ponte entre a confiança e a inovação na tecnologia de IA e nos frameworks regulatórios.”

3. A regulação é o coringa

Quase todos com quem conversei estavam preocupados com o ambiente regulatório incerto num futuro próximo. Por enquanto, a questão é basicamente se a IA será regulada no nível federal, no nível estadual ou em ambos. Acho que o setor de tecnologia já está um pouco acostumado com isso (veja as regulações de privacidade como uma boa analogia), e as empresas também (veja a tributação ou a proibição de certos ingredientes alimentares nos níveis federal e local), mas saber que a regulação vem sem fazer ideia de exatamente O QUE vem (ou quando) é um problema.

O primeiro Artificial Intelligence Act da UE pode ser um bom indicador. Para quem atua em finanças, essa lei classificou a análise de crédito e de seguros (underwriting) como casos de uso de “alto risco” para a IA.

Observação à parte: nosso cofundador Maximilian Eber (junto com Philipp Hacker) escreveu um artigo abrangente na Harvard Data Science Review explicando o que isso significa para os serviços financeiros quando a lei entrar em vigor.

Embora as empresas não pareçam paralisadas por isso, a incerteza parece influenciar os casos de uso que elas buscam primeiro e a forma como pensam a diversificação do portfólio de projetos. Ravi Venugopal, da Giggso, falou sobre a importância do prazo de validade e sobre como as empresas “querem ver em quais projetos podem investir que tenham um prazo de validade mais longo e ver como o dinheiro delas pode ir para eles”.

Embora a incerteza regulatória esteja entrando nas estimativas de prazo de validade de certos projetos, as empresas não estão prendendo a respiração: todos estão encontrando iniciativas para perseguir.

O que isso significa no nível operacional

As conversas que tive nessa conferência lembraram muito o mundo das startups por volta de 2010, quando a revolução mobile estava ficando real, só que o tempo e o dinheiro necessários para construir experimentos são muito menores. Assim como os VCs montavam portfólios de startups de apps, os líderes de negócio hoje montam portfólios internos de projetos, esperando uma alta taxa de fracasso, mas um retorno enorme dos sucessos.

Parece que as empresas que fazem isso bem estão criando grupos e cargos internos para montar um portfólio de projetos equilibrado em prazo, perfil de risco e impacto potencial. Mona Hassanzadeh, Head of Data Science and AI da Meridian Credit Union, falou sobre como o comitê de IA da instituição funciona como um grupo de investimento centralizado, montando um portfólio de investimentos com base em risco, prazo e impacto e garantindo que esses projetos sejam conduzidos de forma segura e operacionalmente sólida.

Então, como abordar esses experimentos? Os líderes do setor estão começando cada experimento com uma hipótese ancorada em uma métrica de negócio (E se pudéssemos dobrar a velocidade com que fazemos X? E se pudéssemos reduzir o custo de Y em 60%?), fazendo medições de base, definindo o escopo do investimento no experimento e medindo os resultados. Voltando aos investimentos em startups conduzidos por VCs nos anos 2010, o mantra da moda era “fail fast”. Talvez essa também seja a chave aqui. Permitir experimentação rápida (ou, de forma mais precisa, falsificação rápida) permite que as empresas descartem objetivamente o que não vai funcionar e concentrem o investimento no que vai.

Sobre como aproveitar a IA não determinística: tive algumas conversas sobre como dividir os fluxos de trabalho agênticos em unidades de trabalho menores e mais discretas pode criar visibilidade e instrumentação sobre essas unidades. Isso permite mais controle, visibilidade e auditabilidade. Também pode ajudar a estruturar os prompts de forma mais concreta.

Prepare-se para o imprevisível. A diferença entre previsão e preparação é um conceito muito importante, e sobre o qual pensei bastante nessas sessões e conversas. Você não pode saber como será o futuro e não pode prever eventos “cisne negro”, que são inerentemente imprevisíveis, mas pode fazer coisas que o tornem resiliente a muitos futuros possíveis.

Neste caso, trata-se de incluir diversidade (de provedores, públicos e casos de uso) no seu portfólio de projetos, tornar-se mais adaptável preparando-se para iterar rapidamente, gerenciar sua exposição e fazer “red-teaming” na sua tecnologia para encontrar o risco antes que ele encontre você. A nova geração de líderes de IA nos negócios está descobrindo e refinando os padrões à medida que a aplicação dessa tecnologia amadurece, e é muito empolgante fazer parte disso.

Vou terminar em outro tom, aquele com que a conferência de fato começou: a palestrante principal, Randi Weingarten, presidente da American Federation of Teachers, abriu a conferência com um apelo para “construirmos um futuro em que queremos viver, um futuro em que queremos que nossos filhos vivam”. Vivemos tempos decisivos, e todos nós precisamos lembrar da nossa responsabilidade com a sociedade e com o nosso futuro coletivo ao decidir como seguir em frente.

Ideias? Perguntas? Fale comigo, terei prazer em conversar.