Adaptando a segurança ofensiva para a era dos agentes de IA

Na Taktile, temos usado esses novos recursos para tornar nosso produto mais seguro: da detecção de vulnerabilidades de segurança à correção. Também notamos que cada vez mais produtos de segurança, antes baseados em scanners determinísticos, estão migrando para a IA e a usam para avaliar impacto e encontrar novas vulnerabilidades.

Alguns desses produtos, porém, correm o risco de aumentar o ruído que já existe. As equipes de engenharia já estão sobrecarregadas com a saída de vários scanners de segurança que geram centenas de tickets por semana, e algumas dessas ferramentas simplesmente grampeiam uma camada não determinística sobre uma tecnologia muito antiga: os scanners estáticos.

Na minha visão, essa é a abordagem errada para aproveitar a IA.

Um teste de penetração automatizado por IA pode virar rapidamente só mais um SAST se não houver orientação, mas é justamente na redução de ruído que a IA rende o melhor.

Com os laboratórios de fronteira lançando loops orientados a objetivos, percebi que tratar as avaliações de segurança como um evento de Capture the Flag era onde estava o valor real: passar da varredura de segurança baseada em SAST/DAST para o teste de penetração.

Pentesting versus varredura de segurança

Como analogia, podemos pensar na varredura SAST/DAST como pesca de arrasto e no pentesting como pesca de corrico. Uma lança uma rede enorme para pegar todo tipo de peixe numa área do oceano, mas, nessa busca, também causa danos não intencionais ao ecossistema e traz lixo a bordo.

O teste de penetração busca um jeito de passar pelo seu perímetro de segurança, por qualquer meio necessário. Se não conseguirmos exfiltrar informações privadas, paciência. Sem "achados de hardening", sem "defesa em profundidade" e sem achados hipotéticos. Só precisamos de um caminho realista, partindo de uma ameaça externa, passando pelo comprometimento de sistemas internos, até um impacto real, como o vazamento de PII.

Com isso em mente, combinamos o poder dos loops orientados a objetivos com o contexto de que dispomos, na forma de código-fonte e arquitetura.

Construindo um hacker de IA

Adaptamos o nosso agente de IA residente na Taktile, apelidado de "Claudius", e criamos uma personalidade derivada chamada "Black Hoodie Claudius". Depois, demos a ele um objetivo de conclusão simples:

" encontre uma única vulnerabilidade de segurança de alta severidade. "

Para que ele alcance esse objetivo, precisamos dar ao agente uma definição de "alta severidade": quais papéis têm privilégios baixos e altos, quais recursos são críticos, e fechamos o foco em vulnerabilidades entre tenants.

A parte fundamental dessa abordagem é a cadência: uma única vulnerabilidade.

O bom dos agentes de IA em segurança é que eles finalmente podem libertar engenheiros de segurança e desenvolvedores de avaliar o impacto de centenas de entradas de um SAST/DAST, concentrando o esforço em uma única vulnerabilidade. Optamos por rodar isso toda semana porque assim engenheiros de segurança, desenvolvedores e stakeholders conseguem absorver essa vulnerabilidade e publicar uma correção antes que a próxima seja encontrada na semana seguinte.

Em uma era de fadiga causada por uma saída infinita de IA, barata de produzir e cara de consumir, optamos por usar essas ferramentas como geradores de sinal puro.