Adapter la sécurité offensive à l’ère des agents IA

Chez Taktile, nous utilisons ces nouvelles capacités pour rendre notre produit plus sûr, de la détection des vulnérabilités de sécurité à leur correction. Nous constatons aussi que de plus en plus de produits de sécurité, auparavant fondés sur des scanners déterministes, font le saut vers l’IA et s’en servent pour évaluer l’impact et trouver de nouvelles vulnérabilités.

Certains de ces produits risquent toutefois d’ajouter au bruit existant. Les équipes d’ingénierie sont déjà submergées par les résultats de multiples scanners de sécurité qui génèrent des centaines de tickets par semaine, et certains de ces outils se contentent d’agrafer une couche non déterministe sur une technologie très ancienne : les scanners statiques.

À mon avis, ce n’est pas la bonne façon d’exploiter l’IA.

Un test d’intrusion automatisé par l’IA peut vite devenir un simple SAST de plus s’il n’est pas guidé, alors que c’est précisément en réduisant le bruit que l’IA est la plus efficace.

Avec les laboratoires de pointe qui livrent des boucles orientées objectif, j’ai compris que la vraie valeur résidait dans le fait de traiter les évaluations de sécurité comme une épreuve de Capture the Flag : passer du scan de sécurité fondé sur SAST/DAST au test d’intrusion.

Test d’intrusion ou scan de sécurité

Par analogie, on peut comparer le scan SAST/DAST à du chalutage et le test d’intrusion à de la pêche à la traîne. L’un utilise un large filet pour attraper toutes sortes de poissons dans une zone de l’océan, mais ce faisant, il cause aussi des dégâts involontaires à la biosphère et remonte des déchets à bord.

Le test d’intrusion cherche un moyen de franchir votre périmètre de sécurité, par tous les moyens nécessaires. Si nous ne parvenons pas à exfiltrer des informations privées, tant pis. Pas de « constats de durcissement », pas de « défense en profondeur », pas de constats hypothétiques. Il nous faut simplement un chemin réaliste, depuis une menace externe, en passant par la compromission d’un système interne, jusqu’à un impact réel, comme la compromission de données personnelles (PII).

Dans cet esprit, nous combinons la puissance des boucles orientées objectif avec le contexte dont nous disposons sous forme de code source et d’architecture.

Construire un hacker IA

Nous avons adapté notre agent IA maison chez Taktile, baptisé « Claudius », et en avons tiré une personnalité dérivée appelée « Black Hoodie Claudius ». Puis nous lui avons fixé un objectif de fin très simple :

« Trouve une seule vulnérabilité de sécurité de haute gravité. »

Pour qu’il atteigne cet objectif, nous devons lui fournir une définition de la « haute gravité » : quels rôles ont des privilèges faibles ou élevés, quelles ressources sont critiques, et nous resserrons le focus sur les vulnérabilités entre tenants (cross-tenant).

L’élément fondamental de cette approche est la cadence : une seule vulnérabilité.

Ce qui est formidable avec les agents IA en sécurité, c’est qu’ils peuvent enfin libérer les ingénieurs sécurité et les développeurs de l’évaluation de l’impact sur des centaines d’entrées issues d’un SAST/DAST, en concentrant leurs efforts sur une seule vulnérabilité. Nous avons choisi une exécution hebdomadaire : elle permet aux ingénieurs sécurité, aux développeurs et aux parties prenantes de traiter cette vulnérabilité et de livrer un correctif avant que la suivante ne soit trouvée la semaine d’après.

À l’heure de la fatigue provoquée par une production d’IA sans fin, peu coûteuse à produire mais coûteuse à consommer, nous choisissons d’utiliser ces outils comme de purs générateurs de signal.