RAMPART et Clarity : Microsoft outille les développeurs pour sécuriser leurs agents IA

Les agents IA autonomes multiplient les vecteurs d'attaque. Un agent peut être manipulé via une injection de prompt dans un email, exfiltrer des données sans que personne ne le remarque, ou agir bien au-delà de ses permissions initiales. Face à cette réalité, Microsoft a publié le 20 mai deux outils open source conçus pour intégrer la sécurité dès les premières étapes du développement : RAMPART et Clarity.

---

---

Ce que font RAMPART et Clarity

RAMPART, pour Risk Assessment and Measurement Platform for Agentic Red Teaming, est un cadre de tests pour écrire et exécuter des scénarios adversariaux ou bénins contre des agents IA. Compatible avec Pytest, il s'intègre directement dans les pipelines CI/CD. Il est construit sur PyRIT, la bibliothèque de red teaming pour systèmes génératifs déjà publiée par Microsoft, et couvre des catégories de risques variées : injections de prompt indirectes (via email, fichiers, pages web), régressions comportementales non souhaitées, exfiltration de données.

Clarity intervient plus en amont dans le processus. Il s'agit d'un outil d'analyse et de validation des hypothèses de conception : il aide les équipes à documenter la logique d'un agent avant d'écrire la première ligne de code. Quelles permissions l'agent devrait-il avoir ? Comment interagit-il avec des outils externes ? Où se trouvent les frontières de confiance entre systèmes ? Ces questions sont trop souvent posées après un incident, rarement avant. Clarity structure ce travail préventif.

Pourquoi maintenant

Le calendrier n'est pas anodin. En mai 2026, les outils de sécurité IA se multiplient de façon notable. La veille de l'annonce Microsoft, OpenAI avait lancé Daybreak, un système de détection et de correction automatique de vulnérabilités destiné aux équipes de sécurité. Deux approches complémentaires mais distinctes : Daybreak cible les équipes qui corrigent des failles connues, RAMPART cible celles qui veulent tester leurs agents avant même que des failles soient identifiées.

La publication de ces deux outils coïncide avec une prise de conscience plus large sur les risques propres aux agents autonomes. En avril, le Project Glasswing d'Anthropic avait montré que douze grandes entreprises tech se mobilisent conjointement pour répondre aux failles critiques dans les infrastructures IA. Microsoft choisit une voie différente : l'outil open source comme vecteur d'adoption, en pariant sur la communauté plutôt que sur une offre commerciale fermée.

Il existe un argument supplémentaire pour ce timing. Le rapport OSSRA 2026 de Black Duck révèle que le nombre moyen de vulnérabilités open source par base de code a plus que doublé cette année, atteignant 581 par projet en moyenne. Les agents IA, souvent construits sur des couches de dépendances open source, héritent de cette surface d'attaque croissante.

Ce que ça signifie pour vous

Pour les équipes qui développent des agents IA, RAMPART est directement exploitable dans un pipeline CI existant. La barrière d'entrée est faible : il repose sur Pytest et PyRIT, deux outils déjà présents dans la majorité des projets Python. Clarity est utile avant tout nouveau projet d'agent : quelques heures passées à documenter les hypothèses de conception peuvent éviter plusieurs jours de débogage sécurité après un incident en production. Les deux outils sont disponibles en open source sur GitHub depuis le 20 mai 2026.

---

Sources : Microsoft Security Blog · The Hacker News · The Register