Microsoft rend open source RAMPART et Clarity pour sécuriser les agents IA pendant le développement
Microsoft a dévoilé deux nouveaux outils open source appelés RAMPART et Clarity pour aider les développeurs à mieux tester la sécurité des agents d'intelligence artificielle (IA). RAMPART, acronyme de Plateforme d'Évaluation des Risques et de Mesure pour le Recrutement Red Teaming, fonctionne comme un cadre de test de sécurité natif de Pytest pour écrire et exécuter des tests de sécurité pour les agents IA, couvrant