Giskard

Giskard cible le contrôle qualité des agents LLM et des systèmes d’intelligence artificielle en entreprise, là où la gestion du risque et la sûreté IA posent problème dans les cycles de tests. Les organisations IT rencontrent des défaillances de modèles qui affectent la conformité, la sécurité applicative ou la pertinence fonctionnelle. Sur ces sujets, les équipes recherchent des outils centralisant l’évaluation, la supervision collaborative et le red teaming automatisé pour anticiper les évolutions des agents IA. Giskard propose une architecture composée de code libre côté développeur et d’une plateforme collaborative dédiée aux entreprises.

Un cas d’usage se présente dans la validation continue d’agents conversationnels construits avec les SDK OpenAI ou Google : Giskard vérifie la robustesse en détectant des failles via automated scanning. Une équipe Data Science intègre les scripts Python Giskard Open Source dans un pipeline CI/CD pour contrôler chaque version du modèle en pré-production, et reçoit des alertes dans le Hub en cas de détection de toxicité ou de requête non maîtrisée. L’espace de travail partagé organise l’annotation, la remontée de tâches ou la création de scénarios impliquant plusieurs acteurs.

La plateforme Hub fournit des fonctions telles que la gestion centralisée des jeux de données, le versionnage, l’accès multi-utilisateur, les contrôles d’accès, SSO, 2FA, et le journal d’audit. Les tests métiers comprennent des scénarios multi-tours, des LLM judges (évaluation de cohérence, pertinence, détection de contradiction, toxicité), une composition asynchrone des checks et une automatisation de l’évaluation. L’intégration avec les SDK principaux (sécurité IA), la gestion des connaissances par import JSON, et l’export de résultats analysables en JUnit XML rendent possible la traçabilité et le suivi réglementaire liés au testing d’agents conversationnels.

Dans le secteur des équipes de développement IA, Giskard structure le red teaming et optimise la détection des défaillances sécurité RAG, tout en renforçant la protection des workflows via le Hub. Les benchmarks publics comme Phare et RealPerformance servent de support à des tests réalistes. L’automatisation à l’aide de quality_scan ou vulnerability_scan limite la présence de faux négatifs et permet d’attribuer de manière précise les tâches correctives, comme observé lors d’une série de tests sur la plateforme en 2024.