Projet · ai-security
AI Security Lab
Un environnement reproductible pour tester les attaques et les contrôles des applications LLM et des systèmes RAG.
Contexte
Les applications LLM ajoutent des frontières de confiance inhabituelles : le langage devient à la fois donnée, instruction et interface vers des outils.
Problème
Les contrôles doivent être évalués face à des attaques reproductibles, pas uniquement décrits dans une architecture.
Architecture
Le laboratoire sépare le modèle, l’orchestrateur, la base de connaissances, les outils et la journalisation pour observer chaque décision.
Sécurité
Les scénarios incluent prompt injection directe et indirecte, exfiltration, abus d’outils et contournement des règles d’autorisation.
Résultats
Chaque expérimentation conserve son hypothèse, ses données, son résultat et les limites observées afin de comparer les contrôles dans le temps.