Domaine d’expertise
AI Security
Évaluer les risques propres aux systèmes d’IA et aux applications LLM sans oublier leur architecture logicielle classique.
Définition
La sécurité de l’IA couvre les systèmes qui utilisent des modèles, les données qui les alimentent et les décisions qu’ils influencent.
Enjeux
Prompt injection, fuite de données, chaîne d’approvisionnement, contrôle des outils et évaluation continue nécessitent une approche expérimentale.
Travaux associés
NIST AI RMF, OWASP LLM, MITRE ATLAS, sécurité des agents et évaluation des applications RAG forment le cadre principal.
Articles associés
Les premières analyses sur ce thème sont en préparation.