Formation OWASP GenAI LLM

Programme de notre formation OWASP GenAI LLM – Top 10, édition 2026

[Jour 1 – Matin]

Identifier les risques et protéger le contexte du modèle

• Présentation du Top 10 OWASP LLM 2026 : périmètre, catégories de risques et application aux architectures LLM, RAG et agents IA
• Construction d’un modèle de menace : composants, flux de données, frontières de confiance, actifs sensibles et impacts
• LLM01:2026 Prompt Injection : injections de prompt directes et indirectes : contenus externes, documents, réponses d’outils, entrées multimodales et mémoire persistante
• Réduction des risques d’injection : traitement des contenus non fiables, limites des filtres et des consignes, contrôles applicatifs et limitation des conséquences
• LLM02:2026 Sensitive Information Disclosure : divulgation d’informations sensibles : minimisation des données transmises au modèle, protection des secrets et maîtrise des journaux
• LLM08:2026 Hidden Context Exposure : exposition du contexte interne : prompts système, instructions et informations internes ; gestion des secrets et des autorisations en dehors du modèle
• Atelier pratique : analyser une architecture, tester des scénarios d’injection et de divulgation, puis comparer le comportement de l’application avec et sans protections.

[Jour 1 – Après-midi]

Sécuriser les composants, les données et le RAG

• LLM04:2026 Supply Chain : sécurité de la chaîne d’approvisionnement : modèles, dépendances, jeux de données et outils tiers ; provenance, intégrité, versions et inventaire des composants
• LLM05:2026 Data and Model Poisoning : empoisonnement des données et des modèles : corpus documentaires, données d’entraînement et d’adaptation ; validation des sources et traçabilité des modifications
• LLM09:2026 Vector and Embedding Weaknesses : faiblesses des bases vectorielles et des représentations vectorielles : accès non autorisés, exposition de données et défauts de cloisonnement
• Protection de la chaîne d’ingestion documentaire : contrôle des sources, intégrité des documents, métadonnées d’accès et traitement des contenus non fiables
• Respect des autorisations lors de la recherche et avant l’ajout des documents au contexte du modèle ; isolation des utilisateurs, des organisations, des caches et des mémoires
• Atelier pratique : analyser les risques d’une chaîne RAG, expérimenter des contrôles d’ingestion et d’accès documentaire, puis vérifier leurs effets et leurs limites.

[Jour 2 – Matin]

Contrôler les sorties et les actions des agents IA

• LLM03:2026 Excessive Agency : capacités d’action excessives : fonctionnalités, permissions et autonomie ; application du moindre privilège aux outils et aux identités utilisées
• LLM10:2026 Improper Output Handling : traitement inadéquat des sorties : risques d’injection, d’exécution de code et de fuite de données lors de leur utilisation par d’autres composants
• Validation des sorties : schémas pour les données structurées, contrôles métier, encodage adapté au contexte et vérification du code généré avant utilisation
• Encadrement des appels d’outils, d’API et de connecteurs, y compris MCP : opérations autorisées, validation des arguments et contrôle des droits côté application
• Limitation des conséquences d’une action non autorisée : isolation d’exécution, restriction des accès réseau et validation humaine des actions sensibles avec présentation de l’action exacte
• Articulation avec le Top 10 OWASP for Agentic Applications pour les risques propres aux agents, à leur mémoire et à leurs interactions
• Atelier pratique : évaluer les sorties et les actions d’une application dotée d’outils, appliquer des contrôles de validation et de permissions, puis vérifier le blocage des opérations non autorisées.

[Jour 2 – Après-midi]

Évaluer les protections et préparer l’exploitation

• LLM07:2026 Misinformation : informations erronées ou trompeuses : vérification des réponses et des sources, limites du RAG et validation humaine selon les conséquences d’une erreur
• LLM06:2026 Unbounded Consumption : consommation non maîtrisée : épuisement des ressources, dérive des coûts et abus d’accès au modèle ; quotas, limites de tokens, durées maximales et plafonnement des appels d’outils et des boucles agentiques
• Préparation de tests de sécurité par simulation d’attaques : scénarios adaptés aux risques retenus, résultats attendus, répétition des essais et adaptation des attaques aux protections en place
• Intégration DevSecOps : tests de non-régression, critères de validation et revue des changements de modèles, de prompts, de corpus et d’outils
• Surveillance et réponse aux incidents : journalisation sans exposition inutile de données sensibles, alertes, interruption des traitements et retour à une version validée
• Priorisation des corrections : résultats des tests, impacts, mesures compensatoires et risques résiduels
• Atelier pratique : évaluer la sécurité d’une application, vérifier les limites de consommation et formaliser un bilan des risques, des protections testées et des corrections prioritaires.