Formation Certification Offensive AI Expert (HTB COAE)

Programme de notre formation Offensive AI Expert (HTB COAE)

[Jour 1 – Matin]

Fondations de l’IA offensive

• Comprendre le périmètre de la certification HTB COAE et la structure de l’examen.
• Revoir les notions fondamentales : Machine Learning, LLM, architectures Transformer et surfaces d’attaque.
• Différencier l’approche applicative classique (OWASP Top 10) de l’approche spécifique IA (OWASP for LLM / ML).
• Cartographier les risques majeurs, de la chaîne de collecte de données aux API d’inférence.
• Atelier pratique : prise en main de l’environnement de lab, cartographie d’un système IA cible et identification des points d’entrée.

[Jour 1 – Après-midi]

Prompt injection et jailbreaking

• Étudier la mécanique des prompt injections directes.
• Maîtriser les techniques de jailbreaking et le désalignement des garde-fous (contournement RLHF/DPO).
• Explorer les contournements avancés (encodages, multilinguisme, découpage de contexte, obfuscation).
• Évaluer l’impact métier d’une réponse manipulée ou hors cadre.
• Atelier pratique : réussir une série de contournements graduels sur un assistant conversationnel protégé et documenter la démarche.

[Jour 2 – Matin]

Prompt injection indirecte et exploitation des RAG

• Analyser les vecteurs d’injection indirecte (fichiers piégés, emails, sources web externes).
• Comprendre les vulnérabilités de l’architecture RAG (Retrieval-Augmented Generation).
• Exploiter les faiblesses des bases de données vectorielles (Vector DB poisoning, manipulation d’embeddings).
• Exfiltrer des données confidentielles chargées dynamiquement dans le contexte.
• Atelier pratique : infiltrer un document malveillant dans une base documentaire pour prendre le contrôle des réponses de l’IA.

[Jour 2 – Après-midi]

Sécurité des Agents IA et Tool Calling

• Étudier le fonctionnement des Agents IA autonomes (ReAct pattern, Function/Tool Calling).
• Identifier les risques de détournement d’outils : RCE, SSRF, requêtes SQL, élévation de privilèges.
• Manipuler le cycle de décision de l’agent pour forcer l’exécution d’actions non autorisées.
• Évaluer la sécurité des API et plugins connectés aux modèles.
• Atelier pratique : compromettre un Agent IA connecté à un environnement système pour exécuter des commandes à distance.

[Jour 3 – Matin]

Adversarial Machine Learning et altération de données

• Comprendre les attaques par evasion et poisoning sur les modèles de ML classiques et Deep Learning.
• Générer des exemples adversariaux pour tromper les classifieurs.
• Identifier les vulnérabilités de la chaîne MLOps (désérialisation, empoisonnement de jeux de données, dépendances).
• Atelier pratique : altérer la prédiction d’un modèle d’analyse de risques à l’aide d’entrées adversariales construites sur mesure.

[Jour 3 – Après-midi]

Extraction de modèles et de secrets

• Étudier les attaques d’inversion de modèle et d’inférence d’appartenance.
• Mettre en œuvre des techniques de vol de modèle (Model Stealing) via requêtes API répétées.
• Analyser les fuites de secrets : extraction de System Prompts, clés API et données d’entraînement.
• Exploiter la mémoire conversationnelle et les mécanismes de cache.
• Atelier pratique : récupérer un System Prompt masqué et extraire des clés d’accès cachées dans la mémoire de l’IA.

[Jour 4 – Matin]

Red Teaming automatisé et outillage offensif

• Utiliser les frameworks modernes de Red Teaming IA (Garak, PyRIT, Promptfoo, etc.).
• Automatiser le fuzzing de prompts, la recherche de jailbreaks et les tests de régression de sécurité.
• Intégrer la détection de vulnérabilités IA dans un pipeline d’évaluation continue.
• Atelier pratique : configurer et orchestrer une campagne de Red Teaming automatisée sur une application cible.

[Jour 4 – Après-midi]

Défense, garde-fous et hardening

• Passer en revue les contre-mesures actuelles (NeMo Guardrails, Llama Guard, filtres, sanitisation).
• Auditer l’efficacité des garde-fous et comprendre leurs limites face aux attaques avancées.
• Structurer une stratégie de remédiation : principe du moindre privilège, isolation, Output Sanitization.
• Atelier pratique : analyser un système protégé par des garde-fous, en identifier la faille, puis proposer le correctif d’architecture.

[Jour 5 – Matin]

Simulation d’examen pratique (CTF Grandeur Nature)

• Mise en situation réelle sur un environnement complet intégrant plusieurs briques (LLM, RAG, Agent, Modèle ML).
• Application autonome de la méthodologie offensive : reconnaissance, exploitation, escalade d’impact et exfiltration.
• Gestion du temps, prise de notes méthodique et collecte rigoureuse des preuves de concept (PoC).
• Atelier pratique : épreuve chronométrée simulant les conditions du lab de l’examen HTB COAE.

[Jour 5 – Après-midi]

Méthodologie d’examen, reporting et post-mortem

• Analyser les exigences du rapport officiel de la certification HTB COAE.
• Structurer un rapport d’audit technique et exécutif clair, probant et orienté correction métier.
• Rédiger des étapes de reproduction irréprochables et définir les recommandations prioritaires.
• Débriefing collectif de la simulation et conseils d’organisation pour l’épreuve de 7 jours.
• Atelier pratique : rédaction et finalisation du rapport technique à partir de la simulation du matin.