Formation CompTIA SecAI+​ : Certification (CY0-001)

Programme de notre Formation CompTIA SecAI+ (CY0-001)

[Jour 1 – Matin]

Fondamentaux de l’IA et Techniques d’Apprentissage

• Types d’IA : Generative AI, Machine Learning, Deep Learning
• Architectures : Transformers, LLM vs SLM, GANs
• Techniques d’entraînement : Supervised vs Unsupervised Learning, Reinforcement Learning
• Concepts clés : Fine-tuning, Epoch, Pruning, Quantization
• Prompt Engineering : Zero-shot, Multi-shot, rôles système et templates
• Atelier pratique : Manipulation de prompts et comparaison de modèles (LLM vs SLM).

[Jour 1 – Après-midi]

Sécurité des Données et Cycle de Vie de l’IA

• Traitement des données : Data cleansing, Data lineage et provenance
• Technologies : RAG (Retrieval-Augmented Generation), Vector storage et Embeddings
• Sécurité du cycle de vie : De la collecte au déploiement
• Validation et surveillance : Human-in-the-loop, supervision et feedback
• Principes de conception : Trustworthiness et authenticité
• Atelier pratique : Analyse du cycle de vie des données et identification des risques.

[Jour 2 – Matin]

Modélisation des Menaces pour l’IA

• Référentiels : OWASP Top 10 LLM et ML Security Top 10
• Frameworks : MITRE ATLAS et MIT AI Risk Repository
• Gestion des vulnérabilités : CVE AI Working Group
• Analyse des risques spécifiques aux systèmes IA
• Atelier pratique : Threat modeling sur un cas d’usage avec MITRE ATLAS.

[Jour 2 – Après-midi]

Contrôles de Sécurité et Gestion des Accès

• Contrôles du modèle : Model guardrails, templates de prompts
• Contrôles Gateway : Prompt firewalls, Rate limits, Token limits
• Gestion des accès : Modèles, Données, Agents et API
• Tests et validation des barrières de sécurité (Guardrails)
• Atelier pratique : Configuration de règles de filtrage et de limites d’accès.

[Jour 3 – Matin]

Sécurité des Données et Chiffrement

• Exigences de chiffrement : In transit, At rest, In use
• Protection des données : Anonymisation, Masquage, Rédaction
• Classification et minimisation des données
• Gestion des étiquettes (Data classification labels)
• Atelier pratique : Mise en œuvre de techniques d’anonymisation sur un dataset.

[Jour 3 – Après-midi]

Surveillance et Audit des Systèmes IA

• Monitoring : Prompts (Query/Response) et Logs
• Protection des journaux : Log sanitization
• Surveillance des coûts : Tokens, Stockage, Processing
• Audit de qualité : Détection d’Hallucinations, Biais et Équité
• Atelier pratique : Analyse de logs et détection d’anomalies de coûts.

[Jour 4 – Matin]

Analyse des Attaques et Contre-mesures

• Attaques sur les entrées : Prompt Injection, Jailbreaking
• Attaques sur le modèle : Poisoning, Model Inversion, Model Theft
• Attaques sur la sortie : Insecure output handling, Hallucinations
• Contre-mesures : Least privilege, Validation des entrées, Encryption
• Atelier pratique : Simulation d’une attaque par Prompt Injection et mitigation.

[Jour 4 – Après-midi]

L’IA au service de la Défense (Blue Team)

• Outils : Chatbots sécurité, Plugins IDE, Assistants personnels
• Cas d’usage : Analyse de vulnérabilité, Pattern recognition, Threat modeling
• Automatisation : Scripting (Low-code/No-code), Synthèse documentaire
• Intégration CI/CD : Code scanning, Tests unitaires automatisés
• Atelier pratique : Utilisation d’un assistant IA pour l’analyse de code sécurisé.

[Jour 5 – Matin]

L’IA comme Vecteur d’Attaque et Gouvernance

• Attaques assistées par IA : Deepfakes, Social Engineering avancé
• Automatisation offensive : Génération de malwares, Polymorphisme
• Structures de gouvernance : AI Center of Excellence
• Rôles clés : AI Architect, Data Scientist, AI Risk Analyst
• Atelier pratique : Identification de contenus générés par IA (Deepfake/Phishing).

[Jour 5 – Après-midi]

Risques, Conformité et Réglementations

• Risques IA : Biais, Fuite de données, Shadow AI
• Principes : Fairness, Transparence, Explicabilité
• Réglementations : EU AI Act, Standards OECD, ISO
• Frameworks : NIST AI RMF (Risk Management Framework)
• Conformité : Souveraineté des données et politiques d’entreprise
• Atelier pratique : Évaluation de conformité d’un projet IA selon le NIST AI RMF.