Formation Certification AI Governance Professional

Programme de notre formation AI Governance Professional

[Jour 1 – Matin]

Fondamentaux de l’IA et gouvernance responsable

• Positionnement de la certification Artificial Intelligence Governance Professional (AIGP), structure de l’examen et méthode de préparation
• Notions essentielles d’intelligence artificielle, d’apprentissage automatique, de modèles génératifs et de systèmes autonomes
• Cycle de vie d’un système d’IA, de l’expression du besoin au retrait ou au remplacement du modèle
• Comprendre les 6 capacités de l’ITIL AI Capability Model : création, curation, clarification, cognition, communication et coordination
• Impacts sociotechniques, risques de biais, discrimination, opacité, atteinte à la vie privée et risques de sécurité
• Principes d’une IA digne de confiance, transparence, explicabilité, robustesse, équité, supervision humaine et responsabilité
• Cartographier les risques associés aux différentes capacités de l’IA et construire une heatmap des risques par capacité
• Atelier pratique : analyser un cas d’usage d’IA générative, qualifier ses parties prenantes, impacts et risques, puis construire une heatmap des risques selon les capacités mobilisées

[Jour 1 – Après-midi]

Cadres juridiques, standards et gestion des risques

• Articulation entre gouvernance de l’IA, protection des données, cybersécurité, conformité, éthique et continuité d’activité
• Application des principes du RGPD aux systèmes d’IA, finalités, minimisation, licéité, droits des personnes et analyses d’impact
• Éléments structurants de l’EU AI Act, approche par les risques, obligations des acteurs et exigences relatives aux systèmes à haut risque
• Panorama des standards, cadres et outils de gouvernance, avec les référentiels de gestion des risques et de management de l’IA
• Méthodes d’identification, d’évaluation, de traitement et de suivi des risques liés à un système d’IA
• Évaluer les risques à l’aide d’une matrice probabilité × impact et définir les niveaux de criticité et de traitement
• Mettre en place des contrôles préventifs, détectifs et correctifs adaptés aux risques, aux usages et au cycle de vie du système d’IA
• Atelier pratique : construire une matrice probabilité × impact et définir les contrôles préventifs, détectifs et correctifs pour un outil d’aide à la décision intégrant un modèle d’IA

[Jour 2 – Matin]

Gouverner le développement et l’adoption des systèmes d’IA

• Organisation d’un programme de gouvernance de l’IA, rôles, responsabilités, comités, politiques et mécanismes d’escalade
• Gouvernance de la conception, définition des exigences, documentation, traçabilité et validation des objectifs métier
• Maîtrise des données d’entraînement et de test, qualité, provenance, représentativité, droits d’usage et protection des données
• Évaluation des modèles, tests de performance, équité, robustesse, sécurité, red teaming et critères d’acceptation
• Intégrer les exigences de gouvernance IA dans les pratiques de DevOps et de gestion de projet PRINCE2 : responsabilités, contrôles, jalons de validation et preuves
• Préparation de la mise en production, documentation du modèle, preuves de contrôle et gestion des fournisseurs
• Cartographier les parties prenantes, leurs attentes, leur influence et leur niveau d’exposition aux usages de l’IA
• Organiser la communication et la transparence envers les utilisateurs, accompagner les équipes et développer les compétences nécessaires à l’adoption
• Identifier et encadrer le Shadow AI, définir les usages autorisés et suivre des indicateurs d’adoption, de compréhension et de confiance
• Atelier pratique : élaborer un plan d’adoption et d’engagement des parties prenantes pour le déploiement d’un système d’IA

[Jour 2 – Après-midi]

Déploiement, résilience, surveillance et préparation à l’examen

• Décision de déploiement, analyse du contexte d’usage, proportionnalité, supervision humaine et communication aux utilisateurs
• Définir les mécanismes de supervision humaine, les conditions de reprise en main et les niveaux d’autonomie accordés au système d’IA
• Prévoir les mécanismes de repli et de retour arrière en cas de comportement inattendu, de dégradation des performances ou de risque non maîtrisé
• Mettre en place l’observabilité des systèmes d’IA : journalisation, métriques, alertes, dérive des données et du modèle et indicateurs de risque
• Organiser la gestion des incidents IA, la remontée des alertes, l’analyse des causes et la mise en œuvre des mesures correctives
• Préparer la continuité d’activité en cas de défaillance, d’indisponibilité ou de changement d’un fournisseur de modèles ou de services IA
• Surveillance continue, réévaluation des risques, maintenance, évolution et retrait du système
• Atelier pratique : construire un plan de résilience pour un cas d’usage d’IA incluant supervision humaine, observabilité, gestion des incidents, repli et continuité fournisseur
• Révision des domaines du corpus AIGP, lecture des scénarios et stratégies de réponse aux questions à choix multiple
• Préparation au passage de l’examen, gestion du temps, identification des pièges et priorisation des révisions