Formation Green AI : RSE, ESG et IA responsable

Programme de notre formation Green AI

[Jour 1 – Matin]

Green AI, IA responsable et enjeux RSE / ESG

• Comprendre les principes du Green AI, de l’IA responsable, de l’IA frugale et de l’IA durable
• Identifier les enjeux de sobriété numérique, sobriété énergétique et écoconception numérique appliqués aux systèmes d’intelligence artificielle
• Comprendre le rôle de la RSE, de l’ESG et du reporting ESG dans le pilotage des projets IA
• Évaluer l’impact environnemental de l’IA : entraînement, inférence, stockage, données, réseau et infrastructure
• Comprendre les notions d’empreinte carbone de l’IA, de mesure d’impact environnemental et de cycle de vie des modèles
• Atelier pratique : cartographier un service IA et identifier ses principales sources d’impact environnemental, énergétique et organisationnel

[Jour 1 – Après-midi]

RGESN, AI Act et conformité IA

• Comprendre les apports du RGESN pour l’écoconception numérique et l’évaluation de services numériques intégrant de l’IA
• Découvrir les principes de l’AI Act et leurs impacts sur les systèmes IA utilisés en entreprise
• Identifier les exigences de conformité IA : documentation, traçabilité, gestion des risques, surveillance et gouvernance
• Mettre en place une démarche de gouvernance de l’IA alignée avec les objectifs RSE, ESG et réglementaires
• Comprendre les enjeux d’éthique de l’IA, de responsabilité, d’usage acceptable et de contrôle humain
• Construire une grille d’analyse RGESN / AI Act pour qualifier un cas d’usage IA d’entreprise

Risques IA, biais, explicabilité et audit

• Identifier les principaux risques IA : hallucinations, usages non maîtrisés, fuite de données, erreurs de décision et dépendance fournisseur
• Comprendre les biais algorithmiques et leurs impacts sur les décisions, utilisateurs et obligations de transparence
• Mettre en place des principes de transparence des modèles, documentation, limitation des usages et revue humaine
• Comprendre l’explicabilité de l’IA et ses limites selon les modèles, données, prompts et architectures utilisées
• Organiser la traçabilité des modèles, datasets, prompts, versions, évaluations et décisions de déploiement
• Préparer un audit IA avec preuves, journaux, indicateurs, documentation et plan de remédiation

[Jour 2 – Matin]

Mesurer l’impact environnemental et économique des modèles IA

• Comprendre la consommation énergétique des modèles et les facteurs qui influencent l’impact : taille, architecture, données, matériel et fréquence d’usage
• Analyser la consommation GPU, les ressources cloud, le stockage, le réseau et la durée des traitements IA
• Comparer les coûts d’entraînement, d’adaptation et d’inférence selon les scénarios métier
• Mesurer les coûts d’inférence, le coût par token, la latence, le débit et l’impact de la taille de contexte
• Relier efficacité énergétique, performance des modèles, coût d’exploitation et expérience utilisateur
• Atelier pratique : comparer plusieurs scénarios d’inférence IA selon coût par token, consommation GPU, latence et impact environnemental estimé

[Jour 2 – Après-midi]

Choisir le bon modèle : LLM responsables, SLM et IA frugale

• Comprendre les enjeux des LLM responsables dans un contexte d’entreprise : coûts, sécurité, conformité, performance et sobriété
• Comparer LLM vs SLM selon les besoins métier, la complexité des tâches, la confidentialité et les contraintes de déploiement
• Découvrir les SLM, Small Language Models et modèles de langage compacts pour réduire les coûts et la consommation
• Définir une méthode de choix du modèle IA selon précision, latence, coût, empreinte carbone, gouvernance et maintenabilité
• Mettre en place un benchmark de modèles IA intégrant qualité, coût, performance, consommation et conformité
• Sélectionner un modèle IA adapté à un cas métier en comparant LLM, SLM, modèle compact et contraintes ESG

RAG frugal, inférence locale et edge AI

• Comprendre le rôle du RAG frugal pour limiter le fine-tuning systématique et réduire les traitements inutiles
• Optimiser les architectures RAG : chunking, embeddings, index vectoriel, taille de contexte, reranking et filtrage documentaire
• Comparer RAG vs fine-tuning selon coût, données disponibles, gouvernance, précision et impact environnemental
• Identifier les cas d’usage adaptés à l’inférence locale, aux modèles embarqués et à l’edge AI
• Réduire les appels modèles, tokens, embeddings inutiles et traitements redondants dans une architecture IA générative
• Optimiser une architecture RAG pour réduire les appels LLM, le contexte envoyé et les coûts d’inférence

[Jour 3 – Matin]

Optimisation des modèles IA et techniques d’IA frugale

• Comprendre les leviers d’optimisation des modèles IA pour réduire les coûts, la consommation et la latence
• Mettre en œuvre une stratégie d’optimisation de l’inférence adaptée aux contraintes de production
• Découvrir le fine-tuning efficient avec LoRA et QLoRA pour adapter un modèle sans réentraînement complet
• Comprendre la quantization, ses bénéfices et ses compromis sur la qualité, la mémoire et la performance
• Découvrir la distillation de modèles, le pruning et la compression de modèles
• Atelier pratique : définir une stratégie d’optimisation pour un service IA combinant quantization, LoRA, modèle compact et réduction du coût d’inférence

[Jour 3 – Après-midi]

MLOps responsable et industrialisation Green AI

• Comprendre les principes du MLOps responsable pour industrialiser des modèles sobres, traçables, évalués et conformes
• Suivre les versions de modèles, datasets, prompts, paramètres, métriques, évaluations et décisions de mise en production
• Mettre en place des contrôles de performance, dérive, coûts, consommation énergétique et risques IA en production
• Définir des seuils d’alerte sur la latence, le coût par token, les volumes d’inférence, les erreurs et les dérives d’usage
• Intégrer les exigences de reporting ESG, de conformité IA, d’audit IA et de gouvernance dans le cycle de vie MLOps
• Concevoir un pipeline MLOps responsable avec indicateurs Green AI, traçabilité, contrôle des risques et suivi des coûts

Concevoir un service IA responsable, sobre et conforme

• Analyser un cas d’usage IA sous l’angle Green AI, RSE, ESG, AI Act, RGESN, performance, coûts et gouvernance
• Choisir l’architecture la plus adaptée : LLM, SLM, RAG frugal, inférence locale, edge AI ou fine-tuning efficient
• Définir les indicateurs de mesure : empreinte carbone de l’IA, consommation GPU, coût par token, latence, qualité et risques IA
• Proposer des optimisations : choix du modèle IA, quantization, compression, distillation, pruning, LoRA ou QLoRA
• Construire une stratégie de gouvernance de l’IA avec audit, traçabilité, explicabilité, transparence et reporting ESG
• Présenter une feuille de route Green AI complète pour un service IA responsable, frugal et conforme