Formation Certification NVIDIA AI Infrastructure and Operations

Programme de notre formation NVIDIA AI Infrastructure and Operations

[Jour 1 – Matin]

Fondamentaux de l'IA et du calcul accéléré

• Positionnement de la certification officielle NCA-AIIO , domaines évalués et méthode de préparation à l’examen.
• Vocabulaire essentiel : intelligence artificielle, machine learning, deep learning, données, modèles et inférence.
• Cas d’usage du calcul accéléré dans les secteurs industriels, scientifiques et métiers.
• Différences entre CPU et GPU, parallélisme, mémoire et intérêt des architectures accélérées.
• Repères sur l’écosystème NVIDIA : matériel, logiciels et solutions pour les environnements IA.
• Atelier pratique : analyser des questions de type certification afin d’associer un cas d’usage IA à la notion technique adaptée.

[Jour 1 – Après-midi]

Architectures d'entraînement et d'inférence

• Cycle de vie d’un projet IA, de la préparation des données au déploiement et à l’exploitation du modèle.
• Caractéristiques des charges d’entraînement : volumes de données, puissance de calcul, mémoire et montée en charge.
• Caractéristiques des charges d’inférence : latence, débit, disponibilité et optimisation des ressources.
• Présentation de la pile logicielle NVIDIA : pilotes, bibliothèques, frameworks et outils de déploiement.
• Choix d’une architecture adaptée : serveur unique, infrastructure sur site, cloud ou environnement hybride.
• Atelier pratique : comparer trois scénarios d’entraînement et d’inférence, puis justifier les choix de ressources et d’architecture.

[Jour 2 – Matin]

Composants d'une infrastructure IA

• Architecture d’un cluster IA : serveurs accélérés, stockage, réseau, nœuds de gestion et utilisateurs.
• Rôle des GPU , des DPU et des composants matériels dans le traitement et la circulation des données.
• Notions de dimensionnement : capacité de calcul, mémoire GPU, stockage et évolutivité de l’infrastructure.
• Principes de réseau de datacenter : latence, bande passante, topologies et interconnexions haute vitesse.
• Contraintes physiques : alimentation électrique, refroidissement, espace, câblage et exigences de site.
• Atelier pratique : identifier les composants nécessaires à un cluster IA débutant à partir d’un besoin de déploiement fourni.

[Jour 2 – Après-midi]

Opérations, supervision et préparation finale

• Fondamentaux des opérations IA : disponibilité, gestion des ressources, sécurité et continuité de service.
• Principes de supervision des GPU : utilisation, mémoire, température, consommation et indicateurs de performance.
• Introduction à l’orchestration et à la planification des travaux dans un environnement de cluster.
• Virtualisation des ressources accélérées, isolation des charges et notions de partage de GPU.
• Révision structurée des domaines de l’examen : connaissances IA, infrastructure IA et opérations IA.
• Atelier pratique : réaliser un examen blanc guidé, corriger les réponses et établir un plan de révision personnalisé pour la certification NCA-AIIO.