Formation LLama AI

Programme de notre Formation Llama 4AI : Maîtrise des LLM Open Source

[Jour 1 – Matin]

L’écosystème Llama 4 et Inférence Locale MoE

• Panorama Meta AI & La rupture Llama 4 (Scout et Maverick)
• Architecture MoE & Multimodalité Native (Early Fusion)
• Mise en œuvre de vLLM et Ollama pour les architectures à experts
• Maîtriser la quantification en FP8 (le standard Llama 4), GGUF et INT4 selon les contraintes matérielles
• Atelier pratique : Déploiement d’un serveur d’inférence local avec Llama 4 Scout FP8 et test de vision multimodal sur schémas techniques.

[Jour 1 – Après-midi]

Contextes Longs, Prompting MoE et RAG Multimodal

• Ingénierie du Prompt pour contextes massifs : iRoPE (interleaved attention), Many-Shot Prompting et structuration JSON stricte
• Le RAG repensé pour les contextes longs (évaluation Needle in a Haystack de 1M à 10M de tokens)
• Introduction à Llama Stack pour connecter Llama 4 à des corpus de données privées et mixtes (textes et images)
• Gestion des contextes ultra-longs et redéfinition des stratégies de chunking
• Atelier pratique : Création d’un moteur de réponse basé sur l’ingestion d’une documentation technique massive et visuelle sans découpage destructeur.

[Jour 2 – Matin]

Fine-Tuning MoE et Révolution Agentique

• Fine-Tuning efficace d’une architecture à experts (MoE) et défis du PEFT (LoRA/QLoRA)
• Utiliser les APIs standardisées de Llama Stack & Agents natifs de Meta
• Capacités avancées d’exécution native de code, requêtes SQL et appels d’APIs
• Optimisation des performances des modèles à experts avec Unsloth
• Atelier pratique : Fine-tuning express (QLoRA FP8) pour spécialiser le comportement du modèle et intégration dans un workflow d’agent autonome.

[Jour 2 – Après-midi]

Déploiement Cloud, Sécurité et Production à l’échelle

• Inférence managée ultra-rapide (Groq pour le MoE, AWS Bedrock, Azure AI) et optimisation coût/vitesse
• Implémentation de Prompt Guard et Guardrails Multimodaux de Meta pour le filtrage de contenu
• Mesurer la pertinence des réponses sur contextes longs et détecter les hallucinations
• Versioning des modèles, monitoring en production et gestion du coût des tokens (Actifs vs Totaux)
• Atelier pratique : Déploiement d’une API sécurisée prête pour la production avec Prompt Guard et simulation d’attaques par injection textuelle et visuelle.