Formation LLaMA-Factory et Unsloth

Programme de notre formation LLaMA-Factory et Unsloth : Fine-tuning LLM

[Jour 1 – Matin]

Environnement LLM open source et stratégies de fine-tuning

• Comprendre les architectures LLM open source
• Panorama des modèles LLaMA, Mistral, Qwen et Gemma
• Différences entre prétraining, instruction tuning et fine-tuning
• Introduction aux techniques LoRA, QLoRA et PEFT
• Préparer un environnement GPU avec CUDA, PyTorch et Transformers
• Atelier pratique : Installation complète de LLaMA-Factory et validation GPU.

[Jour 1 – Après-midi]

Prise en main de LLaMA-Factory

• Architecture et fonctionnement de LLaMA-Factory
• Gestion des datasets conversationnels
• Formats Alpaca, ShareGPT et datasets personnalisés
• Paramétrage des pipelines de fine-tuning
• Monitoring des entraînements et gestion des checkpoints
• Atelier pratique : Fine-tuning d’un premier modèle conversationnel.

[Jour 2 – Matin]

Optimisation mémoire et performances avec Unsloth

• Comprendre les limites GPU et VRAM
• Présentation de Unsloth et des optimisations kernel
• Accélération du fine-tuning avec Flash Attention
• Réduction mémoire avec 4-bit quantization
• Comparaison performances classiques vs optimisées
• Atelier pratique : Optimisation d’un entraînement QLoRA avec Unsloth.

[Jour 2 – Après-midi]

Fine-tuning avancé et jeux de données métier

• Construction de datasets métier spécialisés
• Nettoyage et validation des données d’entraînement
• Techniques d’augmentation et de génération synthétique
• Gestion des biais et hallucinations
• Réglage des hyperparamètres critiques
• Atelier pratique : Création d’un dataset métier et entraînement spécialisé.

[Jour 3 – Matin]

Évaluation, tests et alignment des modèles

• Méthodes d’évaluation qualitative et quantitative
• Benchmarks et métriques LLM
• Introduction au RLHF et à l’alignement
• Détection des dérives et hallucinations
• Optimisation des prompts système
• Atelier pratique : Évaluation comparative de plusieurs modèles fine-tunés.

[Jour 3 – Après-midi]

Industrialisation et déploiement des LLM

• Export des modèles fine-tunés
• Déploiement avec vLLM, Ollama et Text Generation Inference
• Gestion des coûts GPU et stratégie d’inférence
• Introduction aux pipelines MLOps LLM
• Sécurisation et gouvernance des modèles IA
• Atelier pratique : Déploiement d’un modèle fine-tuné en API locale