Formation Distilabel

Programme de notre formation Distilabel

[Jour 1 - Matin]

Générer des données synthétiques avec Distilabel

• Comprendre le rôle des données synthétiques dans l'entraînement, l'évaluation et l'amélioration des LLM
• Identifier les cas d'usage : fine-tuning supervisé, données de préférences, évaluation et systèmes RAG
• Comprendre l'architecture de Distilabel et les concepts de Steps, Tasks et Pipelines
• Configurer les modèles utilisés pour générer ou évaluer les données
• Construire des pipelines reproductibles et adaptés à un besoin métier
• Structurer les données générées dans des formats exploitables par les workflows LLM
• Atelier pratique : construire un premier pipeline Distilabel pour générer un dataset conversationnel spécialisé sur un cas d'usage métier.

[Jour 1 - Après-midi]

Construire des datasets fiables pour le fine-tuning et l'alignement

• Concevoir des stratégies de génération permettant d'améliorer la diversité et la représentativité des données
• Créer des datasets d'instructions et de conversations pour le fine-tuning supervisé
• Générer des paires de réponses, préférences et données de ranking pour les workflows d'alignement
• Produire des données spécialisées à partir des exigences et connaissances d'un domaine métier
• Nettoyer, normaliser, dédupliquer et filtrer les données synthétiques
• Préparer les datasets pour l'entraînement, la validation et l'évaluation des modèles
• Atelier pratique : générer, nettoyer et structurer un dataset prêt à être utilisé dans un workflow de fine-tuning ou d'alignement d'un LLM.

[Jour 2 - Matin]

Évaluer et contrôler la qualité des données générées

• Définir des critères de qualité adaptés au cas d'usage et aux objectifs du modèle
• Utiliser des modèles pour évaluer, scorer et comparer automatiquement les données générées
• Détecter les incohérences, hallucinations, doublons et exemples de faible qualité
• Mesurer la diversité, la pertinence et la couverture des datasets synthétiques
• Identifier et limiter les biais introduits lors de la génération automatique
• Intégrer une validation humaine lorsque l'évaluation automatique ne suffit pas
• Atelier pratique : auditer un dataset synthétique, construire un système de scoring puis filtrer automatiquement les exemples insuffisants.

[Jour 2 - Après-midi]

Industrialiser un pipeline de données pour les LLM

• Automatiser les pipelines de génération, évaluation et filtrage des données
• Versionner les datasets et assurer la traçabilité des modèles, prompts et paramètres utilisés
• Intégrer les mécanismes de revue et de validation humaine dans le cycle de production
• Superviser les volumes générés, les erreurs, la qualité et les coûts d'inférence
• Protéger les données sensibles, secrets et accès aux fournisseurs de modèles
• Préparer les datasets pour leur exploitation dans des workflows de fine-tuning, RAG ou évaluation
• Atelier pratique : construire un pipeline complet générant, évaluant, filtrant et exportant un dataset LLM prêt à être exploité dans un projet d'entreprise.