Sélectionner une page
Formations Data Deep Learning Formation Deepset

Formation Deepset

Rated 0,0 out of 5
formation deepset
Prix 2490€ HT / personne
Durée 3 jours (21 heures)

Paris | Classe Virtuelle

Il ne reste que quelques places
Cafés et déjeuners offerts en interentreprises
Disponible en intra-entreprise pour former votre équipe
Aide au Financement 4000€ de Bonus Atlas en CPF

Présentation

Notre formation Deepset vous plongera au cœur des LLM et vous fournira les connaissances et compétences nécessaires pour maîtriser ces technologies de pointe.

Ce programme de formation couvre un large éventail de sujets, allant de l’introduction aux LLM jusqu’à des aspects avancés tels que la sécurité des infrastructures, le déploiement scalable et la détection des hallucinations.

Vous serez initié aux concepts fondamentaux des LLM et vous explorerez les différentes applications dans divers domaines industriels.

Grâce à notre formation, vous apprendrez à utiliser des workflows et des composants prédéfinis pour des cas d’utilisation courants.

Vous découvrirez également comment intégrer et évaluer les modèles avec Haystack, tout en assurant la sécurité et la conformité des infrastructures.

À l’issue de ce cours, nous utiliserons les dernières ressources de Deepset.

 

Objectifs

  • Comprendre les modèles de langage à grande échelle (LLM) et leurs applications pratiques
  • Maîtriser l’utilisation des workflows et des composants prédéfinis
  • Savoir observer, monitorer et évaluer les modèles LLM en production
  • Intégrer et évaluer les modèles avec Haystack
  • Déployer et mettre à l’échelle efficacement des solutions basées sur des LLM
  • Optimiser les performances des modèles grâce à l’ingénierie des prompts et au fine-tuning

 

Public visé

  • Développeurs
  • Ingénieurs logiciels
  • Architecte de solution d’IA
  • Data scientists
  • Analystes en IA

 

Pré-requis

  • Une connaissance de base en programmation et en manipulation de données est recommandée
  • Des notions préalables sur les modèles de langage et l’intelligence artificielle seraient également bénéfiques

PROGRAMME DE NOTRE FORMATION DEEPSET

 

INTRODUCTION AUX MODÈLES DE LANGAGE À GRANDE ÉCHELLE (LLM)

  • Comprendre la différence entre un modèle de langage traditionnel et un LLM
  • Les principaux fournisseurs de LLM : OpenAI, Cohere, Anthropic
  • Les applications pratiques des LLM dans l’industrie
  • Les défis associés à l’utilisation des LLM
  • Aperçu des outils et des plateformes pour travailler avec des LLM

 

PROTOTYPAGE RAPIDE AVEC Deepset

  • Les fondamentaux du prototypage rapide avec les LLM
  • Utilisation de composants préconstruits pour accélérer le développement
  • Mise en place d’un environnement de développement pour le prototypage
  • Cas pratiques de prototypage rapide avec Deepset
  • Bonnes pratiques pour un prototypage évolutif

 

UTILISATION DES WORKFLOWS ET COMPOSANTS PRÉDÉFINIS

  • Introduction aux workflows prédéfinis pour des cas d’usage courants
  • Comprendre et appliquer le concept de RAG
  • Techniques pour l’extraction d’informations et la recherche sémantique
  • Utilisation des templates pour la similarité de documents
  • Personnalisation des composants pour des besoins spécifiques

 

OBSERVABILITÉ ET MONITORING DES LLM

  • Importance de l’observabilité et du monitoring dans les opérations LLMOps
  • Mise en place d’outils d’observabilité pour les LLM
  • Techniques de monitoring pour assurer la performance et la fiabilité
  • Gestion des incidents et des anomalies
  • Utilisation des retours utilisateurs pour l’amélioration continue

 

INTÉGRATION AVEC HAYSTACK ET ÉVALUATION DES MODÈLES

  • Présentation de Haystack et son intégration avec Deepset
  • Méthodes d’évaluation des modèles de langage
  • Collecte et intégration des feedbacks utilisateurs
  • Amélioration des performances des modèles grâce aux retours
  • Cas pratiques d’intégration et d’évaluation avec Haystack

 

SÉCURITÉ ET CONFORMITÉ DES INFRASTRUCTURES DE LLM

  • Importance de la certification SOC2 pour les backends LLM
  • Assurer la sécurité des données avec MFA et SSO
  • Comprendre et mettre en place un plan de données privé dans un VPC
  • Meilleures pratiques pour maintenir une infrastructure sécurisée et conforme
  • Cas pratiques de mise en œuvre de la sécurité des données

 

DÉPLOIEMENT SCALABLE ET INFRASTRUCTURE DE PRODUCTION

  • Comprendre les enjeux de l’inference scalable pour les LLM
  • Techniques de déploiement pour une faible latence et une haute disponibilité
  • Options de mise à l’échelle automatique, y compris la mise à l’échelle vers zéro
  • Gestion des pipelines personnalisés dans l’environnement de production
  • Cas pratiques de déploiement et de mise à l’échelle

 

DÉTECTION ET ATTÉNUATION DES HALLUCINATIONS

  • Identifier les hallucinations des LLM et leurs impacts
  • Outils vérifiés pour détecter et atténuer les hallucinations
  • Stratégies pour construire une IA fiable et cohérente
  • Surveillance et détection automatique des incohérences
  • Cas pratiques de gestion des hallucinations

 

INGÉNIERIE DES PROMPTS ET FINE-TUNING DES MODÈLES

  • Principes de l’ingénierie des prompts pour les LLM
  • Exploration et ajustement des prompts pour optimiser les performances
  • Techniques de fine-tuning avec des notebooks GPU
  • Intégration de l’évaluation humaine dans le processus de fine-tuning
  • Cas pratiques d’ingénierie des prompts et de fine-tuning

 

Pour aller plus loin

Introduction au Deep Learning

Formation Pytorch

Formation Metaflow

Langues et Lieux disponibles

Langues

  • Français
  • Anglais / English

Lieux

  • France entière
    • Paris
    • Lille
    • Reims
    • Lyon
    • Toulouse
    • Bordeaux
    • Montpellier
    • Nice
    • Sophia Antipolis
    • Marseille
    • Aix-en-Provence
    • Nantes
    • Rennes
    • Strasbourg
    • Grenoble
    • Dijon
    • Tours
    • Saint-Étienne
    • Toulon
    • Angers
  • Belgique
    • Bruxelles
    • Liège
  • Suisse
    • Genève
    • Zurich
    • Lausanne
  • Luxembourg

Nos Formateurs Référents

Témoignages

⭐⭐⭐⭐⭐ 4,8/5 sur Google My Business. Vous aussi, partagez votre expérience !

Afficher tous les témoignages

⭐⭐⭐⭐⭐ 4,8/5 sur Google My Business. Vous aussi, partagez votre expérience !

Noter la formation

Prix 2490€ HT / personne
Durée 3 jours (21 heures)

Paris | Classe Virtuelle

Il ne reste que quelques places
Cafés et déjeuners offerts en interentreprises
Disponible en intra-entreprise pour former votre équipe
Aide au Financement 4000€ de Bonus Atlas en CPF

UNE QUESTION ? UN PROJET ? UN AUDIT DE CODE / D'INFRASTRUCTURE ?

Pour vos besoins d’expertise que vous ne trouvez nulle part ailleurs, n’hésitez pas à nous contacter.

ILS SE SONT FORMÉS CHEZ NOUS

partenaire sncf
partenaire hp
partenaire allianz
partenaire sfr
partenaire engie
partenaire boursorama
partenaire invivo
partenaire orange
partenaire psa
partenaire bnp
partenaire sncf
partenaire hp
partenaire allianz
partenaire sfr
partenaire engie
partenaire boursorama
partenaire invivo
partenaire orange
partenaire psa
partenaire bnp