Formation Spring AI : Développer des applications IA

Programme de notre formation Spring AI

[Jour 1 – Matin]

Comprendre l’IA générative et les LLM

• Introduction à l’IA : LLM, RAG, agents
• Anatomie d’un LLM : les tokens (et la facturation au token), la fenêtre de contexte, l’absence de mémoire entre deux appels, la température, la notion de modèle et de “knowledge cutoff”

Présentation de Spring AI

• Spring AI : le framework officiel de l’écosystème Spring pour consommer des modèles d’IA
• L’objectif de portabilité : une API unique pour de nombreux fournisseurs
• Les briques de Spring AI : ChatClient, Prompts & Templates, Structured Output, ChatMemory, Embeddings & Vector Stores, RAG (Advisors), Tool Calling, Image/Audio
• Le protocole OpenAI devenu standard : “1 code, N providers”

[Jour 1 – Après-midi]

 Le paysage des fournisseurs d’IA

• Panorama des providers : OpenAI (ChatGPT), Google Gemini, Groq, Ollama (local), Anthropic (Claude), Mistral AI
• Critères de choix : coût, free tier, vitesse, confidentialité, multimodalité
• Protocole compatible OpenAI vs starter natif du provider : avantages et limites
• Les deux starters OpenAI de Spring AI
• TP – HelloWorld : premier appel à une IA via Spring AI
  • Création d’un projet Spring Boot (Web, Thymeleaf, Google GenAI), obtention d’une clé Gemini gratuite, configuration de l’application.properties, premier prompt et expérimentation de la température

Dialoguer avec le modèle : ChatModel vs ChatClient

• ChatModel (API bas niveau) vs ChatClient (surcouche confortable)
• Construction d’un appel : .prompt() / .call() / .content()

La mémoire de conversation (ChatMemory)

• Le LLM est “stateless” : démonstration de l’absence de mémoire
• Les 3 couches de la mémoire : ChatMemoryRepository (OÙ stocker), ChatMemory (QUOI renvoyer), MessageChatMemoryAdvisor (QUAND l’appliquer)
• Stockage en mémoire (InMemory) vs persistant (JDBC)
• Stratégie de fenêtre de messages (MessageWindowChatMemory) et maîtrise des coûts
• TP – Gestion de l’historique
  • Constater l’absence de mémoire, brancher un MessageChatMemoryAdvisor, gérer une conversation par utilisateur via l’identifiant de session HTTP

Métadonnées et accès à Internet

• Exploiter le ChatResponse : usage des tokens, finishReason, modèle utilisé, rate limit.
• Donner accès à Internet au modèle : la notion de “grounding”.
• TP – Internet & Métadonnées
  • Activer la recherche Internet dans le prompt et analyser les métadonnées de la réponse

[Jour 2 – Matin]

Structurer le dialogue

• Les rôles : messages system / user / assistant
• Travailler avec des objets : récupérer directement un objet Java/Kotlin (Structured Output avec .entity(), gérer les listes, et les limites (le LLM peut ne pas renvoyer un JSON valide)

L’art du prompt (Prompt Engineering)

• Les 5 questions d’un bon prompt : Rôle, Tâche, Contexte, Contraintes, Format
• La démarche d’affinage itératif
• Les types de prompt : zero/one/few-shot, recherche, créatif, expansion, résumé, template, méta-prompt, itératif, traduction, narratif
• TP – Prompt Engineering : “Prompt Golf”
  • Obtenir un résultat précis avec le prompt le plus court possible
• TP – Prompt Engineering appliqué : réaliser une page de vente
  • Mise en pratique des techniques de prompt sur un cas concret

[Jour 2 – Après-midi]

Tool Calling (Function Calling)

• Principe : fournir au LLM des fonctions métier qu’il peut demander à appeler (météo, base de données, envoi de mail, calcul…)
• Le LLM n’exécute jamais le code : il demande l’appel (finishReason = TOOL_CALLS), Spring AI réalise l’appel et lui renvoie le résultat
• Les annotations @Tool et @ToolParam ; l’importance du nom et de la description
• L’option returnDirect et l’incompatibilité Tool Calling / accès Internet selon les providers
• TP – Tool Calling
  • Exposer une fonction métier et laisser l’IA l’appeler

Génération d’images

• Génération d’images avec Spring AI
• Le modèle image de Gemini (“Nano Banana”) : transformation et génération d’images
• TP – Génération / transformation d’image
  • Générer et transformer une image à partir d’un prompt et d’un fichier

RAG : Retrieval Augmented Generation

• Le principe du RAG : faire répondre l’IA sur VOS documents
• Phase d’ingestion (hors-ligne) : découpe en chunks, transformation en vecteurs (embeddings), stockage dans un VectorStore
• Phase d’interrogation : recherche des chunks pertinents par similarité sémantique (top-k, cosinus)
• Les VectorStores : SimpleVectorStore (en mémoire), PGVector, Redis, Chroma, Milvus…
• Mise en œuvre avec Spring AI : RagConfig, IngestionService, QuestionAnswerAdvisor
• TP – RAG
  • Alimenter une IA avec des documents (ingestion) et l’interroger sur leur contenu