Construire des agents IA autonomes avec des outils Open Source
Objectifs pédagogiques
- Comprendre ce qu’est un agent IA
- Construire des agents IA fiables et sécurisés
- Analyser le comportement d’un agent IA
Programme détaillé
Introduction aux agents 1h
- Rappels sur LLMs : apprentissage auto-supervisé, RAG, function calling, fine-tuning, multimodalité etc.
- Vue d’ensemble et vocabulaire relatif aux agents
- Présentation des différents frameworks pour construire des agents : CrewAI, LangGraph, AutoGen, Haystack, smolagents, LlamaIndex etc., avec une attention particulière aux approches par graphe comme LangGraph
Construire des agents 2h
- Appel à des outils externes
- Interaction avec les outils
- Richesse des outils
- Structuration de l’appel à des outils
- Aperçu des protocoles de standardisation pour exposer outils/données aux modèles (OpenAI Tool API schema, LangChain Tool interface etc.)
- TP - Exemple agent simple : orchestrer LLM + tool exécution.
Mémoire, RAG et agent 2h
- Mémoire long-terme avec RAG
- Mémoire de travail avec l’état de l’agent …
- Mise en place d’un RAG dans un projet « agentic »
- Les différents paramètres à surveiller
- Quelques risques (prompt injection, hallucination etc.)
- TP - Document Q&A avec Agent (RAG)
Construction d’agents fiables : graphe, état et standards (MCP) 2h
- Standardisation des différents frameworks via la normalisation des outputs des différents modèles: MCP Model Context Protocol
- Découverte d’outils, déclaration de capacités, sécurité/permissions, avantages pour l’IT (portabilité, gouvernance)
- L’état d’un agent dans une approche par graphe
- Équilibre entre informations dans l’état de l’agent ou dans le prompt
- Graphe pour rendre explicite les étapes et l’évolution de l’état
- TP - State Customization. Structurer la mémoire de l’agent avec des états
- TP - Graphified Agent : vers des agents prêts pour la production. Agents avec des états structurés et garde-fous : max tool calls, a 5s timeout, schema-validated JSON output
Observabilité 2h
- Ajout de boucles de validations pour la compliance
- Sécurité ou tâches critiques
- Quelques outils d’observabilité (LangSmith, Arize Phoenix etc.), et le time-travel avec LangGraph pour auditer l’agent
- TP - Construction d’un agent avec human in the loop
- TP - Mise en place des outils d’observabilité dans un agent + time travel avec LangGraph
Quelques éléments de sécurité 2h
- Les risques de sécurité : prompt injection, data exfil, least privilege, approvals, audit
- Les différentes bonnes pratiques/outils pour réduire ces risques
- TP - Quelques outils et bonnes pratiques de sécurité : domain allowlist vs Blocklist, HTML sanitizer, output filters, human approval gate, rate limiting et RBAC
Pour aller plus loin sur les agents IA 1h
- Agents multimodaux
- Systèmes à plusieurs agents
- Quels frameworks selon le cas d’usage
- Quelques éléments pour le passage à l’échelle et l’opérationnalisation
Public visé
Développeurs, data scientists, ingénieurs, chefs de projet.
Prérequis
Le contenu de la formation Python intermédiaire doit être maîtrisé.
Approche pédagogique
Calculés à partir de 14 avis recueillis depuis 30/03/2026, lors de 3 sessions de cette formation.
Agents IA : quand un LLM agit, l'injection de prompt devient un risque de sécurité
Un modèle de langage seul produit du texte. Un agent IA est un programme qui confie à ce modèle le choix de ses prochaines actions : interroger une base, appeler une API, lire une page web, écrire un fichier, puis décider de la suite au vu du résultat. Ce passage de la parole à l’action change la nature des risques.
Raisonner, agir, observer
Le schéma de la plupart des agents actuels remonte à ReAct, publié en octobre 2022 par des chercheurs de Princeton et de Google : le modèle alterne une étape de raisonnement, une action et l’observation de son résultat, jusqu’à atteindre l’objectif. En juin 2023, OpenAI ajoute à son API l’appel de fonctions (function calling) : le modèle ne décrit plus l’action en langage libre, il renvoie un appel structuré, conforme au schéma JSON de l’outil, que le programme exécute. En novembre 2024, Anthropic publie le Model Context Protocol (MCP), un standard ouvert qui permet de déclarer une fois des outils et des sources de données pour tous les modèles et frameworks compatibles ; en décembre 2025, le protocole est confié à l’Agentic AI Foundation, hébergée par la Linux Foundation.
L’injection de prompt, une faille de conception
Pour un modèle de langage, instructions et données sont faites de la même matière : du texte. L’expression prompt injection est forgée en septembre 2022 par le développeur Simon Willison, par analogie avec l’injection SQL, après des démonstrations où une simple phrase (« ignore les instructions précédentes… ») détournait un modèle. En février 2023, Kai Greshake et ses coauteurs décrivent l’injection indirecte : l’instruction malveillante n’est pas tapée par l’utilisateur, elle est cachée dans une page web, un courriel ou un document que l’agent lit pour accomplir sa tâche. L’injection de prompt figure en tête du classement OWASP des risques des applications de LLM (édition 2025).
Le « trio létal »
En juin 2025, Simon Willison résume la situation dangereuse par trois capacités réunies dans un même agent : l’accès à des données privées, l’exposition à des contenus non fiables et la possibilité de communiquer vers l’extérieur. Un agent qui lit vos courriels, consulte des pages web et peut envoyer des requêtes peut être amené, par un contenu piégé, à exfiltrer ce qu’il lit. Aucun filtre ne détecte toutes les injections : on réduit le risque par l’architecture, en retirant l’une des trois capacités, en n’accordant que les droits strictement nécessaires (least privilege), en limitant le nombre d’appels d’outils et en soumettant les actions sensibles à une validation humaine.
Rendre l’agent observable
Un agent prend des décisions différentes d’une exécution à l’autre. Pour l’auditer, il faut pouvoir rejouer ce qu’il a vu, pensé et fait. C’est l’intérêt des approches par graphe, qui rendent explicites les étapes et l’état de l’agent, et des outils de traçage, qui enregistrent chaque appel au modèle et à ses outils.
Le fonctionnement des modèles de langage eux-mêmes, et la génération augmentée de récupération (RAG), sont détaillés dans Comprendre et adapter un Large Language Model (LLM).
