Context Management : Définition et Exemples

Le context management (ou gestion du contexte) est une discipline fondamentale du prompt engineering qui consiste à maîtriser les informations de fond transmises à un grand modèle de langage (LLM). Chaque modèle dispose d'une fenêtre de contexte limitée — mesurée en tokens — dans laquelle doivent tenir à la fois les instructions, les données de référence et l'historique de conversation. Gérer efficacement ce contexte, c'est s'assurer que chaque token utilisé apporte une valeur maximale à la réponse.

En pratique, le context management recouvre plusieurs opérations : la sélection des informations pertinentes à inclure dans le prompt, leur hiérarchisation (du plus important au moins critique), la compression ou le résumé des échanges précédents, et l'injection dynamique de données externes via des techniques comme le RAG (Retrieval-Augmented Generation). L'objectif est de fournir au modèle exactement ce dont il a besoin pour répondre, ni plus ni moins.

Une mauvaise gestion du contexte entraîne des problèmes concrets : le modèle « oublie » des instructions données en début de conversation, produit des réponses incohérentes avec les échanges précédents, ou se retrouve saturé par des informations non pertinentes qui diluent la qualité de ses réponses. À l'inverse, un context management rigoureux permet de maintenir des conversations longues et cohérentes, d'exploiter pleinement les capacités du modèle et de réduire les coûts liés à l'utilisation de tokens inutiles.

Le context management est devenu d'autant plus stratégique avec l'émergence des agents IA autonomes et des systèmes multi-tours complexes. Dans ces architectures, le contexte doit être géré de manière programmatique : mémoires persistantes, systèmes de résumé automatique, fichiers d'instructions (comme les fichiers CLAUDE.md), et mécanismes de priorisation dynamique sont autant d'outils au service d'une gestion de contexte performante.