Conversation Memory : Définition et Exemples

La conversation memory (ou mémoire conversationnelle) est un mécanisme fondamental des systèmes d'IA générative qui permet au modèle de conserver le contexte des échanges précédents au sein d'une même session. Sans cette capacité, chaque message serait traité de manière isolée, comme si l'utilisateur s'adressait à un interlocuteur amnésique. La mémoire conversationnelle est ce qui transforme une simple interface de questions-réponses en un véritable dialogue.

Concrètement, la conversation memory fonctionne en intégrant l'historique des messages (prompts de l'utilisateur et réponses du modèle) dans le contexte envoyé à chaque nouvelle requête. Ce contexte est limité par la fenêtre de contexte du modèle (context window), qui varie selon les architectures — de quelques milliers à plusieurs millions de tokens. Lorsque la conversation dépasse cette limite, les messages les plus anciens sont tronqués ou résumés, ce qui peut entraîner une perte d'informations.

Il existe plusieurs types de mémoire conversationnelle. La mémoire à court terme correspond à l'historique de la session en cours. La mémoire à long terme, plus récente, permet à certains systèmes de retenir des préférences et des informations d'une session à l'autre, grâce à des mécanismes de stockage persistant. Certaines plateformes proposent également une mémoire structurée, où l'utilisateur peut explicitement demander au modèle de retenir ou d'oublier certaines informations.

Maîtriser le fonctionnement de la conversation memory est essentiel en prompt engineering. Cela permet de structurer ses échanges pour maximiser la rétention des instructions importantes, d'éviter les pertes de contexte dans les conversations longues, et d'exploiter efficacement les capacités de personnalisation offertes par la mémoire persistante.