Knowledge Cutoff : Définition et Exemples

Le knowledge cutoff est un concept fondamental pour comprendre les limites des grands modèles de langage (LLM). Chaque modèle d'IA est entraîné sur un corpus de données collectées jusqu'à une date précise. Cette date constitue sa "frontière temporelle" : tout ce qui s'est passé après lui est totalement inconnu.

Par exemple, si un modèle a un knowledge cutoff en avril 2024, il ne connaîtra pas les résultats d'une élection ayant eu lieu en novembre 2024, ni les dernières avancées scientifiques publiées après cette date. Il pourrait même fournir des informations obsolètes en toute confiance, car il n'a aucun moyen de savoir que ses données sont périmées.

Cette limitation a des implications pratiques majeures en prompt engineering. Lorsque vous interrogez un modèle sur des sujets d'actualité, des données récentes ou des événements postérieurs à sa date de coupure, les réponses peuvent être incorrectes ou inventées (hallucinations). C'est pourquoi il est essentiel de connaître le knowledge cutoff du modèle que vous utilisez.

Pour contourner cette limitation, plusieurs approches existent : le Retrieval-Augmented Generation (RAG) qui injecte des données à jour dans le contexte, la navigation web en temps réel intégrée à certains assistants, ou simplement le fait de fournir manuellement les informations récentes nécessaires dans votre prompt.