Soft Prompting : Définition et Exemples

Le soft prompting est une méthode d'optimisation des modèles de langage qui se distingue fondamentalement du prompting classique (dit « hard prompting »). Au lieu de formuler des instructions en langage naturel, on injecte des vecteurs continus — des séquences de nombres — directement dans l'espace d'embedding du modèle. Ces vecteurs sont entraînés par rétropropagation sur un jeu de données spécifique à une tâche, tandis que les poids du modèle principal restent gelés.

Cette approche a été popularisée par l'article « The Power of Scale for Parameter-Efficient Prompt Tuning » (Lester et al., 2021) de Google Research. Les chercheurs ont démontré qu'avec des modèles suffisamment grands, le simple ajout de quelques dizaines de tokens apprenables en préfixe pouvait rivaliser avec un fine-tuning complet du modèle, tout en ne modifiant qu'une infime fraction des paramètres.

L'intérêt majeur du soft prompting réside dans son efficacité en termes de ressources. Plutôt que de dupliquer et réentraîner un modèle entier pour chaque tâche, on ne stocke et n'entraîne que les vecteurs de prompt — souvent quelques kilo-octets contre plusieurs giga-octets pour un modèle complet. Cela permet de déployer un seul modèle de base avec plusieurs « modules » de soft prompts interchangeables selon la tâche.

Il est important de noter que le soft prompting est une technique réservée aux praticiens ayant accès aux couches internes du modèle. Les utilisateurs d'API comme ChatGPT ou Claude ne peuvent pas directement utiliser le soft prompting — ils pratiquent du hard prompting. Le soft prompting relève davantage du machine learning appliqué que du prompt engineering au sens courant du terme.