Least To Most Prompting : Définition et Exemples

Technique de prompt engineering qui consiste à décomposer un problème complexe en sous-problèmes progressivement plus difficiles, en résolvant chacun d'eux dans l'ordre pour construire la réponse finale.

Définition complète

Le Least To Most Prompting est une stratégie avancée de prompt engineering développée par des chercheurs de Google Brain en 2022. Elle repose sur un principe simple mais puissant : face à un problème complexe, on commence par identifier les sous-problèmes les plus simples, puis on progresse graduellement vers les plus difficiles, en utilisant les réponses précédentes comme contexte pour résoudre chaque étape suivante.

Cette technique se déroule en deux phases distinctes. La première phase, appelée décomposition, consiste à demander au modèle d'identifier les sous-problèmes nécessaires pour résoudre la question principale. La seconde phase, appelée résolution séquentielle, consiste à résoudre chaque sous-problème dans l'ordre croissant de difficulté, en injectant à chaque étape les solutions des sous-problèmes précédents dans le prompt.

L'avantage majeur du Least To Most Prompting par rapport au Chain of Thought classique est sa capacité à généraliser sur des problèmes plus difficiles que ceux vus dans les exemples. Là où le Chain of Thought peut échouer face à un problème significativement plus complexe que les démonstrations fournies, le Least To Most Prompting s'adapte en construisant sa réponse brique par brique, chaque résolution intermédiaire servant de tremplin pour la suivante.

Cette approche s'inspire directement des méthodes pédagogiques utilisées dans l'enseignement, où l'on guide un élève en partant des concepts fondamentaux avant d'aborder les notions avancées. Elle est particulièrement efficace pour les tâches de raisonnement mathématique, la résolution de problèmes en plusieurs étapes, et les questions nécessitant une compréhension compositionnelle du langage.

Étymologie

Le terme "Least To Most" (du moins au plus) fait référence à l'ordre de résolution des sous-problèmes : on commence par le moins complexe pour aller progressivement vers le plus complexe. Ce nom a été introduit dans l'article de recherche "Least-to-Most Prompting Enables Complex Reasoning in Large Language Models" publié par Zhou et al. chez Google Brain en 2022.

Exemples concrets

Résolution d'un problème mathématique en plusieurs étapes

Problème : Marie a 3 paniers. Chaque panier contient 4 pommes et 2 oranges. Elle donne la moitié de tous ses fruits à Jean. Combien de fruits lui reste-t-il ?

Décompose ce problème en sous-questions simples, puis résous chacune dans l'ordre :
1. Combien de fruits contient un panier ?
2. Combien de fruits Marie a-t-elle au total ?
3. Combien de fruits reste-t-il après en avoir donné la moitié ?

Compréhension d'un texte juridique complexe

Pour comprendre cet article de loi, répondons d'abord aux questions les plus simples :
1. Quels sont les termes techniques utilisés et leur définition ?
2. Quelles sont les conditions d'application mentionnées ?
3. Quelles sont les exceptions prévues ?
4. En résumé, que signifie concrètement cet article pour un particulier ?

Planification d'un projet technique avec dépendances

Je dois déployer une application web en production. Décompose cette tâche du plus simple au plus complexe et résous chaque étape en t'appuyant sur les précédentes : d'abord les prérequis (serveur, domaine), puis la configuration (base de données, variables d'environnement), et enfin le déploiement et les tests.

Usage pratique

Pour appliquer le Least To Most Prompting, commencez par demander au modèle de lister les sous-problèmes nécessaires, du plus simple au plus complexe. Résolvez ensuite chaque sous-problème séquentiellement en incluant les réponses précédentes dans le contexte. Cette technique est particulièrement utile lorsque le Chain of Thought classique échoue sur des problèmes dont la complexité dépasse celle des exemples fournis.

Concepts liés

Chain of ThoughtDécomposition de problèmesScaffoldingRaisonnement séquentiel

FAQ

Quelle est la différence entre le Least To Most Prompting et le Chain of Thought ?

Le Chain of Thought demande au modèle de raisonner étape par étape de manière linéaire, tandis que le Least To Most Prompting décompose explicitement le problème en sous-problèmes ordonnés par difficulté croissante. Cette décomposition permet une meilleure généralisation : le modèle peut résoudre des problèmes plus complexes que les exemples fournis, car chaque sous-problème résolu enrichit le contexte pour le suivant.

Dans quels cas utiliser le Least To Most Prompting plutôt qu'un simple prompt ?

Cette technique est recommandée lorsque le problème est trop complexe pour être résolu en une seule étape, notamment pour les problèmes mathématiques composés, l'analyse de documents longs, la planification de projets multi-étapes, ou toute tâche nécessitant de combiner plusieurs raisonnements intermédiaires. Si un prompt direct ou un Chain of Thought simple suffit, il n'est pas nécessaire d'utiliser cette approche.

Le Least To Most Prompting fonctionne-t-il avec tous les modèles de langage ?

Cette technique fonctionne mieux avec les grands modèles de langage (GPT-4, Claude, Gemini) qui possèdent de bonnes capacités de raisonnement. Les modèles plus petits peuvent avoir du mal à décomposer efficacement les problèmes ou à exploiter le contexte cumulé des sous-réponses. Plus le modèle est capable, plus la technique est performante.

Voir aussi

Chain of Thought Few-Shot Prompting Prompt Chaining Tree of Thought Zero-Shot Prompting Self-Consistency

Recevez de nouveaux prompts chaque semaine

Rejoignez notre newsletter.