Skeleton Of Thought : Définition et Exemples

Le Skeleton of Thought (SoT) est une méthode de prompting inspirée du processus cognitif humain : avant de rédiger un texte complexe, on commence par esquisser un plan. Appliquée aux grands modèles de langage, cette technique décompose la génération en deux phases distinctes. Dans la première phase (skeleton stage), le modèle produit un squelette concis — une liste de points clés ou un plan structuré qui couvre l'ensemble de la réponse attendue. Dans la seconde phase (point-expanding stage), chaque point du squelette est développé indépendamment en un paragraphe ou une section complète.

L'intérêt principal du SoT réside dans sa capacité à réduire significativement la latence de génération. Comme chaque point du squelette peut être développé de manière indépendante, les expansions peuvent théoriquement être parallélisées via des appels API simultanés, réduisant le temps de réponse jusqu'à 2x par rapport à une génération séquentielle classique. Cette approche a été formalisée dans un article de recherche publié par des chercheurs de Microsoft Research et Tsinghua University en 2023.

Au-delà de la vitesse, le SoT améliore souvent la qualité des réponses. En forçant le modèle à planifier avant de rédiger, on évite les digressions, les répétitions et les incohérences structurelles fréquentes dans les réponses longues. Le squelette agit comme une carte mentale qui guide la génération et garantit une couverture complète du sujet.

Il est important de noter que le SoT n'est pas adapté à tous les types de tâches. Les questions simples, les tâches de codage, ou les requêtes nécessitant un raisonnement séquentiel strict (comme les problèmes mathématiques étape par étape) bénéficient peu de cette approche. Le SoT excelle en revanche pour les réponses longues, structurées et multi-aspects comme les analyses, les comparaisons ou les guides explicatifs.