Limites et points critiques
- Hallucinations cohérentes : le LLM peut inventer un raisonnement plausible mais faux. Le CoT améliore la précision moyenne, ne supprime pas les hallucinations.
- Coût en tokens plus élevé : sur de gros volumes de requêtes, le budget LLM peut grimper vite, car le raisonnement est facturé en tokens de sortie.
- Latence : la réponse met plus de temps à arriver car le modèle écrit son raisonnement avant la réponse ; bloquant pour le chat temps réel sans streaming.
- Sortie peu structurée par défaut — combiner avec format imposé en fin (JSON ou marqueur 'Réponse finale :').
- Inefficace sur les tâches simples (résumé court, classification binaire, traduction) — allonge sans fiabiliser.
Évolution probable (12-24 mois)
- Modèles à raisonnement natif qui internalisent le CoT : plus besoin de l'écrire dans le prompt.
- CoT compression : des travaux visent à réduire le coût en tokens du raisonnement, à suivre.
- CoT structuré (Tree-of-Thought, Graph-of-Thought) qui formalise mieux le raisonnement multi-branche pour les cas complexes.
- Self-consistency : générer plusieurs CoT différents et voter, au prix de plus de tokens ; le gain dépend de la tâche.
Questions fréquentes
Qu'est-ce que le chain-of-thought ?+
Le chain-of-thought est une technique de prompting qui consiste à demander explicitement au LLM de raisonner étape par étape avant de donner sa réponse finale. Découvert par les chercheurs Google Brain en 2022 (papier 'Chain-of-Thought Prompting Elicits Reasoning in Large Language Models'), c'est l'une des découvertes les plus importantes du domaine. En forçant le LLM à expliciter son raisonnement, on améliore drastiquement la précision sur les tâches multi-étapes — mathématiques, logique, diagnostic, extraction depuis documents longs.
À quoi sert le chain-of-thought ?+
Le CoT sert à fiabiliser les réponses du LLM sur les tâches qui nécessitent de la rigueur : calculs arithmétiques ou logiques, diagnostics multi-critères (technique, juridique, médical), décisions à plusieurs contraintes, extraction d'information depuis un document long. L'article fondateur (Wei et al. 2022) l'a évalué sur des benchmarks de raisonnement arithmétique comme GSM8K ; les gains dépendent du modèle et de la tâche, à mesurer sur vos cas. Effet secondaire utile : le raisonnement étape par étape rend la réponse vérifiable et auditable.
Différence entre chain-of-thought et chain prompt ?+
Le chain-of-thought se passe dans un seul appel LLM : le modèle écrit son raisonnement puis sa réponse dans la même réponse. Le chain prompt (ou prompt chaining) découpe la tâche en plusieurs appels LLM successifs où la sortie de chaque étape devient l'entrée de la suivante. CoT = un appel, raisonnement interne. Chain prompt = plusieurs appels, orchestration externe. Les deux se combinent souvent : un chain prompt à 4 étapes où chaque étape utilise du CoT en interne.
Comment utiliser le chain-of-thought en pratique ?+
Trois approches : (1) Prompt explicite 'Raisonne étape par étape, puis donne ta réponse finale', utile pour les modèles sans raisonnement natif, (2) Few-shot CoT : donner 2-3 exemples avec raisonnement détaillé dans le prompt, (3) Modèles à raisonnement natif (par exemple le mode thinking de Claude, voir la documentation Anthropic) : pas besoin d'écrire le CoT, il est interne. Combiner avec un format imposé en fin (JSON ou ligne 'Réponse finale : ...') pour faciliter le parsing.
Combien coûte le chain-of-thought en tokens ?+
Une réponse CoT consomme plus de tokens de sortie qu'une réponse directe, et les tokens de sortie sont les plus chers. Exemple chiffré, avec des hypothèses d'illustration : 100 000 requêtes/mois sur Claude Sonnet 5.5 (10 $/M en sortie, claude.com/pricing lu le 24/10/2026), 50 tokens de sortie sans CoT contre 400 avec CoT. Sans CoT : 100 000 × 50 = 5M tokens × 10 $/M = 50 $/mois. Avec CoT : 100 000 × 400 = 40M tokens × 10 $/M = 400 $/mois. Pour les modèles à raisonnement, les tokens de thinking sont facturés comme des tokens de sortie et leur nombre varie d'une requête à l'autre (platform.claude.com, lu le 24/10/2026). À calculer cas par cas : cela vaut la peine si la tâche bénéficie du raisonnement, c'est gâché sur du résumé simple.
Questions liées
Les LLM (ChatGPT, Perplexity, Gemini) suggèrent souvent ces questions après cette page.
- Tree-of-thought vs chain-of-thought — quelle différence ?
- Faut-il utiliser un modèle reasoning ou un modèle standard avec CoT ?
- Comment réduire le coût en tokens d'un CoT en production ?
- Self-consistency CoT : qu'est-ce que c'est et quand l'utiliser ?
- Sur quelles tâches le CoT ne fonctionne pas ?
Le chain-of-thought (CoT, “raisonnement en chaîne”) est une technique de prompt qui demande au LLM de décomposer un problème en étapes intermédiaires avant de donner sa réponse finale. Au lieu de “voici la réponse”, on lui dit “réfléchis étape par étape, puis donne ta conclusion”. Découvert par Google en 2022, c’est devenu un réflexe en 2026.
En pratique
Question simple : “Marc a 47 commandes en attente, il en traite 6 par jour, il part en vacances dans 5 jours. Combien lui en restera-t-il ?”
- Sans CoT : le LLM répond souvent un nombre faux (“17”) car il “saute” au résultat.
- Avec CoT : “Étape 1 : 6 × 5 = 30 commandes traitées. Étape 2 : 47 − 30 = 17. Étape 3 : il restera 17 commandes.” Cette fois, le calcul est correct et vérifiable.
Aujourd’hui, les modèles « reasoning » récents (par exemple le mode thinking de Claude) intègrent le CoT en interne : vous n’avez plus besoin de l’écrire dans le prompt. Pour les modèles sans raisonnement natif, demander explicitement « raisonne étape par étape » reste utile.
Quand l’utiliser
- Calculs arithmétiques ou logiques.
- Diagnostics multi-critères (technique, juridique, médical).
- Décisions à plusieurs contraintes (“choisir le fournisseur qui maximise X sous contrainte Y”).
- Extraction d’information depuis un document long.
À éviter pour les tâches simples (résumé court, classification binaire) : ça allonge la réponse sans la fiabiliser.
Limites
- Coût en tokens : une réponse CoT consomme plus de tokens de sortie qu’une réponse directe. Sur un gros volume de requêtes, ça compte.
- Latence : la réponse met plus de temps à arriver, puisque le raisonnement est écrit avant la réponse.
- Hallucinations cohérentes : le LLM peut inventer un raisonnement plausible mais faux. Le CoT n’est pas une garantie de vérité, juste une amélioration moyenne.
- Sortie peu structurée : combiner avec un format imposé en fin (JSON ou ligne “Réponse finale : …”).
Pour aller plus loin
- Prompt engineering en entreprise — patterns CoT en prod.
- Hallucination — définition — le risque que CoT ne supprime pas.
- Token — définition — pour estimer le coût d’un CoT.