Le chain-of-thought (CoT, “raisonnement en chaîne”) est une technique de prompt qui demande au LLM de décomposer un problème en étapes intermédiaires avant de donner sa réponse finale. Au lieu de “voici la réponse”, on lui dit “réfléchis étape par étape, puis donne ta conclusion”. Découvert par Google en 2022, c’est devenu un réflexe en 2026.
En pratique
Question simple : “Marc a 47 commandes en attente, il en traite 6 par jour, il part en vacances dans 5 jours. Combien lui en restera-t-il ?”
- Sans CoT : le LLM répond souvent un nombre faux (“17”) car il “saute” au résultat.
- Avec CoT : “Étape 1 : 6 × 5 = 30 commandes traitées. Étape 2 : 47 − 30 = 17. Étape 3 : il restera 17 commandes.” Cette fois, le calcul est correct et vérifiable.
En 2026, les modèles “reasoning” récents (Claude Sonnet 4.6 thinking, GPT-5 thinking, o3) intègrent le CoT en interne — vous n’avez plus besoin de l’écrire dans le prompt. Pour les modèles plus légers (Haiku, GPT-5-mini, Mistral Small), demander explicitement “raisonne étape par étape” reste utile.
Quand l’utiliser
- Calculs arithmétiques ou logiques.
- Diagnostics multi-critères (technique, juridique, médical).
- Décisions à plusieurs contraintes (“choisir le fournisseur qui maximise X sous contrainte Y”).
- Extraction d’information depuis un document long.
À éviter pour les tâches simples (résumé court, classification binaire) : ça allonge la réponse sans la fiabiliser.
Limites
- Coût en tokens : une réponse CoT peut consommer 3 à 10× plus de tokens qu’une réponse directe. Sur 100 000 requêtes/mois, ça compte.
- Latence : 2 à 5 secondes de plus par requête.
- Hallucinations cohérentes : le LLM peut inventer un raisonnement plausible mais faux. Le CoT n’est pas une garantie de vérité, juste une amélioration moyenne.
- Sortie peu structurée : combiner avec un format imposé en fin (JSON ou ligne “Réponse finale : …”).
Pour aller plus loin
- Prompt engineering en entreprise — patterns CoT en prod.
- Hallucination — définition — le risque que CoT ne supprime pas.
- Token — définition — pour estimer le coût d’un CoT.
- Audit IA Kezify — calibrer le bon niveau de raisonnement.
Vous voulez utiliser le chain-of-thought dans votre entreprise ? Audit IA Kezify.