La « chaîne de pensée » : demander à un modèle de raisonner étape par étape

Des chercheurs de Google montrent en 2022 qu'il suffit de montrer des exemples de raisonnement détaillé pour améliorer nettement les réponses des grands modèles.

L'article « Chain-of-Thought Prompting Elicits Reasoning in Large Language Models » étudie une technique simple : inclure dans la consigne quelques exemples où la solution est précédée des étapes intermédiaires du raisonnement.

Sur des problèmes d'arithmétique, de bon sens ou de logique symbolique, cette « chaîne de pensée » améliore fortement les résultats des plus grands modèles. L'effet est en revanche faible, voire négatif, sur les petits modèles.

Le principe a été largement repris, jusqu'aux modèles dits « de raisonnement » apparus à partir de 2024, entraînés à produire eux-mêmes ces étapes avant de répondre.