思维链提示激发大语言模型的推理能力

要解决的问题

大语言模型（large language model）答题时，提示（prompt）里通常先给几个示例，再给出待解的问题。如果示例只写问题和最终答案，模型就必须一步给出结果。许多任务这样够用，但需要多步算术或逻辑的问题不行：中间任何一步算错，最后的答案就错了。这篇论文于 2022 年 1 月 28 日提交到 arXiv，作者是 Google Research 大脑团队（Brain team）的 Jason Wei 及同事，同年发表在 NeurIPS 2022 上。它问的是：改一改示例的写法，能不能把模型的推理过程引出来。^[1]

怎么做的

改动只发生在提示里。示例不再是「问题—答案」对，而是把解题过程写出来：每一个示例都展示通向最终答案的中间步骤，而不只是最后那个结果。^[1] 模型看过几个这样的示例后，往往会照着格式处理新问题，先用日常语言写出自己的中间步骤，再给出结果。论文的实验中，提示里放了 8 个这样的示例。^[1]

作者把这种做法称为思维链提示（chain-of-thought prompting）。它的好处是既不改动模型参数，也不需要额外训练：同一个模型，只要换一种写法的提示，就会在原本只给答案的地方给出一整条推理链。^[1]

结果

提升幅度很大。在算术、常识和符号推理（symbolic reasoning）任务上，思维链提示都带来了大幅的性能提升。^[1] 在 GSM8K 这个数学应用题基准上，PaLM 540B 用标准提示时准确率为 17.9%，改用思维链提示后达到 56.9%；配合 8 个思维链示例，它在该基准上取得了最优准确率，超过了一个带验证器（verifier）的微调版 GPT-3。^[1]

效果与模型规模有关。收益主要出现在大模型上；小模型给出的推理链虽然读起来通顺，结论却是错的。^[1]

为什么重要

它是此后一批被训练成按步骤思考的推理模型的起点。^[2] DeepSeek-R1 的技术报告是这条线索上的一例：报告把 OpenAI 的 o1 模型描述为最早通过拉长思维链推理过程来扩展推理阶段计算（inference）的模型，而 DeepSeek-R1 则用强化学习（reinforcement learning）训练模型生成长思维链。^[2] 思维链提示用几个示例把中间推理引导出来，后来的系统则把这种长链条推理本身变成了训练目标。