推理 原理

思维链是让语言模型在回答前先写出中间推理过程的方法。推理模型在此基础上，用强化学习训练模型在回复前进行较长的内部思考，是近年大语言模型的重要方向。

通用人工智能（AGI）指在广泛任务上达到或超过人类水平的人工智能。这个词没有公认定义；Morris 等人提出的框架按性能等级与通用性给系统分级。

测试时计算指模型答题时额外投入的算力，而非训练阶段已固化在参数中的算力。Snell 等人 2024 年 8 月的研究表明，按题目难度分配这份算力，能让小模型在同等总计算量下胜过大得多的模型。

工具调用让语言模型把算术、查找资料这样的子任务交给外部程序，再把返回结果写进回答。2023 年的 Toolformer 展示了模型可以自己学会何时调用、如何调用工具。

规划（planning）是 AI 智能体（agent）把目标拆成中间步骤、决定下一步行动，并根据结果调整方案的过程，而不是一次给出答案。[^1][^2]

奖励黑客指优化一个不完美的代理奖励函数，结果在真正的奖励函数下表现反而变差。它是目标写偏、而非优化器出错时的典型失效模式。

提示工程是设计输入文本、引导生成式人工智能产出目标结果的实践。统一的术语和思维链提示等技术，让提示方法更容易描述、比较和复现。