基础模型 原理

反向传播（backpropagation）是多层神经网络的学习方法：把输出误差逐层传回，再用梯度下降调整权重。1986年一篇《Nature》论文使其广为人知，至今仍是标准训练方法。

残差连接把一个模块的输入直接加到它的输出上，让模块只学需要改变的那一部分。它使很深的网络可以训练，也是今天 Transformer 的标准组件。

Transformer 是2017年提出的神经网络架构，用自注意力取代了循环和卷积结构，今天大多数大语言模型都以它为基础。

预训练（pre-training）用海量无标注文本训练大模型，微调（fine-tuning）用少量标注数据使其适应具体任务。

缩放定律是一种经验规律：语言模型的测试损失会随参数量、数据量和训练算力增加而按幂律平稳下降。它帮助实验室规划大规模训练，也解释了行业对数据中心和 GPU 的竞相投入。

视觉-语言-动作模型（VLA）是一种机器人策略：输入摄像头图像和一句语言指令，直接输出动作，通常由预训练的视觉-语言模型改造而来。

AI 智能体指能感知环境、为达成目标自主行动的系统，范围从恒温器这样的简单装置一直到由大模型自行决定流程与工具调用的软件。

量化把语言模型的权重和激活值用更低的数值精度存储，从而降低推理所需的内存和带宽。LLM.int8() 与 GPTQ 等方法让超大规模模型能够跑在远小的硬件上。

通用人工智能（AGI）指在广泛任务上达到或超过人类水平的人工智能。这个词没有公认定义；Morris 等人提出的框架按性能等级与通用性给系统分级。

对齐指让模型的行为符合用户和设计者的真实意图，而不只是训练目标字面上奖励的东西；用人类偏好比较来训练模型，是目前一条实用路线。

幻觉（hallucination）指模型把虚假或误导性的信息当作事实陈述出来。它是生成式人工智能最典型的失效方式之一，也是人们难以直接信任模型输出的主要原因。

多模态模型在同一个模型里处理不止一种输入或输出，例如图像和文本。CLIP 与 Flamingo 这两项工作展示了这类模型怎样训练出来，又怎样靠文字提示迁移到新任务。

分词（tokenization）把文本切成语言模型真正处理的词元；今天多数系统用字节对编码（BPE）实现，这一 1994 年的压缩算法在 2015 年被引入机器翻译。

批归一化把每一层的输入在小批量上重新中心化到零、缩放到单位方差，使深度网络的训练更快、更稳定。

知识蒸馏是把大模型或模型集成的能力迁移到小模型上的方法，在更低的算力和部署成本下保留大部分预测性能。

序列模型（尤其是 Transformer）的组成部分，把每个词元的位置编码成向量，让本身不分先后的注意力感知顺序；形式从原版 Transformer 的正弦编码一直到 RoPE、ALiBi。

模型并行把单个模型的参数与计算切分到多块加速器上，让一台设备装不下的大模型也能训练。英伟达 2019 年的 Megatron-LM 论文给出了一种层内实现，只需在原生 PyTorch 中插入少量通信操作。

上下文学习指大语言模型只凭提示词里的指令和少量示例就能完成新任务，不更新任何权重。GPT-3 论文命名并系统研究了它，把适配任务的方式从微调转向写提示词。

状态空间模型把序列表示成一个随输入逐步演化的隐藏状态。S4 在 2021 年把它带入深度学习，Mamba 让参数随输入变化，从而在长序列上以线性时间建模。

指令微调是一种监督微调，用来让大语言模型学会听从用户指令；FLAN 论文表明它能显著提升模型在未见任务上的零样本表现。

宪法式 AI（Constitutional AI）是 Anthropic 在 2022 年提出的训练方法：用一套书面写明的原则（即「宪法」）塑造模型行为，而不是依赖人工标注有害输出。

直接偏好优化（DPO）是一种用人类偏好数据微调语言模型的方法，训练目标接近监督学习，省去了单独训练奖励模型和强化学习循环的步骤。

测试时计算指模型答题时额外投入的算力，而非训练阶段已固化在参数中的算力。Snell 等人 2024 年 8 月的研究表明，按题目难度分配这份算力，能让小模型在同等总计算量下胜过大得多的模型。

提示工程是设计输入文本、引导生成式人工智能产出目标结果的实践。统一的术语和思维链提示等技术，让提示方法更容易描述、比较和复现。

长上下文指模型一次能接收并加以利用的大量输入，如今可达数百万词元；但窗口大不等于用得好，能否在长输入中准确定位信息是另一回事。

上下文窗口（context window）是模型生成回答时能够参照的全部文本，以 token 计量，回答本身也计入其中。窗口的大小，以及模型能否均匀地用上窗口内容，共同决定了它实际能做什么。

激活函数把节点的输入与权重映射为输出，为神经网络提供非线性。sigmoid、tanh、ReLU 塑造了早期深度学习，GELU 如今是 transformer 的主流选择。

合成数据是由模型生成、而非从人或从网上收集的训练材料。phi-1 的实验显示，混入模型生成的「教科书」后，一个小规模代码模型也能在代码基准上取得不错的成绩，说明数据质量本身影响能力。

红队测试（red teaming）指在模型部署前主动试探它，看它会不会做出有害或不被期望的行为。2022 年 Perez 等人提出用一个语言模型为另一个语言模型自动生成测试用例的方法，把这件事部分自动化了。

越狱（jailbreak）是用对抗性提示让经过安全训练的模型做出其训练本应阻止的行为。Wei 等人在 2023 年 7 月的一篇分析中，把这类失败归因于目标冲突与泛化不匹配两种失效模式。

一种正则化方法：训练时随机把部分神经元的输入或输出置零，阻止神经元之间形成对训练数据的复杂共适应，从而减轻过拟合。