首页›原理
原理
原理
用通俗的话讲清 AI 怎么工作：从人工神经元到 Transformer、预训练和推理模型。
共 66 · 清除筛选
人工神经网络人工神经网络是由许多简单相连单元组成的计算系统，其行为由连接权重决定。它的源头是1943年的神经元模型，带学习能力的版本则始于1958年罗森布拉特的感知机。K 均值聚类K 均值聚类把 n 个观测分成 k 组：反复将每个点归到最近的中心点，再用各组的均值更新中心点。方法简单、能扩展到大数据，但 k 需要事先指定。支持向量机一种监督式的最大间隔模型，用于分类与回归；它用尽可能宽的间隔把不同类别分开，并通过核函数处理非线性数据。交叉验证一种通过重采样和划分数据来估计模型泛化能力的验证方法：把样本切成若干折，轮流留一折作验证、其余作训练，再把多次运行的结果平均。Hopfield 网络John Hopfield 于 1982 年提出的循环神经网络，把模式存为能量函数的极小值，能从残缺或失真的输入回忆出完整模式，并让统计物理成为研究神经网络的常用工具。玻尔兹曼机玻尔兹曼机是一种用全局能量给每种网络配置打分、并用随机学习算法训练的神经网络。它由杰弗里·辛顿与特里·塞诺夫斯基提出，把能量模型带进了认知科学与机器学习。自动驾驶自动驾驶是由计算机系统而非人来操作道路车辆。它的六级自动化量表、两条主要技术路线，以及从1980年代起延续至今的一系列研究车辆，构成了今天讨论这一领域的框架。循环神经网络与 LSTM循环神经网络（recurrent neural network，RNN）通过反馈连接，把序列中前一步的信息带到下一步。其变体 LSTM 专门用于在更长跨度中保留记忆。反向传播与梯度下降反向传播（backpropagation）是多层神经网络的学习方法：把输出误差逐层传回，再用梯度下降调整权重。1986年一篇《Nature》论文使其广为人知，至今仍是标准训练方法。模仿学习模仿学习通过从专家示范中做监督学习来训练智能体完成任务，而不是靠反复试错。最基本的形式是行为克隆，最主要的弱点是分布偏移。卷积神经网络卷积神经网络让同一组小型图案探测器扫过整张图像，因此无论特征出现在哪里都能被找到。它在1989年用反向传播训练，1998年以LeNet-5的形式成熟，如今已是计算机视觉的标准方法。分词（Tokenization）分词（tokenization）把文本切成语言模型真正处理的词元；今天多数系统用字节对编码（BPE）实现，这一 1994 年的压缩算法在 2015 年被引入机器翻译。AdaBoost（自适应提升）AdaBoost（自适应提升）是 Freund 和 Schapire 在 1995 年提出的统计分类元算法：它反复调整训练样本的权重、依次训练多个弱分类器，再把它们的输出加权合成为一个更强的分类器。词向量（词嵌入）词嵌入（word embedding）把每个词表示为一组从文本中学得的数字，用法相近的词得到相近的数字组合。它是现代语言模型的基本组成部分之一。联结时序分类（CTC）联结时序分类（CTC）是一种训练循环神经网络为未切分序列（如语音、手写）打标签的方法，不需要逐帧对齐。它于 2006 年提出，用 CTC 训练的 LSTM 因此赢得了循环网络早期的国际竞赛。图神经网络图神经网络是为图结构数据设计的一类神经网络，节点之间通过传递消息更新各自的表示。自2009年这一模型被正式提出以来，它已成为图上学习的常用方法。深度神经网络声学建模深度神经网络声学建模用多层网络把语音映射为音素等单元。2010 年 NIPS 论文用深度信念网络与均值-协方差 RBM 提取语音特征，在 TIMIT 上取得 20.5% 音素错误率。用 GPU 训练深度学习图形处理器（GPU）能同时执行大量算术运算，很适合神经网络训练。2010年前后起，GPU被用于深度学习，使其能够在更大规模上实际运行。Xavier / Glorot 初始化Xavier（Glorot）初始化是 Glorot 与 Bengio 在 2010 年提出的权重初始化方法，按层规模设定初始权重尺度，使信号稳定传播，让深层网络收敛更快。Dropout（随机失活）一种正则化方法：训练时随机把部分神经元的输入或输出置零，阻止神经元之间形成对训练数据的复杂共适应，从而减轻过拟合。