首页›原理
原理
原理
用通俗的话讲清 AI 怎么工作：从人工神经元到 Transformer、预训练和推理模型。
共 26 · 清除筛选
信息论把信息当作可以度量、编码和传输的量来研究的理论，奠基于香农 1948 年的论文；比特、熵与信道容量都是它给出的概念。K 均值聚类K 均值聚类把 n 个观测分成 k 组：反复将每个点归到最近的中心点，再用各组的均值更新中心点。方法简单、能扩展到大数据，但 k 需要事先指定。支持向量机一种监督式的最大间隔模型，用于分类与回归；它用尽可能宽的间隔把不同类别分开，并通过核函数处理非线性数据。交叉验证一种通过重采样和划分数据来估计模型泛化能力的验证方法：把样本切成若干折，轮流留一折作验证、其余作训练，再把多次运行的结果平均。自动驾驶自动驾驶是由计算机系统而非人来操作道路车辆。它的六级自动化量表、两条主要技术路线，以及从1980年代起延续至今的一系列研究车辆，构成了今天讨论这一领域的框架。模仿学习模仿学习通过从专家示范中做监督学习来训练智能体完成任务，而不是靠反复试错。最基本的形式是行为克隆，最主要的弱点是分布偏移。AdaBoost（自适应提升）AdaBoost（自适应提升）是 Freund 和 Schapire 在 1995 年提出的统计分类元算法：它反复调整训练样本的权重、依次训练多个弱分类器，再把它们的输出加权合成为一个更强的分类器。主题模型主题模型把文档表示为主题的混合，用潜在主题为文本集合提供紧凑的统计描述；2003 年的 Latent Dirichlet Allocation 论文将这一思想形式化为分层贝叶斯模型。检索增强生成检索增强生成（RAG）让语言模型在回答前先从外部库中取回相关文档并放进提示词，从而用上训练数据之外的知识，也能标出答案的来源。视觉-语言-动作模型 VLA视觉-语言-动作模型（VLA）是一种机器人策略：输入摄像头图像和一句语言指令，直接输出动作，通常由预训练的视觉-语言模型改造而来。仿真到现实迁移仿真到现实迁移指先在仿真中训练机器人策略，再迁移到真实机器人，用合成数据补充昂贵的人工演示数据。强化学习强化学习是机器学习与最优控制的一个分支：智能体在动态环境中通过试错，学习怎样的动作能让奖励信号最大化。监督学习监督学习用成对的标注样本训练模型，让它学会从输入到输出的映射，从而对未见过的数据给出预测。衡量它成败的关键，是模型在训练集之外的泛化能力。损失函数损失函数把预测的代价折算成一个数，训练模型就是让这个数尽量小。选哪种损失函数，也就决定了模型会为什么样的错误付出代价。过拟合过拟合指模型对训练数据拟合得过于贴合，因而在新数据上表现变差。它与欠拟合共同构成偏差—方差权衡的两端，通常通过比较训练与验证表现来发现。正则化正则化是把问题的答案变得更简单的做法：在目标函数中加入惩罚项，使不适定问题可解，或防止模型过拟合。它是机器学习中最基础的技术之一。决策树决策树学习用分类树或回归树作为预测模型，通过反复划分数据把样本分到越来越纯的组里。它给出的是一组可以直接读出来的决策规则，是常用的监督学习方法，但容易受训练数据扰动影响，也容易过拟合。特征工程特征工程是机器学习和统计建模中的预处理环节，把原始数据加工成模型更好用的输入，包括构造、筛选、变换特征以及处理缺失值和降维。自编码器自编码器是一种无监督神经网络，它把输入压缩成低维编码再重建回来，学到的隐表示可用于降维、去噪和异常检测等任务。多智能体系统多智能体系统由多个相互作用的智能体组成，能解决单个智能体难以完成的问题。近年以大型语言模型为内核的框架，让智能体之间直接对话协作，使这一方向重新受到关注。