TellWorldAI 世界档案
问档案English

首页›原理

原理

原理

用通俗的话讲清 AI 怎么工作:从人工神经元到 Transformer、预训练和推理模型。

共 9 · 清除筛选

自动驾驶自动驾驶是由计算机系统而非人来操作道路车辆。它的六级自动化量表、两条主要技术路线,以及从1980年代起延续至今的一系列研究车辆,构成了今天讨论这一领域的框架。测试时计算(Test-time compute)测试时计算指模型答题时额外投入的算力,而非训练阶段已固化在参数中的算力。Snell 等人 2024 年 8 月的研究表明,按题目难度分配这份算力,能让小模型在同等总计算量下胜过大得多的模型。仿真到现实迁移仿真到现实迁移指先在仿真中训练机器人策略,再迁移到真实机器人,用合成数据补充昂贵的人工演示数据。多智能体系统多智能体系统由多个相互作用的智能体组成,能解决单个智能体难以完成的问题。近年以大型语言模型为内核的框架,让智能体之间直接对话协作,使这一方向重新受到关注。世界模型世界模型是学习环境内部表示、并预测环境随动作如何变化的机器学习系统。在强化学习中,它相当于从经验中学出的模拟器,让智能体不必在真实环境里反复试错就能规划行动。键值缓存(KV cache)键值缓存把模型为先前 token 算出的键和值保存下来,生成新词时直接复用而不重算。它的显存占用是决定一台服务器能同时服务多少请求的关键。合成数据(Synthetic data)合成数据是由模型生成、而非从人或从网上收集的训练材料。phi-1 的实验显示,混入模型生成的「教科书」后,一个小规模代码模型也能在代码基准上取得不错的成绩,说明数据质量本身影响能力。具身智能(Embodied AI)具身智能(Embodied AI)指通过与环境的互动来学习的智能体,而不只依赖从互联网上收集的图像、视频或文本数据集;模拟器则是训练和评测这类智能体的虚拟试验台。视觉里程计视觉里程计让巡视器通过跟踪行驶前后相机图像中的地形特征,测出自己实际移动了多远,而不是只靠数车轮转数。NASA 的火星探测车首次实际演示了这项技术。