论文 | TellWorld

首页›论文

论文

对人工智能有重大贡献的论文，每篇都有通俗解读。

共 43 · 清除筛选

2024
《FrontierMath：评估 AI 高级数学推理能力的基准》
arXiv
FrontierMath 是由 Epoch AI 推出的数学基准，包含数百道由专家数学家撰写与审核的原创高难度题目，用来考察 AI 的高级数学推理能力。发布时，最先进的模型解出的题目不足 2%。[^1][^2]
研究史推理科学发现
2024
Accurate structure prediction of biomolecular interactions with AlphaFold 3
Nature
AlphaFold 3 于2024年5月发表于《自然》，把结构预测扩展到生物分子相互作用，在蛋白质—配体结合上准确率高于对接工具，抗体—抗原预测高于 AlphaFold-Multimer v.2.3。
深度学习科学发现生物医药
2023
Scaling deep learning for materials discovery
Nature
2023 年发表于《自然》的一篇论文，报告了一套用于材料发现的规模化深度学习方案：预测出 220 万个位于凸包之下的结构，并把稳定性预测的成功率从约 50% 提升到 80%。
深度学习数据与数据集科学发现
2023
《GPQA：研究生级防搜索问答基准》
arXiv
GPQA 是包含 448 道选择题的问答基准，题目由生物学、物理学和化学专家撰写，设计成熟练非专家靠上网也答不出；基于 GPT-4 的最强基线正确率只有 39%，而同领域专家达到 65%。
研究史推理科学发现
2022
Learning skillful medium-range global weather forecasting
Science
GraphCast 是一个基于图神经网络的全球天气模型，用四十年的再分析资料训练，能在不到一分钟内给出 0.25 度分辨率、未来 10 天的全球预报，并在多数检验指标上超过当时最准确的业务确定性预报系统。
深度学习科学发现仿真
2022
用深度强化学习控制托卡马克等离子体的磁场
Nature
2022 年发表于 Nature 的一篇论文，Degrave、Felici 等人用深度强化学习让控制器自主学会给托卡马克的全部磁控制线圈下指令，产生并维持了多种等离子体位形。
深度学习硬件与算力科学发现
2021
用 AlphaFold 实现高精度蛋白质结构预测
Nature
Nature 论文介绍了 AlphaFold 用于蛋白质结构预测的方法、系统设计和评估。
研究史科学发现生物医药
2019
Mastering Atari, Go, chess and shogi by planning with a learned model
Nature
MuZero 是 DeepMind 提出的强化学习算法，它自己学出一个环境模型，并在该模型中做规划，在不被告知规则的情况下掌握了 Atari、围棋、国际象棋和将棋。
研究史深度学习科学发现
2018
神经常微分方程
arXiv
2018 年的论文用神经网络参数化隐藏状态的导数，取代固定层序列，输出由微分方程求解器算出，得到常数内存开销的连续深度模型。[^1]
研究史深度学习科学发现
2018
组归一化
arXiv
组归一化是 Yuxin Wu 与 Kaiming He 在 2018 年提出的方法：把通道分组后组内计算均值和方差，不依赖批大小，以缓解批归一化在小批量下的问题。
研究史深度学习科学发现
2017
A general reinforcement learning algorithm that masters chess, shogi, and Go through self-play
Science
2017 年挂在 arXiv、后于 Science 发表的论文：同一个自我对弈强化学习算法 AlphaZero 学会了国际象棋、将棋和围棋，并在三种棋里都战胜了强力的专门程序。
研究史深度学习科学发现
2017
mixup：超越经验风险最小化
arXiv
mixup 是 2017 年一篇论文提出的训练原则：把两个样本及其标签按同一比例混合成新样本训练神经网络，在图像、语音和表格数据上提升了模型的泛化能力。
研究史深度学习科学发现
2017
Mastering the game of Go without human knowledge
Nature
DeepMind 的 AlphaGo Zero 从随机落子开始，只靠自我对弈学会围棋，训练三天便以 100 比 0 击败此前击败人类冠军的 AlphaGo 版本。相关论文于 2017 年 10 月发表在《自然》。
研究史深度学习推理
2016
深度残差网络中的恒等映射
arXiv
论文分析残差块中的信号传播：用恒等映射作跳跃连接、激活放在相加之后，信号就能在任意两个块之间直接传递；新提出的残差单元更易训练，1001 层网络在 CIFAR-10 上错误率 4.62%。
研究史深度学习科学发现
2015
批归一化：通过减少内部协变量偏移加速深度网络训练
arXiv
2015 年 Sergey Ioffe 与 Christian Szegedy 提出的方法：对每一层的输入按训练小批量做归一化，从而可以用更大的学习率、更随意的初始化，并大幅加快深度网络的训练。
研究史深度学习科学发现
2015
深度学习（Nature 综述）
Nature
2015年，LeCun、Bengio 与 Hinton 在《自然》发表综述，说明多个处理层组成的模型如何学习分层数据表示，并梳理语音、图像等领域的成果。
研究史深度学习科学发现
2014
Adam：一种随机优化方法
arXiv (ICLR 2015)
Adam 是 Diederik P. Kingma 与 Jimmy Ba 在 2014 年论文中提出的随机优化算法：用梯度一阶矩与二阶矩的滑动估计为每个参数自适应地确定步长，内存开销小、超参数通常无需太多调整。
研究史深度学习科学发现
2014
Deep Speech：端到端语音识别的规模化
arXiv
2014年的一篇论文提出端到端深度学习语音识别系统，省去手工设计的噪声模块和音素词典，依靠多GPU训练的循环网络与合成数据。
研究史深度学习科学发现
2014
Dropout：一种防止神经网络过拟合的简单方法
JMLR
2014 年的一篇论文提出 Dropout：训练时随机丢弃神经元，让大型神经网络不易过拟合，并在视觉、语音等领域的多项基准上取得当时最好的结果。
研究史深度学习科学发现
2013
词与短语的分布式表示及其组合性
arXiv
2013年论文提出连续 Skip-gram 等高效学习词与短语分布式向量表示的方法，并给出提升向量质量与训练速度的扩展。
研究史深度学习科学发现