首页›论文
论文
论文
对人工智能有重大贡献的论文，每篇都有通俗解读。
共 199
- 2010
使用均值-协方差受限玻尔兹曼机进行音素识别
NIPS
2010年 NIPS 论文，Dahl、Ranzato、Mohamed 和 Hinton 将深度信念网络与均值-协方差受限玻尔兹曼机用于声学建模，在说话人无关 TIMIT 音素识别上达到20.5%音素错误率。
- 2010
理解深度前馈神经网络训练的困难
AISTATS / PMLR
这篇2010年的论文分析深度前馈网络为何难以训练：S 型激活函数在随机初始化下容易饱和，各层雅可比矩阵的奇异值远离1时训练更难；作者据此提出一种收敛明显更快的新初始化方案。
- 2009
ImageNet: A Large-Scale Hierarchical Image Database（ImageNet：大规模层级图像数据库）
CVPR
2009年的这篇论文提出了ImageNet，一个规模大、标注清晰、按WordNet层级组织的图像数据库，后来成为ILSVRC竞赛的基础。
- 2009
- 2009
《从小图像中学习多层特征》（CIFAR-10/100）
UT
CIFAR-10 与 CIFAR-100 是从 8000 万张小图像数据集中抽出的带标签子集。CIFAR-10 含 10 类、共 60000 张 32×32 彩色图像。
- 2009
用图形处理器进行大规模深度无监督学习
ICML
2009 年 ICML 论文，作者为 Rajat Raina、Anand Madhavan 与 Andrew Y. Ng，用图形处理器训练深度信念网络与稀疏编码模型，速度比多核 CPU 快数十倍。
- 2006
深度信念网络的快速学习算法
Neural Computation
2006 年，Hinton、Osindero 与 Teh 提出用「互补先验」和逐层贪心算法训练深层信念网络，再做整体微调；所得带三个隐藏层的模型既能生成手写数字，分类效果也很好。
- 2004
MapReduce：大规模集群上的简化数据处理
OSDI
Google 的 Dean 与 Ghemawat 于 2004 年发表论文提出 MapReduce：用户只写 map 与 reduce 函数，系统自动在廉价机器集群上并行执行。
- 2003
A Neural Probabilistic Language Model（神经概率语言模型）
JMLR
Yoshua Bengio 等人 2003 年的这篇论文为每个词学习向量，并与预测下一个词的网络一起训练，引入了词嵌入的核心思想。
- 2003
- 2001
- 1999
PageRank 引用排序：让网络有序
Brin 和 Page 的 PageRank 技术报告把超链接当作引用，用链接结构为网页排序，并用于构建 Google 搜索引擎；它是描述两人早期工作的两篇被高度引用论文之一。
- 1998
Gradient-Based Learning Applied to Document Recognition（基于梯度的学习在文档识别中的应用）
Proc. IEEE
杨立昆等人1998年的综述主张，学习系统应取代人工设计的特征。它表明LeNet-5等卷积网络在手写数字上优于其他方法，并引入了MNIST数据集。
- 1998
大规模超文本搜索引擎剖析
Sergey Brin 与 Lawrence Page 于 1998 年发表的会议论文，提出按指向网页的链接数量与质量排序的 PageRank 算法，并据此搭建了 Google 搜索引擎。
- 1998
MNIST 手写数字数据库
Proceedings of the IEEE
MNIST 是一个包含 60,000 张训练图像和 10,000 张测试图像的手写数字数据库，图像被归一化为 28×28 像素；它与 LeCun 等人 1998 年的论文一起，成为文档识别研究的共同基准。
- 1997
Long Short-Term Memory（长短期记忆网络）
Neural Computation
这篇 1997 年的论文提出了带门控的记忆单元和「恒定误差传送带」，使循环网络能跨越很长的时间间隔学习，塑造了 Transformer 出现前的许多模型。
- 1995
- 1993
《构建大型英语标注语料库：宾夕法尼亚树库》
Computational Linguistics
1993 年论文，作者 Marcus、Santorini 与 Marcinkiewicz，介绍宾夕法尼亚树库：一百多万词《华尔街日报》文本带句法括号标注。
- 1992
最优间隔分类器训练算法
这篇 1992 年的论文由 Boser、Guyon 和 Vapnik 提出一种训练算法，最大化训练样本与决策边界之间的间隔，并在光学字符识别实验中检验其泛化表现。[^1]
- 1992