论文 | TellWorld

首页›论文

论文

对人工智能有重大贡献的论文，每篇都有通俗解读。

共 199

2015
Deep Residual Learning for Image Recognition（用于图像识别的深度残差学习）
CVPR
2015年的这篇论文提出了残差网络，通过捷径连接把每一层的输入加回到输出上。它让超过一百层的网络能够训练，并在2015年的多项ILSVRC和COCO任务中夺得第一名。
研究史深度学习计算机视觉
2015
《You Only Look Once：统一、实时的目标检测》
arXiv
2015 年的 YOLO 论文把目标检测改写为单个神经网络对边界框和类别概率的回归，实现实时检测，并减少空白背景上的误检。
研究史深度学习计算机视觉
2015
YOLO：统一的实时目标检测
arXiv
2015 年的论文提出 YOLO，把目标检测视为从图像像素直接回归边界框和类别概率的单一问题。一个神经网络一次评估即可完成预测，达到实时速度。
研究史深度学习计算机视觉
2015
Faster R-CNN：用区域建议网络实现实时目标检测
arXiv
2015 年论文提出与检测网络共享卷积特征的区域建议网络，使候选区域生成几乎无额外成本，实现端到端训练；在 GPU 上达到每秒 5 帧，并在多个基准上取得当时最好精度。
研究史深度学习计算机视觉
2015
《U-Net：用于生物医学图像分割的卷积网络》
arXiv
2015 年 5 月提交到 arXiv 的生物医学图像分割卷积网络，能用极少的标注图像端到端训练，并在 ISBI 细胞追踪挑战赛 2015 的各个类别中夺冠。
研究史计算机视觉生物医药
2015
通过深度强化学习实现人类水平的控制
Nature
2015 年《自然》论文中，Mnih、Silver 等人用同一个深度 Q 网络智能体，仅凭像素和分数就在 49 款 Atari 游戏上达到职业人类测试员水平。
研究史深度学习推理
2015
批归一化：通过减少内部协变量偏移加速深度网络训练
arXiv
2015 年 Sergey Ioffe 与 Christian Szegedy 提出的方法：对每一层的输入按训练小批量做归一化，从而可以用更大的学习率、更随意的初始化，并大幅加快深度网络的训练。
研究史深度学习科学发现
2015
看图、注意与描述：带视觉注意力的神经图像描述生成
arXiv
2015 年的一篇 arXiv 论文，由 Kelvin Xu、Jimmy Ba、Ryan Kiros、Kyunghyun Cho 等人提出带视觉注意力的图像描述模型，能在生成每个词时显示自己在看图像的哪个位置。
研究史深度学习计算机视觉
2015
深度学习（Nature 综述）
Nature
2015年，LeCun、Bengio 与 Hinton 在《自然》发表综述，说明多个处理层组成的模型如何学习分层数据表示，并梳理语音、图像等领域的成果。
研究史深度学习科学发现
2014
Adam：一种随机优化方法
arXiv (ICLR 2015)
Adam 是 Diederik P. Kingma 与 Jimmy Ba 在 2014 年论文中提出的随机优化算法：用梯度一阶矩与二阶矩的滑动估计为每个参数自适应地确定步长，内存开销小、超参数通常无需太多调整。
研究史深度学习科学发现
2014
Deep Speech：端到端语音识别的规模化
arXiv
2014年的一篇论文提出端到端深度学习语音识别系统，省去手工设计的噪声模块和音素词典，依靠多GPU训练的循环网络与合成数据。
研究史深度学习科学发现
2014
看图说话：神经图像描述生成器
arXiv
这是 Vinyals 等人在 2014 年发表的论文，用一个端到端训练的深层网络把照片变成句子，在 Pascal 数据集上取得 59 的 BLEU-1 分数，而当时最好成绩为 25。
深度学习多模态计算机视觉
2014
条件生成对抗网络
arXiv
2014年的一篇论文，由Mirza与Osindero提出条件生成对抗网络：把条件数据同时输入生成器和判别器，从而按类别标签生成MNIST数字等样本。
研究史深度学习图像生成
2014
神经图灵机
arXiv
这篇 2014 年的论文把神经网络与外部记忆耦合起来，网络通过注意力读写记忆；整个系统端到端可微，因此可以用梯度下降训练。
研究史深度学习推理
2014
GloVe：全局词向量表示
EMNLP 2014
GloVe 是 2014 年提出的一种词向量方法，通过分解全局词共现矩阵来学习词表示；它与 word2vec 同年出现，成为静态词向量的两种标准做法之一。
研究史深度学习数据与数据集
2014
《卷积走得更深》（GoogLeNet / Inception）
arXiv
一篇2014年的谷歌论文，提出Inception架构；其GoogLeNet在固定计算预算下加深加宽网络，在ILSVRC 2014分类与检测任务上刷新当时最好成绩。
研究史深度学习计算机视觉
2014
Going Deeper with Convolutions
arXiv / CVPR 2015
2014 年的论文，提出 Inception 架构以及用它搭成的 22 层网络 GoogLeNet，在 2014 年 ImageNet 挑战赛的分类与检测任务上取得最好成绩，top-5 错误率 6.67%。
研究史深度学习计算机视觉
2014
Sequence to Sequence Learning with Neural Networks（用神经网络做序列到序列学习）
NeurIPS
Sutskever、Vinyals 与 Le 2014 年的这篇论文表明，两个 LSTM 可以完成翻译并超过基于短语的基线，确立了后来翻译模型常用的编码器-解码器模式。
大语言模型研究史深度学习
2014
Very Deep Convolutional Networks for Large-Scale Image Recognition
arXiv / ICLR 2015
这篇 2014 年的论文证明：把大量 3×3 的小卷积核堆到 16–19 个权重层，能提升大规模图像识别；其模型在 ImageNet Challenge 2014 上拿下定位赛道第一、分类赛道第二，并对外公开。
研究史深度学习计算机视觉
2014
Neural Machine Translation by Jointly Learning to Align and Translate（联合学习对齐与翻译的神经机器翻译）
ICLR
Bahdanau、Cho 与 Bengio 2014 年的这篇论文让翻译模型在生成每个词时回看整个源句，这一注意力（attention）机制后来成为 Transformer 的基础之一。
大语言模型研究史深度学习