TellWorldAI 世界档案
问档案English

首页›论文

论文

论文

对人工智能有重大贡献的论文,每篇都有通俗解读。

共 7 · 清除筛选

  1. 2022

    用深度强化学习控制托卡马克等离子体的磁场

    Nature

    2022 年发表于 Nature 的一篇论文,Degrave、Felici 等人用深度强化学习让控制器自主学会给托卡马克的全部磁控制线圈下指令,产生并维持了多种等离子体位形。

    深度学习硬件与算力科学发现

  2. 2020

    神经语言模型的缩放定律

    arXiv

    OpenAI 研究者在 2020 年发表的论文发现,语言模型的损失会随模型规模、数据量和训练算力增加而按幂律平稳下降,为各实验室建造更大的模型提供了定量依据。

    大语言模型基础模型硬件与算力

  3. 2019

    《Megatron-LM:用模型并行训练数十亿参数的语言模型》

    arXiv 1909.08053

    NVIDIA 团队 2019 年的论文,提出一种层内模型并行方法,只需在原生 PyTorch 中插入少量通信操作,就训练出 83 亿参数的 Transformer 模型,并在多个基准上超过此前最好成绩。

    研究史基础模型硬件与算力

  4. 2012

    大规模分布式深度网络

    NeurIPS

    2012 年 NIPS 论文,提出可在数千台机器集群上训练深度网络的 DistBelief 框架,以及 Downpour SGD 和 Sandblaster 两种优化过程。

    深度学习硬件与算力云计算

  5. 2012

    ImageNet Classification with Deep Convolutional Neural Networks(用深度卷积神经网络做 ImageNet 分类)

    NeurIPS

    2012年的NeurIPS论文提出了AlexNet,这是一个在GPU上训练的大型卷积神经网络,并在ILSVRC-2012竞赛中夺冠。

    研究史深度学习硬件与算力

  6. 2009

    用图形处理器进行大规模深度无监督学习

    ICML

    2009 年 ICML 论文,作者为 Rajat Raina、Anand Madhavan 与 Andrew Y. Ng,用图形处理器训练深度信念网络与稀疏编码模型,速度比多核 CPU 快数十倍。

    研究史深度学习硬件与算力

  7. 1982

    《神经网络与具有涌现集体计算能力的物理系统》

    PNAS

    John J. Hopfield 于 1982 年发表的论文,主张有用的计算能力可以作为大量简单等价单元的集体性质涌现出来,并给出一个模型:其集体行为带来内容寻址记忆、泛化与纠错等能力。

    研究史硬件与算力科学发现