NVIDIA 与微软发布 5300 亿参数的 Megatron-Turing NLG
NVIDIA 与微软于 2021 年 10 月 11 日公布 5300 亿参数的 Megatron-Turing NLG,两家公司称其为同类中最大、最强的模型;完整报告于 2022 年 1 月发布。
共 671 · 清除筛选
NVIDIA 与微软于 2021 年 10 月 11 日公布 5300 亿参数的 Megatron-Turing NLG,两家公司称其为同类中最大、最强的模型;完整报告于 2022 年 1 月发布。
2021 年 8 月 19 日,特斯拉在首届 AI Day 上公布人形机器人概念,称其将接手危险、重复、枯燥的工作;同场还展示了纯视觉自动驾驶、D1 训练芯片与 Dojo 超级计算机。
2021年8月10日,小米发布四足仿生机器人 CyberDog(昵称铁蛋),工程探索版售价9999元、全球限量1000台,首轮400名用户参与内测。
2021 年 8 月 10 日,OpenAI 通过 API 以非公开测试发布改进版 Codex,一个在公开代码上微调的 GPT 模型,它驱动了 GitHub Copilot。
2021年8月,AI21 Labs 推出开发者平台 AI21 Studio 与 Jurassic-1 大语言模型。其中最大的 Jumbo 拥有 1780 亿参数,开发者可通过接口或网页试验场使用。
2021 年 7 月 15 日,蛋白质设计研究所发布 RoseTTAFold,把代码放到 GitHub 并开放公共网页服务器,使准确的结构预测对所有人可用。
2021 年 7 月 5 日,百度研究人员在 arXiv 发布 ERNIE 3.0 论文:模型有 100 亿参数,在纯文本加知识图谱上训练,把自编码与自回归网络结合起来,在 54 项中文任务和 SuperGLUE 上取得领先成绩。
2021 年 6 月 29 日,GitHub 宣布推出 Copilot 技术预览版,这是一款由 OpenAI Codex 驱动的 AI 结对编程工具,可建议整行或整个函数。
2021 年 6 月,EleutherAI 发布 60 亿参数的开放模型 GPT-J-6B:权重以 Apache 2.0 协议公开,在 The Pile 上训练,公告称其零样本表现接近 67 亿参数的 GPT-3(Curie)。
2021 年 5 月 18 日,谷歌在 I/O 大会上发布面向对话应用的语言模型 LaMDA。它出自谷歌大脑团队的聊天机器人 Meena,之后有 LaMDA 2 与 AI Test Kitchen,并成为 Bard 的底层模型。
2021 年 3 月 29 日,波士顿动力发布仓库机器人 Stretch,它依靠小巧的全向底座在既有仓库中作业,无需昂贵的固定自动化设施,目标包括卡车卸货等环节。
2021 年 3 月 21 日,EleutherAI 发布 GPT-Neo 系列语言模型,包含 1.25 亿、13 亿和 27 亿参数三个规模,权重可自由下载,与只能通过 API 调用的 GPT-3 形成对照。
2021 年 1 月 5 日,OpenAI 同时发布 DALL·E 和 CLIP。DALL·E 能根据文字描述生成图像,CLIP 能从自然语言中学习视觉概念并对图像分类。
2020 年 9 月 13 日,英伟达宣布以 400 亿美元的股票加现金从软银和软银愿景基金手中收购 Arm,Arm 将保留开放授权模式和剑桥总部,交易尚待多国监管批准。
2020 年 6 月,OpenAI 宣布推出 API,让外部开发者可以访问它的 AI 模型。到 2021 年 3 月,已有 300 多个应用通过这一接口使用 GPT-3。
2020年5月14日,英伟达在 GTC 2020 上发布基于 Ampere 架构的首款 GPU A100,宣称其 AI 训练与推理性能可达前代产品的20倍,并已全面量产、向全球客户发货。
欧盟委员会于2020年2月发布的一份政策文件,提出在促进人工智能应用的同时应对其特定用途的风险,以「卓越生态」与「信任生态」为两大支柱,并用基于风险的方法确定监管重点。
2019 年 11 月 5 日,OpenAI 公开了 15 亿参数的完整版 GPT-2,并附上代码和模型权重,结束了分阶段发布。模型说明中提醒,它无法分辨事实与虚构。
2019 年 9 月,波士顿动力的四足机器人 Spot 开始商业化供应,首批通过「早期采用者计划」卖给能把机器投入实际用途、并自行开发载荷模块的公司;2020 年销售进一步铺开。
2019 年 7 月,百度发布 ERNIE 2.0。它是一个通过多任务学习逐步加入预训练任务的持续预训练框架,报告在 16 项任务上超过 BERT 和 XLNet。