数据与数据集 算力芯片
| Cerebras 晶圆级引擎 WSE-3 Cerebras 于 2024 年 3 月发布的第三代晶圆级 AI 芯片,在 46,225 平方毫米的一整块硅片上集成 4 万亿个晶体管,目标是让超大模型在单一内存空间中训练。 | |
| NVIDIA GB200 NVL72 面向万亿参数模型的液冷机架,NVIDIA 把 72 颗 Blackwell GPU 与 36 颗 Grace CPU 连成单一 NVLink 域。 | |
| Google TPU7x(Ironwood) TPU7x(Ironwood)是 Google 第七代张量处理器:单芯片 192 GB 高带宽内存,支持 FP8,一个 Pod 可装 9,216 颗芯片,编程模型为每颗芯片暴露两个设备。 | |
| NVIDIA GB300 NVL72 NVIDIA 于 2025 年 3 月发布的机架级系统,把 72 颗 Blackwell Ultra GPU 和 36 颗 Grace CPU 连成一台机器,官方称其 AI 性能是 GB200 NVL72 的 1.5 倍。 | |
| AMD Instinct MI355X AMD 于 2025 年 6 月推出的数据中心 GPU,采用 CDNA 4 架构,配备 288 GB HBM3E 显存,主打生成式 AI 推理,与英伟达 Blackwell 一代正面竞争。 | |
| AWS Trainium3 AWS Trainium3 是首款 3 纳米 AI 芯片,单芯片 FP8 算力 2.52 petaflops,2025 年 12 月起通过 Amazon EC2 提供。[^1] | |
| NVIDIA Rubin NVIDIA Rubin 是 NVIDIA 在 CES 2026 发布的六芯片 AI 平台,Blackwell 的继任者,重点降低大模型推理成本,相关产品和云实例将在 2026 年推出。 | |
| NVIDIA DGX-1 NVIDIA 于 2016 年 4 月发布的 DGX-1 在单个机箱里装了 8 块 Tesla P100 GPU,被称为世界上第一台深度学习超级计算机,把加速卡的数量变成一个可直接采购的整机型号。 | |
| NVIDIA DGX A100 NVIDIA DGX A100 是 NVIDIA 第三代 DGX 系统,2020 年 5 月 14 日发布,内置八块 A100 GPU,AI 性能标称 5 petaflops,最多可切分为 56 个实例。 | |
| NVIDIA DGX H100 NVIDIA 于 2022 年 3 月发布的第四代 DGX 系统,单机集成 8 块通过 NVLink 相连的 H100 GPU,FP8 精度下提供 32 petaflops 算力,面向企业级 AI 基础设施。 | |
| 华为昇腾 910B 华为昇腾 910B 是 2023 年量产的 AI 芯片,FP16 算力 320 TFLOPS,配 32 GB HBM2e 显存、1.6 TB/s 带宽,310 W 功耗,采用 7 纳米国产工艺。 | |
| NVIDIA H200 NVIDIA 于 2023 年 11 月发布的 H200 是首款采用 HBM3e 显存的 GPU,141 GB 容量接近 A100 的两倍,在 Llama 2 70B 上的推理速度接近 H100 的两倍。 | |
| 微软 Azure Maia 100 Azure Maia 100 是微软第一颗自研 AI 芯片,2023 年 11 月发布,用于在自家 Azure 数据中心里训练和运行大语言模型,不对外销售。 | |
| Google TPU v5p Google TPU v5p 是 2023 年推出的 TPU 世代,规格列出每颗芯片 459 TFLOPS 的 BF16/FP8 峰值算力、95 GiB HBM 和每 pod 8,960 颗芯片。 | |
| Meta MTIA 第二代 Meta 自研 AI 芯片 MTIA 的第二代,2024 年 4 月 10 日公布,采用台积电 5 纳米工艺,专门服务 Meta 自家的排序与推荐模型。 | |
| AMD Instinct MI325X AMD 于 2024 年 10 月 10 日发布的数据中心 GPU,基于第三代 CDNA 架构,配备 256 GB HBM3E 显存、带宽 6 TB/s,面向一万亿参数级别的模型。 | |
| Google TPU v6e(Trillium) Google TPU v6e(又称 Trillium)是 Google Cloud 的 AI 加速芯片,公布了每芯片 BF16/FP8 算力、HBM 内存与 Pod 级互连规格。 | |
| AWS Trainium2 AWS Trainium2 是亚马逊云科技的第二代自研机器学习芯片,以最多 16 颗芯片的 EC2 Trn2 实例和最多 64 颗芯片的 Trn2 UltraServer 形式提供,AWS 称其性价比优于同代 GPU 实例。 | |
| AMD Instinct MI350X AMD Instinct MI350X 是 AMD MI350 系列中的数据 GPU,基于 CDNA 4 架构,单卡最高 288 GB HBM3E 显存、8 TB/s 带宽,板卡功耗上限 1,000 W。 | |
| AMD Instinct MI400 AMD Instinct MI400 是 AMD 面向 AI 的下一代数据中心 GPU,预计 2026 年推出,配备 432 GB HBM4 显存,将被集成在 AMD 的 Helios 机柜级系统中交付。 | |
| 微软 Maia 200 微软 Maia 200 是 2026 年 1 月 26 日发布的推理加速器,采用台积电 3 纳米工艺,配备 216 GB HBM3e 内存,FP4 算力超过 10 petaflops,用来运行 OpenAI 的 GPT-5.2 等模型。 | |
| NVIDIA Tesla K80 NVIDIA Tesla K80 是 2014 年 11 月发布的双 GPU 数据中心加速卡,在一块 300 W 的板卡上集成两颗 GK210、24 GB 显存,单精度峰值最高 8.74 万亿次浮点运算每秒。 | |
| NVIDIA DGX-2 NVIDIA DGX-2 是 2018 年 3 月发布的一台服务器,把 16 块 Tesla V100 GPU 与新的 NVSwitch 互联装进一个机箱,NVIDIA 称它是首台达到两千万亿次浮点运算的单一服务器。 | |
| Meta MTIA 第一代 MTIA 第一代是 Meta 自研的第一代 AI 推理加速器,采用台积电 7 纳米制程,配备 128 MB 片上内存,面向深度学习推荐模型。 | |
| 英特尔 Falcon Shores Falcon Shores 是英特尔的一颗芯片。2025 年 1 月,英特尔表示只把它当作内部测试芯片使用、不推向市场,并把机架级 AI 数据中心方案寄望于 Jaguar Shores。 | |
| NVIDIA Tesla T4 NVIDIA Tesla T4 是采用 Turing 架构、功耗 70 瓦的单槽 GPU,面向 AI 推理,把张量核心与专用视频转码引擎装进一张可以直接插进普通服务器的卡里。 | |
| 沐曦 曦云 C600 曦云 C600 是沐曦基于自研 GPGPU 架构的数据中心通用 GPU,具备大容量 ECC 显存、128 卡 MetaXLink-E 超节点互联,支持风冷与液冷。 | |
| NVIDIA A10 NVIDIA A10 是一款基于 Ampere 架构的数据中心 GPU,把图形、视频与 AI 推理放进一张 24 GB 显存的单槽 PCIe 卡,面向主流企业服务器。 | |
| SambaNova SN40L SambaNova SN40L 是 SambaNova 的一款 AI 芯片,公司称其为「可重构数据流单元」,把数据流式的并行执行与片内 SRAM、共封装 HBM、DDR DRAM 组成的三层存储体系结合在一起。 | |
| Groq LPU(GroqChip) GroqChip 是 Groq 的 AI 处理器,主打完全确定性、多次运行无差异。它采用 14 纳米工艺,片上 230 MB SRAM,最高 750 INT8 TOPS。 | |
| Cerebras 晶圆级引擎 WSE-2 Cerebras 的第二代晶圆级芯片,被称为当时最大的 AI 处理器:采用 7 纳米工艺,在单块晶圆上集成 2.6 万亿个晶体管、85 万个核心和 40 GB 片上内存。 | |
| NVIDIA DGX Spark NVIDIA DGX Spark 是基于 GB10 超级芯片的桌面 AI 计算机,配 20 核 Arm CPU 与 Blackwell GPU,可本地运行大模型。 | |
| NVIDIA Tesla P40 NVIDIA Tesla P40 是 2016 年 9 月数据表所载的服务器 GPU 加速卡,基于 Pascal 架构,专用于深度学习推理,具备 24 GB 显存和 47 TOPS 的 INT8 性能。 | |
| Tenstorrent Blackhole Blackhole 是 Tenstorrent 的 AI 加速芯片,Galaxy Blackhole 是装载 32 颗该芯片的服务器,block FP8 算力 23 PFLOPS,芯片之间与集群之间都以以太网互联。 | |
| NVIDIA A30 NVIDIA 基于 Ampere 架构打造的数据中心 GPU,面向 AI 推理和主流企业级计算,配备 24 GB HBM2 显存,功耗上限 165 W,最多可切分为 4 个 MIG 实例。 |