云计算 算力芯片
| 谷歌第一代 TPU 谷歌第一代张量处理单元是为加速数据中心内神经网络推理而自研的专用芯片。它 2015 年上线、2016 年公开,证明专用加速器在性价比上可以胜过 CPU 和 GPU。 | |
| Google TPU v2 Google TPU v2 是 Google 于 2017 年 5 月发布的第二代张量处理单元。它加入浮点支持和 bfloat16,并可组成 256 颗芯片、11.5 petaFLOPS 的 pod。 | |
| NVIDIA A100 NVIDIA A100 是首款基于 Ampere 架构的数据中心 GPU,2020 年 5 月 14 日发布。它引入第三代 Tensor Core、TF32 格式和多实例 GPU,后来成为训练大语言模型的常用硬件。 | |
| NVIDIA H100 NVIDIA H100 是首款基于 Hopper 架构的数据中心 GPU,2022 年 3 月发布,为训练和运行大模型设计,使用 HBM3 显存与 FP8 精度。 | |
| NVIDIA GB200 NVL72 面向万亿参数模型的液冷机架,NVIDIA 把 72 颗 Blackwell GPU 与 36 颗 Grace CPU 连成单一 NVLink 域。 | |
| Google TPU7x(Ironwood) TPU7x(Ironwood)是 Google 第七代张量处理器:单芯片 192 GB 高带宽内存,支持 FP8,一个 Pod 可装 9,216 颗芯片,编程模型为每颗芯片暴露两个设备。 | |
| 华为 CloudMatrix 384 超节点 华为云基于 Atlas 900 A3 超节点构建的云服务实例,把最多 384 颗昇腾 910C 芯片连成一台计算机对外提供算力。 | |
| NVIDIA GB300 NVL72 NVIDIA 于 2025 年 3 月发布的机架级系统,把 72 颗 Blackwell Ultra GPU 和 36 颗 Grace CPU 连成一台机器,官方称其 AI 性能是 GB200 NVL72 的 1.5 倍。 | |
| AMD Instinct MI355X AMD 于 2025 年 6 月推出的数据中心 GPU,采用 CDNA 4 架构,配备 288 GB HBM3E 显存,主打生成式 AI 推理,与英伟达 Blackwell 一代正面竞争。 | |
| AWS Trainium3 AWS Trainium3 是首款 3 纳米 AI 芯片,单芯片 FP8 算力 2.52 petaflops,2025 年 12 月起通过 Amazon EC2 提供。[^1] | |
| NVIDIA Rubin NVIDIA Rubin 是 NVIDIA 在 CES 2026 发布的六芯片 AI 平台,Blackwell 的继任者,重点降低大模型推理成本,相关产品和云实例将在 2026 年推出。 | |
| Google TPU v3 Google 自研的第三代张量处理单元,2018 年推出,内存容量与带宽翻倍、峰值吞吐提升、单芯片功耗下降,并采用液冷以支持更高密度的集群。 | |
| 谷歌 TPU v4 谷歌 TPU v4 是从 2020 年起投入使用的机器学习芯片与超级计算机,单个 pod 达 4,096 颗芯片,靠光路交换重构互连,PaLM 与 Gemini 都在其上训练。 | |
| NVIDIA H200 NVIDIA 于 2023 年 11 月发布的 H200 是首款采用 HBM3e 显存的 GPU,141 GB 容量接近 A100 的两倍,在 Llama 2 70B 上的推理速度接近 H100 的两倍。 | |
| 微软 Azure Maia 100 Azure Maia 100 是微软第一颗自研 AI 芯片,2023 年 11 月发布,用于在自家 Azure 数据中心里训练和运行大语言模型,不对外销售。 | |
| Google TPU v5p Google TPU v5p 是 2023 年推出的 TPU 世代,规格列出每颗芯片 459 TFLOPS 的 BF16/FP8 峰值算力、95 GiB HBM 和每 pod 8,960 颗芯片。 | |
| AMD Instinct MI300X AMD 面向生成式 AI 的数据中心 GPU,2023 年 12 月发售,基于 CDNA 3 架构,以 192 GB HBM3 内存为主要卖点。 | |
| 昆仑芯 P800 昆仑芯 P800 是昆仑芯第三代 AI 加速卡,2024 年推出,基于自研 XPU-P 架构,被用于万卡级训练集群和多个行业客户的部署中。 | |
| NVIDIA B200(Blackwell) NVIDIA 于 2024 年 3 月发布的 Blackwell 架构数据中心 GPU,接替 Hopper,由两颗拼接的芯片构成,配合新一代 NVLink 与 FP4 支持大规模 AI 训练和推理。 | |
| AMD Instinct MI325X AMD 于 2024 年 10 月 10 日发布的数据中心 GPU,基于第三代 CDNA 架构,配备 256 GB HBM3E 显存、带宽 6 TB/s,面向一万亿参数级别的模型。 | |
| Google TPU v6e(Trillium) Google TPU v6e(又称 Trillium)是 Google Cloud 的 AI 加速芯片,公布了每芯片 BF16/FP8 算力、HBM 内存与 Pod 级互连规格。 | |
| AWS Trainium2 AWS Trainium2 是亚马逊云科技的第二代自研机器学习芯片,以最多 16 颗芯片的 EC2 Trn2 实例和最多 64 颗芯片的 Trn2 UltraServer 形式提供,AWS 称其性价比优于同代 GPU 实例。 | |
| AMD Instinct MI350X AMD Instinct MI350X 是 AMD MI350 系列中的数据 GPU,基于 CDNA 4 架构,单卡最高 288 GB HBM3E 显存、8 TB/s 带宽,板卡功耗上限 1,000 W。 | |
| AMD Instinct MI400 AMD Instinct MI400 是 AMD 面向 AI 的下一代数据中心 GPU,预计 2026 年推出,配备 432 GB HBM4 显存,将被集成在 AMD 的 Helios 机柜级系统中交付。 | |
| 微软 Maia 200 微软 Maia 200 是 2026 年 1 月 26 日发布的推理加速器,采用台积电 3 纳米工艺,配备 216 GB HBM3e 内存,FP4 算力超过 10 petaflops,用来运行 OpenAI 的 GPT-5.2 等模型。 | |
| 平头哥真武 810E 真武 810E 是阿里巴巴旗下平头哥自研的 AI 芯片,2026 年 1 月上线官网,配备 96 GB 高带宽内存,面向训练、推理与自动驾驶,已在阿里云多个万卡集群部署。 | |
| AWS Trainium AWS Trainium 是亚马逊云科技(AWS)为深度学习训练专门设计的芯片,通过 EC2 Trn1 实例提供,AWS 称其训练成本比同类实例最多低 50%。 | |
| AWS Inferentia2 AWS Inferentia2 是亚马逊云科技为推理打造的第二代自研芯片,单颗芯片带 32 GB 高带宽内存、最高 190 TFLOPS 的 FP16 算力,一台 EC2 Inf2 实例最多可装 12 颗。 | |
| Google TPU v5e Google TPU v5e 是 2023 年推出的机器学习加速芯片,单颗芯片含 1 个 TensorCore,bfloat16 峰值算力 197 TFLOP,可组成 256 颗芯片的 Pod,兼顾训练与推理。 | |
| 英伟达 GH200 Grace Hopper 超级芯片 GH200 是英伟达的超级芯片,将 72 核 Arm CPU 与 Hopper GPU 经 NVLink-C2C 装进同一封装,搭配 HBM 与最多 480 GB CPU 内存。 | |
| Groq LPU(GroqChip) GroqChip 是 Groq 的 AI 处理器,主打完全确定性、多次运行无差异。它采用 14 纳米工艺,片上 230 MB SRAM,最高 750 INT8 TOPS。 | |
| AWS Inferentia AWS Inferentia 是亚马逊云科技(AWS)自研的一款芯片,专门用于运行已经训练好的机器学习模型,用户通过 EC2 Inf1 实例使用。它的目标是在推理任务上比通用实例更快、更便宜。 |