硬件与算力 算力芯片

谷歌第一代张量处理单元是为加速数据中心内神经网络推理而自研的专用芯片。它 2015 年上线、2016 年公开，证明专用加速器在性价比上可以胜过 CPU 和 GPU。

Google TPU v2 是 Google 于 2017 年 5 月发布的第二代张量处理单元。它加入浮点支持和 bfloat16，并可组成 256 颗芯片、11.5 petaFLOPS 的 pod。

NVIDIA 首款基于 Volta 架构的数据中心 GPU，2017 年 5 月发布。它引入张量核心专门加速矩阵乘法；OpenAI 后来的 GPT-3 系列模型即在 V100 上训练。

NVIDIA A100 是首款基于 Ampere 架构的数据中心 GPU，2020 年 5 月 14 日发布。它引入第三代 Tensor Core、TF32 格式和多实例 GPU，后来成为训练大语言模型的常用硬件。

NVIDIA H100 是首款基于 Hopper 架构的数据中心 GPU，2022 年 3 月发布，为训练和运行大模型设计，使用 HBM3 显存与 FP8 精度。

Cerebras 于 2024 年 3 月发布的第三代晶圆级 AI 芯片，在 46,225 平方毫米的一整块硅片上集成 4 万亿个晶体管，目标是让超大模型在单一内存空间中训练。

面向万亿参数模型的液冷机架，NVIDIA 把 72 颗 Blackwell GPU 与 36 颗 Grace CPU 连成单一 NVLink 域。

SK 海力士于 2024 年 9 月 26 日宣布量产 12 层 HBM3E，是首个做出 12 层堆叠高带宽内存的公司：封装容量 36 GB，厚度与 8 层版本相同，工作速度 9.6 Gbps。

华为云基于 Atlas 900 A3 超节点构建的云服务实例，把最多 384 颗昇腾 910C 芯片连成一台计算机对外提供算力。

TPU7x（Ironwood）是 Google 第七代张量处理器：单芯片 192 GB 高带宽内存，支持 FP8，一个 Pod 可装 9,216 颗芯片，编程模型为每颗芯片暴露两个设备。

昇腾 910C 是华为昇腾 910 系列的数据中心 AI 芯片，基于达芬奇架构，2025 年第一季度上市，FP16 算力 800 TFLOPS，配备 128 GB 高带宽内存。

NVIDIA 于 2025 年 3 月发布的机架级系统，把 72 颗 Blackwell Ultra GPU 和 36 颗 Grace CPU 连成一台机器，官方称其 AI 性能是 GB200 NVL72 的 1.5 倍。

2025 年 3 月 19 日，SK 海力士宣布全球首家向主要客户提供 12 层 HBM4 样品：带宽超过 2 TB/s、容量 36 GB，比 HBM3E 快 60% 以上。

AMD 于 2025 年 6 月推出的数据中心 GPU，采用 CDNA 4 架构，配备 288 GB HBM3E 显存，主打生成式 AI 推理，与英伟达 Blackwell 一代正面竞争。

华为昇腾 950 是 2025 年 9 月公布的两款 AI 芯片系列，昇腾 950PR 与 950DT 共用一颗芯片，并首次采用华为自研高带宽内存，低精度算力最高 2 PFLOPS。

AWS Trainium3 是首款 3 纳米 AI 芯片，单芯片 FP8 算力 2.52 petaflops，2025 年 12 月起通过 Amazon EC2 提供。[^1]

NVIDIA Rubin 是 NVIDIA 在 CES 2026 发布的六芯片 AI 平台，Blackwell 的继任者，重点降低大模型推理成本，相关产品和云实例将在 2026 年推出。

NVIDIA 于 2010 年 11 月发布的消费级显卡。两张各带 3 GB 显存的 GTX 580 后来训练出了在 ILSVRC-2012 夺冠的 AlexNet。

NVIDIA 于 2016 年 4 月发布的 Tesla P100 是首款基于 Pascal 架构的数据中心 GPU，也是第一个同时用上 HBM2 堆叠显存、面向深度学习的半精度指令和 NVLink 互联的加速卡。

NVIDIA 于 2016 年 4 月发布的 DGX-1 在单个机箱里装了 8 块 Tesla P100 GPU，被称为世界上第一台深度学习超级计算机，把加速卡的数量变成一个可直接采购的整机型号。

苹果于 2017 年随 iPhone X 发布的手机芯片，集成六核 CPU、苹果自研三核 GPU 与双核神经引擎，为 Face ID 等端侧机器学习功能提供算力。

Google 自研的第三代张量处理单元，2018 年推出，内存容量与带宽翻倍、峰值吞吐提升、单芯片功耗下降，并采用液冷以支持更高密度的集群。

昇腾 910 是华为 2019 年发布的 AI 训练处理器，与 MindSpore 框架一同推出，FP16 算力 256 teraflops，曾用于在数千块芯片组成的集群上训练 PanGu-α 语言模型。

谷歌 TPU v4 是从 2020 年起投入使用的机器学习芯片与超级计算机，单个 pod 达 4,096 颗芯片，靠光路交换重构互连，PaLM 与 Gemini 都在其上训练。

NVIDIA DGX A100 是 NVIDIA 第三代 DGX 系统，2020 年 5 月 14 日发布，内置八块 A100 GPU，AI 性能标称 5 petaflops，最多可切分为 56 个实例。

寒武纪第三代云端AI芯片，2021年发布：7 nm芯粒方案封装两颗计算裸片，INT8算力256 TOPS，支持LPDDR5内存与多芯互联，定位为具性价比的推理产品。

AMD 的数据中心 GPU 加速器，于 2021 年 11 月 8 日发布，基于 CDNA 2 架构，拥有 220 个计算单元和 128 GB HBM2e 显存，双精度算力突出，同时支持低精度 AI 格式。

英伟达 A800 是一款数据中心 GPU，2022 年投产，作为面向中国客户的 A100 替代方案，芯片间数据传输速率有所降低，以满足美国出口管制门槛。

NVIDIA 于 2022 年 3 月发布的第四代 DGX 系统，单机集成 8 块通过 NVLink 相连的 H100 GPU，FP8 精度下提供 32 petaflops 算力，面向企业级 AI 基础设施。

壁仞于 2022 年 8 月发布的通用 GPU，双晶粒封装、7 nm 工艺、770 亿晶体管，厂商称其单芯片算力达到 PFLOPS 级。

思元590是寒武纪2023年发布的第四代云端AI芯片，采用7纳米工艺，训练与推理通用，面向千亿参数级模型，也是公司第五代MLUarch微架构的代表产品。

华为昇腾 910B 是 2023 年量产的 AI 芯片，FP16 算力 320 TFLOPS，配 32 GB HBM2e 显存、1.6 TB/s 带宽，310 W 功耗，采用 7 纳米国产工艺。

英伟达为中国市场专门设计的数据中心 GPU，目的是在美国出口管制下继续对华销售。它的核心数与性能低于 H100，但在 2025 年 4 月的许可证要求之前，是中国买方可合法买到的最先进英伟达芯片。

H800 是 NVIDIA 为中国市场改版的 H100 数据中心 GPU，通过削减芯片间传输速率满足 2022 年 10 月的美国出口规则。它后来被用于训练 DeepSeek-V3，并在 2023 年 10 月被收紧后的管制覆盖。

NVIDIA 于 2023 年 11 月发布的 H200 是首款采用 HBM3e 显存的 GPU，141 GB 容量接近 A100 的两倍，在 Llama 2 70B 上的推理速度接近 H100 的两倍。

Azure Maia 100 是微软第一颗自研 AI 芯片，2023 年 11 月发布，用于在自家 Azure 数据中心里训练和运行大语言模型，不对外销售。

Google TPU v5p 是 2023 年推出的 TPU 世代，规格列出每颗芯片 459 TFLOPS 的 BF16/FP8 峰值算力、95 GiB HBM 和每 pod 8,960 颗芯片。

AMD 面向生成式 AI 的数据中心 GPU，2023 年 12 月发售，基于 CDNA 3 架构，以 192 GB HBM3 内存为主要卖点。

英特尔 Gaudi 3 是 2024 年推出的 AI 加速器，由两颗 5 纳米计算芯片组成，配 128 GB HBM2e 显存，BF16 与 FP8 矩阵算力均为 1,835 TFLOPS，OAM 模块上还集成了 200GbE 网络端口。

昆仑芯 P800 是昆仑芯第三代 AI 加速卡，2024 年推出，基于自研 XPU-P 架构，被用于万卡级训练集群和多个行业客户的部署中。

NVIDIA 于 2024 年 3 月发布的 Blackwell 架构数据中心 GPU，接替 Hopper，由两颗拼接的芯片构成，配合新一代 NVLink 与 FP4 支持大规模 AI 训练和推理。

Meta 自研 AI 芯片 MTIA 的第二代，2024 年 4 月 10 日公布，采用台积电 5 纳米工艺，专门服务 Meta 自家的排序与推荐模型。

AMD 于 2024 年 10 月 10 日发布的数据中心 GPU，基于第三代 CDNA 架构，配备 256 GB HBM3E 显存、带宽 6 TB/s，面向一万亿参数级别的模型。

Google TPU v6e（又称 Trillium）是 Google Cloud 的 AI 加速芯片，公布了每芯片 BF16/FP8 算力、HBM 内存与 Pod 级互连规格。

AWS Trainium2 是亚马逊云科技的第二代自研机器学习芯片，以最多 16 颗芯片的 EC2 Trn2 实例和最多 64 颗芯片的 Trn2 UltraServer 形式提供，AWS 称其性价比优于同代 GPU 实例。

深算三号是海光于 2025 年上市的 GPGPU 架构深度计算处理器，采用 7 纳米芯粒封装，HBM 带宽 1.8 TB/s，并配有类 CUDA 的软件工具链。

摩尔线程的旗舰训推一体 GPU 智算卡，基于 PH100 芯片和「平湖」架构，稠密 AI 算力 1000 TFLOPS、显存 80 GB，是公司 2025 年的主要出货产品。

AMD Instinct MI350X 是 AMD MI350 系列中的数据 GPU，基于 CDNA 4 架构，单卡最高 288 GB HBM3E 显存、8 TB/s 带宽，板卡功耗上限 1,000 W。

华为昇腾 970 是华为 2025 年 9 月公布的路线图上最后一颗 AI 芯片，计划 2028 年第四季度上市；按公布的目标，它的 FP8、FP4 算力约为昇腾 960 的两倍，互联带宽和内存带宽也大幅提高。

昇腾 960 是华为路线图中的 AI 芯片，计划 2027 年第四季度上市，宣称算力、内存容量与带宽、互联端口均为昇腾 950 的两倍，并支持自有的 HiF4 4 位格式。

AMD Instinct MI400 是 AMD 面向 AI 的下一代数据中心 GPU，预计 2026 年推出，配备 432 GB HBM4 显存，将被集成在 AMD 的 Helios 机柜级系统中交付。

寒武纪的旗舰加速芯片思元690于2026年初量产，采用双裸片封装，FP16算力超过700 TFLOPS，配备196 GB HBM3内存，面向超大规模训练任务。

微软 Maia 200 是 2026 年 1 月 26 日发布的推理加速器，采用台积电 3 纳米工艺，配备 216 GB HBM3e 内存，FP4 算力超过 10 petaflops，用来运行 OpenAI 的 GPT-5.2 等模型。

真武 810E 是阿里巴巴旗下平头哥自研的 AI 芯片，2026 年 1 月上线官网，配备 96 GB 高带宽内存，面向训练、推理与自动驾驶，已在阿里云多个万卡集群部署。

Google TPU v5e 是 2023 年推出的机器学习加速芯片，单颗芯片含 1 个 TensorCore，bfloat16 峰值算力 197 TFLOP，可组成 256 颗芯片的 Pod，兼顾训练与推理。

GH200 是英伟达的超级芯片，将 72 核 Arm CPU 与 Hopper GPU 经 NVLink-C2C 装进同一封装，搭配 HBM 与最多 480 GB CPU 内存。

AWS Trainium 是亚马逊云科技（AWS）为深度学习训练专门设计的芯片，通过 EC2 Trn1 实例提供，AWS 称其训练成本比同类实例最多低 50%。

AWS Inferentia2 是亚马逊云科技为推理打造的第二代自研芯片，单颗芯片带 32 GB 高带宽内存、最高 190 TFLOPS 的 FP16 算力，一台 EC2 Inf2 实例最多可装 12 颗。

NVIDIA Tesla K80 是 2014 年 11 月发布的双 GPU 数据中心加速卡，在一块 300 W 的板卡上集成两颗 GK210、24 GB 显存，单精度峰值最高 8.74 万亿次浮点运算每秒。

NVIDIA DGX-2 是 2018 年 3 月发布的一台服务器，把 16 块 Tesla V100 GPU 与新的 NVSwitch 互联装进一个机箱，NVIDIA 称它是首台达到两千万亿次浮点运算的单一服务器。

Cerebras Systems 于 2019 年发布的 AI 处理器，把整片硅晶圆当作一颗芯片，容纳超过 1.2 万亿个晶体管和 40 万个核心；该系列已发展至 2024 年的 WSE-3。

MTIA 第一代是 Meta 自研的第一代 AI 推理加速器，采用台积电 7 纳米制程，配备 128 MB 片上内存，面向深度学习推荐模型。

Falcon Shores 是英特尔的一颗芯片。2025 年 1 月，英特尔表示只把它当作内部测试芯片使用、不推向市场，并把机架级 AI 数据中心方案寄望于 Jaguar Shores。

英特尔 Gaudi 2 是一块面向数据中心的 AI 加速器，配备 96 GB HBM2e 显存、432 TFLOPS 的 BF16 算力和 24 个张量处理器核心，专门承担大型神经网络里的矩阵运算。

GroqChip 是 Groq 的 AI 处理器，主打完全确定性、多次运行无差异。它采用 14 纳米工艺，片上 230 MB SRAM，最高 750 INT8 TOPS。

AWS Inferentia 是亚马逊云科技（AWS）自研的一款芯片，专门用于运行已经训练好的机器学习模型，用户通过 EC2 Inf1 实例使用。它的目标是在推理任务上比通用实例更快、更便宜。

Cerebras 的第二代晶圆级芯片，被称为当时最大的 AI 处理器：采用 7 纳米工艺，在单块晶圆上集成 2.6 万亿个晶体管、85 万个核心和 40 GB 片上内存。

曦云 C600 是沐曦基于自研 GPGPU 架构的数据中心通用 GPU，具备大容量 ECC 显存、128 卡 MetaXLink-E 超节点互联，支持风冷与液冷。

SambaNova SN40L 是 SambaNova 的一款 AI 芯片，公司称其为「可重构数据流单元」，把数据流式的并行执行与片内 SRAM、共封装 HBM、DDR DRAM 组成的三层存储体系结合在一起。

英伟达 L40S 是基于 Ada Lovelace 架构的数据中心 GPU，48 GB ECC 显存兼顾 AI 与图形负载，采用 PCIe Gen4 被动散热设计，不支持 NVLink 与 MIG。

NVIDIA Tesla T4 是采用 Turing 架构、功耗 70 瓦的单槽 GPU，面向 AI 推理，把张量核心与专用视频转码引擎装进一张可以直接插进普通服务器的卡里。

AMD Instinct MI100 是一款基于 AMD 第一代 CDNA 架构的 GPU 加速器，配备 32 GB HBM2 显存，并给出双精度、单精度和半精度计算的峰值吞吐指标。

NVIDIA DGX Spark 是基于 GB10 超级芯片的桌面 AI 计算机，配 20 核 Arm CPU 与 Blackwell GPU，可本地运行大模型。

NVIDIA A10 是一款基于 Ampere 架构的数据中心 GPU，把图形、视频与 AI 推理放进一张 24 GB 显存的单槽 PCIe 卡，面向主流企业服务器。

NVIDIA Tesla P40 是 2016 年 9 月数据表所载的服务器 GPU 加速卡，基于 Pascal 架构，专用于深度学习推理，具备 24 GB 显存和 47 TOPS 的 INT8 性能。

NVIDIA 基于 Ampere 架构打造的数据中心 GPU，面向 AI 推理和主流企业级计算，配备 24 GB HBM2 显存，功耗上限 165 W，最多可切分为 4 个 MIG 实例。

Blackhole 是 Tenstorrent 的 AI 加速芯片，Galaxy Blackhole 是装载 32 颗该芯片的服务器，block FP8 算力 23 PFLOPS，芯片之间与集群之间都以以太网互联。