首页›算力芯片
算力芯片
算力芯片
训练和运行 AI 模型的芯片:GPU、TPU 和其他加速器,以及哪些模型是在它们上面训练出来的。
共 77
—
-
沐曦 曦云 C600
曦云 C600 是沐曦基于自研 GPGPU 架构的数据中心通用 GPU,具备大容量 ECC 显存、128 卡 MetaXLink-E 超节点互联,支持风冷与液冷。
-
Tenstorrent Blackhole
Blackhole 是 Tenstorrent 的 AI 加速芯片,Galaxy Blackhole 是装载 32 颗该芯片的服务器,block FP8 算力 23 PFLOPS,芯片之间与集群之间都以以太网互联。
-
SambaNova SN40L
SambaNova SN40L 是 SambaNova 的一款 AI 芯片,公司称其为「可重构数据流单元」,把数据流式的并行执行与片内 SRAM、共封装 HBM、DDR DRAM 组成的三层存储体系结合在一起。
-
Groq LPU(GroqChip)
GroqChip 是 Groq 的 AI 处理器,主打完全确定性、多次运行无差异。它采用 14 纳米工艺,片上 230 MB SRAM,最高 750 INT8 TOPS。
-
Cerebras 晶圆级引擎 WSE-2
Cerebras 的第二代晶圆级芯片,被称为当时最大的 AI 处理器:采用 7 纳米工艺,在单块晶圆上集成 2.6 万亿个晶体管、85 万个核心和 40 GB 片上内存。
-
NVIDIA DGX Spark
NVIDIA DGX Spark 是基于 GB10 超级芯片的桌面 AI 计算机,配 20 核 Arm CPU 与 Blackwell GPU,可本地运行大模型。
-
NVIDIA A30
NVIDIA 基于 Ampere 架构打造的数据中心 GPU,面向 AI 推理和主流企业级计算,配备 24 GB HBM2 显存,功耗上限 165 W,最多可切分为 4 个 MIG 实例。
-
NVIDIA A10
NVIDIA A10 是一款基于 Ampere 架构的数据中心 GPU,把图形、视频与 AI 推理放进一张 24 GB 显存的单槽 PCIe 卡,面向主流企业服务器。
-
NVIDIA Tesla T4
NVIDIA Tesla T4 是采用 Turing 架构、功耗 70 瓦的单槽 GPU,面向 AI 推理,把张量核心与专用视频转码引擎装进一张可以直接插进普通服务器的卡里。
-
AWS Trainium
AWS Trainium 是亚马逊云科技(AWS)为深度学习训练专门设计的芯片,通过 EC2 Trn1 实例提供,AWS 称其训练成本比同类实例最多低 50%。
-
AWS Inferentia2
AWS Inferentia2 是亚马逊云科技为推理打造的第二代自研芯片,单颗芯片带 32 GB 高带宽内存、最高 190 TFLOPS 的 FP16 算力,一台 EC2 Inf2 实例最多可装 12 颗。
-
AWS Inferentia
AWS Inferentia 是亚马逊云科技(AWS)自研的一款芯片,专门用于运行已经训练好的机器学习模型,用户通过 EC2 Inf1 实例使用。它的目标是在推理任务上比通用实例更快、更便宜。
-
Google TPU v5e
Google TPU v5e 是 2023 年推出的机器学习加速芯片,单颗芯片含 1 个 TensorCore,bfloat16 峰值算力 197 TFLOP,可组成 256 颗芯片的 Pod,兼顾训练与推理。
-
英特尔 Gaudi 2
英特尔 Gaudi 2 是一块面向数据中心的 AI 加速器,配备 96 GB HBM2e 显存、432 TFLOPS 的 BF16 算力和 24 个张量处理器核心,专门承担大型神经网络里的矩阵运算。
-
AMD Instinct MI100
AMD Instinct MI100 是一款基于 AMD 第一代 CDNA 架构的 GPU 加速器,配备 32 GB HBM2 显存,并给出双精度、单精度和半精度计算的峰值吞吐指标。
-
英伟达 GH200 Grace Hopper 超级芯片
GH200 是英伟达的超级芯片,将 72 核 Arm CPU 与 Hopper GPU 经 NVLink-C2C 装进同一封装,搭配 HBM 与最多 480 GB CPU 内存。
-
英伟达 L40S
英伟达 L40S 是基于 Ada Lovelace 架构的数据中心 GPU,48 GB ECC 显存兼顾 AI 与图形负载,采用 PCIe Gen4 被动散热设计,不支持 NVLink 与 MIG。