微软 Azure Maia 100

是什么

Azure Maia 100 是微软第一颗为人工智能自研的芯片，2023 年 11 月在 Ignite 开发者大会上发布 ^[1]。它不是通用处理器，而是一颗打算自己用的芯片：微软表示不会对外销售这些芯片，只用于自家的 Azure 数据中心 ^[1]。

也就是说，Maia 100 是一件内部基础设施，而不是客户能买到的产品。它和云机房里其他硬件装在一起，任务是承载云端所托管的大模型。

怎么造的

据《华夏时报》报道，Maia 100 由台积电（TSMC）以 5 纳米工艺制造，拥有 1050 亿个晶体管 ^[1]。工艺节点和晶体管数量是芯片行业最先被引用的两个数字：更精细的工艺能在同样面积里塞进更多器件，更多的晶体管通常意味着单颗芯片上可以放下更多计算逻辑和存储。

同一篇报道称，这颗芯片支持低于 8 位的数据类型，并将其称为微软首次支持 MX 数据类型 ^[1]。精度是 AI 硬件里由来已久的取舍。模型的权重和激活值都是数字，用更少的位数存一个数，需要搬运和相乘的数据量就更小，计算因此更便宜也更快；代价是精度过低可能损失准确度，除非数据格式和训练方法围绕它专门设计。低于 8 位的格式，就是芯片设计者让运算单元保持忙碌、同时少搬数据的一种办法。

用来做什么

《华夏时报》报道称，这颗芯片是为在微软云中训练和推理 GPT-3.5 Turbo、GPT-4 这样的大语言模型而设计的 ^[1]。训练是用大量数据反复调整模型参数的过程，推理则是运行训练好的模型来回答请求，两者都重度依赖同一类算术运算，所以一种芯片设计可以同时面向这两件事。

同一篇报道还提到，OpenAI 已经在 GPT-3.5 Turbo 上测试过 Maia 100 ^[1]，并称该芯片将于 2024 年进入市场 ^[1]。

与 Cobalt 100 一同发布

Maia 100 不是单独发布的。微软同时推出了 128 核、基于 Arm 架构的服务器 CPU Cobalt 100 ^[1]。这个搭配本身说明了问题：AI 加速器无法自己工作，它需要一颗通用处理器来调度数据搬运、网络通信以及周边的软件栈，因此一个芯片项目往往同时包含这两类芯片。

处在什么位置

Maia 100 标志着微软获取算力的方式发生了变化。过去，云数据中心里的加速卡由外部供应商提供；自研芯片意味着硬件可以围绕运营方预期要跑的模型和负载来设计，也可以围绕自己已经掌握的软件来设计。报道给出的 5 纳米工艺、1050 亿晶体管规格 ^[1]，把 Maia 100 放进了面向正式模型训练、而非小型终端设备的那一档。

发布本身没有回答的是规模问题。一颗芯片只有大批量部署、背后有成熟的编译器、软件库和运维经验，才真正算数；而微软把 Maia 100 留在自家数据中心里使用的计划 ^[1]，意味着它的效果会体现为 Azure 的算力供给，而不是一款零售产品。报道所说的 2024 年上市 ^[1]，就是这一点开始变得可观察的时间点。