AWS 发布 Amazon Bedrock 与 Titan 模型

背景

2023年4月，AWS 希望为云客户提供一个托管入口，汇集多家公司的基础模型，而不只是某一家公司的模型。^[1]

发生了什么

2023年4月13日，AWS 宣布推出 Amazon Bedrock，这是一项为基础模型提供 API 访问的托管服务。公告由 Swami Sivasubramanian 撰写。^[1] 首批模型供应商包括 AI21 Labs、Anthropic、Stability AI 以及亚马逊自身。^[1]

亚马逊自身也是供应商之一。AWS 宣布了两款 Amazon Titan 模型，一款是生成式大语言模型，另一款是嵌入（embeddings）模型，并在少数客户中以预览形式提供。^[1] Titan 模型是亚马逊在该服务中自研的产品，与外部公司的模型并列提供。

此次推出的规模有限。Bedrock 以有限预览的形式开始，它采用无服务器架构，客户数据保持私密并加密。^[1]

关键细节

同一天，AWS 还正式推出了两类硬件实例。一类是基于 Trainium 芯片的 Trn1n 实例，提供1,600 Gbps 的网络带宽；另一类是基于 Inferentia2 芯片的 Inf2 实例。^[1] Trainium 与 Inferentia 是亚马逊的自研 AI 芯片，这些实例让客户可以在这些硬件上运行与训练模型。

2023年9月28日，Bedrock 正式可用。^[2][3] 此时，服务已超出最初的供应商范围，AWS 也在同一时期正式发布了 Titan Embeddings 模型。^[2]

影响

这次发布确立了一种思路：AWS 通过一项托管服务提供多家公司的模型。这种做法让亚马逊自研模型与 Anthropic 等合作伙伴的模型并列。^[1]

对读者而言，这一事件展示了一家主要云服务商如何组织 AI 模型的访问方式：以托管平台的形式，让客户可以选择不同的模型，隐私与加密为内置功能，而公司自身的模型只是其中一个选项。^[1][2]