DeepSeek 发布通用模型 DeepSeek LLM 7B 与 67B

背景

深度求索（DeepSeek）此前已经发布了一组代码模型。它的下一款发布是通用语言模型，目标是同时处理日常文本和代码。

通用语言模型的训练数据覆盖面很广，因此可以回答问题、做摘要、翻译和写作。这类模型的规模通常以参数数量表示。规模越大的模型，训练和运行所需的算力通常越多，因此同时发布多个规模，可以让用户在成本与能力之间做选择。

发生了什么

2023 年 11 月 29 日，深度求索发布了首个通用语言模型，命名为 DeepSeek LLM ^[3]。此次发布包括 7B 和 67B 两种参数规模，每种都有基础版和对话版 ^[1]。基础版可以作为其他开发者微调的基础，对话版则可以直接用于对话。

基础模型在 2 万亿个 token 的数据集上完成预训练 ^[1]。token 是文本的计量单位，这样规模的数据集覆盖了极为庞大的文字内容。

关键细节

对话版先经过监督微调，再经过直接偏好优化（DPO）^[1]。监督微调让模型学习示范回答，DPO 则利用经人工或评审排序的成对回答进一步调整模型。两步合在一起，使模型从单纯的文本预测器变成能够对话的助手。

深度求索报告，67B 基础模型在代码、数学和推理基准测试上超过了 LLaMA-2 70B ^[1]。公司还报告，DeepSeek LLM 67B Chat 在开放式评测中超过了 GPT-3.5 ^[1]。这些都是公司自己给出的对比结果，覆盖的是特定测试集，并不代表所有使用场景。

影响

这次发布让开发者获得了一个通用模型系列，提供两种规模，并且基础版和对话版都可以用于研究和使用。该系列现已被列为已停止维护 ^[3]，因此今天它的主要价值，是作为公司早期通用模型的记录，以及与 LLaMA-2 70B 和 GPT-3.5 的对比结果的出处。