商汤发布日日新 4.0

背景

大语言模型厂商之间的比较，已经不只是看谁回答得更好。另外两件事越来越被当作卖点：模型一次能读进多少文字，以及它能不能调用自身之外的软件和工具。

发布了什么

2024 年 2 月 8 日，商汤（SenseTime）发布日日新 4.0（SenseNova 4.0）^[1]。其中的主要部分是对话模型 SenseChat V4，提供 4K、32K、128K 三种上下文版本 ^[1]。上下文窗口（context window）指模型一次能作为输入处理的文本量，包括这次的提问和此前的对话内容。4K 的窗口只够一段较短的往来，128K 的窗口则能装下一份长报告或一个较大的代码文件。同时提供几种规格，是让使用者在成本和「一次能读多少」之间取舍：短对话用小窗口更便宜更快，处理文档时再换大窗口。

同一次发布还推出了面向数据分析、医学和视觉的专用模型 ^[1]。这类模型不处理一般性的闲聊，而是针对特定类型的输入或任务：面向医学资料的模型被期待回答专业内容，面向视觉的模型处理的是图像而不是纯文本。

面向开发者，商汤推出了 SenseChat Function Call & Assistants API ^[1]。函数调用（function calling）指模型不只输出文字，还能判断某个问题需要外部工具——计算器、数据库查询、图像处理——并发出结构化的调用请求；「多模态」（multimodal）则意味着这类调用可以不只涉及文本。助手式 API 把这种能力包成服务，用来跟踪一项进行中的任务，程序可以把一个目标交给模型，由它把若干步骤和工具调用串起来完成。

此外，商汤还展示了 Office Raccoon，一个无代码（no-code）的数据分析助手 ^[1]。无代码指用户通过自然语言或图形界面来操作，而不必自己写脚本；这类工具面向的是手里有数据、有想弄清楚的问题、但未必会编程的人。

基准成绩

商汤公布的 SenseChat V4 在 HumanEval 上的成绩为 75.6%，GPT-4 为 74.4% ^[1]。HumanEval 是评测代码生成的基准：给模型一个函数签名和一段说明，要求它写出能通过隐藏测试的程序。它衡量的是一组短题上的编程能力，而不是模型的全部能力，所以这个对比说明的是其中一项技能，而不是整体水平的高低。

意义

从这次发布可以看出一家模型厂商当时的产品组合长什么样：一个名字下提供多种上下文长度，按领域分出专用模型，为开发者准备接入工具的 API，以及与自己之外的领先模型做公开的基准对比。把某个具体任务的分数与 GPT-4 并列，是当时厂商说明自身水平的一种常见方式，也让开发者多了一个具体理由去试用配套的 API 和助手产品。