刘知远

概况

刘知远是清华大学长聘副教授（长聘副教授），同时是北京面壁智能（ModelBest）的联合创始人兼首席科学家 ^[1]。他的公开工作处在两个领域的交汇处：一边是学术界的自然语言处理研究，一边是让模型小到可以脱离数据中心、在本地设备上运行的工程实践。

在清华

在创办面壁智能之前，他是清华大学计算机系自然语言处理实验室的副教授 ^[1]。自然语言处理是计算机科学中研究如何让机器处理人类语言的分支——阅读、摘要、翻译、回答问题——今天的大语言模型正是从这一研究传统中生长出来的。清华的那篇报道把他的两重身份并列写出：长聘副教授，以及面壁智能联合创始人兼首席科学家 ^[1]。

创办面壁智能

2022 年，还在清华大学计算机系担任副教授的他牵头创办了面壁智能 ^[1]。按他自己的表述，这家公司的方向不是在最大规模上比拼，而是把足够强的模型做小，小到可以装进一台设备里。

大模型时代的「摩尔定律」

7 月 5 日上午，刘知远在 WAIC 2024 的一场分论坛上作了题为《大模型时代的「摩尔定律」》的演讲 ^[1]。这个说法借自半导体行业一个广为人知的观察：固定的算力会随时间推移变得越来越便宜；他把类似的想法用在了模型上。在那场演讲中，他提出模型的知识密度大约每 8 个月翻一倍 ^[1]。所谓知识密度，在这个语境里指的是模型相对于自身体量所承载的知识量。它的实际含义是：过去需要很大模型才能具备的能力，经过不长的时间就可以由一个小得多的模型提供——同样的本事被压缩进更少的参数里。

把模型放到设备上

沿着这个思路，就能得出很具体的目标。刘知远说，面壁智能希望在半年到一年内，在端侧设备上跑起 GPT-3.5 水平的模型；在两年内，在设备上达到 GPT-4 水平的能力 ^[1]。端侧设备就是人们日常随身携带和使用的那类机器——手机、笔记本电脑以及类似硬件——计算发生在本地，而不是被送到远端的数据中心。把有能力的模型放到这里，约束条件就变了：内存、功耗和散热比单纯的规模更重要，数据也可以留在设备上。

这个立场的意义

刘知远的公开论述把一种研究趋势和一个工程计划连在了一起。如果知识密度真的以大约 8 个月的节奏翻倍，那么能力的前沿和小型化的前沿就是同向移动的；押注紧凑模型的公司，是在顺应这种汇合，而不是与之相反 ^[1]。他给出的两个目标——半年到一年在端侧跑起 GPT-3.5 水平，两年内在设备上达到 GPT-4 水平能力——就是这一判断在他口中具体成形的方式 ^[1]。清华的报道把学术职位与公司角色写成同一条轨迹的两部分：一位在自然语言处理实验室工作的副教授，在 2022 年牵头创办公司，并出任其首席科学家 ^[1]。