唐杰

概况

唐杰是中国计算机科学家。维基百科将其列为智谱 AI 的创始人之一，这家公司于 2019 年从清华大学拆分独立^[1]。据 36Kr 报道，他是清华大学计算机科学与技术系教授，同时担任智谱首席科学家^[2]。高校研究者与模型公司首席科学家这两个身份，基本框定了公开资料中与他相关的工作。

博士研究与 AMiner

36Kr 称，唐杰于 2006 年在清华大学获得博士学位^[2]。2006 年 3 月，他创建了学术研究数据库 AMiner^[1]。按 36Kr 的描述，AMiner 是一款利用 AI 挖掘全球论文与学者合作网络的工具^[2]。所谓「挖掘合作网络」，指的是不只处理论文本身，还去处理文献里的关系：谁与谁共同署名、哪些机构与主题经常一起出现、一个研究方向随时间如何变化。这类系统把分散的文献变成可以检索、可以观察其结构的东西，而不必一篇一篇去读。目前 AMiner 由智谱拥有^[1]。

从预训练方法到 GLM 模型

智谱的 GLM 系列模型源自 2022 年 5 月在 ACL 上发表的一种 GLM 预训练方法^[1]。这篇论文收录于计算语言学协会第 60 届年会论文集（2022 年 5 月，都柏林），作者中包括唐杰和 Zhilin Yang^[3]。论文题目「GLM: General Language Model Pretraining with Autoregressive Blank Infilling」点出了训练方式：把文本的一部分遮成空白，让模型按顺序把它们填回去。预训练是语言模型在针对具体任务做调整之前、先从大量文本中学习通用规律的阶段，因此「怎样挖空、怎样填回」这一设计会影响到建立在它之上的一切。

据 36Kr 报道，唐杰做出了研发参数规模达数千亿的大模型这一战略决策，这一决策带来了 GLM-130B，该模型于 2022 年 7 月完成训练^[2]。把模型做到这个量级，不只是研究问题，也是工程与组织问题：数据、算力和人力都要围绕这个决定被组织起来。

在领域中的位置

把公开资料放在一起看，可以看到两条线索。一条是学术数据：从 2006 年的 AMiner 开始，论文与研究者网络被当作可以计算的对象^[1][2]。另一条是大语言模型：2022 年 5 月在 ACL 上发表的预训练方法，后来长成了智谱的 GLM 模型^[1][3]。两条线索在机构层面也有交点——智谱既拥有 AMiner，也是 GLM 模型的开发方^[1]。对一个想了解今天的模型公司从何而来的读者来说，这条路径是一个可用的样本：一位做学术文献挖掘的研究者，在十多年后做出了研发数千亿参数大模型的判断^[2]。