大语言模型 产品

LangChain 是 2022 年 10 月发布的开源框架，让开发者把大语言模型与外部数据、API 和工具连接起来，组合成「链」和智能体，是构建大模型应用的常用起点。

谷歌面向消费者的 AI 助手，2023 年以 Bard 之名发布，2024 年更名为 Gemini。普通用户由此接触谷歌的 Gemini 模型：从对话框起步，扩展到语音、研究代理与订阅档位。

vLLM 是一个开源的大语言模型服务系统，建立在 PagedAttention 之上，用操作系统管理虚拟内存的思路管理 KV 缓存。论文报告在时延相同的情况下，其吞吐是此前服务系统的 2-4 倍。

llama.cpp 是用 C/C++ 编写的开源推理引擎，让大语言模型能在普通电脑上运行，由 Georgi Gerganov 于 2023 年 3 月创建，推动了本地推理的普及。

一个众包的模型评测平台：用户对两个匿名模型的回答投票，结果汇总成 Elo 排行榜；2023 年上线，2025 年以 LMArena 之名重新启动。

Claude 应用（claude.ai）是 Anthropic 面向个人和企业的对话助手。2023 年以 Claude 2 公测版上线，此后陆续加入付费方案、Projects、联网搜索和 Research。

LlamaIndex 是一个开源的 Python 库，用于在大型语言模型之上构建检索增强生成应用和 AI 智能体。它最初只是 2022 年底一名工程师写的小型索引工具 GPT Tree Index。

Perplexity 是2022年12月7日推出的 AI 答案引擎，用自然语言回答问题并引用网络来源。此后它陆续加入了 Deep Research、金融与购物功能，以及智能体产品。

Hugging Face 于 2023 年推出的公开大模型排行榜，用完全统一的设置评测开源模型，让分数可复现、可比较；2025 年退役。

OpenRouter 是大语言模型的交易市场与网关，2023 年初上线，让开发者通过一个接口调用多家供应商的数百个模型。官方称其月处理 700 万亿以上 token，全球用户超过 1000 万。

Microsoft Copilot 是微软的 AI 对话与助手产品，2023 年以 Bing Chat 的名字出现，后统一为面向消费者和企业的品牌，并加入了微软自研模型。

Microsoft 365 Copilot 是微软面向 Word、Excel、PowerPoint、Outlook 和 Teams 的 AI 助手，把大语言模型与客户的业务数据结合起来。

文心一言是百度的聊天机器人，2023 年 3 月开始邀请测试，同年 8 月向公众开放。它曾推出付费版，2024 年更名为文小言。

2023 年 3 月发布的开源自主智能体，借助 OpenAI 的大型语言模型（如 GPT-4）把用户给出的目标拆成子任务，并调用网页浏览等工具去完成。

千问 App 是阿里巴巴基于通义千问（Qwen）模型推出的消费级聊天应用。它 2023 年 4 月以通义千问内测版起步，到 2026 年 5 月用户达 2.34 亿。

Ollama 是一个用 Go 编写的开源工具，让用户在 macOS、Linux 和 Windows 上通过命令行或本地 REST 接口拉取并运行大语言模型。

Google 推出的 AI 研究与笔记工具，只依据用户自己提供的资料作答，并标注所引用的原文。2023 年以 Project Tailwind 之名亮相，后因能把文档变成播客式「音频概览」而广为人知。

GGUF 是一种二进制模型文件格式，2023 年由 llama.cpp 项目推出，把张量和元数据装进同一个文件，广泛用于分发可本地推理的量化大语言模型。

豆包是字节跳动的 AI 聊天应用，2023 年 8 月开始邀请制内测，可生成文本、图像和语音，并提供 AI 搜索。[^1][^2]

AutoGen 是微软推出的构建 AI 智能体与应用的框架，其中的智能体可定制、可对话，并能把大语言模型、人类输入和工具结合起来。它由 2023 年 8 月 16 日提交到 arXiv 的论文提出。

Meta AI 是 Meta 的对话式 AI 助手，2023 年 9 月在美国以测试版上线，此后先后改用 Llama 3 和 Muse Spark。

Kimi 是 Moonshot AI 推出的 AI 聊天机器人，2023 年 10 月发布，以超长上下文为主要特点，此后陆续加入搜索、智能体与编程功能。

DSPy 是一种编程模型，把语言模型流水线表示为声明式模块构成的计算图，并用编译器按给定指标优化。

TensorRT-LLM 是 NVIDIA 的开源库，用于在 NVIDIA GPU 上加速和优化大语言模型推理，2023 年 10 月 19 日公开发布，可从 GitHub 免费获取，也随 NVIDIA NeMo 提供。

CrewAI 是一个用 Python 编写的开源框架，用于构建协同工作的 AI 智能体小组，由 João Moura 于 2023 年底创建，并获得 1800 万美元融资。

Grok 是 xAI 的聊天助手，2023 年 11 月首次向美国小范围候补用户开放，后发展为涵盖搜索、图像、视频和编程智能体的一系列应用与模型。

SGLang 是一个用于高效执行复杂语言模型程序的系统，由前端语言和运行时组成；它复用键值缓存、加速结构化输出解码，论文报告在评测负载上吞吐最高达到当时先进推理系统的 6.4 倍。

Le Chat 是 Mistral AI 的助手，2024 年 2 月 26 日测试版上线，此后陆续增加搜索、Pro 套餐等功能，2026 年 5 月并入 Vibe。

AI 概览是显示在谷歌搜索结果顶部的 AI 生成摘要，2024 年 5 月起在美国全面上线，后来又衍生出独立的搜索实验 AI 模式。它成为生成式 AI 面向普通用户规模最大的应用之一。

腾讯元宝是腾讯于 2024 年 5 月 30 日推出的 AI 助手应用，基于混元模型，此后陆续接入 DeepSeek-R1、HY 2.0 和 Hy3。

Apple Intelligence 是苹果的个人智能系统，2024 年 6 月 10 日在 WWDC 上宣布，首先用于 iOS 18 等系统。大部分任务在设备上运行，较大的请求交给私有云计算。

Lovable 是一款把自然语言描述直接变成全栈网页应用的工具，面向不会写代码的人。它于 2024 年 11 月上线，用户规模与融资额增长都很快。

DeepSeek 应用（深度求索智能助手）是深度求索的官方免费聊天机器人，2025 年 1 月 15 日推出移动版，同年 1 月下旬登顶美国 App Store 免费榜。

Alexa+ 是亚马逊基于生成式 AI 重建的新一代 Alexa 助手，2025 年 2 月推出。每月 19.99 美元，亚马逊 Prime 会员免费，可以预订服务、代购杂货、控制智能家居。

OpenAI 于 2025 年 3 月发布的开源智能体开发工具包，提供可配置的智能体、智能体之间的任务交接、安全护栏和调用追踪，是实验性项目 Swarm 的正式继任者。

Transformers是Hugging Face的开源Python库，通过统一的接口提供预训练的Transformer模型。其论文于2019年10月9日发布在arXiv上。

Epoch AI 的基准测试中心汇集领先 AI 模型的基准成绩，包括其自行开展的评测，并用 Epoch Capabilities Index 将多项分数合并为单一通用能力量表。

微软小冰是 2014 年 5 月发布的聊天机器人，用户可把它加进微信群做提醒、查询、天气和讲笑话。它迅速走红，但三天后因违反平台规则被微信封禁。

智谱 AI 面向普通用户的聊天产品，2023 年以 ChatGLM 之名起步，后改名为 GLM，入口为 chat.z.ai，也是新模型面向公众的窗口。

商量（SenseChat）是商汤科技 2023 年 4 月 10 日发布的对话式 AI 产品，发布时参数量超过 1000 亿，最初只面向政企客户，此后经商量 V4 与日日新 V6 两次重要更新不断扩展。

HuggingChat 是 Hugging Face 2023 年 4 月推出的免费聊天机器人，作为 ChatGPT 的开源替代品，最初使用 Open Assistant 模型，可在多个开放模型间切换。

Pi 是 Inflection AI 于 2023 年 5 月 2 日推出的聊天机器人，名字取自「个人智能」，定位为个人的对话式助手。2024 年 3 月，微软雇走 Inflection 大部分员工，两位联合创始人也在同月离开。

AI SDK 是 Vercel 推出的 TypeScript 工具包，用一套接口对接多家模型提供商，并提供与前端框架无关的聊天界面钩子，以及统一运行智能体框架的方式。

Cohere North 是一个企业 AI 工作平台，整合大语言模型、搜索和 AI 智能体。它于 2025 年 1 月开放抢先体验，2025 年 8 月正式全面发布。

Tinker 是 Thinking Machines Lab 于 2025 年 10 月 1 日宣布的托管 API，用于微调语言模型，用户自行选择算法和数据。

LM Studio 是一款闭源桌面应用，可在 macOS、Windows 和 Linux 上把大语言模型下载到本机运行、对话，并通过兼容 OpenAI 的本地接口供其他程序调用。

跃问是阶跃星辰 2024 年 3 月开放的 AI 助手，能理解文本、数据和图片中的图表，可做内容创作、逻辑推理与数据分析，后更名为 Step AI。

万知是 01.AI（零一万物）于 2024 年 5 月发布的免费中英双语 AI 生产力工作台，有网页版和微信小程序两种入口；这个名字后来也延伸到企业大模型平台。

百小应是百川智能于 2024 年 5 月 22 日发布的首款 AI 助手应用，由 Baichuan 4 模型驱动。它以搜索（包括多轮搜索）和文档阅读为核心设计，百川智能把它定位为通向 AI「超级应用」的一步。