首页›实践
实践
实践
智能体框架、Skill 和 AI 工具的上手教程与一手使用经验。
共 217
Dify 工作流与 ChatflowDify 用 Workflow 和 Chatflow 搭建智能体工作流，二者都靠连接节点。Workflow 运行一次并返回结果，Chatflow 由每条用户消息触发。本文讲怎么选。Dify 知识库检索设置怎么调Dify 知识库的检索设置决定分段怎么找、怎么排序。本文说明系统推理模型、嵌入模型、重排序模型，以及 Top K、分数阈值和三档检索深度怎么选，并讲如何用参考问题做测试与评测。Dify 创建知识库知识库是让 AI 应用依据你的资料作答的基础。本文讲在 Dify 里创建 Agent 知识库：连接数据源或上传文件，设置同步策略，并在接入应用前检查和测试检索。Dify 用 Docker Compose 私有化部署想在自己的机器或服务器上跑 Dify，可以用 Docker Compose 部署。本文讲硬件与软件准备、启动和访问、修改一个 Nginx 参数，以及上线前的安全加固和升级。LangChain 智能体部署上线智能体在本地跑通后，还要上线运行。本文讲 LangChain 智能体的两条部署路线：托管到 LangSmith Cloud，或放进 JavaScript 框架和托管平台。LangChain 可观测性与调试智能体跑起来以后，你需要看清它调用了哪些工具、生成了什么提示词、在哪一步做了决定。本文讲怎么用 LangSmith 的追踪功能看清智能体的每一步。LangChain 上下文工程智能体不可靠，多半是因为没有把正确的上下文交给模型。本文按 LangChain 的分法，讲清模型、工具和生命周期三类上下文怎么控制，以及长对话怎么摘要。llama.cpp 入门：编译、运行 GGUF 模型llama.cpp 入门：从安装脚本到 CMake 源码编译，GGUF 模型一条命令拉起，OpenAI 兼容服务内置 WebUI，以及 CUDA、Metal 等后端的编译开关。vLLM 快速上手：安装与离线推理vLLM 官方快速上手：uv 安装与预编译内核、离线批量推理的 generate 与 chat 两条路径、OpenAI 协议在线服务，以及注意力后端的选择逻辑。Qwen3-VL 多模态模型用 vLLM 部署Qwen3-VL-4B-Instruct 在 vLLM 上的部署与多模态实测：单卡 5090 起步、OpenAI 协议发图、离线跑视频推理，以及多模态负载的显存与截断取舍。Gemma 4 用 Ollama 加 Open WebUI 搭本地聊天用 Ollama 跑 gemma4:e4b、用 Open WebUI 搭本地聊天界面：Linux 安装两种姿势、端口与镜像源两个常见坑，以及浏览器里的自动检测联调。MiniMax-M2 用 vLLM 部署MiniMax-M2 的 vLLM 部署实战：220GB 权重的显存账、4 卡与 8 卡两种并行方案、minimax_m2 双解析器，以及面向 Agent 场景的工具调用实测。gpt-oss-20b 用 vLLM 部署OpenAI 开源的 gpt-oss-20b 在 vLLM 上的部署实战：预发布版依赖的版本匹配、transformers 与 vLLM 两种调用方式、推理级别的系统提示控制。Kimi K2.5 用 vLLM 部署在 8 卡环境上用 vLLM 部署 Kimi K2.5：思考模式官方参数、kimi_k2 推理与工具解析器、模型名即路径的细节，以及针对推理模型易错题的工具调用实测。GLM-4.7-Flash 用 vLLM 部署GLM-4.7-Flash 用 vLLM 部署：开思考模式并设官方推荐参数，配好推理解析器，再用四个工具函数实测工具调用链路。DeepSeek-R1 蒸馏版接入 LangChain继承 LangChain 的 LLM 基类、重写构造函数和 _call，把本地部署的 DeepSeek-R1 蒸馏版接进 LangChain，再用正则分离思考和回答。DeepSeek-R1 蒸馏版用 vLLM 部署用 vLLM 部署 DeepSeek-R1-Distill-Qwen-7B：装依赖、下模型、离线推理、起 OpenAI 兼容服务、测吞吐，推理参数怎么设也有讲究。智能体的工具是怎么工作的工具是交给大模型的函数，是智能体行动的基础。读完本文，你能写出一个带类型标注的工具，用装饰器自动生成描述，并理解模型怎样发出工具调用、智能体怎样执行。智能体是什么：思考、行动、观察循环智能体是以大模型为推理核心、通过工具与环境交互的系统。读完本文，你能分清大脑与工具的分工，理解思考、行动、观察的循环，以及 CoT 和 ReAct 的区别。可扩展的智能体部署智能体从笔记本搬到线上，要补的是托管、身份、状态、评测和监控这套运维骨架。读完本文，你能选对部署方式，并把评测门禁和冒烟测试接入发布流程。让智能体操作浏览器：Browser UseBrowser-Use 让智能体像人一样打开网页、查看并操作。读完本文，你能用 Playwright 搭一个搜索民宿价格的浏览器智能体，并知道哪些操作要先让用户确认。Microsoft Agent Framework 入门Microsoft Agent Framework 是微软的智能体开发框架。读完本文，你能创建并运行智能体，加上工具和线程，还能托管到 Foundry。MCP 应用案例：八个真实场景与写操作服务器的设计要点八个真实的 MCP 案例，从多智能体旅行规划到社交平台发布。写操作类服务器的设计要点在发布案例里讲得最具体，本文重点放在这里。用 MCP 做语义搜索：Azure OpenAI 向量加 pgvector用 Azure OpenAI 向量加 pgvector 余弦检索做商品搜索，再包装成 MCP 工具，供智能体按自然语言查询。本文讲每步的参数和 SQL。