企业 AI Agent 系统落地需要哪些模块？

一套能在生产里跑稳的企业 Agent 系统，至少要包含模型层、知识层、工具层、编排层、对话层、监控运维层这六块。各家方案细节不同，但少了哪一块都会在上线后吃苦头。滚水科技的做法是先按这套骨架画清楚边界，再决定每块自研、复用开源还是接第三方。

各模块大致负责的事情：

• 模型层：选型（开源/闭源、规模、推理成本）、私有化部署或 API 调用、Embedding 模型、多模型路由。这一层主要关心成本和上下游适配，没必要追新。
• 知识层：把企业内部资料做结构化、做向量化、做版本管理，支持检索增强（RAG）。这一层往往最难，但对答案质量影响最大。
• 工具层：Agent 实际调用的能力，比如查订单、查库存、发邮件、生成报表。每个工具要写清楚输入输出、权限、失败处理，不能让模型乱调。
• 编排层：决定一次对话该走哪几步、串哪些工具、什么时候转人工。复杂场景里我们会用工作流型编排，简单场景用对话型就够了。
• 对话层：上下文管理、意图识别、人格设定、敏感词过滤，以及前端 UI（Web、小程序、企微/钉钉/飞书机器人）。
• 监控运维层：对话日志、token 消耗、错误率、工具调用成功率、用户反馈，配合定期巡检。一旦缺这一层，问题出现时根本定位不到。

实际项目里，最容易被低估的是知识层和监控运维层。前者决定 AI 答得有没有用，后者决定 AI 上线后能不能持续好用。滚水科技在做项目时，会把这两块当一等公民来设计，不让它们变成"上线后再补"的事项。

至于客户该投多大规模，要看场景：内部知识助手类的，一般中等规模的服务器加 API 调用就够；面向外部、并发高的客户类，需要更细的服务编排和缓存策略。我们会先按"小而完整"的原则把骨架搭起来，让客户先看见整套系统跑起来的样子，再决定哪部分加大投入。