生产团队的 AI 代理评估清单

示例工作流

• 定义生产团队的 AI 代理评估清单的结果：范围、用户、允许数据、可执行动作和所需证据。
• 拆分检索、工具、策略、审批和 UI，避免让模型成为控制平面。
• 把 Evaluation 模式转换为类型化契约、可见状态、日志和验证，再扩大自主性。
• 在面向真实用户前，用正常输入、边界情况、错误和不安全请求测试流程。
• 记录验证命令、剩余风险、回滚信号和下一步运营动作。

技术栈建议

• 只在生产团队的 AI 代理评估清单能产生价值的范围内使用 Evaluation。
• Next.js、TypeScript、React 和 schema 验证，用于服务端与界面契约。
• MCP 适配器、类型化工具或服务端路由，用于把集成从提示词中隔离出来。
• 检索、持久化存储和追踪，用于还原代理看到、决定和执行了什么。
• 发布前的评估、人类审查和路由冒烟检查。

失败模式

• 把 Evaluation 当作营销标签，却没有工具、数据或责任边界。
• 把应在代码、策略或 schema 中实现的控制交给提示词指令。
• 在没有可观察证据、错误状态或决策日志时发布流程。
• 把安全读取和有副作用的动作混在同一路径中。
• 即使测试、来源或审批缺失，也接受看似有说服力的输出。

验证清单

• Evaluation 用例包含明确范围、输入、输出、允许工具和完成条件。
• 每个工具都有 schema、权限、预期错误和审计记录。
• 回答明确区分证据、假设、决策和已执行动作。
• 测试覆盖正常路径、缺失数据、不安全请求和工具失败。
• 最终交接包含执行命令、产物、风险和下一步。

适用场景

• 团队需要把生产团队的 AI 代理评估清单应用到可验证的产品、流程或代码库。
• 来源、工具或数据可以被转化为契约和证据。
• 交付需要展示运营控制，而不只是聊天演示。

避免场景

• 问题只需要静态回答，并不需要基于 Evaluation 的系统。
• 权限、审批、数据或风险没有明确负责人。
• 团队无法观察工具调用、检索或错误状态。

替代方案

• 低风险抽取或摘要可以使用简单 API 路由。
• 不需要模型推理时使用确定性自动化。
• 在权限和审批设计完成前，让代理保持只读模式。

取舍

• 更多架构会增加前期工作，但能减少生产中的隐形故障。
• Schema 和评估会限制灵活性，但让系统可验证。
• 审批会增加摩擦，但为安全扩大自主性提供路径。