AgentOps
AgentOps 托管运维
AgentOps 管的是上线之后:回归评测、成本优化、合规与迭代。交付月度评测报告和 SLO 看板,避免智能体在第一次改模型后静默变差。
最后更新: · 章鱼派 OctopAI
智能体 SLO 五指标
- 任务成功率:评测集上「做对」的比例。
- 一次通过率:不经人工修改即完成的比例。
- 人工接管率:必须交给人的比例,上升即告警。
- P95 时延:用户或下游系统可感知的等待。
- 单位任务成本(CPRT):做对一个真实任务的总成本,不是 Token 单价。
这五项的定义见 评测驱动交付。诊断与试点按场景报价,不设公开价目表。合同按人天与交付物计价,不按 Token 用量计价。
常见问题
- AgentOps 和普通运维有何不同?
- 普通运维看存活与延迟。AgentOps 还要看任务成功率、一次通过率、人工接管率和单位任务成本。模型一改,这四项都可能坏。
- 可以只买监控不上人吗?
- 看板可以移交。若需要按月改评测集、压成本和处理接管工单,需要持续的人。