为什么重要
代码有流水线,prompt 通常没有。
编写、评审、测试、合并、部署。大多数团队却把驱动这一切的输入,当作一条用完即弃的聊天消息。
| 实践 | 工作单元 | 关注点 |
|---|---|---|
| MLOps | 模型 | 训练、部署和监控机器学习模型。 |
| LLMOps | 模型调用 | 基于 LLM 的 prompt 工程、评测与可观测性。 |
| PromptOps | 变更本身 | prompt 作为由团队共同拥有、可审计、可回滚并最终上线的工作。 |
四大支柱
Orquesta 中的 PromptOps。
共享,且有角色
你的团队和客户向同一个 agent 提出 prompt。每个角色决定自己能请求什么,以及哪些内容需要审核。
智能路由
每个 prompt 按复杂度和成本评估,再发送到合适的模型档位——快速、均衡或旗舰。
可审计
谁提出、哪个模型运行、改了什么、何时发生。每次运行都关联到具体的人和一个 git commit。
有门禁
agent 提出方案,由人批准。对敏感路径要求签批,或实时接管会话。
一个 prompt 的完整旅程
人人都能提需求,你的机器负责干活。
- 01
有人提出需求
团队成员或客户在控制台、Slack、Telegram 或嵌入式组件中写下 prompt。
- 02
你的机器执行
你服务器上的 agent 接手任务,在真实的代码仓库中工作。
- 03
所有人都能看到
输出实时流式传输到控制台,并与对应的 prompt 一同记录。
- 04
由人来决定
批准、退回,或接管终端自己完成。
