PromptOps

当 agent 来写代码,prompt 就是变更本身。

PromptOps 正是这样看待它:与需要的人共享、路由、审计,并在任何内容上线之前设置门禁。

为什么重要

代码有流水线,prompt 通常没有。

编写、评审、测试、合并、部署。大多数团队却把驱动这一切的输入,当作一条用完即弃的聊天消息。

实践工作单元关注点
MLOps模型训练、部署和监控机器学习模型。
LLMOps模型调用基于 LLM 的 prompt 工程、评测与可观测性。
PromptOps变更本身prompt 作为由团队共同拥有、可审计、可回滚并最终上线的工作。
四大支柱

Orquesta 中的 PromptOps。

共享,且有角色

你的团队和客户向同一个 agent 提出 prompt。每个角色决定自己能请求什么,以及哪些内容需要审核。

智能路由

每个 prompt 按复杂度和成本评估,再发送到合适的模型档位——快速、均衡或旗舰。

可审计

谁提出、哪个模型运行、改了什么、何时发生。每次运行都关联到具体的人和一个 git commit。

有门禁

agent 提出方案,由人批准。对敏感路径要求签批,或实时接管会话。

一个 prompt 的完整旅程

人人都能提需求,你的机器负责干活。

  1. 01

    有人提出需求

    团队成员或客户在控制台、Slack、Telegram 或嵌入式组件中写下 prompt。

  2. 02

    你的机器执行

    你服务器上的 agent 接手任务,在真实的代码仓库中工作。

  3. 03

    所有人都能看到

    输出实时流式传输到控制台,并与对应的 prompt 一同记录。

  4. 04

    由人来决定

    批准、退回,或接管终端自己完成。

今天就共享你的智能体。

2 分钟连接一台机器,邀请你的团队。

无需信用卡。
反馈