这次灰度要不要回滚
实用错误率超了多少倍,决定是暂停还是立刻回滚
发布流水线里的自动闸门。它不该等人来看仪表盘。
为什么要快 每多跑一分钟,就多一分钟的流量打在坏版本上。
接线长什么样
判断层和计算层之间没有依赖,所以它们并行发 —— 串起来等于白花一个来回。
① 你的程序
状态一直在你这边,模型不持有任何东西
合法动作由你的代码生成,模型只在里面挑
一段话 + 选项
② 判断层 · Jett
3 个问题一次前向答完,不是问 3 次
回来的是选项 + 把握程度,不用再解析文字
② 数值 · Jett(与判断同一次请求)
需要的那个数随判断一起回来
精确值,带单位,可以逐位核对
答案 + 那个数
③ 你的程序
执行动作,世界更新
然后进入下一个 tick
往返 3 问 · 1 个数值问题
当时的情况
一段话,和你真的会拿到的一样
灰度放量 35%。错误率从基线 0.3% 涨到 1.8%,已经持续 4 分钟。服务的 SLO 是错误率不超过 1%。完整回滚需要 90 秒。
要判断的事
一次问完,回来的是选项和把握程度,不是一段还要再解析的文字
选一个现在应当怎么做?
继续放量暂停扩量,再观察几分钟立刻回滚以上都不合适
是 / 否是否已经违反 SLO?
打个档事故严重程度
轻微需要处理严重
要算的那个数
错误率是 SLO 的几倍
- 当前错误率1.8 %
- SLO 上限1.0 %
展开这一步
#0 = 1.8 % (当前错误率) #1 = 1.0 % (SLO 上限) n0 = DIV(#0, #1) result = @n0
「超了一点」和「超了 1.8 倍」触发的是不同的预案。而自动闸门要的是一个能跟阈值比大小的数,不是一句形容。
① 你的程序
状态一直在你这边,模型不持有任何东西
合法动作由你的代码生成,模型只在里面挑
一段话 + 选项
② 判断层 · Jett
3 个问题一次前向答完,不是问 3 次
回来的是选项 + 把握程度,不用再解析文字
② 数值 · Jett(与判断同一次请求)
需要的那个数随判断一起回来
精确值,带单位,可以逐位核对
答案 + 那个数
③ 你的程序
执行动作,世界更新
然后进入下一个 tick
往返 3 问 · 1 个数值问题
接进你的系统
下面就是这一页真正发出去的东西。把 state 换成你的场景、criteria 换成你的动作集, 它就是你的了。
① 判断层 —— 一次请求,3 个问题一起问
POST /v1/systemone
{
"model": "memorylake-c1",
"state": "灰度放量 35%。错误率从基线 0.3% 涨到 1.8%,已经持续 4 分钟。服务的 SLO 是错误率不超过 1%。完整回滚需要 90 秒。",
"questions": {
"action": {
"type": "choice",
"instructions": "现在应当怎么做?",
"criteria": {
"proceed": "继续放量",
"hold": "暂停扩量,再观察几分钟",
"rollback": "立刻回滚",
"other": "以上都不合适"
}
},
"slo_breached": {
"type": "noul",
"instructions": "是否已经违反 SLO?"
},
"severity": {
"type": "score",
"instructions": "事故严重程度",
"criteria": [
"轻微",
"需要处理",
"严重"
]
}
}
}回来的是 {answers: {key: {value, probs}}} ——不用再写一个解析器去猜模型想说什么, 也不用为「它这次多说了一句」写兜底。
② 需要的那个数
"错误率是 SLO 的几倍": {
"type": "number",
"unit": "x"
}
→ { "value": ..., "unit": ..., "exact": true }数值问题和其它问题写在同一个 questions 里, 一次请求一起答完。返回的 exact: true 表示 这个值可以直接拿去跟阈值比大小。