feat(cloud-agent): 单步输出上限与秒级墙钟,超时/空输出可自恢复
画布 Agent 一轮要跑很多步模型调用,此前只有"按任务类型的分钟级超时":某一步卡住只能等 整轮判死;更根本的是每一步请求根本不带输出上限,不写 max_tokens 时上游按剩余上下文放行, 思考模型可以把单步拖到几分钟,且偶发把整个输出预算花在推理上、正文与工具调用皆空。 - 新增运行时策略 task.agentStepTimeoutSeconds 与 task.agentStepMaxOutputTokens:秒级墙钟 与单步输出上限,都支持环境变量给部署级默认值、管理端热更新;旧配置 JSON 缺字段按默认值 回填,无需数据迁移。 - 单步墙钟到点中止这一步时不再把整轮判死:以可识别标记记为该步失败,运行期关掉上游思考 重试同一步一次(model_failure_recovered / step_timeout_retried),重试仍超时才以可读原因 (model_step_timeout)结束本轮。 - 空输出催办用尽后新增一级升级:关思考 + 放大输出预算重试同一步 (model_failure_recovered / empty_output_escalated),而不是直接判死。放大档在原值上翻倍 并以 131072 封顶,策略值为 0 时用 32768 兜底,让重试仍然有界。 - 输出上限真正下发到上游:textOptions.maxOutputTokens 成为任务信封字段,Agent 的两条请求 路径(内置协议与声明式协议)组装请求体时写入 max_tokens / max_output_tokens,与既有的 input.MaxOutputTokens 取较小值,避免策略上限超过模型声明的物理上限。 - task_worker:执行时限改用带画布 Agent 分支的 taskExecutionTimeout;执行时限到点本身不再 被当成"租约丢失",否则任务会停在 running 等租约过期后被反复重跑(实测一次调用被重跑成 三次上游请求)。续租仍用上游已合入的"不继承父 context 取消"的独立 context。
This commit is contained in:
1 parent
0b285f66e8
commit
9f37065e47
11 files changed
+609
-11
No files matched your search
@@ -26,6 +26,30 @@ const (
|
||||
maxRuntimeTimeoutMinutes = 9_999
|
||||
)
|
||||
|
||||
// 画布 Agent 单步的输出上限与执行时限。上限是"每次模型调用"的边界(思考 + 正文 + 工具参数),
|
||||
// 时限是"这一次调用最多等多久"的墙钟;两者一起决定单步最坏耗时。0 在两个口径下都是"该边界不生效":
|
||||
// 上限为 0 表示不限制输出(只由执行时限兜底),时限为 0 表示沿用文本任务超时。
|
||||
const (
|
||||
MinRuntimeAgentStepOutputTokens = 256
|
||||
MaxRuntimeAgentStepOutputTokens = 131_072
|
||||
DefaultRuntimeAgentStepOutputTokens = 16_384
|
||||
MinRuntimeAgentStepTimeoutSeconds = 30
|
||||
MaxRuntimeAgentStepTimeoutSeconds = 3_600
|
||||
DefaultRuntimeAgentStepTimeout = 0
|
||||
)
|
||||
|
||||
// agentStepMaxOutputTokensDefault 读取部署级覆盖并按同一套范围夹取;环境变量无法表达"不限制"(0),
|
||||
// 那个档位只在管理端配置里设置。
|
||||
func agentStepMaxOutputTokensDefault() int {
|
||||
value := envInt("CANVAS_AGENT_STEP_MAX_OUTPUT_TOKENS", DefaultRuntimeAgentStepOutputTokens)
|
||||
return min(max(value, MinRuntimeAgentStepOutputTokens), MaxRuntimeAgentStepOutputTokens)
|
||||
}
|
||||
|
||||
func agentStepTimeoutSecondsDefault() int {
|
||||
value := envInt("CANVAS_AGENT_STEP_TIMEOUT_SECONDS", DefaultRuntimeAgentStepTimeout)
|
||||
return min(value, MaxRuntimeAgentStepTimeoutSeconds)
|
||||
}
|
||||
|
||||
type RuntimeResourcePolicy struct {
|
||||
ResourceUploadMB int64 `json:"resourceUploadMB"`
|
||||
GeneratedFileMB int64 `json:"generatedFileMB"`
|
||||
@@ -50,6 +74,11 @@ type RuntimeTaskPolicy struct {
|
||||
VideoTimeoutMinutes int `json:"videoTimeoutMinutes"`
|
||||
StoryboardTimeoutMinutes int `json:"storyboardTimeoutMinutes"`
|
||||
DefaultTimeoutMinutes int `json:"defaultTimeoutMinutes"`
|
||||
// AgentStepMaxOutputTokens 是画布 Agent 单步模型调用的输出上限(思考 + 正文 + 工具调用参数)。
|
||||
// 0 表示不限制输出,此时单步最坏耗时只由 AgentStepTimeoutSeconds 兜底。
|
||||
AgentStepMaxOutputTokens int `json:"agentStepMaxOutputTokens"`
|
||||
// AgentStepTimeoutSeconds 是画布 Agent 单步模型调用的秒级墙钟;0 表示沿用文本任务超时。
|
||||
AgentStepTimeoutSeconds int `json:"agentStepTimeoutSeconds"`
|
||||
}
|
||||
|
||||
type RuntimeRequestPolicy struct {
|
||||
@@ -123,6 +152,8 @@ func DefaultRuntimePolicy() RuntimePolicySetting {
|
||||
VideoTimeoutMinutes: 60,
|
||||
StoryboardTimeoutMinutes: 20,
|
||||
DefaultTimeoutMinutes: 10,
|
||||
AgentStepMaxOutputTokens: agentStepMaxOutputTokensDefault(),
|
||||
AgentStepTimeoutSeconds: agentStepTimeoutSecondsDefault(),
|
||||
},
|
||||
Request: RuntimeRequestPolicy{
|
||||
TaskCreatePerMinute: 30,
|
||||
@@ -162,6 +193,7 @@ func selfUseRuntimePolicy() RuntimePolicySetting {
|
||||
ImageTimeoutMinutes: maxRuntimeTimeoutMinutes, TextTimeoutMinutes: maxRuntimeTimeoutMinutes,
|
||||
AudioTimeoutMinutes: maxRuntimeTimeoutMinutes, VideoTimeoutMinutes: maxRuntimeTimeoutMinutes,
|
||||
StoryboardTimeoutMinutes: maxRuntimeTimeoutMinutes, DefaultTimeoutMinutes: maxRuntimeTimeoutMinutes,
|
||||
AgentStepMaxOutputTokens: MaxRuntimeAgentStepOutputTokens, AgentStepTimeoutSeconds: MaxRuntimeAgentStepTimeoutSeconds,
|
||||
}
|
||||
value.Request = RuntimeRequestPolicy{
|
||||
TaskCreatePerMinute: maxRuntimeRate,
|
||||
@@ -345,6 +377,12 @@ func validateRuntimePolicy(value RuntimePolicySetting) error {
|
||||
return kernel.BadAuthRequest(fmt.Sprintf("%s必须是 1-%d 分钟的整数", label, maxRuntimeTimeoutMinutes))
|
||||
}
|
||||
}
|
||||
if task.AgentStepMaxOutputTokens != 0 && (task.AgentStepMaxOutputTokens < MinRuntimeAgentStepOutputTokens || task.AgentStepMaxOutputTokens > MaxRuntimeAgentStepOutputTokens) {
|
||||
return kernel.BadAuthRequest(fmt.Sprintf("Agent 单步输出上限必须是 0 或 %d-%d 的整数 (0 表示不限制)", MinRuntimeAgentStepOutputTokens, MaxRuntimeAgentStepOutputTokens))
|
||||
}
|
||||
if task.AgentStepTimeoutSeconds != 0 && (task.AgentStepTimeoutSeconds < MinRuntimeAgentStepTimeoutSeconds || task.AgentStepTimeoutSeconds > MaxRuntimeAgentStepTimeoutSeconds) {
|
||||
return kernel.BadAuthRequest(fmt.Sprintf("Agent 单步超时必须是 0 或 %d-%d 秒的整数 (0 表示沿用文本任务超时)", MinRuntimeAgentStepTimeoutSeconds, MaxRuntimeAgentStepTimeoutSeconds))
|
||||
}
|
||||
request := value.Request
|
||||
for label, item := range map[string]int{
|
||||
"任务创建频控": request.TaskCreatePerMinute,
|
||||
|
||||
Reference in new issue
Block a user