fix(#2180 P0): VLM/LLM timeout 调大，适配方舟视觉API 24-38s响应 #2180

Merged

xiaoxia merged 2 commits from fix/vlm-timeout-tune into develop 2026-10-04 18:36:02 +08:00

Conversation 2 Commits 2 Files Changed 2

+9 -9

xiaoxia commented 2026-10-04 18:26:32 +08:00

Owner

Copy Link

Copy Source

背景

P0：staging VLM/文案全链路耗时超标，VLM预期15s实际129s，intent预期6s实际75s，script预期20s实际78s。

根因

运维从 staging 服务器直连 curl 方舟 VLM 视觉 API 实测：HTTP 200 但耗时 24.2s（x-envoy-upstream-service-time: 23357ms），文本API 3~6s正常。

代码中 timeout 设置：

• VLM lite vision_timeout=15s → 每次15s被截断→3次重试全超时（46.6s）→ lite降级pro又3次超时（76.7s）→ 总计123s
• VLM pro fallback timeout=25s，同因3次重试全超时
• 文案fast-first/fast-retry/pro-fallback timeout=25/25/40s，同样被截断→三级重试叠加351s

决定性证据：每次retry elapsed时间精确等于timeout值（15.1s/25.1s/40.1s），典型客户端read timeout先于服务端返回。

修改

调用	原timeout	新timeout	依据
VLM lite	15s	45s	方舟VLM实测24-38s，45s给一次重试余量
VLM pro fallback	25s	60s	pro实测25-38s，60s余量
意图解析(chat)	25s	45s	文本API高峰期6-8s，45s余量
文案fast-first/fast-retry	25s	45s	同上
文案pro-fallback	40s	60s	pro模型max_tokens=3500输出较长，60s余量
文案审核	20s	30s	对齐文本API
doubao_timeout默认	30s	45s	基础兜底

验证

部署后新job应看到：

• VLM单次调用24-45s返回（非15s截断）
• tokens_out有正常输出（不再None）
• portrait_prompt返回人物描述而非"无人像"
• t2i信任链预热触发

## 背景 P0：staging VLM/文案全链路耗时超标，VLM预期15s实际129s，intent预期6s实际75s，script预期20s实际78s。 ## 根因 运维从 staging 服务器直连 curl 方舟 VLM 视觉 API 实测：HTTP 200 但耗时 **24.2s**（`x-envoy-upstream-service-time: 23357ms`），文本API 3~6s正常。 代码中 timeout 设置： - VLM lite `vision_timeout=15s` → 每次15s被截断→3次重试全超时（46.6s）→ lite降级pro又3次超时（76.7s）→ 总计123s - VLM pro fallback timeout=25s，同因3次重试全超时 - 文案fast-first/fast-retry/pro-fallback timeout=25/25/40s，同样被截断→三级重试叠加351s 决定性证据：每次retry elapsed时间**精确等于timeout值**（15.1s/25.1s/40.1s），典型客户端read timeout先于服务端返回。 ## 修改 | 调用 | 原timeout | 新timeout | 依据 | |---|---|---|---| | VLM lite | 15s | **45s** | 方舟VLM实测24-38s，45s给一次重试余量 | | VLM pro fallback | 25s | **60s** | pro实测25-38s，60s余量 | | 意图解析(chat) | 25s | **45s** | 文本API高峰期6-8s，45s余量 | | 文案fast-first/fast-retry | 25s | **45s** | 同上 | | 文案pro-fallback | 40s | **60s** | pro模型max_tokens=3500输出较长，60s余量 | | 文案审核 | 20s | **30s** | 对齐文本API | | doubao_timeout默认 | 30s | **45s** | 基础兜底 | ## 验证 部署后新job应看到： - VLM单次调用24-45s返回（非15s截断） - tokens_out有正常输出（不再None） - portrait_prompt返回人物描述而非"无人像" - t2i信任链预热触发

xiaoxia added 1 commit 2026-10-04 18:26:33 +08:00

fix(#2180 P0): VLM/LLM timeout 调大，适配方舟视觉API 24-38s 响应 ... c7aed2c152

- VLM lite timeout: 15s → 45s（方舟VLM实测服务端处理24-38s，原15s必超时3次重试全挂）
- VLM pro fallback timeout: 25s → 60s
- 意图解析 chat timeout: 25s → 45s
- 文案fast-first/fast-retry timeout: 25s → 45s
- 文案pro-fallback timeout: 40s → 60s
- 文案审核timeout: 20s → 30s
- doubao_timeout默认: 30s → 45s

根因：方舟VLM视觉API从staging服务器实测响应24-38s(x-envoy-upstream-service-time:23357ms)，
原timeout=15s每次都被截断，3次重试全超时→lite降级pro又3次超时→总123s。
文案三级重试同理叠加到351s。调大timeout后单次调用应能在45s内返回。

gitea-actions bot commented 2026-10-04 18:28:15 +08:00

Copy Link

Copy Source

🚀 预览环境已部署

项目	详情
PR号	#2180
预览链接	https://pr-2180.preview.xiaoxiajianji.com
API环境	staging

💡 预览环境使用 staging API 数据，请勿在预览环境中操作重要数据。

🔄 每次提交新代码后预览环境会自动更新。

🗑️ PR 关闭或合并后，预览环境会自动清理。

🚀 **预览环境已部署** | 项目 | 详情 | |------|------| | PR号 | #2180 | | 预览链接 | [https://pr-2180.preview.xiaoxiajianji.com](https://pr-2180.preview.xiaoxiajianji.com) | | API环境 | staging | > 💡 预览环境使用 staging API 数据，请勿在预览环境中操作重要数据。 > > 🔄 每次提交新代码后预览环境会自动更新。 > > 🗑️ PR 关闭或合并后，预览环境会自动清理。

xiaoxia referenced this issue from a commit 2026-10-04 18:34:14 +08:00

fix(#2180): 全局 max_retries 2→1，避免重试叠加到351s

xiaoxia added 1 commit 2026-10-04 18:34:14 +08:00

fix(#2180): 全局 max_retries 2→1，避免重试叠加到351s ... 42dd5fabc6

原配置max_retries=2（即3次尝试），lite失败→3次超时→pro降级→3次超时，
VLM最坏46.6+76.7=123s，文案三级重试最坏351s。
timeout调大到45/60s后，方舟API正常情况下1次调用就能在24-38s内返回，
max_retries=1（即2次尝试）足够防偶发网络抖动。
最坏情况VLM总耗时：45+45+60+60=210s，比351s改善40%。

xiaoxia merged commit 0f592add29 into develop 2026-10-04 18:36:02 +08:00

xiaoxia referenced this issue from a commit 2026-10-04 18:36:03 +08:00

fix(#2180 P0): VLM/LLM timeout 调大，适配方舟视觉API 24-38s 响应

gitea-actions bot commented 2026-10-04 18:36:53 +08:00

Copy Link

Copy Source

🗑️ 预览环境已清理

PR #2180 已关闭或合并，对应的预览环境已被清理。

如有需要，可以重新打开 PR 来重新生成预览环境。

🗑️ **预览环境已清理** PR #2180 已关闭或合并，对应的预览环境已被清理。 > 如有需要，可以重新打开 PR 来重新生成预览环境。

xiaoxia referenced this issue from a commit 2026-10-04 19:24:18 +08:00

fix(viral_video): #2040 rebase 后清理F841死代码+保留#2180 timeout修复

xiaoxia referenced this pull request 2026-10-04 19:32:39 +08:00

fix(#2181 P0): 默认关闭VLM lite + 修复单测timeout assertion #2181

xiaoxia referenced this issue from a commit 2026-10-04 19:54:57 +08:00

fix(test): #2180 max_retries 默认1，assertion 2→1

xiaoxia referenced this issue from a commit 2026-10-04 19:55:00 +08:00

fix(test): #2180 max_retries 默认1，assertion 2→1

xiaoxia referenced this issue from a commit 2026-10-04 20:38:48 +08:00

fix(viral_video): #2040 rebase 后清理F841死代码+保留#2180 timeout修复

xiaoxia referenced this issue from a commit 2026-10-04 21:16:11 +08:00

fix(viral_video): #2040 rebase 后清理F841死代码+保留#2180 timeout修复

Sign in to join this conversation.

Reviewers

No Reviewers

Labels

Clear labels

architecture

架构设计

backend

后端相关

blocked

阻塞中

bug

Bug修复

ci-bug

CI本身的bug

ci-optimization

CI优化类任务

ci-pipeline

CI流水线/workflow相关

cleanup

代码清理

devops

运维/部署/CI

documentation

文档相关

feature

新功能

frontend

前端相关

P0

阻塞性，必须立即处理

P1

高优先级

P2

中优先级

P3

低优先级/后考虑

question

需要讨论确认

ready

PR CI通过，可合并

refactor

代码重构

No Label

Milestone

No items

No Milestone

Projects

Clear projects

No project

Assignees

Clear assignees

auto-approve-bot frontend-dev xiaoxia

No Assignees

2 Participants

Notifications

Subscribe

Due Date

No due date set.

Dependencies

No dependencies set.

Reference: xiaoxia/xiaoxia-saas#2180