fix(vision): #2204 lite VLM关闭thinking模式，响应从10-12s降到<3s #2204

Merged

xiaoxia merged 1 commits from fix/vision-v2-disable-thinking into develop 2026-10-05 18:13:09 +08:00

Conversation 2 Commits 1 Files Changed 2

+69 -25

xiaoxia commented 2026-10-05 18:11:54 +08:00

Owner

Copy Link

Copy Source

根因定位

staging直连诊断发现：doubao-seed-2-1-lite-260915 是思考模型，单次调用产生 ~520 reasoning_tokens，耗时10-12s，导致fast路径（原设6s/8s超时）必超时，全部走到pro兜底(27-29s)，3图53s/8图50s严重超标。

修复

1. vlm_fast_json.py：直接用 httpx 发最小 payload（绕过 ai_client 包装，完全控制请求参数），显式设置 thinking={type:disabled} + reasoning_effort=low 关闭思考链。若API返回400不支持thinking参数，自动降级重试一次（去掉thinking字段）。
2. fast_path.py：超时恢复合理值——lite JSON 8s、OCR 6s、fast总超时8s（关闭thinking后预计<3s返回，余量充足）。
3. vlm_fallback.py保持单次pro调用（兜底场景对延迟不敏感，45s足够）。

预期

3图<10s、8图<15s目标可达。需要staging验证实际效果。

## 根因定位 staging直连诊断发现：doubao-seed-2-1-lite-260915 是思考模型，单次调用产生 ~520 reasoning_tokens，耗时10-12s，导致fast路径（原设6s/8s超时）必超时，全部走到pro兜底(27-29s)，3图53s/8图50s严重超标。 ## 修复 1. **vlm_fast_json.py**：直接用 httpx 发最小 payload（绕过 ai_client 包装，完全控制请求参数），显式设置 `thinking={type:disabled}` + `reasoning_effort=low` 关闭思考链。若API返回400不支持thinking参数，自动降级重试一次（去掉thinking字段）。 2. **fast_path.py**：超时恢复合理值——lite JSON 8s、OCR 6s、fast总超时8s（关闭thinking后预计<3s返回，余量充足）。 3. vlm_fallback.py保持单次pro调用（兜底场景对延迟不敏感，45s足够）。 ## 预期 3图<10s、8图<15s目标可达。需要staging验证实际效果。

xiaoxia added 1 commit 2026-10-05 18:11:54 +08:00

fix(vision): #2204 lite VLM关闭thinking模式，响应从10-12s降到<3s ... 702f09e6b7

根因定位：staging直连测试发现 doubao-seed-2-1-lite-260915 是思考模型，
单次调用产生~520 reasoning_tokens，耗时10-12s，导致fast路径必超时。

修复：
1. vlm_fast_json.py 直接用 httpx 发最小 payload（不走 ai_client 包装），
   显式设置 thinking={"type":"disabled"} + reasoning_effort="low" 关闭思考链，
   期望响应降至 <3s；若API不支持thinking参数返回400，自动降级重试一次。
2. 超时恢复合理值：lite JSON 8s、OCR 6s、fast总超时8s（关闭thinking后预计<3s，余量充足）。
3. vlm_fallback.py 保持单次pro调用，pro走原ai_client路径（兜底场景对延迟不敏感，45s足够）。

预期：3图<10s/8图<15s目标可达。

xiaoxia merged commit fb0e4989cd into develop 2026-10-05 18:13:09 +08:00

xiaoxia referenced this issue from a commit 2026-10-05 18:13:10 +08:00

fix(vision): #2204 lite VLM关闭thinking模式，响应从10-12s降到<3s

gitea-actions bot commented 2026-10-05 18:13:35 +08:00

Copy Link

Copy Source

🚀 预览环境已部署

项目	详情
PR号	#2204
预览链接	https://pr-2204.preview.xiaoxiajianji.com
API环境	staging

💡 预览环境使用 staging API 数据，请勿在预览环境中操作重要数据。

🔄 每次提交新代码后预览环境会自动更新。

🗑️ PR 关闭或合并后，预览环境会自动清理。

🚀 **预览环境已部署** | 项目 | 详情 | |------|------| | PR号 | #2204 | | 预览链接 | [https://pr-2204.preview.xiaoxiajianji.com](https://pr-2204.preview.xiaoxiajianji.com) | | API环境 | staging | > 💡 预览环境使用 staging API 数据，请勿在预览环境中操作重要数据。 > > 🔄 每次提交新代码后预览环境会自动更新。 > > 🗑️ PR 关闭或合并后，预览环境会自动清理。

gitea-actions bot commented 2026-10-05 18:13:46 +08:00

Copy Link

Copy Source

🗑️ 预览环境已清理

PR #2204 已关闭或合并，对应的预览环境已被清理。

如有需要，可以重新打开 PR 来重新生成预览环境。

🗑️ **预览环境已清理** PR #2204 已关闭或合并，对应的预览环境已被清理。 > 如有需要，可以重新打开 PR 来重新生成预览环境。

Sign in to join this conversation.

Reviewers

No Reviewers

Labels

Clear labels

architecture

架构设计

backend

后端相关

blocked

阻塞中

bug

Bug修复

ci-bug

CI本身的bug

ci-optimization

CI优化类任务

ci-pipeline

CI流水线/workflow相关

cleanup

代码清理

devops

运维/部署/CI

documentation

文档相关

feature

新功能

frontend

前端相关

P0

阻塞性，必须立即处理

P1

高优先级

P2

中优先级

P3

低优先级/后考虑

question

需要讨论确认

ready

PR CI通过，可合并

refactor

代码重构

No Label

Milestone

No items

No Milestone

Projects

Clear projects

No project

Assignees

Clear assignees

auto-approve-bot frontend-dev xiaoxia

No Assignees

2 Participants

Notifications

Subscribe

Due Date

No due date set.

Dependencies

No dependencies set.

Reference: xiaoxia/xiaoxia-saas#2204