fix: 移除 fcIdx -1 偏移,修复并发工具调用撞键问题 - #5095
Conversation
当 Claude 直接以多个 tool_use 块起始(无文本前导,index=0)时, -1 偏移导致 index=0 和 index=1 同时映射到 fcIdx=0: - index=0 的工具 args 先流完,发出一次合法调用 ✓ - index=1 的 args 追加到同一 map 槽位,污染后为非法 JSON,该工具丢失 ✗ - index=2 以后的工具各自独占唯一 fcIdx,正常发出 ✓ 结果:每轮并发调用中第 2 个工具必然丢失, 模型收不到对应的工具结果后重试剩余工具, 产生雪球效应(10个→9个→8个...逐轮收缩)。 修复:直接使用 Claude 的 block index 作为 fcIdx,不做偏移。 fcIdx 仅作为本地 map 的 key,只需保证唯一性,无需从 0 开始。
|
No actionable comments were generated in the recent review. 🎉 ℹ️ Recent review info⚙️ Run configurationConfiguration used: Organization UI Review profile: CHILL Plan: Pro Run ID: 📒 Files selected for processing (1)
WalkthroughThe PR fixes a tool call index collision bug in Claude streaming responses where concurrent tool calls at index 0 would collide with clamped negative indices, causing arguments to be overwritten in the index map and tool calls to be filtered out. ChangesClaude Tool Call Index Fix
Estimated code review effort🎯 2 (Simple) | ⏱️ ~8 minutes Possibly related PRs
Suggested reviewers
Poem
🚥 Pre-merge checks | ✅ 4 | ❌ 1❌ Failed checks (1 warning)
✅ Passed checks (4 passed)
✏️ Tip: You can configure your own custom pre-merge checks in the settings. ✨ Finishing Touches🧪 Generate unit tests (beta)
Thanks for using CodeRabbit! It's free for OSS, and your support helps us grow. If you like it, consider giving us a shout-out. Comment |
当 Claude 直接以多个 tool_use 块起始(无文本前导,index=0)时, -1 偏移导致 index=0 和 index=1 同时映射到 fcIdx=0: - index=0 的工具 args 先流完,发出一次合法调用 ✓ - index=1 的 args 追加到同一 map 槽位,污染后为非法 JSON,该工具丢失 ✗ - index=2 以后的工具各自独占唯一 fcIdx,正常发出 ✓ 结果:每轮并发调用中第 2 个工具必然丢失, 模型收不到对应的工具结果后重试剩余工具, 产生雪球效应(10个→9个→8个...逐轮收缩)。 修复:直接使用 Claude 的 block index 作为 fcIdx,不做偏移。 fcIdx 仅作为本地 map 的 key,只需保证唯一性,无需从 0 开始。
当 Claude 直接以多个 tool_use 块起始(无文本前导,index=0)时, -1 偏移导致 index=0 和 index=1 同时映射到 fcIdx=0: - index=0 的工具 args 先流完,发出一次合法调用 ✓ - index=1 的 args 追加到同一 map 槽位,污染后为非法 JSON,该工具丢失 ✗ - index=2 以后的工具各自独占唯一 fcIdx,正常发出 ✓ 结果:每轮并发调用中第 2 个工具必然丢失, 模型收不到对应的工具结果后重试剩余工具, 产生雪球效应(10个→9个→8个...逐轮收缩)。 修复:直接使用 Claude 的 block index 作为 fcIdx,不做偏移。 fcIdx 仅作为本地 map 的 key,只需保证唯一性,无需从 0 开始。
当 Claude 以多个 tool_use 块起始(无文本前导,index=0)时,-1 偏移导致 index=0 和 index=1 同时映射到 fcIdx=0,第二个工具的 args 污染同一 map 槽位后 变为非法 JSON 而丢失。直接使用 Claude block index 作为 fcIdx(仅需唯一性)。 upstream ff06067 QuantumNous#5095
当 Claude 直接以多个 tool_use 块起始(无文本前导,index=0)时, -1 偏移导致 index=0 和 index=1 同时映射到 fcIdx=0: - index=0 的工具 args 先流完,发出一次合法调用 ✓ - index=1 的 args 追加到同一 map 槽位,污染后为非法 JSON,该工具丢失 ✗ - index=2 以后的工具各自独占唯一 fcIdx,正常发出 ✓ 结果:每轮并发调用中第 2 个工具必然丢失, 模型收不到对应的工具结果后重试剩余工具, 产生雪球效应(10个→9个→8个...逐轮收缩)。 修复:直接使用 Claude 的 block index 作为 fcIdx,不做偏移。 fcIdx 仅作为本地 map 的 key,只需保证唯一性,无需从 0 开始。
当 Claude 直接以多个 tool_use 块起始(无文本前导,index=0)时, -1 偏移导致 index=0 和 index=1 同时映射到 fcIdx=0: - index=0 的工具 args 先流完,发出一次合法调用 ✓ - index=1 的 args 追加到同一 map 槽位,污染后为非法 JSON,该工具丢失 ✗ - index=2 以后的工具各自独占唯一 fcIdx,正常发出 ✓ 结果:每轮并发调用中第 2 个工具必然丢失, 模型收不到对应的工具结果后重试剩余工具, 产生雪球效应(10个→9个→8个...逐轮收缩)。 修复:直接使用 Claude 的 block index 作为 fcIdx,不做偏移。 fcIdx 仅作为本地 map 的 key,只需保证唯一性,无需从 0 开始。
当 Claude 直接以多个 tool_use 块起始(无文本前导,index=0)时, -1 偏移导致 index=0 和 index=1 同时映射到 fcIdx=0: - index=0 的工具 args 先流完,发出一次合法调用 ✓ - index=1 的 args 追加到同一 map 槽位,污染后为非法 JSON,该工具丢失 ✗ - index=2 以后的工具各自独占唯一 fcIdx,正常发出 ✓ 结果:每轮并发调用中第 2 个工具必然丢失, 模型收不到对应的工具结果后重试剩余工具, 产生雪球效应(10个→9个→8个...逐轮收缩)。 修复:直接使用 Claude 的 block index 作为 fcIdx,不做偏移。 fcIdx 仅作为本地 map 的 key,只需保证唯一性,无需从 0 开始。
dev 与 upstream 无共同祖先、不能 cherry-pick,按文件手工 port: - 502858d fix(QuantumNous#5543): tool 调用 arguments 为空时保留 tool_use 块 - 45cc95a fix(gemini): ToolConfig 加 IncludeServerSideToolInvocations 字段 - 8ca1033 fix: ReasoningContent/Reasoning 改 *string,修复空思考内容转发被静默丢弃 (并适配 dev 自研 openaicompat/responses_to_chat.go 的 *string 赋值) - 867d8ac fix(QuantumNous#5390): kimi-k2.6 温度归一化(import 冲突已解,去掉未用的 channelconstant) - ff06067 fix(QuantumNous#5095): 移除 fcIdx -1 偏移,修复并发工具调用撞键 go build ./... 与 go vet 均通过。 Co-Authored-By: Claude Opus 4.8 (1M context) <noreply@anthropic.com>
包含:QuantumNous#5543 tool_use / gemini 字段 / ReasoningContent *string / QuantumNous#5390 kimi 温度 / QuantumNous#5095 并发工具撞键 / aa56667 A 防上游 request-id 覆盖
当 Claude 直接以多个 tool_use 块起始(无文本前导,index=0)时, -1 偏移导致 index=0 和 index=1 同时映射到 fcIdx=0: - index=0 的工具 args 先流完,发出一次合法调用 ✓ - index=1 的 args 追加到同一 map 槽位,污染后为非法 JSON,该工具丢失 ✗ - index=2 以后的工具各自独占唯一 fcIdx,正常发出 ✓ 结果:每轮并发调用中第 2 个工具必然丢失, 模型收不到对应的工具结果后重试剩余工具, 产生雪球效应(10个→9个→8个...逐轮收缩)。 修复:直接使用 Claude 的 block index 作为 fcIdx,不做偏移。 fcIdx 仅作为本地 map 的 key,只需保证唯一性,无需从 0 开始。
当 Claude 直接以多个 tool_use 块起始(无文本前导,index=0)时, -1 偏移导致 index=0 和 index=1 同时映射到 fcIdx=0: - index=0 的工具 args 先流完,发出一次合法调用 ✓ - index=1 的 args 追加到同一 map 槽位,污染后为非法 JSON,该工具丢失 ✗ - index=2 以后的工具各自独占唯一 fcIdx,正常发出 ✓ 结果:每轮并发调用中第 2 个工具必然丢失, 模型收不到对应的工具结果后重试剩余工具, 产生雪球效应(10个→9个→8个...逐轮收缩)。 修复:直接使用 Claude 的 block index 作为 fcIdx,不做偏移。 fcIdx 仅作为本地 map 的 key,只需保证唯一性,无需从 0 开始。
当 Claude 直接以多个 tool_use 块起始(无文本前导,index=0)时,
-1 偏移导致 index=0 和 index=1 同时映射到 fcIdx=0:
结果:每轮并发调用中第 2 个工具必然丢失,
模型收不到对应的工具结果后重试剩余工具,
产生雪球效应(10个→9个→8个...逐轮收缩)。
修复:直接使用 Claude 的 block index 作为 fcIdx,不做偏移。
fcIdx 仅作为本地 map 的 key,只需保证唯一性,无需从 0 开始。
Important
📝 变更描述 / Description
(简述:做了什么?为什么这样改能生效?请基于你对代码逻辑的理解来写,避免粘贴未经整理的内容)
🚀 变更类型 / Type of change
🔗 关联任务 / Related Issue
✅ 提交前检查项 / Checklist
Bug fix,我已提交或关联对应 Issue,且不会将设计取舍、预期不一致或理解偏差直接归类为 bug。📸 运行证明 / Proof of Work
(请在此粘贴截图、关键日志或测试报告,以证明变更生效)
修复前(fcIdx -1 偏移,撞键):
⚠️ 预期 2 个并发调用,实际只收到 1 个
场景 2:并发工具调用(同时写两个文件)
模型: aws.claude-opus-4.6
收到 SSE chunk 共 2 个
其中包含 functionCall 的 chunk: 1 个
✅ functionCall[0]: name=write_file args={'content': 'AAA', 'path': 'a.txt'}
修复后(直接映射,无撞键):
场景 2:并发工具调用(同时写两个文件)
模型: aws.claude-opus-4.6
收到 SSE chunk 共 3 个
其中包含 functionCall 的 chunk: 2 个
✅ functionCall[0]: name=write_file args={'content': 'AAA', 'path': 'a.txt'}
✅ functionCall[1]: name=write_file args={'content': 'BBB', 'path': 'b.txt'}
✅ 全部通过
复现环境:
验证方法:
发送 streamGenerateContent 请求,要求模型同时调用两次 write_file,
统计收到的 functionCall 数量。
修复前:2 个并发工具调用只收到 1 个(index=1 工具丢失)。
修复后:2 个均正确到达。
Summary by CodeRabbit