Claude API工具调用非流式处理现象探讨
Claude API 的工具调用似乎并非真正的流式处理。经过测试,包括 Azure、Claude Code 逆向和 Claude Console 官方API,工具调用的输出都显示为等待较长时间后一次性全部输出。测试场景中,当向AI请求创建一个较大的md文档时,API的流处理会在工具调用前卡住,直到文件内容完全输出后,客户端才会在极短的时间内收到工具的流式响应。这一现象在论坛上已有讨论,有用户指出此问题,并提供了相关讨论链接供进一步了解。
Claude API 的工具调用似乎并非真正的流式处理。经过测试,包括 Azure、Claude Code 逆向和 Claude Console 官方API,工具调用的输出都显示为等待较长时间后一次性全部输出。测试场景中,当向AI请求创建一个较大的md文档时,API的流处理会在工具调用前卡住,直到文件内容完全输出后,客户端才会在极短的时间内收到工具的流式响应。这一现象在论坛上已有讨论,有用户指出此问题,并提供了相关讨论链接供进一步了解。
评论已关闭