开发中遇到的奇怪网络问题及解决过程

在开发一个基于 litellm 封装的 LLM Client 过程中，遇到了一个棘手的 bug。该 Client 无法正常获取部署的 NewAPI 服务的模型列表。经过一系列的调试，发现调用 API 出现问题，但单独使用 litellm 的 API 也同样失败。API 设计的问题，如 get_valid_models API 在出现连接问题时返回空数组，误导了初步的调试方向。进一步的调试显示，问题出在网络连接上，具体表现为连接被远程主机强制关闭。尝试了多种解决方案，包括关闭代理软件、调整 cloudflare 设置、使用 Python 的 curl_ffi 直接请求等，但问题依旧。最终，在关闭 flclash 并使用 clash verge rev 后，问题神奇地解决了。这个经历不仅揭示了网络环境对 API 调用的影响，也展示了在开发过程中遇到的问题有时会自行消失的奇特现象。