GPT-Load 聚合分组功能beta版上线,用户可抢先体验
GPT-Load 聚合分组功能现已上线,目前处于beta测试阶段。这个功能允许用户通过一个代理入口请求到多个分组,并且可以自定义子分组的权重。不过,子分组必须满足一些规则,比如渠道类型必须一致,测试路径也必须一致。此外,模型重定向功能尚未完成,因此在聚合不同模型时可能会出现404错误。要更新到beta版本,需要将镜像名称从latest改为beta,然后拉取镜像并重启服务。这个新功能对于用户来说是一个重要的更新,尽管目前还处于测试阶段,但已经显示出其潜力。用户在体验新功能的同时,也鼓励提供反馈以帮助改进。更多详情和讨论可以在的论坛中找到。
评论已关闭