Octopus:个人用户的美观优雅的 LLM API 聚合服务
Octopus 是一款专为个人用户设计的美观且优雅的 LLM API 聚合服务。它支持多种协议互转,包括 OpenAI Chat、OpenAI Responses 和 Anthropic,并且能够进行用量统计。Octopus 提供桌面端和移动端应用,使得用户可以在不同设备上方便地使用该服务。
功能亮点
- 支持三种协议互转,使得用户可以在不同服务之间无缝切换。
- 一套配置即可适应不同客户端,无需反复更新 BASEURL 和 MODEL_NAME。
- 多渠道负载均衡,确保服务的高可用性和稳定性。
- 用量统计,帮助用户更好地掌握资源消耗情况。
特别功能
- 统一的模型名称,CLI 客户端无需重启即可热重载渠道和模型。
- 自动从上游更新模型价格,保证用户始终获得最优价格。
开源地址
Octopus 是一款强大的 LLM API 聚合服务,它为个人用户提供了便捷、高效的服务体验。无论是桌面端还是移动端,Octopus 都能提供稳定、可靠的服务。如果你正在寻找一款优秀的 LLM API 聚合服务,那么 Octopus 绝对是你的不二之选。
评论已关闭