Octopus 是一款专为个人用户设计的美观且优雅的 LLM API 聚合服务。它支持多种协议互转,包括 OpenAI Chat、OpenAI Responses 和 Anthropic,并且能够进行用量统计。Octopus 提供桌面端和移动端应用,使得用户可以在不同设备上方便地使用该服务。

功能亮点

  • 支持三种协议互转,使得用户可以在不同服务之间无缝切换。
  • 一套配置即可适应不同客户端,无需反复更新 BASEURL 和 MODEL_NAME。
  • 多渠道负载均衡,确保服务的高可用性和稳定性。
  • 用量统计,帮助用户更好地掌握资源消耗情况。

特别功能

  • 统一的模型名称,CLI 客户端无需重启即可热重载渠道和模型。
  • 自动从上游更新模型价格,保证用户始终获得最优价格。

开源地址

GitHub - bestruirui/octopus

Octopus 是一款强大的 LLM API 聚合服务,它为个人用户提供了便捷、高效的服务体验。无论是桌面端还是移动端,Octopus 都能提供稳定、可靠的服务。如果你正在寻找一款优秀的 LLM API 聚合服务,那么 Octopus 绝对是你的不二之选。

标签: none

评论已关闭