PrismGuard 是一个开源项目,专注于为 AI API 设计的智能中间件,旨在扩展 NewApi 或 Veloera 的功能。它最初是为了保护 Claude 账号池而创建,以实现精细控制请求的网关。随着需求的演进,它发展成为一个功能完善的智能中间件,其核心设计基于非侵入式的透明代理。接入过程仅需修改 base_url,而内容风控、协议转换和异常流式响应的拦截等复杂逻辑都被封装在 PrismGuard 的配置层面中,实现统一治理。

PrismGuard 的主要功能包括:

  1. 分层智能风控:结合关键词匹配和本地轻量级模型(FastText/BoW)处理请求,只有高风险或模糊的样本才会调用 LLM 复核,并内置定时重训练机制。
  2. 异构协议转换:支持 OpenAI Chat、Claude、Gemini 以及 OpenAI Responses 格式的互相转化,并能在代理层拒绝包含工具调用的请求,控制模型行为。
  3. 流式响应的防空回复机制:通过配置 delay_stream_header,在缓冲区内校验内容有效性,避免客户端收到空包。
  4. 零代码侵入集成:通过标准化的 proxy_entry 入口,无缝接入现有聚合网关或官方客户端,无需改动业务侧代码。

PrismGuard 的智能审核流程包括:缓存优先、采样与数据保鲜、基于置信度的分级裁决、数据闭环与自动进化。通过不断学习 LLM 的判断逻辑,本地模型会变得越来越聪明,形成一个自动化的正向反馈循环。

PrismGuard 的 GitHub 仓库位于 CassiopeiaCode/PrismGuard,用户可以通过该平台为项目做出贡献。

标签: none

评论已关闭