开源 PrismGuard:AI API 内容审核与格式转换的智能中间件
PrismGuard 是一个开源的智能中间件,专为 AI API 设计,用于扩展 NewApi 或 Veloera 的功能。它最初是为了保护官方的 Claude 账号池而创建,以精细控制请求的网关。随着需求的演进,它发展成为一个功能完备的中间件,其核心设计基于非侵入式的透明代理。接入过程仅需修改 base_url,而内容风控、协议转换、异常流式响应的拦截等复杂逻辑都被封装在 PrismGuard 的配置层面中,实现统一治理。
主要功能:
- 分层智能风控:结合关键词匹配、本地轻量级模型(FastText/BoW)和 LLM 复核,实现高效且灵活的内容审核。
- 异构协议转换:支持 OpenAI Chat、Claude、Gemini 以及 OpenAI Responses 格式的互相转换,并能在代理层直接拒绝包含工具调用的请求,控制模型行为。
- 流式响应的防空回复机制:通过配置
delay_stream_header,在缓冲区内校验内容有效性,避免客户端收到空包。 - 零代码侵入集成:通过标准化的
proxy_entry入口,无缝接入现有聚合网关或官方客户端,无需改动业务侧代码。
智能审核流程:
- 缓存优先:利用 LRU 缓存机制复用已判定文本的结果。
- 采样与数据保鲜:通过强制采样机制,确保数据集的新鲜性,为模型迭代提供养料。
- 基于置信度的分级裁决:将本地模型的预测结果分为安全区、拒绝区和灰色区,灰色区流量由 LLM 复核。
- 数据闭环与自动进化:LLM 复核结果存入 SQLite 的
history.db,自动进入本地模型的重训练流程,形成正向反馈循环。
PrismGuard 通过这些功能,为 AI API 提供了一个高效、灵活且自动化的内容审核和管理解决方案。
评论已关闭