Open WebUI插件：如何指定每个用户的上下文长度

在使用 Open WebUI (OWI) 时，我们经常需要为不同的用户分配不同的上下文长度。例如，某些用户可能倾向于在同一个话题下持续提问，而不是每次都开启新话题，这会导致上下文长度变得非常长，每次消耗大量的 token 数，可能达到十几万。为了解决这个问题，之前我们使用官方提供的 Context Clip Filter 函数来限制上下文长度为 8 条信息。然而，对于熟练使用 AI 的用户来说，这个长度可能不够用。由于官方函数的局限性，我们不得不寻找新的解决方案。我们尝试开发新的函数，初衷是根据不同的权限组来设置不同的上下文长度，但发现 OWI 后端在传递用户信息时并不包含组别信息。因此，我们只能根据用户 ID 或 email 地址来进行限制。这意味着我们需要为每个用户单独设置上下文长度，以确保他们能够获得最佳的交互体验。