Agent 工具权限设计：如何有效地整合用户配置和模型推测的 filter

在设计 Agent 中的数据查询工具，尤其是在 SaaS 产品中，允许用户配置预定义的 filter 是一个常见的需求。您提到的两种方案各有优劣。直接将预定义的 filter 放入提示词中虽然简单，但确实存在可靠性问题，因为大模型可能会误解或忽略这些 filter。而工具入参支持两个 filter 字段，即用户配置的和模型推测的，并在工具执行时进行合并，则提供了一种更为可靠和灵活的解决方案。这种方法允许用户明确指定他们想要的查询条件，同时允许模型根据上下文提供额外的过滤条件，从而提高查询的准确性和相关性。

业界通用的方案通常是结合这两种方法。例如，可以设计一个系统，其中用户配置的 filter 作为硬性规定，而模型推测的 filter 则作为建议。在执行查询时，系统首先应用用户配置的 filter，然后根据需要添加模型推测的 filter。这种方法既保证了用户意图的明确性，又充分利用了模型的智能性。此外，还可以通过来不断优化模型推测的 filter，从而提高系统的整体性能和用户体验。