为什么“你是什么模型”依然有效？

在人工智能领域，特别是大型语言模型（LLM）的使用中，一个常见的问题是关于如何识别和应对所谓的“黑号”或滥用行为。这里的“黑号”通常指的是那些被用于不正当目的的账户，比如用于恶意攻击、传播虚假信息等。关于“你是什么模型”这个问题依然有效的原因，可以从以下几个方面来分析：

技术伪装的难度：尽管各LLM厂商可能尝试通过在系统提示词中加入“用户端选择”的权重来隐藏模型的身份，但技术上的伪装并非易事。模型的底层架构和算法复杂，要完全伪装一个模型的类型和功能，需要大量的刻意训练和精细调整，这在实际操作中是非常困难和耗时的。
黑号的动机：黑号的使用者通常追求的是快速、大规模的影响力和破坏，而不是隐蔽性。因此，他们更倾向于明着使用，而不是花时间和资源去伪装。此外，一旦被识别为黑号，这些账户可能会被迅速封禁，因此没有必要进行复杂的伪装。
降本策略：对于降本而言，厂商通常会选择更加直接和高效的方式，比如优化算法、减少资源消耗等，而不是通过隐藏模型身份来达到目的。这种做法不仅能够快速见到效果，而且成本相对较低。

综上所述，尽管技术上存在伪装的可能性，但由于实际操作中的难度、黑号的动机以及降本策略等因素，“你是什么模型”这类问题依然能够有效地识别模型身份。