CC编程中Token花费与缓存Token规则解析
关于CC编程时的Token花费和缓存Token的规则,当使用88code中转的付费按量付费套餐时,理论上,如果没有缓存机制,一个对话只会发送一次代码到大模型服务器进行处理。这意味着如果使用了88code中转服务,并且缓存机制有效,那么每次对话中只有当代码不同时才会重新缓存代码,理论上应该是每次对话只缓存一次。然而,根据问题描述,使用88code中转服务时,一次对话中可能会出现几个请求缓存3-4次Token的情况,甚至在一分钟内缓存多次。这可能是因为缓存机制的设计不够完善,或者存在某些特定情况导致缓存策略被频繁触发。这种情况可能会增加Token的使用量,从而增加成本。对于用户来说,这可能是一个未被预期的高成本因素。建议联系88code的客服或技术支持,了解具体的缓存机制和优化方案,以减少不必要的Token消耗。
评论已关闭