Codex超越Context长度限制的使用案例

Codex可以超过context length limit继续使用

背景：我在config.toml中设置了model_auto_compact_token_limit = 1000000000

当前session快跑完context，我就想试试能不能在258k后继续使用，发现是可以的。

等碰到上限或者出发auto compaction后来更新帖子

2 posts - 2

via - (author: KKY)

Invalid media: image

Codex是一种强大的文本生成工具，它能够处理大量的文本数据，并在超出预设的context长度限制时继续使用。在配置文件config.toml中，用户可以设置model_auto_compact_token_limit参数来定义这个长度限制。在这个例子中，用户将这个限制设置为了1000000000，即1亿个token。这意味着Codex能够处理非常长的文本序列。

用户在当前的session中测试了这一功能，当Codex接近这个长度限制时，用户发现它仍然能够继续处理更多的文本。这表明Codex具有很好的扩展性和灵活性，能够适应不同大小的文本处理需求。

用户计划在达到这个上限或者触发自动压缩机制时更新帖子，以确保文本数据能够得到持续的管理和维护。这种做法有助于保持文本数据的质量和效率，同时也能够确保用户能够充分利用Codex的功能。

总的来说，Codex的这种设计为用户提供了强大的文本处理能力，并允许他们在超出预设限制时继续使用，从而提高了文本处理的灵活性和效率。