📌 一句话摘要
宝玉分享了一个技巧:OpenAI Codex 的服务端上下文压缩效果很好,在 Pi 等第三方框架中默认不启用,但可以通过特定插件来开启。
📝 详细摘要
宝玉转述并推荐了 @kunchenguid 的发现:OpenAI 的 Codex 使用了服务端加密的上下文压缩技术,效果优于其他方案,使其能高效处理长任务。但在 Pi 等第三方框架中,该功能默认关闭,导致性能下降。好消息是,Pi 的扩展性很强,可以通过安装 @alexisgallagher 开发的插件来启用相同的服务端压缩,从而提升长任务性能。推文附带了相关基准测试链接,证实了该压缩技术的优越性。