接管压缩摘要的生成
保留 Pi 的切点、自行提供压缩摘要,或者取消一次手动 /compact——并看清什么能在下一个请求中存留。
压缩改变的是下一个模型请求由什么构建而成,永远不会改变会话文件所持有的东西。在 Pi 1.0.4 上,一个扩展可以通过 session_before_compact 提供摘要,而切点仍由 Pi 选择;每个条目都留在文件里,而在压缩之前往回导航会再次发送原始消息。
提供摘要,保留切点
这是 custom-summary.ts 的一个片段:它把 Pi 即将替换掉的消息序列化,把它们作为摘要返回,并回显 Pi 自己的 firstKeptEntryId。
pi.on("session_before_compact", async (event) => {
const { preparation } = event;
// preparation.messagesToSummarize : the messages that are about to be replaced
// preparation.previousSummary : the last compaction's summary, if any
// preparation.firstKeptEntryId : where the kept messages start
const serialized = serializeConversation(convertToLlm(preparation.messagesToSummarize));
return {
compaction: {
summary: `Custom summary of ${preparation.messagesToSummarize.length} message(s):\n${serialized.slice(0, 500)}`,
firstKeptEntryId: preparation.firstKeptEntryId,
tokensBefore: preparation.tokensBefore,
},
};
});改为取消
另一种有文档记载的结果,cancel-compaction.ts 的一个片段——干脆拒绝压缩。在被测试的会话上,它只停住一次手动 /compact:
pi.on("session_before_compact", async (event) => {
return event.reason === "manual" ? { cancel: true } : undefined;
});预期结果
下面所有行都是在持久化会话上已观察到的,这些会话运行在一个脚本化的 provider 下,其 keepRecentTokens 被调低,好让一段简短的对话有东西可摘要——证据是关于模型周围的机制,而不是一个真实模型:
| 发生了什么 | 断言的结果 |
|---|---|
带着摘要处理器调用 session.compact() |
一个 compaction 条目,带有扩展的摘要、保留下来的 firstKeptEntryId,以及 fromHook: true |
| 它之后的那次提示 | 最早的问题未被发送,最近的被保留,摘要以一条用户角色的消息发送 |
| 之前/之后的消息数量 | 不变——每个 message 条目仍被存储 |
七个预算,keepRecentTokens 50–2500 |
被保留的范围从不在一个工具结果处开始;每个结果都与它的调用待在一起 |
| 压缩之后的请求 | 仍带着一条声明了 bash 的 system 消息 |
带着取消处理器执行手动 /compact |
被拒绝;条目数量不变 |
机制与局限
有文档记载: 导出的声明定义了 session_before_compact、compaction 返回形状(summary、firstKeptEntryId、tokensBefore、fromHook),以及绝不在工具结果处下刀的规则。触发器是第 4 章的预留计算(contextTokens > contextWindow - reserveTokens),它在本站的第 4 章示例中展示过,这里不再重复。已观察:compaction.test.ts 通过一个 AgentSession 驱动真实的处理器,并对摘要、切点、被发送的消息以及上面几行的文件计数做出断言;state.test.ts 驱动那段共享历史,并对七个预算下的工具调用/结果配对、一个长跨度的切分、完好无损的系统消息,以及在压缩之前导航会再次发送原始消息做出断言。
有两项代价落在画面之外。一个漫长的用户消息跨度会变成一个被切分的轮次:messagesToSummarize 可能是空的,而靠前的部分在 turnPrefixMessages 里,所以只读第一个列表的处理器会摘要不出任何东西——随附的 custom-compaction.ts 把两个列表接在一起。而这里没有任何东西展示一个真实模型选择摘要的过程:扩展在本地构建它,而通往一个不同的模型的 serializeConversation 路径是本章的提议,并未在这个示例中被演练。
完整源码与测试 。
Understand this example
Copy this prompt into your AI tool. No code runs here.
Apply this example
Copy this prompt into your AI tool. No code runs here.