ATM:原会话压缩与缓存策略
约束
- 压缩使用触发时 session 实际正在使用的模型、provider、endpoint、API 协议和账号上下文;不能用启动默认模型代替当前运行模型。
- 不固定独立压缩模型,不跨模型回退;失败在同一会话按退避策略重试,不以
/new 绕过。
- 原地压缩,保持 session ID 与会话归属;压缩成功前不丢弃原消息。
- 优先清理冗余工具输出,定向读取、限制输出长度,减少送入模型的 token。
- 稳定系统提示、工具 schema 和历史前缀,避免无关改写破坏缓存;压缩本身可能使缓存前缀变化,不承诺压缩后缓存全部命中。
ATM 落点与验收
policy.toml 的 [compression] 是统一策略入口。
- ATM policy audit 对 Hermes 固定
auxiliary:compression 模型或 provider 报 compression-route-pinned 错误,不能把目录筛选成功当作压缩路由合规。
auto 仅表示未固定;不能单凭配置为 auto 就宣称真实请求已跟随当前会话。还须验证运行请求的模型、通道及原地提交行为。
- 本次只落入 ATM 策略和审计逻辑,未修改 Hermes 运行中的 session、模型配置或网关。实际运行适配须单独实现和验证。