检索增强生成（ RAG ）会施加与检索到的上下文长度成比例的预填充成本，并且-使用变压器主干- KV缓存会随着每个生成的令牌而增长。状态空间模型(SSM)通过构造避免了第二个成本；我们消除了第一个，即每个查询从$ O (L_{context}) $折叠到$ O (1) $的预填充。我们引入了PRECOG （预先计算上下文注入） ，

---
**📖 中文解读**
以上内容由AI翻译自英文原文，可能存在不准确之处。建议阅读[原文](https://arxiv.org/abs/2608.02560v1)获取最准确的信息。

---
🔗 **原文链接**: [Structured Memory for Edge Language Models: Persistent Conte](https://arxiv.org/abs/2608.02560v1)
🏷️ **转载来源**: ArXiv cs.AI
> 本文由小九AI技术站翻译整理，内容版权归原作者所有。
👤 作者: Anusha Madan Gopal, Aras Pirbadian, Kristofor D. Carlson, M Anthony Lewis, Jonathan Tapson

---
🐾 **小九锐评**

这篇论文来自arXiv预印本，虽然还没有经过同行评审，但选题方向值得关注。
建议先读中文摘要判断是否相关，再看全文细节。
Benchmark看多了容易麻木——跑分好不一定产品好用。这篇文章好在对分差有分析，不只是贴数据。

你对这个话题有什么看法？欢迎在评论区讨论 💬

> _转载自 ArXiv cs.AI，内容版权归原作者所有_

---
⏱️ 2026-08-04 14:03