文章与教程

记忆与上下文

Claude API 中转站避坑指南、检测原理与大模型 API 实测经验

共 29 篇文章

CCTest · Blog
RecGPT-V3:让推荐系统从“算历史”走向“有记忆的理解”
记忆与上下文
cctest.ai
记忆与上下文

RecGPT-V3:让推荐系统从“算历史”走向“有记忆的理解”

RecGPT-V3 试图把大语言模型变成工业推荐系统中的“智能大脑”:既记住用户长期偏好,也能把自然语言意图更直接地映射到商品空间。其在淘宝首页“猜你喜欢”场景的 A/B 测试中带来 GMV +3.97% 和服务资源消耗下降 52.4%。

阅读全文
CCTest · Blog
把验证知识“嫁接”进 KV Cache:小模型也能变成可复用知识飞轮?
记忆与上下文
cctest.ai
记忆与上下文

把验证知识“嫁接”进 KV Cache:小模型也能变成可复用知识飞轮?

一篇新论文提出用字节级精确的 KV Cache 嫁接,把已经验证过的知识保存为状态工件,并在后续推理中恢复到冻结小模型里。它的亮点是极低重复推理成本,但也面临可复现性与“能力提升”定义的争议。

阅读全文
CCTest · Blog
KV Cache 也会“偏心”:新论文揭示长上下文推理中的结构角色偏差
记忆与上下文
cctest.ai
记忆与上下文

KV Cache 也会“偏心”:新论文揭示长上下文推理中的结构角色偏差

一篇 arXiv 新论文指出,按注意力累计值淘汰 KV Cache 的方法,在嵌套 JSON 等结构密集文本上可能错误保留大量“结构噪声”。作者提出无需重训的角色条件分配策略,用较小额外开销缓解这一问题。

阅读全文