文章与教程

记忆与上下文

Claude API 中转站避坑指南、检测原理与大模型 API 实测经验

共 19 篇文章

CCTest · Blog
ChatGPT 桌面端推出 Computer History:让 AI 记住你的操作轨迹
记忆与上下文
cctest.ai
记忆与上下文

ChatGPT 桌面端推出 Computer History:让 AI 记住你的操作轨迹

OpenAI 正在 macOS 版 ChatGPT 桌面应用中引入 Computer History,让 ChatGPT 和 Codex 能参考用户近期的点击、输入和应用活动。它不像 Windows Recall 那样保存截图,但仍把个人电脑使用痕迹推向了更敏感的 AI 记忆场景。

阅读全文
CCTest · Blog
把大模型的经验“蒸馏”给小代理:AMD 的层级记忆思路
记忆与上下文
cctest.ai
记忆与上下文

把大模型的经验“蒸馏”给小代理:AMD 的层级记忆思路

这篇工作把“记忆”当成小型工具型代理的补课机制:先从强教师的成功轨迹里提炼结构化经验,再按不同粒度注入给学生模型。核心不是再训练,而是用层级记忆提升小模型完成工具调用任务的成功率。

阅读全文
CCTest · Blog
ALiBi 位置编码的“失明”问题:长距离注意力可能被数值精度吞掉
记忆与上下文
cctest.ai
记忆与上下文

ALiBi 位置编码的“失明”问题:长距离注意力可能被数值精度吞掉

一篇新论文指出,ALiBi 的线性位置偏置在浮点计算中可能发生下溢,使部分注意力权重被压成零,导致某些注意力头对远距离信息“失明”。研究显示,这一问题会明显影响 token 检索,但在常规解码器基准上未必显著暴露。

阅读全文
CCTest · Blog
RecGPT-V3:让推荐系统从“算历史”走向“有记忆的理解”
记忆与上下文
cctest.ai
记忆与上下文

RecGPT-V3:让推荐系统从“算历史”走向“有记忆的理解”

RecGPT-V3 试图把大语言模型变成工业推荐系统中的“智能大脑”:既记住用户长期偏好,也能把自然语言意图更直接地映射到商品空间。其在淘宝首页“猜你喜欢”场景的 A/B 测试中带来 GMV +3.97% 和服务资源消耗下降 52.4%。

阅读全文
CCTest · Blog
把验证知识“嫁接”进 KV Cache:小模型也能变成可复用知识飞轮?
记忆与上下文
cctest.ai
记忆与上下文

把验证知识“嫁接”进 KV Cache:小模型也能变成可复用知识飞轮?

一篇新论文提出用字节级精确的 KV Cache 嫁接,把已经验证过的知识保存为状态工件,并在后续推理中恢复到冻结小模型里。它的亮点是极低重复推理成本,但也面临可复现性与“能力提升”定义的争议。

阅读全文
CCTest · Blog
KV Cache 也会“偏心”:新论文揭示长上下文推理中的结构角色偏差
记忆与上下文
cctest.ai
记忆与上下文

KV Cache 也会“偏心”:新论文揭示长上下文推理中的结构角色偏差

一篇 arXiv 新论文指出,按注意力累计值淘汰 KV Cache 的方法,在嵌套 JSON 等结构密集文本上可能错误保留大量“结构噪声”。作者提出无需重训的角色条件分配策略,用较小额外开销缓解这一问题。

阅读全文