HeteroFold:让不同模型家族直接复用 KV Cache
HeteroFold 面向异构多智能体系统,尝试解决 Llama、Qwen 与 Ministral 等不同模型家族之间的 KV Cache 共享问题。论文称,在 32K 上下文下,部分跨模型传输相较接收端原生 Prefill 可实现约 10.7 倍加速。
阅读全文Claude API 中转站避坑指南、检测原理与大模型 API 实测经验
共 2320 篇文章
RSS 订阅HeteroFold 面向异构多智能体系统,尝试解决 Llama、Qwen 与 Ministral 等不同模型家族之间的 KV Cache 共享问题。论文称,在 32K 上下文下,部分跨模型传输相较接收端原生 Prefill 可实现约 10.7 倍加速。
阅读全文MemFold提出一种面向长期个性化助手的软记忆训练方法:先把与问题相关的文本记忆压缩为固定数量的连续向量,再根据模型自身生成结果优化记忆。它试图解决长历史成本高、传统压缩目标与实际使用脱节的问题。
阅读全文一项新研究探索如何仅凭文本采样和助手前缀续写,推断并干预黑盒大模型的生成过程。研究重点不在完整重建概率,而在高风险位置进行选择性控制,以降低查询成本。
阅读全文在肖恩·帕克和新管理层推动下,Stability AI正把业务重心转向音乐。公司获得索尼、华纳和环球等唱片公司的资金与版权支持,并推出新的音频模型及音乐编辑工具。
阅读全文Meta已开源一套代码和SDK,允许开发者把Muse AI接入电子墨水屏、树莓派、触摸屏及其他DIY硬件。与此同时,Meta还推出了限量版Muse Home Link,用于连接家庭设备。
阅读全文亚马逊承诺未来五年向数据中心周边社区投入超过10亿美元,并停止在新项目中使用保密协议。但环保组织认为,这些措施回避了发电污染、用水和备用柴油机等核心争议。
阅读全文PyTorch 团队将 Helion 集成到 vLLM 线性层后端,尝试用高层内核 DSL 和自动调优替代部分手工内核特化。在 NVIDIA Hopper 测试中,该方案通过按形状调优与混合调度,在部分工作负载上取得了超过 10% 的吞吐提升。
阅读全文美国司法部指控 Earthmade Computer 首席执行官 Greg Lui 通过虚假文件和第三国转运,将价值超过 3 亿美元、搭载英伟达 A100 与 H100 GPU 的服务器输往中国。案件也再次暴露出高端 AI 芯片出口管制在供应链审核环节的漏洞。
阅读全文苹果宣布将为 macOS 的“完全磁盘访问”权限增加新的控制机制,以应对桌面 AI 代理读取文件、邮件、消息和浏览记录所带来的隐私风险。此次变化重点不是简单限制权限,而是要求用户以更明确的方式作出授权决定。
阅读全文OpenAI 的 Dots 代理平台试图把云端电脑、桌面应用和语音交互结合起来。实际体验显示,它在网站改版、视频处理等可控任务上更有价值,但面对验证码、账户登录和支付环节仍需大量人工介入。
阅读全文科技巨头忙着为AI寻找更安全、更亲切的新叙事,但消费端的付费转化依然有限。TechCrunch最新一期播客将焦点放在消费级AI的商业困境,以及企业市场为何仍是主要收入来源。
阅读全文HC-DLM 将离散词元预测与持续更新的连续潜变量结合起来,试图解决扩散语言模型并行解码时依赖关系被切断的问题。论文报告称,该方法在数独、Countdown 和 LM1B 上优于同规模的离散与连续扩散基线。
阅读全文同一项科学工作换一种写法,AI审稿人可能给出不同判断。新研究提出“修辞鲁棒性”指标,并用SciCore将全文评审与结构化科学核心结合起来。
阅读全文HUST Vision Lab 提出 Multimodal Flow,尝试用统一的连续流模型同时处理语言和图像。该方法以连续超块替代离散视觉令牌,并在匹配数据与参数规模下展现出竞争力。
阅读全文AutoDataBench 提出一个受控测试平台,将训练框架、超参数和算力等因素固定下来,专门评估智能体诊断、组织和构造训练数据的能力。研究还考察模型能否预测数据干预的效果,以及基准测试轨迹能否反过来成为训练数据。
阅读全文自演化搜索智能体可能在提议者与求解器之间形成错误共识,让内部奖励持续上升,却不代表真实准确率提高。新研究提出CrossFit,通过交叉来源训练切断这种反馈回路。
阅读全文OSWorld-Science 将分子绘图、病理图像分析、统计计算和物理模拟等科研工作流纳入计算机使用代理评测。它不只检查界面操作是否完成,还通过生成的科学产物判断结果是否有效。
阅读全文Meta 研究团队提出 Loop Scaling Laws,将循环计算、MoE 稀疏性、模型规模和数据纳入同一套扩展规律。结果显示,循环与稀疏化并非二选一,而是可以协同提升模型效率。
阅读全文一项针对多种流式VLA模型的研究发现,强化学习产生的参数更新呈现明显低秩特征,并高度集中于动作专家中的Timestep Modules。研究进一步指出,这些模块中的shift向量不仅与任务成功密切相关,还能反映任务之间的迁移关系。
阅读全文MILO 将 Agent Harness 的设计转化为一种可持续的多智能体进化过程,并同时优化“被搜索的 Harness”和“负责搜索的策略”。在三个长程任务基准上,该方法取得了优于既有 Harness 与搜索方法的结果。
阅读全文