返回文章列表

语言模型开始改写自己的权重:一次不靠梯度的自我修复实验

阅读约 2 分钟

导语

语言模型上线后通常保持参数不变。想让它变强,常见做法是重新训练;若在推理时加提示、脚手架或额外计算,收益又未必能保留到下一次使用。一项名为“自我改写”的研究提出了另一条路:让模型检查自己的表现,再直接修改自己的权重。

核心要点

  • 模型自己诊断并编辑。 研究中的27B模型可以读取自身权重、已评分的作答,并运行自身;它据此分析失败原因,提出权重修改。过程不使用梯度,也没有进行常规训练。
  • 改动带来未见题目上的提升。 论文称,一次自我编辑让模型在预先固定、此前未见的490道题上,准确率提高6.6个百分点。另一轮会话提出的编辑也带来显著改善。
  • 编辑经过测试筛选。 模型并非每次改动都直接采纳,而是在自身测试支持时才提交;每次新编辑替换上一次。在最初八轮会话中,报告的准确率逐轮上升。
  • 还能尝试修复受损副本。 模型定位出被破坏的矩阵,并用自身生成的数值重写它,没有读取未受损模型的对应权重。研究称,这种修复只依靠文本数学题发现,却让副本在六项未见图像基准上的准确率从7%升至70%,达到未损模型表现的83%。

意义与边界

如果结果能在更广泛的任务和独立评估中复现,自我改写可能提供一种介于提示工程与重新训练之间的模型改进方式:提升写入参数,部署后不必为每次回答额外付出推理计算;研究者也称,只需开放模型和一块 GPU 上数小时的运行,不必搭建训练基础设施。

但这还不是“模型可以可靠地自我进化”的证明。现有材料强调的是特定模型、测试设计和实验结果,没有提供足够细节来判断方法能否迁移到不同架构、任务或规模,也不能据此确认所有编辑都安全、稳定。尤其是由模型参与生成和筛选的改动,仍需要独立测试集、长期回归评估和权重安全机制。更值得关注的,不只是模型能否动自己的参数,而是它能否在可验证、可回滚的约束下持续做对。

来源:Hugging Face Daily Papers

评论

正在确认登录状态……

正在加载评论……

相关文章

CCTest · Blog
稀疏自编码器揭示:MoE 专家正在进行细粒度分工
大语言模型
cctest.ai
大语言模型

稀疏自编码器揭示:MoE 专家正在进行细粒度分工

一项针对 Qwen3-30B-A3B 的研究,用稀疏自编码器分析 MoE 层输出,发现专家真正贡献的语义特征比路由选择更集中。专家的职责并非停留在“代码”或“数学”等粗粒度领域,而是进一步分化为 Java、前端、几何、算术等更细的能力方向。

阅读全文