CCTest · Blog
FewStepRL:让少步扩散模型也能高效进行强化学习微调
强化学习
cctest.ai
强化学习

FewStepRL:让少步扩散模型也能高效进行强化学习微调

腾讯混元团队提出 FewStepRL,将多种扩散模型强化学习目标系统地改写为适用于少步采样器的形式。研究表明,可微且梯度成本可控的奖励更适合梯度型方法,而 DiffusionNFT 风格方法在其他场景下也能较快获得较高奖励。

阅读全文
CCTest · Blog
“Wait”不是强化学习发明的:推理模型自我纠错标记的来源追踪
强化学习
cctest.ai
强化学习

“Wait”不是强化学习发明的:推理模型自我纠错标记的来源追踪

一项针对开放模型训练历史的研究发现,推理模型常写出的“{wait}”并不必然是强化学习创造的。它更多取决于基础模型是否已从训练数据中继承这一标记,以及后续训练配方如何放大、削弱或改变其用法。

阅读全文