CCTest · Blog
图像生成不只是“画图”:统一多模态模型能从视觉监督中学到新知识吗?
多模态
cctest.ai
多模态

图像生成不只是“画图”:统一多模态模型能从视觉监督中学到新知识吗?

一项新研究发现,图像生成训练确实能把部分新知识迁移到语言问答中,但这种迁移并不稳定。通过文本对齐和图文交错对齐,模型对视觉知识的语言访问能力还能进一步提升。

阅读全文
CCTest · Blog
DLite:面向智能体长上下文的无历史投机解码
推理与部署
cctest.ai
推理与部署

DLite:面向智能体长上下文的无历史投机解码

DLite 针对智能体应用中上下文持续增长、多轮交互频繁导致的投机解码效率下降问题,提出一种不显式维护历史上下文的草稿生成框架。它复用目标模型的上下文隐藏状态,并结合轻量级顺序预测头提升候选 token 的可接受长度。

阅读全文
CCTest · Blog
ACT3D:让视觉语言模型学会在三维世界中主动探索
AI 智能体
cctest.ai
AI 智能体

ACT3D:让视觉语言模型学会在三维世界中主动探索

ACT3D没有把多视角图像或完整三维表示直接塞给视觉语言模型,而是让模型通过一次查看一张图像、执行移动动作并获得新观察来完成空间推理。研究显示,基于最终答案正确性的强化学习,也能让模型逐渐学会“该看哪里”。

阅读全文