返回文章列表

视觉语言模型也有“全局工作空间”吗?一项研究尝试追踪概念如何被调用

阅读约 3 分钟

视觉语言模型能依据图像回答问题,但最终答案并不能说明模型内部如何表示图像中的概念,也无法直接揭示它是否按任务需要挑选了相关信息。一项新研究借用全局工作空间理论(GWT)的思路,提出 Multimodal Concept Lens(MC-Lens),试图从模型内部追踪概念的可访问性、选择性调用及其对后续计算的影响。这里的“意识”是理论借喻,不是研究证明模型具有主观体验。

把视觉与语言放进同一语义坐标

GWT认为,多个并行处理过程中的信息可以被选中、整合,再供不同专门过程使用。研究者把这一框架转化为对视觉语言模型的可检验问题:某个概念是否已存在于内部表示中?模型会不会根据问题选择它?被选中的概念是否会影响后续推理?

MC-Lens是一种多模态 Jacobian lens。它分别读取视觉编码器与语言解码器的中间状态,并将两者映射到由解码器输出词表定义的共享语义空间。这样,研究者可以在共同坐标系中比较不同模态里的概念,而不是仅凭模型最终说出的内容作判断。方法还把用于表达概念的“读取载体”从单个名称词扩展为一组 token,以更充分地捕捉概念信息,并支持反事实干预。

从“能读出”到“会调用”

研究报告了几项主要发现:

  • 中间状态中可以读出多模态概念信息,而且模型会随任务需要选择性地访问这些信息。也就是说,概念存在于内部表示,并不等于每次都会被调用。
  • 反事实实验显示,改变被访问的概念信息会影响后续计算与推理。这为“概念不仅可被探测,也实际参与运算”提供了实验依据,但并不能单独说明推理机制的全部细节。
  • 在受控训练过程中,研究者提出两种 J-space 指标追踪跨模态概念对齐;相较于隐藏状态余弦相似度,它们更清晰地呈现对齐的发展。实验还显示,概念可访问性先出现,可靠的选择性访问则发展得更晚。
  • 不同家族和规模的视觉语言模型呈现相似的概念可访问性、依查询而变化的选择性,以及跨任务干预效应,尽管其内部组织并不相同。

意义与边界

这项工作的价值在于把“模型看到了什么”和“模型是否在当前任务中使用了它”区分开来,并提供一套可比较、可干预的分析工具。对多模态模型研究而言,单看图文相似度或最终答案,可能遗漏概念何时进入后续计算;共享语义空间与反事实实验则让研究者能更直接地检查这一过程。

不过,GWT源自意识研究,把它用于模型分析是一种理论框架,而不是意识检测结论。研究所支持的是关于概念表示、任务选择和计算影响的经验主张。作者希望这些指标也能帮助分析跨模态对齐,但素材没有证明按这些指标优化就一定能提升实际任务表现。理解模型内部信息流因此更细致了,离解释其全部推理过程仍有距离。

来源:Hugging Face Daily Papers

评论

正在确认登录状态……

正在加载评论……

相关文章