OCP-CT：用“器官条件模式 token”细化 CT 影像-报告预训练

导语

CT 视觉语言预训练的吸引力在于，它可以利用大量已有的三维 CT 扫描和放射科报告，让模型在无需逐例精细标注的情况下学习医学影像表征。但这类任务也有天然难点：一份报告往往描述多个器官、多个异常征象，而一个 CT 体数据中不同部位的证据分布也高度不均。只把整套扫描和整份报告做全局对比，虽然简单可扩展，却容易把关键局部证据“平均掉”。

arXiv 论文《Fine-Grained Vision-Language Pretraining with Organ-Conditioned Pattern Tokens for CT Understanding》提出的 OCP-CT，正是针对这一问题设计。作者认为，比“器官”更细、又比单个像素或 patch 更语义化的对齐单元，应该是“器官条件下的放射学模式”。也就是说，同一器官可能呈现不同影像表现，模型需要学习的是这些模式与文本描述之间的对应关系。

核心要点

• 保留稳定的全局分支：OCP-CT 并没有放弃传统的 CT-报告全局对比学习，而是将其作为基础，以维持整体语义对齐和训练稳定性。
• 引入器官模式接口：论文在全局分支之外加入细粒度模块，把图像 token 和文本 token 按潜在放射学模式进行组织。
• 使用稀疏 MoE 路由：稀疏 Mixture-of-Experts 负责把不同 token 分配到与潜在模式相关的专家路径中，从而减少把所有证据混在一起的风险。
• 可学习 slot 生成模式 token：可学习的 slot 从被路由后的 token 中查询信息，形成连续的 pattern tokens，用于表达具体器官条件下的影像与文本模式。
• 成对 token 对比学习：图像侧和文本侧的 pattern tokens 通过对比目标进行对齐，软目标来自报告推导出的临床相似性结构，而不是简单的一对一硬匹配。

实验表现

论文在公开 CT-RATE 和 RAD-ChestCT 基准上评估了零样本异常诊断能力。根据摘要，OCP-CT 在两个数据集上的平均 AUROC 分别为 84.5% 和 69.9%。相比作者所称的最强已报告结果，分别带来 6.7 和 0.8 个百分点的绝对 AUROC 提升。

这组结果的价值在于，模型并不是只在监督诊断设置下优化某个固定标签体系，而是通过预训练获得可迁移的 CT 理解能力。对于放射学场景，零样本能力尤其重要，因为不同医院、数据集和报告体系中的异常命名与标注粒度往往并不完全一致。

意义与影响

OCP-CT 的关键启发是：医学多模态预训练不能只追求更大的数据规模，也需要更合适的对齐粒度。全局扫描-报告对比能提供宏观语义，但对于多器官、多病灶、多表现共存的 CT 来说，细粒度模式对齐可能更接近医生阅读影像和书写报告的方式。

当然，当前材料显示该工作仍处于 arXiv 预印本阶段，论文页数为 9 页，实验结论还需要更多独立复现和临床任务验证。但从方法方向看，把“器官”和“放射学模式”结合起来建模，有望成为 CT 基础模型从粗粒度检索走向可解释诊断辅助的重要一步。

来源：arXiv