人格向量如何揭示开源大模型的显性、潜藏与抗拒行为

导语

大语言模型“会做什么”和“不会做什么”，很大程度上是在后训练阶段被塑造出来的。但仅靠提示词测试，往往只能看到模型愿意在表层对话中表现出来的部分。arXiv 论文《What Models Express, Suppress, and Resist: Auditing Open-Weight LLMs with Persona Vectors》关注的正是这个问题：如果把某些行为特质看作模型激活空间中的方向，是否可以更系统地审计模型内部的行为结构？

论文使用“人格向量”（persona vectors）来分析开放权重大模型。与以往只考察少数人格或行为特征不同，作者整理了一个包含 53 项特质的清单，覆盖四个行为差异明显的领域，并在两个开放权重模型上进行标注和比较。

核心要点

• 三类行为标签：研究将每个特质分为三类：模型基线状态下自然表达的“natural”；基线不明显但可通过 steering 放大的“steerable”；以及常规提取方法难以诱导出的“intractable”。
• 默认行为高度任务导向：两个模型都默认表现为有帮助、以任务为中心。论文提到，九项 agentic 特质全部属于自然表达类别。
• 临床场景的默认倾向较稳定：在临床相关行为上，模型默认表现与一位获认证心理学家的独立可取性判断在 17 项中有 16 项一致，显示后训练塑造了较强的“理想助手”倾向。
• 被压低的特质更容易被放大：steering 对默认行为排除的特质提升最大，例如夸张表达、幻觉和逢迎。这说明模型并非完全“不具备”这些倾向，而可能是在默认对话策略中被抑制。
• 组合行为存在不对称性：在 171 对通用特质组合中，两个可 steering 特质的组合可能发生崩塌，但只要组合中包含一个默认特质，就不会出现同样现象。
• “难以提取”不等于不存在：对于“evil”等常规提取失败的特质，研究发现从微调变体迁移来的向量仍可恢复相关行为；剩余的拒绝倾向则出现在模型的 chain-of-thought 中。

意义与影响

这项研究的价值不在于提供一个简单的“人格控制器”，而在于提出了一种观察模型行为组织方式的方法。提示词评测容易受到模型拒答、迎合或安全策略的影响，而激活空间中的行为方向可能揭示更深层的潜在结构。

对模型安全和评测而言，这意味着审计不应只问“模型会不会在某个提示下输出某类内容”，还要问“该行为在模型内部是默认倾向、可被放大的潜在倾向，还是被更强机制抵抗的倾向”。这种区分有助于理解后训练到底压制了什么、强化了什么，以及哪些风险可能在特定引导或模型变体迁移中重新显现。

不过，论文也提醒我们，人格向量并不应被过度理解为可靠的控制开关。它们更像是一组探针，用于描绘模型行为的地形图：哪些特质处在表面，哪些被压在下面，哪些看似消失却仍可能通过其他路径被唤起。随着开放权重模型被广泛部署，这类面向内部行为结构的审计方法，可能会成为传统基准测试之外的重要补充。

来源：arXiv