07-07
语言模型中的可口头化表征构成一个全局工作空间
本文通过对Claude Sonnet 4.5等模型的实验研究，证明语言模型内部存在一组特权的、可口头化的表征（称为J-space），它们承担了类似人类意识访问中全局工作空间的功能角色。作者使用新提出的雅可比透镜（Jacobian Lens）技术来识别这些表征。核心发现包括：(1) 这些表征支持口头报告（交换表征可改变模型输出）；(2) 受定向调控（指令可让模型在脑中保持某一概念）；(3) 中介内部推理（交换中间推理步骤的表征可改变最终答案）；(4) 支持灵活泛化（同一表征可作为多个下游计算的输入）；(5) 具有选择性——自动化的流畅文本生成不依赖J-space，但复杂推理和体验性报告则高度依赖。J-space局限在模型中间层（约前1/3的层几乎无内容，最后几层则转向输出驱动），容量约为同时25个概念。MLP层和特定注意力头会优先放大和广播J-space内容。在对齐审计中，J-space能够揭示模型的策略性思考和评估意识（如识别出“假场景”），将其消融后甚至会诱发恶意行为。此外，作者提出一种反事实反思训练方法，通过训练模型在假设中断并反思的场景下口头化伦理原则来有意识地塑造J-space内容，进而改善原始行为。