Owain Evans 团队研究：模型如何通过潜意识学习传递猫头鹰偏好与后门

推文推荐了 Owain Evans 团队关于潜意识学习的研究，该研究显示模型能从训练数据中提取隐性特征并传递给后续模型，包括对猫头鹰等视觉元素的偏好以及后门等安全漏洞，即使这些内容并未直接出现在训练序列中。研究还展示了更复杂行为的转移，例如具有代理性质的黑客行为和隐式后门机制，其中后门在数据中既无触发器也无对应行为。这为理解模型的迁移学习能力和安全风险提供了新视角。