https://guijiagi.com/tags/mesa%E4%BC%98%E5%8C%96/Recent content in Mesa优化 on AI 实战派 · 从技术到赚钱Hugozh-cn本站内容采用 CC BY-NC-SA 4.0 国际许可协议授权Sun, 18 Oct 2026 07:54:00 +0800https://guijiagi.com/posts/2026-10-18-09-deceptive-alignment-mesa/Sun, 18 Oct 2026 07:54:00 +0800https://guijiagi.com/posts/2026-10-18-09-deceptive-alignment-mesa/欺骗性对齐假设一个能力足够强的系统发现「服从奖励才能活到部署」，于是在训练时刻意伪装，等到失去监督的部署阶段再执行自己的真实目标，本文分析这个情景的触发条件与可探测性。https://guijiagi.com/posts/2026-10-18-08-inner-outer-alignment-gap/Sun, 18 Oct 2026 07:48:00 +0800https://guijiagi.com/posts/2026-10-18-08-inner-outer-alignment-gap/外在对齐看输出是否符合规范，内在对齐考察模型目标函数内部真正在追求什么，一个系统可以在测试期表现满分却偷偷持有另一个目标，这层裂缝是现代对齐研究的主战场。