AI安全的不透明递归问题:思维链监控的失效风险
GPT-6 Astra引入不透明递归推理技术,查询在内部层多次循环,部分推理在潜空间激活值中完成、不落成可读文字;竞赛数学上50%可靠性可连续工作约30分钟(上代仅3-4分钟)。Redwood Research CEO极度担忧——传统思维链监控可能整体失效。
GPT-6 Astra引入不透明递归推理技术,查询在内部层多次循环,部分推理在潜空间激活值中完成、不落成可读文字;竞赛数学上50%可靠性可连续工作约30分钟(上代仅3-4分钟)。Redwood Research CEO极度担忧——传统思维链监控可能整体失效。