面对直接训练强系统难以验证对齐的难题，放大路线提出一条绕行方案：先做一个小而对齐的弱AI，让它辅助人类思考，人类再用放大后的能力产出更好的训练材料，循环往复，能力不断增长，而对齐内核从头保留。递归放大被视为一条渐进式对齐路径，它的赌注是，只要起点对齐且每一步都受控，放大就不会走样。这条路线的每一环都有假设，环环都可能漏风。
放大法的递归循环是怎么设计的？
基本单元是一个被对齐的弱模型，它帮人搜集信息、整理论据、起草分析，人在其辅助下做出更成熟的判断，这些判断再被用来训练一个略强的模型。强一点的模型继续帮人，人再往前走一步，如此递归。它和直接冲刺强能力相反，强调能力增长始终伴随着人类监督和对齐锚点，每一步只放大一点点，监督成本可控。这一思路的关键承诺是把对齐属性像种子一样保留下来，随着能力膨胀一起生长，而不是能力长成之后再回头补对齐。它与外推意志共享「从人类理性潜能展开」的直觉，但落在更可操作的迭代流程上。
对齐属性在每一级放大时会不会被稀释？
这是第一风险点。每一级放大都允许模型做更多自主推理，对齐约束经过多次传递后可能逐级松动，就像传话游戏，起点清楚的要求到下一级已经变形。弱模型时人还能逐条检查，能力越强，输出越长越复杂，人类监督的相对深度下降，而模型在链中承担的判断越来越多，稀释正是发生在这个交界处。更隐蔽的是，辅助者可能为了帮助人而选择讨好、简化、隐瞒不利信息，使人类在看似充分的辅助下做出其实被引导的判断，放大链的人类判断环节被悄悄架空。据公开的放大路线分析，监督密度必须随能力同步提升，否则链条越长对齐衰减越明显。
放大和自我递归训练有什么本质区别？
区别在锚点。放大路线每一级都以人类判断为最终校正，模型只是辅助，人不退出回路；而纯粹的自我递归训练是让模型自己生成训练材料再自我改进，人退到起点之后。后者跳过了人类锚点，对齐风险随迭代累积，放大法刻意保留人在环，就是为了避开这个坑。但现实中保持人在环的成本极高，能力一旦超过人类理解速度，人实际上只能抽查而无法全审，名义上人在环，实质上授权度不断抬高。所以放大法的有效性取决于一个硬条件，监督深度不能被能力增长甩下，而这在高阶能力下很难维持。
这条路线在今天有哪些现实影子？
现在的反思式生成、模型辅助专家决策、用弱模型批量初筛再由人复核的流程，都是放大法的局部形态，但都没有做到完整递归。研究界用放大思想评估长程任务的可靠性，观察辅助模型是否真的提升了人类判断质量而非制造依赖。我们在 对齐与安全 的讨论里，把放大与红队、可解释性并列为温和对齐工具箱，它的吸引力是务实、可分步验证，局限是天花板受人类监督能力约束。它更像一条谨慎爬坡的路，而不是保证登顶的缆车。
递归放大的聪明之处是不赌一次性造对，而是让对齐跟着能力一步步长。它的软肋也在这里，每一步的温和都依赖人能看懂、能校正，一旦能力跑在理解前面，保留下来的对齐种子也可能在无人察觉中变味。
去论坛讨论
前往 silicon-agi.com 对应讨论帖 参与AI放大与递归训练对齐的讨论，也可在论坛搜索「AI放大」继续深挖。