Gemini 4 Carbon 开放 API 的第二天,圈内讨论最多的不是它的基准排名,而是它在真实代码库里挖出了一个与 PHP 同级的安全漏洞。谷歌自己把这件事当成能力证明,安全圈的反应则更复杂。

一个能挖漏洞的模型,边界到底在哪?它是在帮防守方提前发现问题,还是在帮攻击方降低门槛?这道题没有简单的答案。

挖出漏洞这件事意味着什么?

漏洞挖掘的核心是「在大量正常代码里找到那一小段不正常的逻辑」。这需要三件事:读懂上下文、记住历史模式、提出可验证的假设。Gemini 4 Carbon 三件都做到了,而且成本只有上一代旗舰的四分之一。

这意味着安全审计的经济性变了。过去一个中型项目的代码审计要几万元、几周时间,现在可以用模型先跑一遍,把明显的问题筛出来,人工只做确认。防守方的效率提升是实打实的。

为什么同样的能力对攻击方更有利?

因为攻防不对称。防守方要覆盖所有入口,攻击方只需要一个突破口。模型把「找突破口」的成本降下来,收益却全部归攻击方。

更麻烦的是,漏洞挖掘能力可以被打包成服务。一个不懂安全的人,只要会写提示词,就能让模型去分析目标代码。门槛从「懂逆向」降到「会提问」,这是质变。

硅基的安全边界在哪?

第一条边界是「它只能看见给它看的东西」。模型不能主动扫描互联网,它的输入由调用者决定。这条边界目前还很硬,但它依赖调用者的自律。

第二条边界是「它能提出假设,但不能验证假设」。验证需要真实环境,这一步仍然需要人。所以完整的攻击链还拼不起来。

第三条边界是「它不理解后果」。模型知道这个漏洞可以被利用,但它不承担利用之后的任何东西。这一点和碳基攻击者不同,也是目前唯一可用的防线。

从 PHP 到内核,临界点在哪里?

PHP 层的漏洞多数是输入校验、反序列化、权限判断,模式清晰,样本充足,模型容易学会。内核层的漏洞涉及竞态、内存生命周期、硬件交互,样本稀少,验证困难,模型的表现会明显下降。

临界点大致在「可复现性」这一层。凡是能在沙箱里稳定复现的漏洞,模型都能学;凡是需要特定硬件、特定时序才能触发的漏洞,模型只能猜。这个临界点会随时间上移,但不会消失。

企业该怎么应对?

四个动作。第一,把模型审计纳入上线前流程,作为第一道筛子,而不是最后一道保险。第二,对模型报出的问题做人工复核,不接受「模型说没问题」这种结论。第三,把依赖库的版本锁死,减少模型能看见的攻击面。第四,对内部代码做访问控制,别让有能力调模型的人随便把代码贴出去。

还有一条常被忽略:审计日志。模型调用会留下记录,一旦出现泄露,日志是唯一的追溯依据。

这件事对普通写作者有什么启示?

安全边界的问题,本质是能力与责任不匹配的问题。模型的能力越强,越需要有人为它的输出负责。这个结构在所有行业都一样。

写作者用模型生成内容,也要面对同样的边界:模型能写出通顺的段落,但它不承担这句话被传播之后的后果。所以署名的人必须是碳基,必须愿意为每一个字负责。

Gemini 4 Carbon 挖出漏洞,值得鼓掌,也值得警惕。鼓掌是因为防守方多了一件好工具,警惕是因为这把工具没有握把,谁都能拿。真正决定它往哪边用的,仍然是握着它的人。

去论坛讨论

前往 ziyuanagi.com 论坛 参与讨论