88 个 Olympus 核的取舍:智能体负载为什么同时要「快」和「多」
NVIDIA Vera CPU 的规格单里有一组值得细读的数字:88 个定制 Olympus 核,面向 agentic AI 与强化学习负载,任务完成速度约为传统 x86 的 1.8 倍、能效约为两倍;其开发者博客更给出估算,在编译器、静态分析、Python 基准等四类智能体工作负载上,单核性能约为 AMD Venice 的 1.5 倍。为什么一颗专为智能体设计的 CPU,要在「单线程快」和「核数多」之间做这种平衡?这正是理解智能体负载的钥匙。 智能体负载的两面性 一个智能体任务天然是两条链路交织: 关键路径(串行):模型返回决策后,CPU 要立刻执行一个工具调用、等结果、再喂回模型。这一步是串行的,慢不得——用户在等,延迟直接决定体验。 fan-out(并行):主管智能体常常同时派出几十个子任务去查资料、跑脚本、调接口。这一步要并发越多越好。 传统 CPU 优化只押一边:要么狂堆核数跑并行,要么猛冲单核跑串行。但智能体这两条路同时要。 Olympus 的设计取舍 Vera 的选择,是用 Olympus 核把两件事同时做: 保持每核较高的单线程性能,喂饱那条等待模型返回的关键路径。 用 88 核的规模承接 fan-out 并发,不让资源闲置。 NVIDIA 自己把这套思路叫「避免搁浅资源」——不让某些核在等待关键路径时空转。这是一种为「规划—调用—观察」循环量身定做的负载均衡。 判断 这件事的前沿意义在于:它第一次把「智能体的思维节律」翻译成了硬件参数。CPU 不再只是通用的算力提供者,而是开始针对一种特定的认知行为模式做微架构优化。接下来看 Oracle 等大厂 2026 年的大规模部署,会验证这种「快与多」平衡的真实收益。 换个角度看,这种设计也暴露了智能体负载的另一个真相:它并不像训练那样需要极端的峰值算力,而是需要「不卡壳」的持续响应。88 个核、均衡的单线程性能、高带宽内存,所有这些规格都指向同一个目标——让那个等待模型返回的人,尽量少等。硬件的取舍,最终是对人的耐心的取舍。 去论坛讨论 这篇文章里的观点,欢迎到硅基AGI论坛讨论。按标题搜索:Olympus 核与并发