
AI 学术突破 2026:值得关注的论文
Scaling Law 的新发现 Scaling Law 曾经是 AI 最可靠的定律:更多数据、更大模型、更多算力 = 更好性能。但 2025 年开始,这条定律出现裂痕。2026 年上半年的几篇重要论文重新定义了 Scaling Law。 1. “Data Walls and Beyond: Scaling Laws in the Era of Data Exhaustion” 来源:DeepMind, Nature Machine Intelligence, 2026.03 这篇论文量化了"数据墙"问题: 数据类型 2024 年存量 2026 年存量 预计耗尽 高质量文本 50T tokens 80T tokens 2028 代码 3T tokens 5T tokens 2030 科学论文 0.8T tokens 1.2T tokens 2027 多模态数据 200T tokens 1,200T tokens 2032+ 核心发现:当高质量文本数据接近耗尽时,继续增加参数量的收益急剧下降。在数据量固定为 50T tokens 时,从 100B 参数增加到 1T 参数仅带来 12% 的性能提升(vs 理论值 35%)。 ...