当AI开始参与研发下一代AI，人类可能已经站到「智能爆炸」前夜。
亏贼！最近超超超超火的递归自我改进（RSI），连AI教父辛顿都亲自下场了？？
咱诺贝尔物理学奖、图灵奖得主Hinton的首篇RSI的论文，上来就研究一个相当炸裂的问题：
如果AI开始大规模参与造下一代AI。
然后，下一代AI再回来继续加速研发。
这么一轮轮滚下去…会不会直接跑出一条智能爆炸曲线啊？
论文名叫《What if automating AI R&D triggers an intelligence explosion?》。
参与撰写论文的作者也堪称AI学界全明星阵容：
22位作者里，包括两位AI教父Geoffrey Hinton、Yoshua Bengio，强化学习先驱Andrew Barto，OpenAI首席科学家Jakub Pachocki等一众研究者。
这么多AI大牛凑在一起，讨论的正是AI领域最古老科幻的「智能爆炸」问题，论文核心观点咱先来一睹为快——
- 一旦AI能完整参与造下一代AI，递归自我改进就可能真正闭环。
- AI研发自动化一旦越过某个临界点，几年才能完成的AI进步，有可能被压缩到几个月，甚至更短。
- 未来AI实验室的研发规模，理论上可能从几千人直接跳到数百万研究员。
- 今天一年完成的AI进步，极端情况下，未来可能只需要约5周。
- 智能爆炸未必需要AI先变成超级智能，只要AI研发的自动化效率足够高，反馈循环就可能先启动。
所以…辛顿…老爷子…大牛们…到底围绕RSI都说了点啥…急…
智能爆炸这个词，其实蛮古早了。
早在1965年的时候，数学家I.J. Good就设想过一种超智能机器。
如果一台机器已经比人更擅长设计机器，那么它可以继续设计一个更聪明的版本。
新的版本继续参与下一轮改进，一轮接一轮，最后形成一个自我强化的反馈回路。
Good当年的核心判断其实很简单——
如果「改进机器」这件事本身，也能被机器做得越来越好，能力增长就可能反过来继续加速能力增长。
这套设想后来成了「智能爆炸」最经典的理论源头，和今年大火的递归自我改进（RSI），其实也算一脉相承。
只不过到了今天，RSI讨论的重点已经悄悄变了。
大家关心的已经不只是一台AI能不能自己改代码、调参数，而是一个更现实的问题：
AI能不能真正进入研发下一代AI的整套流程，并且让这套研发流程本身越来越快？
而辛顿等人在这篇论文里给出的一个关键判断，恰恰就是：
AI开始真正进入AI研发流水线了，而且速度快得有点离谱。。。
之所以这么说，是因为论文引用了Anthropic等头部实验室的一批内部数据。
2025年1月，AI生成的获批代码还只有低个位数比例。
才过了一年，到了2026年5月，这一比例已经超过80%。
变化更大的，是AI「自主」完成研发工作的比例。
2026年3月，Claude能够在仅接受高层次人类监督的情况下自主完成约1%的研发工作。
到同年8月，这个数字已经升到了26%。
换句话说，半年左右，直接翻了二十多倍。
当然了，这个数字不能理解成Claude已经自动完成Anthropic四分之一的全部研究。
它主要衡量的是在高层人类监督下，可以由AI自主承担的内部AI R&D工作比例。
Anthropic自己也强调，目前Claude还没有在哪一类被测AI研发工作上达到完全无人监督的水平，但不管咋说，趋势已经很明显了。
论文还提到，截至2026年9月，OpenAI内部的AI系统已经可以经常完成原本人类员工需要数天完成的研发任务。
这里一个很关键的变化是AI能独立处理的任务长度，一直在增长。
真正决定AI能不能像研究员一样工作，关键并不只是某个benchmark分数有多高。
更重要的是，它能不能把几十个步骤连续串起来，在几个小时、几天，甚至更长时间里持续推进同一个研究目标。
论文综合benchmark趋势和实验室内部进展，认为未来几年，AI有可能自动化大部分AI研发工作，甚至完成全部自动化。
写代码只是AI研发的一部分，这里的完整AI R&D还包括提出研究假设、设计实验、实现实验、分析结果、定位失败原因、调整路线，再重新开始。
这些环节里，任何单独一项被自动化，都只能算AI辅助研究，真正敏感的节点，是它们开始被串成一条长链。
一旦这些步骤能够被一个AI系统长时间串起来，它承担的角色就开始越来越接近真正的研究员。
好巧不巧的是，AI研发恰好又特别适合这种自动化。。。
AI大量发生在数字环境里，代码能直接执行，实验结果可以快速返回，模型能力还能通过benchmark、loss、reward等指标立即验证。
相比化学、生物或者制造业，AI研发少了很多必须等待现实世界反馈的环节。
也正因为如此，Good当年那个听起来非常遥远的循环，今天才第一次开始有了比较具体的工程路径：
AI参与研发下一代AI，下一代AI能力更强，更强的AI再回来参与下一轮研发，循环继续下去，研发能力本身开始参与推动研发能力增长。
论文把这类路径称为software-driven intelligence explosion，也就是由软件改进驱动的智能爆炸。
主要提一嘴的是，这和造出更快芯片还有点区别。
芯片设计、流片、建厂都有长周期，而算法、训练方法、Agent工作流、合成数据策略一旦验证有效，理论上可以很快重新部署进下一轮研发。
所以作者真正关心的是AI进步的反馈周期会不会越来越短，这也是今天重新讨论递归自我改进的原因：
AI只要能够越来越完整地接管下一代模型研发，自我改进的反馈回路就已经出现了。
接下来，就是整篇论文最《抓马》的部分了。
AI参与研发本身还不够构成智能爆炸，真正重要的，是它和普通人类研究员存在一个非常大的区别——AI研究员可以复制。
假设一家实验室今天有1000名顶尖研究员，未来它开发出了一个能力达到顶级人类AI研究员水平的Agent。
从这一刻开始，扩张研发团队这件事，游戏规则就变了。
培养一名顶尖人类研究员，可能要读五年博士、再积累多年科研经验，AI研究员直接再开一个实例就行～
它还能24小时工作，成千上万个实例同时跑任务。底层模型一更新，整支AI研发团队也能同步升级。
这就直接绕开了人类科研最硬的一层增长限制：人才培养速度。
人类想把1000名顶尖研究员变成100万人，几乎是代际工程。
AI系统理论上可以靠增加推理算力和实例数量，在短得多的时间里扩张。
对此论文还专门引入了一个概念：
effective R&D workforce，也就是有效研发劳动力。
作者估算，如果AI达到顶级AI研究员水平，推理成本又与今天的前沿模型处于类似量级——
那么一家领先AI公司的现有算力，理论上可能支撑至少数百万名顶级人类研究员等价的AI研发劳动力。
要知道今天一家前沿AI实验室的研究团队，还只是几千人量级，两者之间差了几个数量级。。。
而且这几百万个研究员还有一个人类组织很难复制的特点：能力可以同步更新。
底层模型一旦升级，不需要重新培训几百万人，所有实例理论上都可以一起获得新能力。
需要提一下的是，这里最容易产生一个误解，100万AI研究员，并不会自动带来1000倍研发速度。
科研天然存在边际收益递减，10个人研究一个问题，可能比1个人快很多。
100万人同时研究一个问题，很可能大量重复工作、争抢实验资源，还会发现好点子越来越难找。
所以论文真正试图计算的是另一件事：新增AI研发劳动力带来的收益，究竟能不能跑赢科研本身越来越难这件事捏？
于是乎，整篇论文非常关键的一个变量来了：returns to research effort，记作r。
简单理解，就是研究投入增加以后，技术进步速度能跟着涨多少。
当r比较低，大量增加研究投入以后，收益很快递减。
当这个数足够高，新增研发能力带来的进步，又会进一步造出更强的AI研究员，这时反馈环才开始加速。
论文引用了一项对三个AI研究子领域历史数据的研究，r的中心估计落在大约1.2—1.9。
假设AI研发实现全面自动化，假设类似的研究回报能够维持，再假设短期内没有新的算力、数据等瓶颈突然卡死整个系统，模型得到的结果是：
AI技术进步速度可能在大约1.5年内提高10倍。
换算一下啊，今天需要一年才能发生的AI进步，到了那个阶段，只需要大约5周。
而且论文还算了另一笔账。
如果AI研发全部自动化以后，只维持当前软件效率改进趋势，自动化AI研发劳动力在数月到数年时间里，就可能扩大100倍。
而且这种增长还可能来自两条线同时推进。
一边是AI研究员数量增加，一边是单个AI研究员本身继续变强。
于是智能爆炸真正反常识的地方出来了。
过去科技增长的一项天然限制，是培养研究人员很慢，培养一个真正优秀的研究员，需要十几年教育和训练。
AI研究员可没有这层限制，一旦达到足够能力，培养这个步骤可能变成复制模型、分配算力。
于是乎，科研第一次可能遇到一种极其奇怪的供给冲击：研究能力本身，也变成了软件。
而且一旦研究能力变成软件，研究员数量和研究员能力这两个变量，就有可能同时被技术进步推动。
这才是论文口中的智能爆炸真正危险的地方：加速来源本身也在被加速。
看到这里，很容易得出一个特别刺激的结论：完蛋，智能爆炸已经开了。（哭）
但咱辛顿这篇论文里，全篇给出的一个基调是，当前证据还远远不足以证明智能爆炸已经发生。（笑）
因为目前AI研发自动化带来的生产率提升，依然没有明确越过引发爆炸式加速所需要的门槛。
作者甚至直接提醒，AI研发自动化和智能爆炸之间，中间还隔着很长一串条件。
AI首先得足够可靠，能够长时间自主工作；其次要真的提高研发产出；再然后，这些新研发成果还得反过来明显增强AI本身的研发能力。
而且即使未来出现几百万个AI研究员，它们面前至少还有几道很现实的墙。
第一道，算力。
AI研究员可以复制，GPU不能凭空复制，如果大量关键实验都需要运行大型模型，再多Agent最后也可能排队等卡。
尤其训练一次真正的前沿模型，本身就可能需要数月，100万个AI研究员坐在电脑前，也没法把一个物理上需要三个月的训练任务压成五分钟。
这也是软件驱动智能爆炸最大的现实约束之一：软件迭代可以极快，底层计算基础设施扩张依然受物理世界限制。
第二道，数据。
互联网天然数据并不会随着AI研究员数量同步增长。
按照论文讨论的趋势，现有高质量自然数据很可能越来越难满足持续扩展的训练需求。
未来能不能靠合成数据、可验证任务、环境交互等方式继续提供高质量训练信号，现在依然没有定论。
第三道，实验时间。
有些事情本身就很难无限并行，训练模型需要时间，芯片制造需要时间，新数据中心建设也需要时间。
哪怕有100万个Agent同时提出实验方案，最终还是要共享有限的GPU、实验集群和训练窗口。
还有最后一道更根本的问题，那就是科研会越来越难。
容易找到的算法改进可能首先被找光，往后每提高一点能力，都需要越来越大的投入。
论文把这一点叫作diminishing returns——
研究越往前走，下一次突破可能就越贵，如果科研难度上涨得比AI研发能力还快，智能爆炸自然也起不来。
总的来说，虽然论文没有足够证据证明智能爆炸一定发生，但现有证据已经足够让它从科幻问题，变成一个需要提前准备的现实问题。
而且递归自我改进这件事，确实已经离「科幻设定」越来越远了。
甚至未来回头看，2026年真正值得记住的节点，可能还真不是某个模型又多拿了几分。
恐怕是人类第一次开始认真意识到，AI最猛的一次Scaling，可能发生在「研究AI」这件事本身。
参考链接：
[1]https://x.com/geoffreyhinton/status/2106122709285368061?s=20