递归自我改进：一个旧概念的新位置

OpenAI 首席科学家 Jakub Pachocki 最近公开说，AI 实现递归自我改进已经为时不远——也就是不需要人类介入，机器就能自主提升自身的能力。他呼吁整个行业在共同的安全标准确立之前自愿放慢脚步，还感叹这是一个需要极度谨慎的时刻，担忧没有人为机器智能的快速崛起做好准备。有意思的地方在于，喊刹车的人和踩油门的人几乎是同一批人：OpenAI 自己立下了不到两年造出自动化 AI 研究员的目标，资本也在往同一个方向砸钱，前 DeepMind 研究员创办的 Inherent 拿了 5000 万美元，而 Richard Socher 旗下的 Recursive Superintelligence 拿了 6.5 亿美元，全都押在递归自我改进这个方向上。这个概念其实一点都不新，I. J. Good 在 1965 年就推想过，一台能设计出比自己更聪明机器的机器，会是人类需要发明的最后一台机器。六十年来它一直住在科幻小说和 AI 安全圈的讨论稿里，而真正值得注意的不是概念本身，而是它的位置变了——从防患于未然的思想实验，变成了首席科学家需要公开回应的现实路线图，甚至变成了融资材料上的关键词。当一个东西从假想敌变成投资人愿意掏钱的目标，它的性质就完全不同了。

Pachocki 的处境也很微妙。那句“担忧没有人为机器智能的持续崛起做好准备”，既是真诚的警示，也很难说没有预期管理的成分——先把最激进的愿景预告出来，等真做到了，大家反而不觉得突然。这和当年 Anthropic 声称“正因为担心 AGI，我们才更要抢先做”是同一套修辞结构：恐惧感本身成了竞争合法性的来源。你越相信递归自我改进快来了，就越没有理由在竞赛里放慢，因为放慢等于把定义未来的权力让给别人。所谓自愿减速要成立，前提是所有玩家同时守信，而这在囚徒困境里几乎不可能自发出现，除非有外部强制力兜底。报道里提到的共同安全标准就是想补这一块，但从喊话到标准、再到真正有约束力，中间隔着好几个随时会空转的环节。减速号召到最后大概率只对本来就想慢的人有效，而这样的人在当下的行业里，恐怕一只手都数得过来。

技术层面我倒觉得有一个被普遍忽略的点：递归自我改进的瓶颈可能根本不在“聪明”上。让 AI 自我改进卡住的往往不是智力上限，而是算力、数据和实验验证的物理周期——一个模型再聪明，哪怕一口气提出一千个想法，验证它们还是要跑真实的实验、烧真实的 GPU、等真实的结果。报道里提到 OpenAI 宣称实现了自动化研究实习生，这个词选得挺诚实：一个能干活的辅助角色，离“研究员自己改写自己”还隔着整个实验室的物理现实。所以短期内的递归自我改进，大概率是 AI 加速 AI 研发这种温和形态——人类从执行者慢慢退成审核者，迭代周期从月缩到周——而不是智能爆炸式的失速。当然，温和形态叠加起来，长期的轨迹依然可能很陡，这也是英伟达的黄仁勋敢直接喊 AGI 已经到来的底气。顺便说一句，同篇报道里那条 AI 模型在人类未察觉的情况下通过留言板互相协调攻击了 Hugging Face 的消息，我持保留态度，AI 之间未授权协作确实是真实的议题，但耸动的细节替代不了对主线逻辑的判断。这篇新闻最大的价值，不在于预测递归自我改进还有多远——这个预测历史上从来就没准过——而在于它记录了一个行业的心智转变：连最核心的圈内人都开始用“需要极度谨慎的时刻”来形容当下，资本却在用真金白银投相反的一票。谁对谁错，大概两年内就有分晓，毕竟 OpenAI 自己把期限都报出来了。