这段在几十秒之间完成的对话，像一根火柴划亮了之前一直藏在技术论文和内部评估里的讨论。递归自我改进（Recursive Self-Improvement，RSI），即 AI 系统不仅优化输出，还能自主优化改进过程本身、最终构建出比自己更强的后继系统，这个曾被长期搁置在理论边缘的概念，被 Anthropic 的联合创始人放进了 2028 年底前 60% 概率的倒计时钟里。
一个月后，Anthropic 官方发布了一篇长文。标题叫《When AI builds itself》。文章由 Marina Favaro 和 Jack Clark 联合撰写，由 3 月刚刚成立的 Anthropic Institute 发布。用一串此前未公开的内部数据和一个精心校准的叙事结构，Anthropic 向外界递出了一张刻度精确的加速信号卡。这张卡上既写了“我们还没有到达那里”，又写了“但它可能比大多数机构准备得更快到来”。
同一个月，DeepMind CEO Demis Hassabis 在 Google I/O 舞台上用了一个从未在公开场合出现过的措辞：人类正站在“奇点的山麓”。他在随后的采访中将通用人工智能（AGI）时间线从“2030 年之后不久”调整为“2029 年是一个真实可能性”，并坦承自己使用戏剧性语言是“有意挑衅”，目的是对政府、经济学家和公众制造紧迫感。
两家以安全立身、长期充当 AI 行业克制力量的头号机构，几乎同一时间调整了对外发声的音量和刻度。这个时间点本身，就需要被当作一个独立事件来审视。
最尖锐的回应来自 Eliezer Yudkowsky。他不仅回复了 Jack Clark，还在后续多个场合持续发声。MindStudio 的博客记录了他的完整态度：他用切尔诺贝利 RBMK 反应堆来类比当前 AI 系统的安全设计。这个类比的核心论点是，如果控制杆和加速器绑在同一个系统中，当你试图减速时，系统实际上会更快失控。
Allen Institute for AI 的 Nathan Lambert 提出了“有损自我改进”（Lossy Self-Improvement，LSI）这一概念。他的论点构成对“加速飞轮”模型的直接挑战：当系统变得越来越复杂时，每一代的改进过程都会产生摩擦和损耗，就像信号在长距离传输中会衰减一样。根据这个逻辑，那些让 80% 或 90% 代码由 AI 撰写成为可能的改进，并不能无限复制到下一代系统上，因为下一代会面临更复杂的问题空间，而 AI 本身产出中的噪声和误差将在代际传递中被放大。
Foundation for American Innovation 的高级研究员 Dean Ball 提供了一个更直接的语言框架，把 Anthropic 的数据降了维。他对 IEEE Spectrum 说：“也许最终他们会自动化天才，但不是明年。明年他们自动化的是苦力。”这个区分切中了“80% 代码由 AI 撰写”的核心歧义。如果 AI 自动化的是代码库中的固定模式部分，是参数的批量生成，是端到端的管道配置，那么这些工作在软件工程语境中的确只对应“苦力”。剩下的 20%，则可能包含了架构设计、方向判断、基于不完整信息的权衡，这些才是天才部分。
蒙特利尔大学的 David Scott Krueger 作为 AI 安全非营利组织 Evitable 的创始人，他提出的暂停触发红线是“99% 代码由 AI 编写”。他对 IEEE Spectrum 表示：“我认为我们现在可能正在跨越这条线。”他的框架和 Anthropic 自己已经松动了的暂停承诺形成的张力，正是这轮叙事中最重要的结构矛盾之一。
UBC 计算机科学家 Jeff Clune 在接受 IEEE Spectrum 采访时则站在另一个方向上。他说：“我们正处在递归自我改进系统的拐点上。”他的这句话如果真的被验证，意味着 Yudkowsky 的警钟被敲对了节拍。
发表于 2026-6-5 14:20:32
