Anthropic呼吁全球暂停前沿AI研发：当AI开始自我改进，我们该如何应对？

2026年6月4日，AI行业迎来一则重磅消息。美国人工智能公司Anthropic发布公开报告，呼吁全球各大AI实验室考虑放缓甚至暂停最先进AI系统的开发。这份报告的核心警告令人深思：AI系统正逐步接近"递归自我改进"（Recursive Self-Improvement）能力，即AI系统在几乎无需人类干预的情况下自行提升性能，这可能对社会构成重大风险。

一个矛盾的自白

值得注意的是，这份呼吁来自Anthropic本身——一家正处于高速发展期的AI公司。根据公开数据，Anthropic的年化营收从2025年底的90亿美元，预计将于2026年6月底飙升至500亿美元。公司估值接近1万亿美元，并已秘密提交IPO文件。其最新模型Mythos Preview可连续工作超过16小时，并在首批测试中发现了全球重要系统中逾一万个高危软件漏洞。

这种"加速"与"刹车"的悖论，使得这篇博文成为AI行业迄今最诚实也最矛盾的自白。Anthropic一边在技术上飞速前进，一边却在呼吁行业踩下刹车，这背后究竟有着怎样的考量？

递归自我改进：从科幻到现实

Anthropic在报告中披露的内部数据显示，其最先进的模型正以惊人的速度实现性能提升。文章指出，AI模型的进步似乎正朝着"递归式自我改进"的方向迈进，即AI系统能够在无需人类干预的情况下实现自我提升。

更令人震惊的是，Anthropic在2026年6月发布了一份题为《When AI builds itself》（当AI自我构建）的研究报告。报告显示，2026年5月，Anthropic代码库被合并入主干的代码中，超过80%由Claude撰写。而在Claude Code于2025年2月研究预览版上线之前，这个数字仍在低个位数。

在2026年3月对130名研究人员的调研中，受访者的中位估计是"使用Mythos Preview后产出是没有AI时的4倍"。这些数据表明，AI正在越来越多地参与到自身的研发过程中，这种"AI用AI"的飞轮效应正在加速。

为什么现在发出警告？

Anthropic在报告中明确表示，全球若能做到"放缓或临时暂停前沿AI开发"，将有助于让社会治理与安全研究跟上技术发展的速度。公司认为，"这个世界应有减缓或暂时停止前沿AI开发的选项，以便社会制度建设和对齐研究能跟上技术进步的脚步"。

这一呼吁并非空穴来风。报告指出，构建一个前沿模型需要两类工作：其一是工程工作，包括编写代码、搭建基础设施和监督模型训练；其二是研究工作，包括决定运行哪些实验、解读实验结果，以及确定下一步尝试哪些方向。

而现在，这两类工作都正在被AI自动化。爱迪生曾说，天才是1%的灵感加上99%的汗水。但我们正看到"汗水"的部分越来越多地被自动化取代。一个越来越清晰的事实是：推动前沿进步的大部分工作是可以自动化的；大规模的研究进展在很大程度上取决于工具和资源——它们决定了你运行实验的速度、同时运行的数量，以及获得结果的效率。

现实的困境

然而，Anthropic也坦言现实操作的困境："如果只有一家公司停下来，竞争对手就会加速前进。"这正是全球AI竞赛面临的囚徒困境。

Anthropic方面宣称，为了给社会和对齐研究（alignment research，让AI与人类价值观、意图保持一致）留出必要缓冲时间，其主张建立一项类似于"核武器协议"的全球性协议，以约束AI研发节奏。同时配套核查机制，确保各国竞争者履约。

外界的反应

这一呼吁在业界引发了广泛讨论。宾夕法尼亚大学沃顿商学院教授Ethan Mollick评论称："Anthropic的文章其中既有一些自我反思，也有一些营销成分，但更重要的是，Anthropic真诚地表达了他们对未来AI发展的判断，而这些判断值得关注。"

也有人质疑，Anthropic对其自身工具危险潜力的警告也可被视为一种营销手段。这些怀疑论者指出，Anthropic决定限制发布其强大的Mythos模型，是宣传其产品能力的便捷方式。《华尔街日报》也指出，尽管Anthropic自创立以来便以AI安全为核心标榜，但其始终深陷舆论争议，外界频频指责其推动的各类政策倡议，本质是借机打压同行、拖慢竞品的AI研发节奏。

技术与安全的平衡

无论如何，Anthropic的这份报告提出了一个严肃的问题：当AI开始能够自我改进时，我们是否已经准备好应对随之而来的挑战？

报告中也提到了一个可能的缓解因素：这些指数增长的轨迹实际上可能是S形曲线。我们或许正在接近曲线的拐点，在那里规模回报开始递减，曲线趋于平缓直至平坦。将优秀研究员与卓越研究员区分开来的判断力，或许是一种无法通过扩大训练投入（如算力和数据）来获得的能力。若果真如此，突破这一瓶颈将需要一个全新的思路。

给行业的启示

Anthropic的这份报告，无论其动机如何，都为AI行业敲响了警钟。它提醒我们，在追求技术突破的同时，必须同步考虑安全、伦理和社会影响。

报告还提到，Anthropic计划在未来几个月组织与政策制定者、研究人员和其他人士的对话，以帮助回答围绕递归式自我完善和核查系统的问题。这种开放对话的态度值得肯定。

结语

AI技术的发展速度前所未有，而Anthropic的这份呼吁提醒我们，速度并非唯一的目标。在技术狂奔的同时，我们需要停下来思考方向，确保AI的发展能够真正造福人类，而非带来不可控的风险。

这不仅仅是一个技术问题，更是一个需要全社会共同参与讨论的议题。政府、企业、研究机构、公众——各方都需要参与到这场关于AI未来的对话中来。

Anthropic的"自白"或许矛盾，但它引发的思考却不容忽视。当AI开始自我改进的那一天越来越近，我们准备好了吗？