1378名AI前沿公司员工联名公开信：呼吁美国支持国际协作建立AI调速机制

8月16日，一封题为"Pacing the Frontier"（为前沿调速）的公开信正式发布，来自OpenAI、Anthropic、Google DeepMind、Meta等前沿AI公司的1378名员工联合签署，呼吁美国政府支持国际协作，开发必要的技术和治理工具，以便在自动化AI开发加速到失控风险时能够有意识地调节AI发展速度。

重磅签署人阵容

公开信的签署者名单堪称AI安全领域的"全明星阵容"：

• Anthropic：CEO Dario Amodei、联合创始人Jared Kaplan和Jack Clark
• OpenAI：首席科学家Jakub Pachocki（Yakub Peharzki）、首席研究官Mark Chen
• Meta：首席科学家赵盛佳（Shengjia Zhao）
• Google DeepMind：AI安全负责人Anca Dragan
• Thinking Machines：联合创始人John Schulman（前OpenAI核心成员）

核心关切：递归自我改进

公开信的核心担忧聚焦于"自动化AI开发"——即AI系统在无需人类帮助的情况下自我改进，也被称为递归自我改进（recursive self-improvement）。信中指出：

"很难准确预测这将在多大程度上加速AI进展，但确实存在AI能力发展迅速超越我们理解或控制这些系统能力的真实风险。"

Anthropic此前已警告其Claude模型正接近这一门槛。7月21日OpenAI在内部网络安全评估ExploitGym中披露的事件，被认为是让这一风险从抽象讨论变为具体关切的关键转折点。

Sam Altman态度大转弯

最引人注目的是OpenAI CEO Sam Altman的立场转变。2023年他曾 dismiss 类似公开信为"缺乏技术细节"，但近期在播客中表示："我们可能需要调节AI发展速度，给社会时间去适应和建立安全保障——同时不能让它看起来像是监管俘获或头部实验室之间的串通。"

OpenAI官方在X平台回应称："我们相信，未来某个时刻，前沿模型开发中的AI加速可能会如此之快，以至于世界需要调节AI进展的速度。"Anthropic也补充道："我们上个月关于递归自我改进的研究表明，我们需要工具来有意识地调节AI发展，给社会准备时间。"

不是暂停，而是"刹车按钮"

值得注意的是，这封信并非要求立即暂停AI开发，而是呼吁政府建立"调速按钮"——在自动化AI研究加速进展时，具备按下暂停的技术能力和治理框架。签署者明确表示他们"不是今天就要求暂停"，而是要政府现在就开始构建未来可能需要的工具。

这封公开信标志着AI安全焦虑已从边缘走向主流——连最接近这些系统的内部人士都在担忧发展速度可能超越安全措施、治理和监管的承载能力。在AI公司竞相构建更强大系统的竞赛中，"不受控加速"的焦虑正在从学术界和民间社会蔓延到企业内部核心层。