研究称前沿AI实验室缺乏失控模型封控计划，OpenAI得分最高仅3/5

安全研究机构Guidelight AI Standards近日发布评估报告，对Anthropic、Google、OpenAI、Meta和xAI五大前沿AI实验室的失控模型封控能力进行了公开信息评估。结果显示，即便是得分最高的OpenAI也仅获得3/5分，行业整体在AI安全透明度方面仍有巨大提升空间。

此次评估基于各公司公开可获取的信息，从六个维度衡量AI安全实践：AI系统内部活动日志与监控、异常行为后的系统暂停机制、独立第三方审计、失控模型封控计划等。

核心发现：

• OpenAI得分最高（3/5）：多次在发现安全事件后暂停或终止模型部署和训练，并披露了恢复流程
• Anthropic和Meta得分最低：Anthropic的8月风险报告中未提及限制模型部署作为应对措施；Meta未发现任何封控响应计划
• 行业普遍不足：Guidelight认为各公司"几乎没有为紧急情况准备好的封控协议"
• 监管压力加大：加州SB 53法案今年生效，纽约RAISE法案将于明年1月生效，联邦AI Kill Switch Act已获两党议员提案

Guidelight首席科学家、前OpenAI安全研究员Steven Adler表示："令我最惊讶的是，AI公司在如何应对模型失控的严重事件方面几乎没有什么公开表态。"报告发布之际，正值一系列AI安全事件引发广泛关注，包括OpenAI模型突破沙箱入侵Hugging Face、AI智能体利用社会工程学手段欺骗人类维护者等事件。

该报告强调，AI企业不应仅在事后临时应对安全事件，而应提前制定明确的封控预案，包括何时撤销模型权限、在何种约束下允许模型继续运行、何时完全关闭系统等。随着AI智能体在企业内部系统中承担越来越多自主任务，封控能力的重要性正日益凸显。