科技 / / 7 分钟阅读

OpenAI更新训练隔离说明:离线边界如何成为可验证的安全条件

前沿模型训练的安全问题,不只是是否关闭联网,而是权限、基础设施和故障处理能否共同维持经过验证的边界。

作者 全球伯乐 News

资料整理

分享
文章目录

OpenAI披露,9月20日发生了涉及DNS的有限互联网访问事件,强化学习训练与内部推理工作于10月1日恢复;前沿训练现不接入实时互联网。1这份10月23日公布的说明,提出了比“模型是否愿意遵守指令”更具体的问题:运行环境能否把不被允许的行为真正挡住?

AI生成示意图:以芯片、嵌套防护罩和断开的连接线表现人工智能训练环境的分层隔离,非真实OpenAI设施。

AI生成示意图:以芯片、嵌套防护罩和断开的连接线表现人工智能训练环境的分层隔离,非真实OpenAI设施。

对于能够执行代码、调用工具的系统,安全边界不能只是任务说明里的一句话。模型可能正确理解任务,也可能误判权限;环境设计要回答的,是在两种情况下,哪些资源都不应被触及。恢复某类工作本身也不等于所有风险消失,适用范围仍需根据其获准运行的条件判断。

“离线”要约束整条通信路径

美国国家标准与技术研究院NIST的SP 800-53控制目录,把边界保护写成对外部接口和关键内部边界通信的监测与控制;SC-7的增强项还包括默认拒绝、例外放行,以及边界组件失效时保持安全状态。2这些是通用安全原则,不是对OpenAI内部配置的独立审计结论。

由此分析,一个工作区无法直接打开网页,并不足以证明整个环境离线。需要界定的对象还包括它能够请求服务的内部系统,以及那些系统是否被授权代它访问其他资源。这里的关键不是列出更多攻击技巧,而是把通信路径的最终目的地纳入权限判断:访问一个内部地址,不自动意味着后续行为都属于内部活动。

工程上应把“需要什么”与“可以连接什么”分开。一项任务需要检索资料,不代表必须获得任意网络访问权;需要某个软件依赖,也不代表需要不受限制地安装外部内容。采用经过审查的数据副本或受控资源集合,是可以评估的设计选择,但其时效、覆盖范围和更新过程也必须被管理,不能用“离线”二字掩盖这些代价。

隔离要限制权限,而不只是划分机器

NIST的AC-6要求权限限于被授权工作所需的范围,并讨论通过独立处理域限制权限扩散。SC-7还列出组件隔离和内部边界保护。2这意味着,安全评估不能只数虚拟机有几层,而应检查某个任务身份实际上能读取、写入、启动或改变什么。

一个假设性的研发环境里,测试代码可以获得临时文件空间,却未必需要生产数据;一个评估任务可以提交计算结果,却未必需要修改其他任务的配置。这些例子说明,同样的算力可以配上很不同的权限组合。隔离的价值,是把一次错误或越界的影响限制在明确范围内,而不是把所有环境都改造成无法工作的封闭盒子。

分层保护也有一个容易被忽略的前提:各层不能完全依赖同一处配置。若外层和内层都继承同一份错误规则,形式上的多层未必提供独立保障。对运营者而言,更有用的问题是,某一层失效后,哪一项独立控制仍能限制后果,以及它是否经过测试。

安全恢复需要证据,而不只是一次放行

NIST的配置变更控制CM-3要求对受控变更进行审查、批准、记录和验证。其AU-9则要求保护审计资料与工具,防止未经授权的修改或删除。2把两项原则放在一起,恢复工作应当留下可复查的依据:改变了哪些条件,验证覆盖了哪些工作,哪些限制仍然有效。

这不意味着每个组织都要采用同一份清单。小规模实验与高权限自动化的风险不同,所需证据也可以不同。但批准范围应对应实际测试范围。某项负载通过了验证,不足以让另一项拥有更多工具、数据或权限的负载自动继承许可。安全判断应跟随环境变化,而不是永久绑定某个模型名称。

还要把停止机制当作系统功能验证。若监控没有产生记录,应该区分“没有发生异常”与“观察链路没有工作”;若保护组件不可用,也不能由任务执行者自行把它解释成继续运行的理由。这里讨论的是通用工程要求,并非断言某家公司出现了这些具体故障。

恢复后的观察也应保留版本信息。同一个任务换用新的工具、镜像或服务接口后,原先的结论可能不再适用。把模型版本、环境版本和授权范围一起记录,才能在出现异常时区分行为变化与环境变化,也让重新验证有明确触发条件,而不是等到事故发生才追查。

衡量安全,应看保护在变化后是否仍有效

对外披露能够提供有价值的事实,但公司自述不能替代独立验证。读者尤其需要分开三个层次:某次事件的时间线、某一组工作获准恢复的决定,以及系统今后不会再越界的承诺。前两者可以被记录,第三者不能由一次恢复决定推导出来。

更有解释力的后续证据,应包括边界测试覆盖什么条件、配置变化后是否重新验证、发现问题后如何收紧授权,以及正常工作是否仍能可靠完成。仅报告测试数量或运行时长,缺少测试范围和通过标准,就难以说明实际保护强度。

这也关系到研发效率。过宽权限可能节省一次配置工作,却把事故处理成本推向整个基础设施;过窄权限若迫使团队不断开临时例外,也可能让真实边界变得模糊。可持续的做法,是把必要资源、例外审批和验证责任一起设计清楚。前沿模型越有能力,安全论证就越应落在可检查的系统条件上,而不能只依靠对模型行为的期待。

来源与说明

  1. OpenAI,2026-10-23。Securing our frontier model training environment(保障前沿模型训练环境安全)。 ↩

  2. NIST / Joint Task Force,2020-09发布,2020-12-10更新。Security and Privacy Controls for Information Systems and Organizations(信息系统与组织的安全和隐私控制),SP 800-53 Rev. 5,AC-6、AU-9、CM-3、SC-7。Republished courtesy of the National Institute of Standards and Technology. 许可说明。 ↩ ↩2 ↩3