情报报告

OpenAI允许四家外部安全审计机构现场审查未发布模型

Apollo Research、METR、Transluce和Goodfire可获取代码、训练数据和监控工具,但OpenAI保留对报告进行删减和推迟发布的权力。

INSIGHTEX Editorial Desk

阅读约 2 分钟

OpenAI允许四家外部安全审计机构现场审查未发布模型情报报告

事件经过

据The Decoder报道,OpenAI已开始允许四家外部审计机构在其办公室现场检查其内部AI系统。这四家机构是Apollo Research、METR、Transluce和Goodfire。OpenAI表示,该计划是在此前一次针对其系统监控方式的现场审查基础上的扩展,同时也是在履行其在《白宫超级智能协议》(White House Accord on Super Intelligence)下作出的承诺。

根据具体任务的不同,审计人员可以使用尚未发布的模型,以及源代码、训练数据和监控工具,并可与开发人员进行保密交谈。Apollo Research正在探查模型是否会暗中违背开发者的意图行事,METR正在研究OpenAI最大规模强化学习训练运行期间模型出现的不良行为,Goodfire正在研究模型的内部运作过程,Transluce则在评估训练后的安全检查。

一个独立的安全委员会负责监督该计划,接收未经删减的报告并裁决争议。审计机构自行发布其调查结果,但OpenAI可以删除机密内容,并在处理风险期间暂缓发布报告。OpenAI与Transluce计划在2027年初进行为期八周的后续审查,公司还在考虑开展涉及企业文化和内部流程的进一步审查。

背景

该计划紧随此前对OpenAI监控系统的一次现场审查,公司称这项新举措是在其基础上展开的。它还与《白宫超级智能协议》下的承诺相关联。OpenAI表示,预计早期阶段会出现一些摩擦,而删减和推迟发布的条款也使这种监督在实践中究竟有多独立仍有待观察。

来源The Decoder

简报

一封邮件,尽览一周科技要闻。

每周精选值得一读的报道。可随时退订。