情报报告

OpenAI将GPT-6.2 Astra推理提取攻击成功率降至0.2%

OpenAI推出分层防御并每周大规模封禁账号,旨在阻止竞争对手蒸馏其最新模型的隐藏推理过程。

INSIGHTEX Editorial Desk

阅读约 2 分钟

OpenAI将GPT-6.2 Astra推理提取攻击成功率降至0.2%情报报告

事件经过

据The Decoder报道,OpenAI大幅加强了保护措施,防止攻击者获取其GPT-6.2 Astra和GPT-6.2 Sol模型的内部推理过程。该公司表示,在让六个攻击者模型对其系统发起的自适应黑盒红队测试中,从先前请求中成功提取受保护推理内容的比例,已从GPT-6 Astra的54.0%降至GPT-6.2 Astra的0.2%。

对于针对仍在处理中的请求的攻击,OpenAI表示成功率从22.9%降至0.9%。这些防护措施分两方面展开。针对单个请求,该公司将有针对性的模型训练与筛查传入和传出消息及工具调用的过滤器相结合,并通过API限制,防止旧版模型读取受保护的推理内容。

为了应对有组织的蒸馏行动,OpenAI表示每周会封禁数千至数万个账号。该公司还补充说,目前正将部分改进措施扩展到较早的GPT-6 Astra模型,使这一旧系统也能获得部分新增的保护。

背景

在这场对抗中,OpenAI并不孤单。Anthropic同样一直在应对系统性的蒸馏攻击,并同样封禁了数万个账号,以限制其模型内部推理被窃取,据报道其相关举措在90%至99%的情况下取得成功。Anthropic还呼吁业界和政策制定者协调应对这一问题。

Astra简介

来源The Decoder

简报

一封邮件,尽览一周科技要闻。

每周精选值得一读的报道。可随时退订。