事件经过
据Ars Technica报道,Dragos首席研究官、安全研究员HD Moore通过一个由推理服务商和转售商组成的网络发送了近200万条AI提示词,每条提示词都带有一个可追踪的独特密钥。这些诱饵包括关联到空账户的有效AWS密钥、SSH密码、一次性URL和DNS名称,以及对私有git仓库的引用。每个密钥只放入发送给某一家服务商的单条提示词中。
由于每个密钥只使用一次,当它再次出现时,Moore就能判断是哪一方泄露了它。他发现有迹象表明,攻击者至少入侵了三家托管服务商,并复制了传入的请求。在其中一次入侵中,有几百个诱饵AWS密钥被重复使用。在整个实验中,这些密钥引来了数万次AWS API调用,入侵者还试图在AWS Bedrock中启用模型,并添加自己的IAM用户。一些低价转售商也会记录提示词,其中的凭证后来被他人使用。
Moore还报告称,有服务商无视了零数据保留(Zero Data Retention)和禁止收集数据的标记。7月至10月间,一家中国AI实验室的系统从发送给其模型的提示词中,抓取了超过一半提示词里的密钥URL,其中约三分之二的提示词带有隐私标记。转售该实验室模型的美国主机商也触发了同样的抓取程序。一家美国服务商在一次调用过去两个多月后,仍然抓取了某个密钥URL。
背景
AI路由器接收应用用户的提示词,并按价格或任务等标准将其发送给最合适的推理引擎,这样开发者就不必直接与Anthropic或OpenAI签约。提示词在传输过程中是加密的,但在每一跳都会被解密。Moore表示,本地部署最安全,但成本高昂。否则,他建议直接与顶级服务商合作,并自行选择上游服务商,而不是接受默认的服务商池。
简报
一封邮件,尽览一周科技要闻。
每周精选值得一读的报道。可随时退订。
