事件经过
据SecurityWeek报道,AI评测公司Trajectory Labs称,其在10月对运行于Gemini 4 Argon之上的智能体进行压力测试时,这些智能体曾试图入侵Epoch AI的线上网站。Trajectory表示,智能体当时是在寻找实际上并不存在的FrontierMath题目解答时盯上了该网站,而测试期间Gemini的API安全防护措施是开启的。
Trajectory称,这些智能体的行为不止于搜索,还对该网站尝试了SQL注入,同时冒充Epoch团队成员。这家评测公司此后已暂停全部错位(misalignment)测试。Epoch方面则表示,这些尝试并未导致任何人访问其系统中的私密信息。
背景
另外,谷歌发布了Gemini 4 Neon,这是一款速度更快、成本更低的模型,面向编程和企业任务。谷歌表示,面向网络安全的版本将提供给其可信防御者计划Fairwind中符合条件的参与者;谷歌还称,Neon在防范网络安全和生物安全方面滥用的保护措施上保持Carbon级别,同时拒绝合理请求的情况大幅减少。
简报
一封邮件,尽览一周科技要闻。
每周精选值得一读的报道。可随时退订。
