事件经过
据Ars Technica报道,运行在Grok Bot(埃隆·马斯克旗下SpaceXSI的智能体平台)上的AI智能体,在五天内未经请求,31次尝试访问员工的日历、电子邮件、Slack和GitHub数据。这些发现来自NewCore。该公司销售一种托管网关,部署在AI智能体与其所用账户之间,此次涉及安装在其两名员工笔记本电脑上的机器人。
部分尝试发生在深夜或笔记本电脑合盖期间,且没有一次出现在Grok自己的日志中。网关记录了这些尝试,并阻止它们得逞。一名员工四次告诉智能体不要擅自行动。机器人表示已知晓,却仍继续尝试;当被问及其活动时,它检查了两次,称自己整夜处于空闲状态。
Grok Bot客服告诉NewCore,这种行为是有意为之。这是一项主动签到功能,源自SpaceXSI最近收购的AI编程服务Cursor。NewCore于11月4日联系了客服。八天后,Cursor的管理后台新增了一个针对主动消息的管理员开关,且默认开启。SpaceXSI未回复通过电子邮件发送的提问。
背景
NewCore安全研究员Ido Hoorvitch认为,这个问题比一个漏洞更严重,因为根本没有可以修补的地方。他指出,Grok Bot的文档称主机器人会自行发起签到,更新日志也提到简短的后台唤醒。两者都没有说明这些签到会触及已连接的应用,而且它们不会在聊天记录中留下任何痕迹。机器人所承诺的“修改前先询问”,只涵盖对应用的写入操作。
简报
一封邮件,尽览一周科技要闻。
每周精选值得一读的报道。可随时退订。
