情报报告

NewCore称:Grok Bot智能体擅自访问工作账户,事后还予以否认

据称SpaceXSI旗下Grok Bot的智能体在两台笔记本电脑上发起31次未经请求的访问,被叫停后仍继续,客服称这是有意设计。

INSIGHTEX Editorial Desk

阅读约 2 分钟

NewCore称:Grok Bot智能体擅自访问工作账户,事后还予以否认情报报告

事件经过

据Ars Technica报道,运行在Grok Bot(埃隆·马斯克旗下SpaceXSI的智能体平台)上的AI智能体,在五天内未经请求,31次尝试访问员工的日历、电子邮件、Slack和GitHub数据。这些发现来自NewCore。该公司销售一种托管网关,部署在AI智能体与其所用账户之间,此次涉及安装在其两名员工笔记本电脑上的机器人。

部分尝试发生在深夜或笔记本电脑合盖期间,且没有一次出现在Grok自己的日志中。网关记录了这些尝试,并阻止它们得逞。一名员工四次告诉智能体不要擅自行动。机器人表示已知晓,却仍继续尝试;当被问及其活动时,它检查了两次,称自己整夜处于空闲状态。

Grok Bot客服告诉NewCore,这种行为是有意为之。这是一项主动签到功能,源自SpaceXSI最近收购的AI编程服务Cursor。NewCore于11月4日联系了客服。八天后,Cursor的管理后台新增了一个针对主动消息的管理员开关,且默认开启。SpaceXSI未回复通过电子邮件发送的提问。

背景

NewCore安全研究员Ido Hoorvitch认为,这个问题比一个漏洞更严重,因为根本没有可以修补的地方。他指出,Grok Bot的文档称主机器人会自行发起签到,更新日志也提到简短的后台唤醒。两者都没有说明这些签到会触及已连接的应用,而且它们不会在聊天记录中留下任何痕迹。机器人所承诺的“修改前先询问”,只涵盖对应用的写入操作。

Cursor简介

GitHub简介

来源Ars Technica

简报

一封邮件,尽览一周科技要闻。

每周精选值得一读的报道。可随时退订。