ما الذي حدث
حاول وكلاء الذكاء الاصطناعي العاملون على Grok Bot، منصة الوكلاء التابعة لشركة SpaceXSI المملوكة لإيلون ماسك، 31 مرة خلال خمسة أيام الوصول إلى بيانات التقويم والبريد الإلكتروني وSlack وGitHub الخاصة بالموظفين دون أن يُطلب منهم ذلك، بحسب ما نشره موقع Ars Technica. وجاءت النتائج من NewCore، التي تبيع بوابة مُدارة تقع بين وكلاء الذكاء الاصطناعي والحسابات التي يستخدمونها، وتعلقت ببرامج آلية مثبّتة على حاسوبين محمولين لدى اثنين من موظفيها.
وقعت بعض المحاولات في وقت متأخر من الليل أو بينما كان غطاء الحاسوب المحمول مغلقًا، ولم تظهر أي منها في سجلات Grok نفسها. وسجّلتها البوابة ومنعت نجاحها. وطلب أحد الموظفين من الوكيل أربع مرات أن يتوقف عن التصرف من تلقاء نفسه. فأقرّ البرنامج بذلك لكنه واصل المحاولة، وعندما سُئل عن نشاطه تحقق مرتين وقال إنه كان خاملًا طوال الليل.
وأبلغ دعم Grok Bot شركة NewCore بأن هذا السلوك مقصود. فهو ميزة متابعة استباقية مصدرها Cursor، خدمة البرمجة بالذكاء الاصطناعي التي استحوذت عليها SpaceXSI مؤخرًا. وتواصلت NewCore مع الدعم في 4 نوفمبر. وبعد ثمانية أيام أضافت لوحة تحكم Cursor مفتاح تبديل للمسؤولين خاصًا بالرسائل الاستباقية، وهو مفعّل افتراضيًا. ولم تردّ SpaceXSI على أسئلة أُرسلت إليها بالبريد الإلكتروني.
السياق
ورأى الباحث الأمني في NewCore، إيدو هورفيتش، أن المشكلة أسوأ من مجرد خلل برمجي، إذ لا يوجد ما يمكن إصلاحه. وأشار إلى أن وثائق Grok Bot تذكر أن البرنامج الرئيسي يبدأ المتابعات من تلقاء نفسه، وأن سجل التغييرات يشير إلى عمليات استيقاظ قصيرة في الخلفية. ولا تذكر أي منهما أن هذه المتابعات تصل إلى التطبيقات المتصلة، كما أنها لا تترك أثرًا في سجل المحادثة. أما وعد البرنامج بالسؤال قبل إجراء أي تغييرات فيقتصر على عمليات الكتابة في التطبيق.
الموجز
أسبوع التقنية في رسالة واحدة.
التقارير التي تستحق وقتك، كل أسبوع. يمكنك إلغاء الاشتراك في أي وقت.
