ما الذي حدث
عزّزت OpenAI بصورة كبيرة الحمايات التي تُبقي الاستدلال الداخلي لنموذجيها GPT-6.2 Astra وGPT-6.2 Sol بعيدًا عن متناول المهاجمين، بحسب ما نقله موقع The Decoder. ووفقًا للشركة، أظهر اختبار اختراق تكيّفي من نوع الصندوق الأسود، وضع ستة نماذج مهاجمة في مواجهة أنظمتها، أن نجاح استخراج الاستدلال المحمي من الطلبات السابقة انخفض من 54.0 بالمئة في GPT-6 Astra إلى 0.2 بالمئة في GPT-6.2 Astra.
وفي الهجمات الموجّهة إلى الطلبات التي لا تزال قيد التنفيذ، قالت OpenAI إن معدل النجاح انخفض من 22.9 إلى 0.9 بالمئة. وتعمل إجراءات الحماية على جبهتين. فعلى مستوى الطلبات الفردية، تجمع الشركة بين تدريب موجّه للنموذج ومرشّحات تفحص الرسائل الواردة والصادرة واستدعاءات الأدوات، إضافة إلى قيود على واجهة البرمجة تمنع النماذج الأقدم من قراءة الاستدلال المحمي.
ولمواجهة حملات التقطير المنسّقة، قالت OpenAI إنها تعلّق ما بين آلاف وعشرات الآلاف من الحسابات كل أسبوع. وأضافت الشركة أنها تعمل الآن على توسيع نطاق مجموعة مختارة من هذه التحسينات لتشمل نموذج GPT-6 Astra الأقدم، بحيث يحصل النظام القديم أيضًا على جزء من الحماية الأحدث.
السياق
ولا تخوض OpenAI هذه المعركة وحدها. فقد تصدّت Anthropic أيضًا لهجمات تقطير منهجية، وحظرت بدورها عشرات الآلاف من الحسابات للحد من سرقة الاستدلال الداخلي لنماذجها، وتفيد التقارير بأن جهودها تنجح في ما بين 90 و99 بالمئة من الحالات. كما حثّت Anthropic القطاع وصنّاع السياسات على تنسيق ردّهم على هذه المشكلة.
الموجز
أسبوع التقنية في رسالة واحدة.
التقارير التي تستحق وقتك، كل أسبوع. يمكنك إلغاء الاشتراك في أي وقت.
