ما الذي حدث
أصدرت Anthropic نظام FlashProve، وهو نموذج أولي مفتوح المصدر يتيح لمزوّد نماذج الذكاء الاصطناعي الالتزام بنموذج محدد، ثم إرفاق إثبات تشفيري بكل رد يبيّن أنه صدر عن ذلك النموذج، بحسب ما أعلنته Anthropic. ويعتمد النظام على zkSNARKs، وهي فئة من البراهين المختصرة بمعرفة صفرية. وقالت الشركة إن Claude هو من أنتج التحسينات التي جعلته أسرع بدرجة كبيرة من الأساليب المفتوحة المصدر السابقة.
وفي اختبارات أُجريت على Llama 4 Maverick، وهو نموذج مزيج الخبراء بحجم 400B معامل ويستخدم أوزانًا مكمَّمة بدقة 4 بتات، ولّد معالج H100 واحد الإثباتات بسرعة تقارب 110 رموز في الثانية. وينتج كل طلب من 1,024 رمزًا إثباتًا بحجم نحو 19 MB. وتبلغ تكلفة الإثبات نحو 70 إلى 95 ضعف وقت GPU اللازم لتشغيل النموذج نفسه على vLLM، وهي مكتبة مفتوحة المصدر، في حين وُصفت الأنظمة المفتوحة المصدر السابقة بأنها أبطأ بعدة أضعاف تبلغ مراتب من حيث الحجم.
تُخفي الإثباتات أوزان النموذج لكنها ليست مصممة لإخفاء بنيته. ولتسهيل تدقيق خيارات التصميم التي اعتمدها Claude، قدّم الفريق صياغات رسمية بلغة Lean للضمانات الأمنية، إضافة إلى مُثبِت ومُحقِّق سريع بلغة C++ ومُحقِّق بلغة Lean مثبتة صحته. والشيفرة والإثباتات والوثائق متاحة بترخيص Apache 2.0، ووصف المؤلفون العمل بأنه تقدّم في مرحلة وسيطة.
السياق
لا يستطيع المستخدمون اليوم التأكد من النموذج الذي أنتج الرد. فقد تستبدل خدمة توجيه نموذجًا أرخص بالنموذج المطلوب دون أن يلاحظ أحد، أو قد يتلاعب مهاجم بتدفق الرموز. أما التحقق المباشر فسيتطلب أوزانًا خاصة وقدرة حوسبة كبيرة. وقالت Anthropic إن الاستدلال القابل للإثبات يمكن أن يدعم أيضًا المقيّمين المستقلين والجهات التنظيمية، بما في ذلك المقترحات التي تقصر استخدام العتاد على الاستدلال دون التدريب.
الموجز
أسبوع التقنية في رسالة واحدة.
التقارير التي تستحق وقتك، كل أسبوع. يمكنك إلغاء الاشتراك في أي وقت.