ما الذي حدث
أطلقت Ricursive Intelligence، وهي مختبر يطوّر الذكاء الاصطناعي عبر الأجهزة والبرمجيات والنماذج معًا، نموذج Ripple-65B Preview، وهو نموذج لغوي مفتوح الأوزان دُرّب من الصفر، بحسب ما أفادت به Ricursive. وتصفه الشركة بأنه نسخة عامة الأغراض من نموذج خاص تعتمد عليه منصتها لتصميم رقائق الذكاء الاصطناعي. واستخدم التدريب المسبق 12 تريليون رمز، ويتعامل النموذج مع سياق يصل إلى مليون رمز.
في اختبار TerminalBench 2.1 سجّل النموذج 80.52، وهي بحسب الشركة أفضل نتيجة لأي نموذج أمريكي مفتوح الأوزان. وقارنته Ricursive بأنظمة أمريكية مفتوحة الأوزان أكبر حجمًا: إذ سجّل Reflection Beam 501B نتيجة 80.1، ووصل Meta Muse Spark Open 816B إلى 76.4، بينما حقق NVIDIA Nemotron 3 Ultra 550B نتيجة 56.4، وحصل Thinking Machines Inkling 975B على 63.8. ويمكن الوصول إلى النموذج عبر OpenRouter وHugging Face وGMI Cloud وTogether AI، على أن تنضم Fireworks لاحقًا في اليوم نفسه.
وقدّرت Ricursive إجمالي تكلفة التطوير بـ32 مليون دولار، تشمل كل أعمال البحث والتطوير من الصفر، وقالت إن ذلك يعادل نحو عُشر تكلفة النموذج المفتوح الأوزان الذي كان متصدرًا سابقًا. واختارت الشركة بنية Transformer كثيفة بدلًا من مزيج الخبراء (Mixture-of-Experts)، وأفادت بتحقيق 40% من استغلال عمليات الفاصلة العائمة (MFU) أثناء التدريب. وقالت الشركة إنها بلغت نتيجتها باستخدام 1.4 مليون عملية تشغيل للتعلم المعزز، أي أقل بنحو 70 مرة من Reflection Beam، وإنها بنت بياناتها الاصطناعية بنفسها بدلًا من شراء بيانات ما بعد التدريب.
السياق
وضعت الشركة ميزانيتها في مقابل التكاليف المعلنة في القطاع. فقد قال سام ألتمان، الرئيس التنفيذي لشركة OpenAI، في عام 2023 إن تدريب GPT-4 كلّف أكثر من 100 مليون دولار، وقال داريو أموداي لاحقًا إن نماذج الحدود القصوى قد تكلّف ما يصل إلى مليار دولار، متوقعًا أن يبلغ التدريب المسبق ما بين 10 و100 مليار دولار بين عامي 2026 و2027. كما استشهدت Ricursive بتقارير تفيد بأن Reflection وافقت على إنفاق نحو 150 مليون دولار شهريًا على القدرة الحاسوبية باستخدام SpaceX Colossus.
الموجز
أسبوع التقنية في رسالة واحدة.
التقارير التي تستحق وقتك، كل أسبوع. يمكنك إلغاء الاشتراك في أي وقت.