क्या हुआ
The Decoder की रिपोर्ट के अनुसार, Thinking Machines का नया ओपन मॉडल Inkling 2 Mini लूप्ड ट्रांसफॉर्मर डिज़ाइन का इस्तेमाल करता है। हर टोकन को सभी लेयरों से एक बार गुज़ारने के बजाय, यह मॉडल हर टोकन को अपनी 24 लेयरों में से आधी, यानी 12 लेयरों के एक समूह से लगातार तीन चक्रों में गुज़ारता है। कंपनी का कहना है कि इस अतिरिक्त आंतरिक गणना की मदद से मॉडल अतिरिक्त टेक्स्ट लिखे बिना समस्याओं को हल कर सकता है, इसलिए वह कम टोकन खर्च करके सही उत्तर तक पहुँच सकता है।
Thinking Machines Inkling 2 Mini को मिक्सचर-ऑफ-एक्सपर्ट्स सिस्टम बताती है, जिसमें कुल 26.4 अरब पैरामीटर हैं, जिनमें से लूपिंग के कारण प्रति टोकन 5.4 अरब सक्रिय रहते हैं। यह टेक्स्ट और इमेज दोनों को संभालता है, 10 लाख टोकन की कॉन्टेक्स्ट विंडो को सपोर्ट करता है और Apache 2.0 लाइसेंस के साथ आता है। इसके वेट्स और समायोज्य लूप संख्या वाला एक रिसर्च वेरिएंट Hugging Face पर उपलब्ध हैं, और मॉडल को Tinker Playground में आज़माया जा सकता है।
एजेंटिक कोडिंग बेंचमार्क में Inkling 2 Mini 100 अरब पैरामीटर से छोटे ओपन मॉडलों में सबसे ऊँचे स्कोर दर्ज करता है: DeepSWE v1.1 में 48.2 प्रतिशत और Vals Index v2.2 में 46.5 प्रतिशत। Artificial Analysis अपने Intelligence Index पर इसे 20 अंक देता है, जो Qwen3.8 27B के बराबर है, जबकि लागत लगभग छठे हिस्से जितनी और गति लगभग चार गुना है। इसे 32 GB या उससे अधिक मेमोरी वाले Mac पर और Nvidia के DGX Spark पर स्थानीय रूप से चलाया जा सकता है।
पृष्ठभूमि
लूप्ड ट्रांसफॉर्मर एक ही लेयरों को बार-बार इस्तेमाल करके बेहतर तर्कशक्ति हासिल करने की कोशिश करते हैं: ज़्यादा टोकन पैदा करने के बजाय वे हर टोकन पर ज़्यादा गणना खर्च करते हैं। Inkling 2 Mini 100 अरब पैरामीटर से छोटे ओपन मॉडलों के प्रतिस्पर्धी सेगमेंट में उतरा है, जहाँ नई रिलीज़ की तुलना एजेंटिक कोडिंग टेस्ट और Artificial Analysis Intelligence Index जैसी स्वतंत्र रैंकिंग में Qwen3.8 27B जैसे सिस्टमों से की जाती है।
ब्रीफ़िंग
टेक का पूरा सप्ताह, एक ईमेल में।
हर सप्ताह वे रिपोर्ट्स जो आपके समय के लायक हैं। कभी भी अनसब्सक्राइब करें।
