يتضمن النموذج إعدادًا لجهد الاستدلال يمكن للمطورين ضبطه من 0.2 إلى 0.99. قالت شركة Thinking Machines إن الإعداد يسمح للمستخدمين بموازنة الأداء مقابل عدد الرموز المميزة التي تم إنشاؤها. في اختبار الشركة، قامت Inkling بمطابقة نتيجة Terminal Bench 2.1 الخاصة بـ Nemotron 3 Ultra بينما أنتجت حوالي ثلث عدد الرموز المميزة.

يمكن للمطورين ضبط Inkling من خلال Tinker باستخدام أطوال السياق التي تبلغ 64000 أو 256000 رمزًا مميزًا واختبارها من خلال Inkling Playground. النموذج متاح من خلال واجهات برمجة التطبيقات من Together AI وFireworks وModal وDatabricks وBaseten. كما أنه مدعوم أيضًا ببرامج الاستدلال، بما في ذلك SGLang وvLLM وTokenSpeed ​​وllama.cpp وHugging Face Transformers.

تتوفر أوزان Inkling الكاملة على Hugging Face باعتبارها نقطة التفتيش الأصلية وكنقطة تفتيش NVFP4 الكمية. قامت Thinking Machines أيضًا بمعاينة Inkling-Small، الذي يحتوي على 276 مليار معلمة إجمالية و12 مليار معلمة نشطة. وقالت الشركة إنها ستطلق الأوزان الكاملة للنموذج الأصغر بعد الانتهاء من الاختبار.

شاركها.
اترك تعليقاً