ما يخبرنا به مقتطف Jinja الممل عن نموذج Qwen-3 الجديد.
يأتي طراز Qwen-3 الجديد من Qwen مزودًا بقالب دردشة أكثر تطورًا من سابقيه Qwen-2.5 وQwQ. من خلال إلقاء نظرة على الاختلافات في قالب جينجا، يمكننا العثور على رؤى مثيرة للاهتمام حول النموذج الجديد.
قوالب الدردشة
ما هو قالب الدردشة؟
يحدد قالب الدردشة كيفية تنظيم وتنسيق المحادثات بين المستخدمين والنماذج. يعمل القالب كمترجم، حيث يقوم بتحويل محادثة يمكن قراءتها بواسطة الإنسان:
[
role: "user", content: "Hi there!" ,
role: "assistant", content: "Hi there, how can I help you today?" ,
role: "user", content: "I'm looking for a new pair of shoes." ,
]
إلى تنسيق نموذجي ودود:
<|im_start|>user
Hi there!<|im_end|>
<|im_start|>assistant
Hi there, how can I help you today?<|im_end|>
<|im_start|>user
I'm looking for a new pair of shoes.<|im_end|>
<|im_start|>assistant
<think>
</think>
يمكنك بسهولة عرض قالب الدردشة لنموذج معين على صفحة نموذج Hugging Face.
قالب الدردشة لـ Qwen/Qwen3-235B-A22B
دعنا نتعمق في قالب الدردشة Qwen-3 ونرى ما يمكننا تعلمه!
1. لا يجب أن يكون التفكير قسريًا
ويمكنك جعله اختياريًا عبر تعبئة مسبقة بسيطة…
يعتبر Qwen-3 فريدًا من حيث قدرته على تبديل التفكير عبر enable_thinking علَم. عند التعيين على خطأ، يقوم القالب بإدراج فارغة <think></think> الزوج، وإخبار النموذج بتخطي الأفكار خطوة بخطوة. النماذج السابقة خبزت <think> ضع علامة في كل جيل، مما يفرض سلسلة من الأفكار سواء أردت ذلك أم لا.
%- if enable_thinking is defined and enable_thinking is false %
- '<think>\n\n</think>\n\n'
%- endif %
QwQ على سبيل المثال، يفرض التفكير المنطقي في كل محادثة.
%- if add_generation_prompt %
- '<
%- endif %
إذا enable_thinking صحيح أن النموذج قادر على تحديد ما إذا كان يفكر أم لا.
يمكنك اختبار اختبار القالب بالكود التالي:
import Template from "@huggingface/jinja";
import downloadFile from "@huggingface/hub";
const HF_TOKEN = process.env.HF_TOKEN;
const file = await downloadFile(
repo: "Qwen/Qwen3-235B-A22B",
path: "tokenizer_config.json",
accessToken: HF_TOKEN,
);
const config = await file!.json();
const template = new Template(config.chat_template);
const result = template.render(
messages,
add_generation_prompt: true,
enable_thinking: false,
bos_token: config.bos_token,
eos_token: config.eos_token,
);
2. يجب أن تكون إدارة السياق ديناميكية
يستخدم Qwen-3 نظام نقاط تفتيش متجدد، حيث يحافظ بذكاء على الكتل المنطقية أو يقلمها للحفاظ على السياق ذي الصلة. تجاهلت النماذج القديمة المنطق قبل الأوان لحفظ الرموز.
يقدم Qwen-3 “نقطة تفتيش المتداول” عن طريق اجتياز قائمة الرسائل في الاتجاه المعاكس للعثور على آخر دورة للمستخدم والتي لم تكن استدعاء أداة. بالنسبة لأي ردود مساعد بعد هذا الفهرس، فإنه يحتفظ بالملف الكامل <think> كتل. تم تجريد كل شيء سابقًا.
لماذا هذا مهم:
- يبقي الخطة النشطة مرئية أثناء استدعاء أداة متعددة الخطوات.
- يدعم سير عمل الأداة المتداخلة دون فقدان السياق.
- يحفظ الرموز عن طريق تشذيب الأفكار التي لم يعد النموذج بحاجة إليها.
- يمنع المنطق “الذي لا معنى له” من التحول إلى مهام جديدة.
مثال
فيما يلي مثال على الحفاظ على تسلسل الأفكار من خلال استدعاءات الأدوات باستخدام Qwen-3 وQwQ.
قم بزيارة @huggingface/jinja لاختبار قوالب الدردشة
3. تحتاج وسيطات الأداة إلى تسلسل أفضل
قبل كل tool_call.arguments تم تمرير الحقل من خلال | tojson، حتى لو كانت بالفعل سلسلة مشفرة بـ JSON، مما يؤدي إلى المخاطرة بالهروب المزدوج. يقوم Qwen‑3 بالتحقق من النوع أولاً وإجراء تسلسل فقط عند الضرورة.
%- if tool_call.arguments is string %
- tool_call.arguments
%- else %
- tool_call.arguments
%- endif %
4. ليست هناك حاجة لمطالبة النظام الافتراضي
مثل العديد من الموديلات، تحتوي سلسلة Qwen‑2.5 على موجه النظام الافتراضي.
أنت كوين، تم إنشاؤها بواسطة Alibaba Cloud. أنت مساعد مفيد.
يعد هذا أمرًا شائعًا جدًا لأنه يساعد العارضات على الرد على أسئلة المستخدم مثل “من أنت؟”
يتم شحن Qwen-3 وQwQ بدون موجه النظام الافتراضي هذا. على الرغم من ذلك، لا يزال بإمكان النموذج التعرف على منشئه بدقة إذا طلبت ذلك.
خاتمة
يوضح لنا Qwen-3 ذلك من خلال chat_template يمكننا توفير مرونة أفضل ومعالجة أكثر ذكاءً للسياق وتفاعلًا محسّنًا للأداة. لا تعمل هذه التحسينات على تحسين القدرات فحسب، بل تجعل أيضًا سير العمل الوكيل أكثر موثوقية وفعالية.
