دفع حدود الذكاء الاصطناعي للغة العربية من خلال الهندسة المعمارية الهجينة

اكتشف المزيد في مدونتنا الرسمية، التي تتميز بتجربة تفاعلية

لقد كانت رحلة بناء نماذج عالمية للغة العربية رحلة تعلم وتكرار مستمرين. اليوم، نحن متحمسون للإعلان فالكون-H1-عربي، عائلة نماذج اللغة العربية الأكثر تقدمًا لدينا حتى الآن، مما يمثل قفزة كبيرة إلى الأمام في كل من التصميم والقدرات. يجسد هذا الإصدار شهورًا من البحث وتعليقات المجتمع والابتكار التقني، وبلغت ذروتها ثلاثة نماذج قوية تضع معايير جديدة لمعالجة اللغة العربية الطبيعية.

البناء على النجاح: التطور من لغة الصقر العربية

عندما أطلقنا Falcon-Arabic قبل بضعة أشهر، كانت استجابة المجتمع متواضعة ومفيدة. استخدم المطورون والباحثون والطلاب في جميع أنحاء العالم العربي هذا النموذج لحالات الاستخدام الحقيقي، ودفعوهم إلى أقصى الحدود وقدموا تعليقات لا تقدر بثمن. لقد تعلمنا أين تفوق النموذج، والأهم من ذلك، أين واجه الصعوبات. وقد ظهر فهم السياق الطويل، واختلافات اللهجات، والتفكير الرياضي، والمعرفة الخاصة بالمجال كمجالات رئيسية تتطلب اهتمامًا أعمق.

لم نرغب فقط في إجراء تحسينات تدريجية، بل أردنا إعادة التفكير بشكل أساسي في نهجنا. والنتيجة هي Falcon-H1-Arabic، وهي عائلة نموذجية تتناول كل جزء من التعليقات التي تلقيناها مع تقديم ابتكارات معمارية لم يتم استكشافها من قبل في نماذج اللغة العربية.

Falcon-H1-Arabic 3B, 7B, 34B تتفوق على جميع موديلات SOTA ذات الأحجام المشابهة وأحياناً الأكبر.

الأول من نوعه في البرمجة اللغوية العصبية باللغة العربية: هندسة محولات المامبا الهجينة

تم بناء Falcon-H1-Arabic على فالكون-H1 بنية هجينة، تدمج نماذج الفضاء الحكومية (مامبا) وانتباه المحولات داخل كل كتلة. يعمل كلا المكونين بالتوازي ويتم دمج تمثيلاتهما قبل إسقاط مخرجات الكتلة. يوفر هذا التصميم قابلية التوسع الخطي لـ Mamba لتسلسلات طويلة للغاية مع الحفاظ على قدرات النمذجة الدقيقة طويلة المدى للانتباه. بالنسبة للغة العربية، بفضل مورفولوجيتها الغنية وهياكل الجمل المرنة، فإن هذا النهج يحسن بشكل كبير التماسك والتفكير عبر النص الموسع. لقد قمنا بنشر هذه البنية عبر ثلاثة مستويات (معلمات 3B، و7B، و34B)، ويوازن كل منها بين السعة والكفاءة وقابلية النشر لحالات الاستخدام المختلفة بدءًا من الأجهزة الطرفية وحتى تطبيقات المؤسسات.

بنية فالكون-H1. يتم تشغيل الانتباه وSSM بالتوازي داخل كل كتلة؛ يتم توصيل مخرجاتها قبل إسقاط مخرجات الكتلة. يعتمد عدد رؤوس SSM/Attention على حجم النموذج. مزيد من التفاصيل حول التقرير الفني لـ Falcon-H1.

كسر حدود السياق

لقد قمنا بزيادة إمكانات السياق بشكل كبير من حد Falcon-Arabic البالغ 32 ألفًا إلى 128 ألف رمزًا مميزًا للنموذج 3B و256 ألف رمزًا مميزًا لكل من الطرازين 7B و34B. باستخدام 256 ألف رمز (حوالي 200000 كلمة)، يمكن لهذه النماذج معالجة العديد من الروايات أو مئات الصفحات من الوثائق الفنية التي تتيح التطبيقات في التحليل القانوني والسجلات الطبية والبحث الأكاديمي والمحادثات الموسعة التي كانت غير عملية في السابق. يعالج ما بعد التدريب لدينا على وجه التحديد التحديات “المفقودة في المنتصف” لضمان استخدام النماذج بفعالية لنطاق السياق الكامل الخاص بها، وليس فقط قبول المدخلات الطويلة.

جودة البيانات وتنوعها: أساس التميز

لقد قمنا بإعادة بناء خط بيانات ما قبل التدريب الخاص بنا من الألف إلى الياء ليعكس تعقيد اللغة العربية بشكل أفضل. بدأ ذلك بعملية تصفية جودة متعددة المراحل مصممة خصيصًا لتتوافق مع التهجئة والصرف وعلامات التشكيل والأنماط النحوية في اللغة العربية. بدلًا من التصفية الإرشادية، استخدمنا تحليلًا لغويًا عميقًا لعزل النص المتماسك والمنظم جيدًا وإزالة التشويش الموجود بشكل شائع في مجاميع الويب المفتوحة. والنتيجة هي مجموعة بيانات عربية أكثر وضوحًا واتساقًا من حيث الأسلوب.

وكانت تغطية اللهجة أولوية رئيسية أخرى. اللغة العربية ليست متجانسة. تتعايش اللغة العربية الفصحى الحديثة مع لهجات مثل اللهجات المصرية والشرقية والخليجية والمغربية، ولكل منها مفردات وتركيبات نحوية متميزة. لقد قمنا بتوسيع مصادر اللهجات بشكل كبير حتى تتمكن النماذج من فهم وتوليد مجموعة كاملة من اللغة العربية في العالم الحقيقي بدلاً من الميل بشكل غير متناسب نحو اللغة العربية الفصحى الرسمية. وللحفاظ على التفكير العالمي وتنوع المجالات، حافظنا أيضًا على القدرات المتعددة اللغات لـ Falcon-H1 من خلال تدريب النماذج العربية على مزيج متساوٍ تقريبًا من المحتوى العربي والإنجليزية ومتعدد اللغات يبلغ إجماليه حوالي 300 مليار رمز. وهذا يضمن أداءً قويًا في التعليمات البرمجية والعلوم والتكنولوجيا والهندسة والرياضيات (STEM) والاستدلال بين اللغات. يوضح الشكل التالي توزيع بيانات ما قبل التدريب عبر اللغات والفئات. يتم التعبير عن جميع القيم بمليارات الرموز.

ما بعد التدريب: صقل القدرات دون المساس بالكفاءة

بعد التدريب المسبق، يخضع Falcon-H1-Arabic لمرحلة ما بعد التدريب المركزة التي تتكون من الضبط الدقيق الخاضع للإشراف (SFT) متبوعًا بتحسين التفضيل المباشر (DPO). خلال SFT، نعرض النماذج لتعليمات عربية عالية الجودة، وأمثلة سياقية طويلة منسقة، ومهام استدلال منظمة تعلمهم اتباع التوجيهات، والحفاظ على التماسك عبر التسلسلات الممتدة، وإرساء إجاباتهم على المعلومات ذات الصلة. تعتبر هذه المرحلة حاسمة لضمان قدرة النماذج على استخدام نوافذ السياق الكبيرة الخاصة بها والتي لا تظهر تلقائيًا من الهندسة المعمارية وحدها.

نحن نتبع SFT بمرحلة DPO مستهدفة لتحسين التوافق وجودة المحادثة واتساق التفضيلات. يساعد DPO النماذج على تحقيق التوازن بين التفكير طويل السياق والكفاءة اللغوية العامة، وتحسين المساعدة وتقليل أنماط الفشل الشائعة مثل الانحراف، أو الإفراط في استخدام السياق، أو إهمال المعلومات السابقة. خلال كلتا المرحلتين، نراقب بعناية النسيان الكارثي ونحافظ على منهج دراسي خاضع للرقابة حتى لا تأتي المكاسب في سلوك السياق الطويل على حساب المنطق الأساسي أو الدقة الواقعية. والنتيجة هي مجموعة من النماذج التي تتعامل مع المستندات الموسعة والحوار بسهولة مع الحفاظ على الأداء القوي في المهام اللغوية اليومية.

وبعيدًا عن التحسين الموجه نحو المعايير، تعمل عملية ما بعد التدريب لدينا على تعزيز المجالات التي لا تلتقطها التقييمات التقليدية بشكل كامل، بما في ذلك الإخلاص في المحادثة، والتنظيم البلاغي، والمتابعة المنظمة، وتماسك الخطاب. تعزز هذه التحسينات بشكل كبير الفائدة العملية للنموذج، مما يجعل Falcon-H1-Arabic أكثر موثوقية في الحوار الحقيقي متعدد المنعطفات، وتنفيذ التعليمات، وتدفقات المحادثة ذات السياق الطويل.

الأداء المعياري: وضع معايير جديدة

الأرقام تحكي جزءًا مهمًا من القصة. في لوحة المتصدرين العربية المفتوحة LLM (OALL)، وهو معيار شامل لتقييم فهم اللغة العربية عبر مهام متنوعة، يحقق Falcon-H1-Arabic أحدث النتائج في كل نطاق اختبرناه. لاحظ أن نتائجنا قد تختلف قليلاً عن تلك الواردة في لوحة المتصدرين، حيث استخدمنا vLLM كواجهة خلفية بدلاً من التنفيذ القائم على Accelerate الخاص بلوحة المتصدرين. عادةً ما تكون هذه الاختلافات أقل من نقطة واحدة مع توفير وقت تشغيل أسرع بشكل ملحوظ.

بعيدًا عن OALL، نقوم أيضًا بالإبلاغ عن النتائج المتعلقة بمعيار 3LM للمهام المتعلقة بالعلوم والتكنولوجيا والهندسة والرياضيات (STEM) على كل من الانقسامات الاصطناعية والمحلية؛ الثقافة العربية لتقييم الثقافة العربية؛ وAraDice لتغطية اللهجة العربية عبر اللهجات الشامية والمصرية بالإضافة إلى الثقافة العربية في 6 دول. درجة AraDice المبلغ عنها هي متوسط ​​جميع الدرجات الثلاثة.

بدءًا من الطراز 3B، يكون الأداء استثنائيًا. يصل إلى ما يقرب من 62% على OALL، متفوقًا على جميع النماذج صغيرة الحجم، بما في ذلك Gemma-4B، وQwen3-4B، وPhi-4-mini بحوالي عشر نقاط. في اختبار 3LM، المقياس العربي الرئيسي للعلوم والتكنولوجيا والهندسة والرياضيات، سجل حوالي 82% في القسمة الأصلية و73% في القسمة الاصطناعية. كما أنها تحقق حوالي 62% في معيار الثقافة العربية وحوالي 50% في تقييم لهجات AraDice (المصرية والخليجية والمشرقية). وهذا يجعل من Falcon-H1-Arabic-3B نموذجًا عالي الجودة وعالي الكفاءة ومناسبًا لعمليات نشر الحافة والتطبيقات في الوقت الفعلي والأنظمة الوكيلة حيث يكون زمن الاستجابة والتكلفة مهمًا.

يواصل نموذج 7B هذا المسار التصاعدي. مع درجة 71.7% على OALL، فهو يتفوق على جميع الطرازات في فئة ~10B، بما في ذلك Fanar-9B، وAllam-7B*، وQwen3-8B. في 3LM، يصل إلى حوالي 92% على الانقسام الأصلي و 85% على الانقسام الاصطناعي. ترتفع درجات AraDice إلى منتصف الخمسينيات في جميع اللهجات، وتقترب نتائج ArabCulture من 80%. يحقق هذا النموذج توازنًا مثاليًا بين القدرة وقابلية النشر، مما يجعله الخيار الأكثر عملية لمعالجة اللغات الطبيعية باللغة العربية للأغراض العامة في بيئات الإنتاج.

يمثل الطراز 34B نظامنا الرئيسي ويؤسس لحالة جديدة من الفن لنمذجة اللغة العربية. يصل إلى ما يقرب من 75% على OALL، ولا يتفوق على النماذج ذات الحجم المماثل فحسب، بل يتفوق أيضًا على الأنظمة الأكبر حجمًا مثل Llama-3.3-70B وAceGPT2-32B. تصل درجات 3LM الخاصة بها إلى حوالي 96% على القسمة الأصلية و94% على القسمة الاصطناعية. في ArabCulture، حصلت على ما يقرب من 80%، وعلى AraDice تصل إلى حوالي 53 عبر اللهجات. إن حقيقة أن النموذج الهجين 34B يفوق أداء المحولات بمقياس 70B توضح فعالية بنية Falcon-H1، وجودة البيانات، وقوة خط أنابيب ما بعد التدريب.

تثبت هذه النتائج المرجعية صحة نهجنا ولكنها تسلط الضوء أيضًا على حقيقة مهمة: إن حدود نمذجة اللغة العربية تتقدم بسرعة. تمثل كل نقطة مئوية في هذه المعايير ساعات لا تحصى من الجهد الهندسي، والتنظيم الدقيق لمجموعة البيانات، والتحسين المعماري. إن الهوامش التي يتقدم بها Falcon-H1-Arabic ليست مجرد نتائج إحصائية، بل تترجم إلى تجارب مستخدم أفضل بشكل ملموس في تطبيقات العالم الحقيقي.

التطبيقات العملية: من الحافة إلى المؤسسة

يتناسب كل طراز في عائلة Falcon-H1-Arabic مع سيناريوهات النشر المختلفة. تم تحسين نموذج 3B لتحقيق السرعة والفعالية من حيث التكلفة والأنظمة عالية الإنتاجية، مما يجعله مثاليًا لسير العمل الوكيل والتطبيقات على الجهاز والدردشة ذات زمن الاستجابة المنخفض والبيئات ذات القيود الصارمة على الموارد. يعمل نموذج 7B بمثابة العمود الفقري للأغراض العامة لمعظم تطبيقات الإنتاج، حيث يعمل على تشغيل أنظمة فهم المستندات وروبوتات الدردشة وخطوط التلخيص وأدوات إنشاء المحتوى. تم تصميم نموذج 34B للمجالات عالية المخاطر حيث تكون الدقة والتفكير طويل المدى أكثر أهمية، بما في ذلك التحليل القانوني والتلخيص الطبي والبحث الأكاديمي وأتمتة المؤسسات واسعة النطاق. تجعل نافذة السياق الموسعة الخاصة به قادرة بشكل فريد على تحليل مئات الصفحات من النص في مسار واحد مع الحفاظ على التماسك الدقيق.

الذكاء الاصطناعي المسؤول والقيود

مثل جميع النماذج اللغوية، قد يعكس Falcon-H1-Arabic تحيزات من بيانات التدريب ويمكن أن ينتج معلومات هلوسة. لا ينبغي استخدام المخرجات النموذجية كسلطات وحيدة لاتخاذ القرارات الطبية أو القانونية أو المالية دون التحقق المهني. قد ينخفض ​​أداء السياق الطويل عند النطاقات القصوى. نوصي بالتقييم الخاص بالمهمة واستخدام حواجز الحماية المناسبة قبل النشر في الإنتاج أو التطبيقات الحساسة.

شكر وتقدير

وهذا العمل يقف على أكتاف الكثيرين. نعرب عن امتناننا لمجتمع أبحاث البرمجة اللغوية العصبية باللغة العربية، الذي تتيح مشاركته المفتوحة للمعايير ومجموعات البيانات والمنهجيات التقدم في هذا المجال. شكر خاص لزملائنا في معهد دراسات الترجمة: إلياس شاهد، يونس بلقادة، ضياء الدين رحيم، بونيش خانا، جينجوي زو، ميخائيل لوبينيتس، سليم فريخا، مكسيم فيليكانوف، كاسبر بيسكوسكي، وسهيل محمد على دعمهم الذي لا يقدر بثمن خلال هذا المشروع.

الاقتباس

@misc{Falcon-H1-Arabic-2026,
  title={Falcon-H1-Arabic: State-of-the-Art Arabic Language Models with Hybrid Mamba-Transformer Architecture},
  author={Basma El Amel Boussaha and Mohammed Alyafeai and Ahmed Alzubaidi and Leen AlQadi and Shaikha Alsuwaidi and Omar Alkaabi and Hamza Alobeidli and Hakim Hacid},
  url={https://huggingface.co/blog/tiiuae/falcon-h1-arabic},
  month={January},
  year={2026},
  note={Available in 3B, 7B, and 34B parameter versions}
}

• ملحوظة: درجات ALlaM-7B-Instruct-preview في تقييمنا أعلى من تلك المذكورة في لوحة المتصدرين OALL، حيث استخدمنا الإصدار الأحدث (7b-alpha-v2.33.0.30)، بينما تعكس لوحة المتصدرين حاليًا نتائج من الإصدار الأقدم (7b-alpha-v1.27.2.25).