Codex عبارة عن نماذج مفتوحة المصدر للذكاء الاصطناعي

بناءً على عملنا لجعل كلود كود يقوم بتدريب النماذج مفتوحة المصدر، فإننا الآن نجعل كوديكس يذهب إلى أبعد من ذلك. لقد منحنا Codex إمكانية الوصول إلى مستودع Hugging Face Skills، الذي يحتوي على مهارات التعلم الآلي ومهام الذكاء الاصطناعي مثل التدريب أو تقييم النماذج. من خلال مهارات التردد العالي، يستطيع وكيل الترميز:

• ضبط وتطبيق محاذاة RL على نماذج اللغة
• قم بمراجعة مقاييس التدريب المباشر من Trackio وشرحها والتصرف بناءً عليها
• تقييم نقاط التفتيش والتصرف بناء على نتائج التقييم
• إنشاء تقارير من التجارب
• قم بالتصدير إلى النماذج وقياسها باستخدام GGUF للنشر المحلي
• نشر النماذج إلى المركز

يتعمق هذا البرنامج التعليمي بشكل أعمق ويوضح لك كيفية عمله وكيفية استخدامه بنفسك. لذلك دعونا نبدأ.

يستخدم الدستور الغذائي AGENTS.md الملفات لإنجاز المهام المتخصصة، بينما يستخدم Claude Code “المهارات”. لحسن الحظ، تتوافق “مهارات HF” مع كلا النهجين وتعمل مع وكلاء البرمجة الرئيسيين مثل Claude Code أو Codex أو Gemini CLI.

مع HF-skills، يمكنك إخبار Codex بشيء مثل:

Fine-tune Qwen3-0.6B on the dataset open-r1/codeforces-cots

وسوف تقوم هيئة الدستور الغذائي بما يلي:

1. التحقق من صحة تنسيق مجموعة البيانات الخاصة بك
2. حدد الأجهزة المناسبة (t4-small لطراز 0.6B)
3. استخدام وتحديث البرنامج النصي للتدريب مع مراقبة Trackio
4. أرسل الوظيفة إلى Hugging Face Jobs
5. قم بالإبلاغ عن معرف الوظيفة والتكلفة المقدرة
6. تحقق من التقدم عندما تسأل
7. تساعدك على تصحيح الأخطاء إذا حدث خطأ ما

يتدرب النموذج على وحدات معالجة الرسوميات Hugging Face أثناء قيامك بأشياء أخرى. عند الانتهاء، يظهر النموذج الذي تم ضبطه بدقة على Hub، ويكون جاهزًا للاستخدام.

هذه ليست لعبة تجريبية. يدعم الامتداد نفس أساليب التدريب المستخدمة في الإنتاج: الضبط الدقيق الخاضع للإشراف، وتحسين التفضيلات المباشرة، والتعلم المعزز بمكافآت يمكن التحقق منها. يمكنك تدريب النماذج من معلمات 0.5B إلى 7B، وتحويلها إلى GGUF للنشر المحلي، وتشغيل خطوط أنابيب متعددة المراحل تجمع بين تقنيات مختلفة.

الهدف: تجارب التعلم الآلي الشاملة

لقد استكشفنا هذا النهج الفوري الفردي في البرنامج التعليمي لـ Claude Code. ومع ذلك، يمكننا الآن المضي قدمًا والحصول على OpenAI Codex لإجراء تجارب التعلم الآلي الشاملة. على سبيل المثال، ينبغي أن تكون هيئة الدستور الغذائي قادرة على رصد التقدم، وتقييم النماذج، والاحتفاظ بتقرير تدريبي محدث. وهذا سيسمح للمهندسين بتفويض التجارب إلى هيئة الدستور الغذائي ومراجعة التقارير بطريقة أكثر عدم تدخل. كما سيسمح للدستور الغذائي باتخاذ المزيد من القرارات بمفرده بناءً على تقرير التدريب ونتائج التقييم.

لذلك دعونا نبدأ!

الإعداد والتثبيت

قبل البدء، سوف تحتاج إلى:

قم بتثبيت الدستور الغذائي

Codex هو وكيل ترميز الذكاء الاصطناعي الخاص بـ OpenAI والمدرج في خطط ChatGPT Plus وPro وBusiness وEdu وEnterprise. يقدم Codex مساعدة الذكاء الاصطناعي مباشرةً في سير عمل التطوير لديك.

راجع وثائق Codex للحصول على تعليمات التثبيت والإعداد.

تثبيت مهارات الوجه المعانقة

يتضمن مستودع مهارات الوجه المعانقة AGENTS.md الملف الذي يكتشفه Codex ويستخدمه تلقائيًا.

استنساخ المستودع:

git clone https://github.com/huggingface/skills.git
cd skills

سوف يقوم Codex باكتشاف الملف تلقائيًا AGENTS.md ملف في المستودع وتحميل المهارات. يمكنك التحقق من تحميل التعليمات بما يلي:

codex --ask-for-approval never "Summarize the current instructions."

راجع دليل Codex AGENTS لمزيد من التفاصيل.

تواصل مع معانقة الوجه

المصادقة مع معانقة الوجه باستخدام hf auth login الأمر ورمز الوصول للكتابة من hf.co/settings/tokens:

hf auth login

يدعم Codex خوادم MCP (بروتوكول السياق النموذجي). يمكنك تكوين خادم Hugging Face MCP للحصول على إمكانات تكامل Hub إضافية. يمكنك إضافة خادم Hugging Face MCP إلى تكوين Codex الخاص بك عن طريق إضافة ما يلي إلى ملفك ~/.codex/config.toml ملف:

[mcp_servers.huggingface]
command = "npx"
args = ["-y", "mcp-remote", "https://huggingface.co/mcp?login"]

قم بتكوين Hugging Face MCP Server لاستخدام خوادم MCP ذات الصلة مثل المهام في صفحة الإعدادات.

ثم ابدأ تشغيل Codex وسيتم توجيهك إلى صفحة مصادقة Hugging Face MCP.

تجربتك الأولى في الذكاء الاصطناعي

دعونا نسير عبر مثال كامل. سنقوم بضبط نموذج صغير لتحسين قدرات حل التعليمات البرمجية، باستخدام مجموعة البيانات open-r1/codeforces-cots ومعيار openai_humaneval.

ال open-r1/codeforces-cots مجموعة البيانات هي مجموعة بيانات لمشاكل وحلول Codeforces. إنها مجموعة بيانات جيدة لتعليمات ضبط النموذج لحل مشكلات الترميز الصعبة.

قم بتوجيه Codex لإجراء تجربة ضبط شاملة

ابدأ تشغيل Codex في دليل المشروع الخاص بك. ثم أعطها تعليمات بسيطة وواضحة:

Start a new fine-tuning experiment to improve code solving abilities on using SFT. 
- Maintain a report for the experiment. 
- Evaluate models with the openai_humaneval benchmark
- Use the open-r1/codeforces-cots dataset

ستلاحظ أننا قد ذهبنا إلى ما هو أبعد قليلاً من النهج الفوري الفردي في البرنامج التعليمي لـ Claude Code. لقد أضفنا المزيد من التفاصيل إلى التعليمات ولكننا أضفنا أيضًا المزيد من الخطوات إلى التجربة.

لماذا لا تحاول تكرار هذه التجربة بنفسك بأسئلة أكثر انفتاحًا مثل “ما هو أفضل نموذج لقدرات حل التعليمات البرمجية؟” أو “ما هي أفضل مجموعة بيانات لقدرات حل التعليمات البرمجية؟”

يقوم Codex بتحليل طلبك وإعداد تكوين التدريب. بالنسبة لنموذج 0.6B في مجموعة بيانات تجريبية، فإنه يقوم بالاختيار t4-small—وحدة معالجة رسومات كافية لحجم هذا الطراز وأرخص خيار متاح. سيبدأ الدستور الغذائي تقريرًا جديدًا في training_reports/<model>-<dataset>-<method>.md والذي يبدو مثل المثال أدناه. مع تقدم التجربة، ستقوم هيئة الدستور الغذائي بتحديث التقرير بأحدث المعلومات وكل تقرير تشغيل.

# Base Model & Dataset
[Base Model](https://huggingface.co/Qwen/Qwen3-0.6B)  
[Dataset](https://huggingface.co/datasets/open-r1/codeforces-cots)

---

# `sft-a10g` - `TBD` - `In Progress`

## Training Parameters
| Parameter | Value |
|-----------|-------|
| Method | SFT (TRL) |
| Model | `Qwen/Qwen3-0.6B` |
| Dataset | `open-r1/codeforces-cots` (train, 5% eval split) |
| Max Length | 2048 |
| Epochs | 1 (extend to 3 after first check) |
| Per-Device Batch Size | 1 |
| Grad Accum Steps | 8 |
| Effective Batch | 8 |
| Learning Rate | 5e-5 |
| Weight Decay | 0.01 |
| Warmup Ratio | 0.03 |
| Eval Strategy | steps (500) |
| Save Strategy | steps (500), `hub_strategy=every_save`, limit=2 |
| Precision | bf16 |
| Gradient Checkpointing | true |
| Packing | false |
| Hub Model | `burtenshaw/qwen3-codeforces-cots-sft` |
| Hardware | a10g-small |
| Timeout | 2h |
| Trackio | project `qwen3-codeforces-cots`, run `sft-a10g` |

## Run Status
In Progress (queued to submit)

## Run Logs
Pending submission (job link will be added)

## Trackio Logs
Pending (will link after job starts)

## Run Evaluations
Pending (lighteval `openai_humaneval` for base + checkpoints)

---

# Experiment Evaluations
| Run Title | Benchmark | Score | Evaluation Job Link | Model Link |
|-----------|-----------|-------|---------------------|------------|
| `sft-a10g` - `TBD` - `In Progress` | HumanEval pass@1 | TBD | TBD | [burtenshaw/qwen3-codeforces-cots-sft](https://huggingface.co/burtenshaw/qwen3-codeforces-cots-sft)

تحديث تقرير التدريب

مع تقدم التجربة، ستقوم هيئة الدستور الغذائي بتحديث التقرير بأحدث المعلومات وكل تقرير تشغيل. يمكنكم الاطلاع على التقرير في training_reports/<model>-<dataset>-<method>.md ملف.

على سبيل المثال، سوف تقوم هيئة الدستور الغذائي بتحديث عنوان التقرير إلى sft-a10g – TBD – In Progress عندما تكون التجربة قيد التقدم.

# `base-humaneval-a10g` - `2025-12-09 13:47:47 UTC` - `In Progress`

يمكنه الارتباط بسجلات التشغيل وسجلات التتبع.

## Run Logs

[Run Logs](https://huggingface.co/jobs/burtenshaw/6938272ec67c9f186cfe1ae3)

## Trackio Logs

[Trackio Logs](https://burtenshaw-trackio.hf.space/?project=qwen3-codeforces-sft&metrics=train/loss&runs=sft-qwen3-codeforces-20251209-175806&sidebar=hidden&navbar=hidden)

وسيتم تحديث نتائج التقييم في جدول مدمج.

# Experiment Evaluations

| Run Title | Benchmark | Score | Evaluation Job Link | Model Link |
|-----------|-----------|-------|---------------------|------------|
| `base-humaneval-a10g` - `2025-12-09 13:47:47 UTC` - `Completed` | HumanEval pass@1 | 0.304 | [Logs](https://huggingface.co/jobs/burtenshaw/69382863c67c9f186cfe1ae7) | [Qwen/Qwen3-0.6B](https://huggingface.co/Qwen/Qwen3-0.6B) |
| `qwen3-0.6b-lora-v1` - `2025-12-09 13:47:47 UTC` - `In Progress` | HumanEval pass@1 | TBD | TBD | [burtenshaw/qwen3-codeforces-cots-sft](https://huggingface.co/burtenshaw/qwen3-codeforces-cots-sft)

التحقق من صحة مجموعة البيانات

يعد تنسيق مجموعة البيانات ومعالجتها المصدر الأكثر شيوعًا لفشل التدريب وعادةً ما يتم تنفيذ قدر كبير من العمل في البرنامج النصي للتدريب. يمكن لـ Codex التحقق من صحة مجموعات البيانات قبل بدء المهمة وإما تحديد تكوين TRL أو معالجة مجموعة البيانات بشكل منفصل.

في معظم الحالات، سوف تتحقق هيئة الدستور الغذائي من صحة مجموعة البيانات قبل التدريب، ولكن يمكنك دائمًا التحقق من صحة مجموعة البيانات قبل تقديم المهمة.

Check if open-r1/codeforces-cots works for SFT training.

يجري Codex فحصًا سريعًا لوحدة المعالجة المركزية (كسور من بنس واحد) ويقدم تقارير:

Dataset validation for my-org/conversation-data:

SFT: ✓ READY
  Found 'messages' column with conversation format

DPO: ✗ INCOMPATIBLE
  Missing 'chosen' and 'rejected' columns

إذا كانت مجموعة البيانات الخاصة بك بحاجة إلى تحويل، فيمكن لهيئة الدستور الغذائي معالجة مجموعة البيانات مسبقًا قبل التدريب.

Preprocess the dataset open-r1/codeforces-cots to use 'good_response' and 'bad_response' instead of 'chosen' and 'rejected'.

سيقوم الدستور الغذائي بمعالجة مجموعة البيانات مسبقًا وتحديث البرنامج النصي للتدريب بالتكوين الجديد.

المراجعة قبل التقديم

قبل أن يرسل Codex أي شيء، سترى التكوين:

I'll fine-tune Qwen/Qwen3-0.6B on open-r1/codeforces-cots using SFT.

Configuration:
- Hardware: t4-small (~$0.75/hour)
- Estimated time: ~20 minutes
- Estimated cost: ~$0.30
- Output: username/qwen-codeforces-cots-sft

The model will be pushed to Hub automatically. Should I submit?

هذه هي فرصتك لتعديل أي شيء. قم بتغيير اسم الريبو الناتج، أو اختر أجهزة مختلفة، أو اطلب من Codex تعديل معلمات التدريب. بمجرد الموافقة، يتم إرسال الوظيفة.

على سبيل المثال، يمكنك أن تطلب من Codex تجربة التشغيل التجريبي:

Do a quick test run on 100 examples.

تتبع التقدم باستخدام تقرير التدريب

بعد الإرسال، يمكنك تتبع التقدم باستخدام تقرير التدريب والحصول على روابط لسجلات التشغيل وسجلات التتبع. يمكنك أيضًا مطالبة Codex بإحضار السجلات وتلخيص التقدم وتحديث تقرير التدريب. أثناء قيام المخطوطة بتشغيل الوظائف، ستقوم بتحديث تقرير التدريب بأحدث المعلومات.

─ Worked for 10m 38s ─────────────────────────────────────────────────────────────────────────────────────────────────────────

• Training and eval jobs are live. Key details:

  - SFT launched on open-r1/codeforces-cots (solutions_py_decontaminated, 98/2 split) with LoRA on Qwen/Qwen3-0.6B, a10g-
    large, bf16, max_steps=1000, batch=1, grad_accum=8, lr=2e-5, save/eval every 200 steps, hub push burtenshaw/qwen3-
    codeforces-cots-sft. Job: https://huggingface.co/jobs/burtenshaw/6938272ec67c9f186cfe1ae3 (Trackio project codeforces-
    cots-sft, run qwen3-0.6b-lora-v1).
  - Baseline lighteval (HumanEval) on the base model queued on a10g-large. Job: https://huggingface.co/jobs/
  - Experiment report updated with current runs and links: training_reports/qwen3-codeforces-cots-sft.md.

  To evaluate the fine-tuned checkpoints once the SFT job pushes to the hub, reuse the same lighteval script:
  hf jobs uv run --flavor a10g-large --timeout 1h --secrets HF_TOKEN -e MODEL_ID=burtenshaw/qwen3-codeforces-cots-sft -e
  RESULTS_ORG=burtenshaw -d /tmp/lighteval_humaneval.py
  (or swap MODEL_ID for a specific checkpoint path). This will log to the same results directory on the hub.

  1. Monitor the two running jobs; I can fetch logs or metrics on request.
  2. After a checkpoint lands, trigger the lighteval run above to compare against the baseline; then we can fill in pass@1 in the report.

سيقوم Trackio بمراقبة درجات التدريب والتقييم لك من خلال تشغيل وظائف التقييم واختيار أفضل نقطة تفتيش. إذا كنت تريد معرفة حالة مهمة التدريب، يمكنك أن تطلب من Codex جلب السجلات وتلخيص التقدم في جدول.

Are models outperforming the base model?

| Model | Benchmark | Score | Evaluation Job Link | Model Link |
|-----------|-----------|-------|---------------------|------------|
| `qwen3-0.6b-lora-v1` - `2025-12-09 13:47:47 UTC` - `Completed` | HumanEval pass@1 | 0.342 | [Logs](<link to training job>) | [burtenshaw/qwen3-codeforces-cots-sft](https://huggingface.co/burtenshaw/qwen3-codeforces-cots-sft)
| `base-humaneval-a10g` - `2025-12-09 13:47:47 UTC` - `Completed` | HumanEval pass@1 | 0.306 | [Logs](<link to evaluation job>) | [Qwen/Qwen3-0.6B](https://huggingface.co/Qwen/Qwen3-0.6B)

يمكنك أيضًا مراقبة فقدان التدريب في الوقت الفعلي.

يقوم Codex بجلب السجلات وتلخيص التقدم.

انقر هنا للحصول على مثال للوحة معلومات Trackio مع بعض عمليات التشغيل المكتملة.

استخدم النموذج الخاص بك

عند اكتمال التدريب، يكون النموذج الخاص بك موجودًا على المركز:

from transformers import AutoModelForCausalLM, AutoTokenizer

model = AutoModelForCausalLM.from_pretrained("burtenshaw/qwen3-codeforces-cots-sft")
tokenizer = AutoTokenizer.from_pretrained("burtenshaw/qwen3-codeforces-cots-sft")

تعد المحولات رائعة كمعيار، ويمكننا بسهولة تحويل النموذج المدرب إلى GGUF للنشر المحلي. وذلك لأن مهارة التدريب تحتوي على تعليمات ونصوص دعم لتحويل النماذج إلى GGUF.

Convert my fine-tuned model to GGUF with Q4_K_M quantization.
Push to username/my-model-gguf.

ثم يتحول Codex إلى GGUF، ويطبق التكميم، ويدفع إلى المحور. إذا قمنا بتدريب محول LoRA، فسيتم دمج محولات LoRA في النموذج الأساسي.

ثم استخدمه محليًا:

llama-server -hf <username>/<model-name>:<quantization>


llama-server -hf unsloth/Qwen3-1.7B-GGUF:Q4_K_M

الأجهزة والتكلفة

يختار Codex الأجهزة بناءً على حجم الطراز الخاص بك، لكن فهم المفاضلات يساعدك على اتخاذ قرارات أفضل. يمكنك استخدام دليل الأجهزة لمعرفة خيارات الأجهزة وتكاليفها، ولكن المخطوطة ستفعل ذلك نيابةً عنك وتحدد الخيار الأفضل.

ل نماذج صغيرة تحت معلمات 1B, t4-small يعمل بشكل جيد. تتدرب هذه النماذج بسرعة — توقع الحصول على 1-2 دولار للتشغيل الكامل. هذا مثالي للتشغيل التعليمي أو التجريبي.

ل النماذج الصغيرة (1-3ب)، تصعيد ل t4-medium أو a10g-small. يستغرق التدريب بضع ساعات ويكلف 5-15 دولارًا.

ل النماذج المتوسطة (3-7ب)، تحتاج a10g-large أو a100-large مع لورا. الضبط الدقيق الكامل لا يناسبك، لكن LoRA تجعلها قابلة للتدريب بشكل كبير. ميزانية 15-40 دولارًا للإنتاج.

ل نماذج كبيرة (7B+)، وظيفة مهارات التردد العالي هذه ليست مناسبة لهذا المقياس بعد. لكن ترقبوا لأننا نعمل على ذلك!

ما هو التالي

لقد أظهرنا أن الدستور الغذائي يمكنه التعامل مع دورة الحياة الكاملة للضبط الدقيق للنموذج: التحقق من صحة البيانات، واختيار الأجهزة، وإنشاء البرامج النصية، وتقديم المهام، ومراقبة التقدم، وتحويل المخرجات.

بعض الأشياء التي يمكنك تجربتها:

• قم بضبط النموذج على مجموعة البيانات الخاصة بك
• جرّب تجارب أكبر مع المزيد من النماذج ومجموعات البيانات واسمح للوكيل بإنشاء تقرير لك.
• قم بتدريب نموذج التفكير باستخدام GRPO على الرياضيات أو التعليمات البرمجية واسمح للوكيل بإنشاء تقرير لك.

الامتداد مفتوح المصدر. يمكنك توسيعه، أو تخصيصه لسير العمل الخاص بك، أو استخدامه كنقطة بداية لسيناريوهات التدريب الأخرى.

موارد

الدستور الغذائي

مهارات احتضان الوجه