تطلق BigCode StarCoder2، الجيل التالي من LLMs ذات الكود المفتوح المدربين بشفافية. تم تدريب جميع متغيرات StarCoder2 على The Stack v2، وهي مجموعة بيانات كود جديدة كبيرة وعالية الجودة. نقوم بإصدار جميع النماذج ومجموعات البيانات والمعالجة بالإضافة إلى كود التدريب. تحقق من الورقة للحصول على التفاصيل. ما هو ستاركودر2؟ StarCoder2 هي عائلة من شهادات LLM المفتوحة للتعليمات البرمجية وتأتي بثلاثة أحجام مختلفة مع معلمات 3B و7B و15B. تم تدريب نموذج StarCoder2-15B الرائد على أكثر من 4 تريليون رمز وأكثر من 600 لغة برمجة من The Stack v2. تستخدم جميع النماذج انتباه الاستعلام المجمع، وهي نافذة سياق مكونة من 16,384 رمزًا…
الكاتب: eshraag
يتسع جهاز Venice إلى 256 نواة Zen 6 مع دعم 512 مؤشر ترابط، و16 قناة ذاكرة، وما يصل إلى 1 جيجابايت من ذاكرة التخزين المؤقت L3 لكل مقبس، إلى جانب اتصال PCIe 6.0 وCXL 3.1. تقدم AMD أيضًا العديد من تكوينات Venice للتطبيقات الأخرى، بما في ذلك الخوادم ذات الأغراض العامة وأحمال العمل عالية التردد ومضيفي GPU وأنظمة وضع الحماية لوحدة المعالجة المركزية عالية الكثافة المستخدمة لتنفيذ أدوات الوكيل. إن التعامل مع وحدة المعالجة المركزية فقط كمضيف لوحدة معالجة الرسومات يقلل من دورها. تؤكد البوابات والترميز والبحث المتجه وقواعد البيانات وتنفيذ التعليمات البرمجية قصيرة العمر على مزيج مختلف من الأداء…
[-1–> مع ثورة الذكاء الاصطناعي التوليدي (GenAI) على قدم وساق، أصبح إنشاء النصوص باستخدام نماذج المحولات مفتوحة المصدر مثل Llama 2 حديث المدينة. يتطلع عشاق الذكاء الاصطناعي وكذلك المطورون إلى الاستفادة من القدرات التوليدية لهذه النماذج في حالات الاستخدام والتطبيقات الخاصة بهم. توضح هذه المقالة مدى سهولة إنشاء نص باستخدام مجموعة نماذج Llama 2 (7b و13b و70b) باستخدام Optimum Habana وفئة مسار مخصصة – ستتمكن من تشغيل النماذج ببضعة أسطر فقط من التعليمات البرمجية! تم تصميم فئة خطوط الأنابيب المخصصة هذه لتوفير قدر كبير من المرونة وسهولة الاستخدام. علاوة على ذلك، فهو يوفر مستوى عالٍ من التجريد ويقوم بإنشاء نص…
في الآونة الأخيرة، تم إطلاق Argilla وHugging Face Data is Better Together، تجربة لبناء مجموعة بيانات مفضلة للتصنيفات السريعة بشكل جماعي. في أيام قليلة كان لدينا: 350 من المساهمين المجتمعيين يقومون بوضع العلامات على البيانات أكثر من 11000 تقييم سريع راجع لوحة معلومات التقدم للحصول على أحدث الإحصائيات! وأدى ذلك إلى إطلاق سراح 10k_prompts_ranked، مجموعة بيانات تتكون من 10000 مطالبة مع تقييمات المستخدمين لجودة المطالبة. نريد تمكين المزيد من المشاريع مثل هذا! في هذا المنشور، سنناقش سبب اعتقادنا أنه من الضروري أن يتعاون المجتمع في بناء مجموعات البيانات ومشاركة الدعوة للانضمام إلى المجموعة الأولى من المجتمعات التي ستدعمها Argilla وHugging…
يمكن أن يكون إيقاع إصدار النموذج شهريًا بمثابة سلاح ذو حدين للمؤسسات ومديري تكنولوجيا المعلومات فيها. وقال سانشيت فير جوجيا، كبير المحللين في شركة Greyhound Research، إنه في حين أن إيقاع الإصدار الشهري يمكن أن يساعد المؤسسات على الوصول بشكل أسرع إلى التحسينات في أداء النموذج والتكلفة والقدرات، فإنه سيتطلب أيضًا من مديري تكنولوجيا المعلومات الاستثمار بشكل أكبر في الاختبار والحوكمة وإدارة الإصدارات لاعتماد تلك التحديثات بأمان. وبالمثل، قال باريك جاين، المحلل الرئيسي في شركة باريك للاستشارات، إن المؤسسات لن تتبنى إيقاع إصدار أسرع إلا إذا قدم كل نموذج متتالي تحسينات قابلة للقياس في الأداء أو التكلفة أو السلامة، بدلاً…
أصبحت النماذج جيدة جدًا في فهم النص من تلقاء نفسها، ولكن ماذا عن النص الموجود في الصور، والذي يوفر معلومات سياقية مهمة؟ على سبيل المثال، التنقل في الخريطة، أو فهم الميم؟ إن القدرة على التفكير في التفاعلات بين النص والسياق المرئي في الصور يمكن أن تدعم العديد من تطبيقات العالم الحقيقي، مثل مساعدي الذكاء الاصطناعي، أو أدوات لمساعدة ضعاف البصر. نشير إلى هذه المهام باسم “مهام الاستدلال البصري الغنية بالنص الحساسة للسياق”. في الوقت الحالي، تركز معظم تقييمات النماذج الكبيرة متعددة الوسائط (LMMs) التي تم ضبطها على التعليمات على اختبار مدى قدرة النماذج على الاستجابة للتعليمات البشرية المطروحة على شكل…
وقال شيل: “من المرجح أن تكون الأدوار الأكثر عرضة للخطر هي وظائف متكررة ذات حجم كبير مثل دعم العملاء في الخطوط الأمامية والمعالجة الروتينية للمكاتب الخلفية”. “ومع ذلك، أتوقع أن يكون التأثير الأول على التوظيف ونمو الفريق بدلاً من التخفيض الفوري للوظائف على نطاق واسع. وبمرور الوقت، قد تعيد المؤسسات تصميم الأدوار حول سير العمل المدعوم بالذكاء الاصطناعي، مع تركيز البشر بشكل أكبر على الحالات المعقدة، والتصعيد، وإدارة العلاقات”. وقال جاين إن وكلاء الدعم من المستوى الأول الذين يتعاملون مع الاستعلامات المتوقعة سيواجهون أكبر قدر من التعرض. ولن يصبح إجراء تخفيضات أوسع نطاقا أكثر احتمالا إلا بعد أن تعيد الشركات…
تعد نماذج التضمين مفيدة للعديد من التطبيقات مثل الاسترجاع وإعادة الترتيب والتجميع والتصنيف. شهد مجتمع البحث تطورات كبيرة في السنوات الأخيرة في تضمين النماذج، مما أدى إلى تحسينات كبيرة في جميع التطبيقات المبنية على التمثيل الدلالي. يتم وضع نماذج مثل BGE وGTE وE5 في أعلى معيار MTEB وفي بعض الحالات تتفوق على خدمات التضمين الخاصة. توجد مجموعة متنوعة من أحجام النماذج الموجودة في مركز نماذج Hugging Face، بدءًا من الوزن الخفيف (معلمات 100-350 مليونًا) وحتى نماذج 7B (مثل Salesforce/SFR-Embedding-Mistral). تعد النماذج خفيفة الوزن المستندة إلى بنية التشفير مرشحة مثالية للتحسين والاستخدام على الواجهات الخلفية لوحدة المعالجة المركزية (CPU) التي تقوم…
الجدد 2.0 قادم بالفعل في المستقبل القريب، مع قيام المنافسين برفع الأسعار على أجهزة الكمبيوتر الشخصية التي تتنافس مع أجهزة Apple منخفضة التكلفة، تخطط كوبرتينو بالفعل للطريق نحو MacBook Neo 2. وتزعم التقارير أن هذا سيظهر لأول مرة في مارس بألوان جديدة ويستخدم شريحة A19 Pro من iPhone 17 Pro، مع تعزيز الأداء بذاكرة موحدة أكثر قليلاً (12 جيجابايت، بدلاً من 8 جيجابايت). وهذا من شأنه أن يجعله جهاز Mac أفضل بكثير، ومن المحتمل أن يحقق مكاسب في الأداء بنسبة 10-15% والقدرة على تشغيل Apple Intelligence، مما يجعله أفضل جهاز كمبيوتر يعمل بالذكاء الاصطناعي وأقل تكلفة في فئته. بعد أربعة…
في عالم تطوير الويب، عادةً ما يتطلب تحويل التصميمات إلى مواقع ويب وظيفية الكثير من الترميز والاختبار الدقيق. ماذا لو تمكنا من تبسيط هذه العملية، مما يجعل من الممكن تحويل تصميمات الويب إلى مواقع ويب عاملة بسهولة أكبر وبسرعة؟ WebSight عبارة عن مجموعة بيانات جديدة تهدف إلى بناء أنظمة ذكاء اصطناعي قادرة على تحويل لقطات الشاشة إلى كود HTML. التحدي عادةً ما يحتاج تحويل تصميم موقع ويب أو لقطة شاشة إلى كود HTML إلى مطور ذي خبرة. ولكن ماذا لو كان هذا أكثر كفاءة؟ بدافع من هذا السؤال، قمنا بالتحقق من كيفية استخدام نماذج لغة الرؤية (VLMs) في تطوير الويب…