تحديث سبتمبر 2025: لم نعد نقدم حاويات نشر نماذج HUGS.
لنشر نموذج Hugging Face المحسّن بسهولة في الأشعة تحت الحمراء لديك، راجع Dell Enterprise Hub ومجموعة Hugging Face Collection في Azure AI Foundry.
اليوم، يسعدنا أن نعلن عن إطلاق معانقة الوجه خدمات الذكاء الاصطناعي التوليدية المعروفة أيضًا باسم HUGS: خدمات استدلالية محسنة بدون تكوين مصممة لتبسيط وتسريع تطوير تطبيقات الذكاء الاصطناعي باستخدام النماذج المفتوحة. بناءً على تقنيات Hugging Face مفتوحة المصدر مثل استدلال إنشاء النص والمحولات، توفر HUGS أفضل حل لبناء تطبيقات الذكاء الاصطناعي التوليدية وتوسيع نطاقها بكفاءة في البنية التحتية الخاصة بك. تم تحسين HUGS لتشغيل النماذج المفتوحة على مجموعة متنوعة من مسرعات الأجهزة، بما في ذلك وحدات معالجة الرسومات NVIDIA ووحدات معالجة الرسومات AMD وقريبًا AWS Inferentia وGoogle TPU.
الاستدلال الأمثل للتكوين الصفري للنماذج المفتوحة
تعمل HUGS على تبسيط النشر الأمثل للنماذج المفتوحة في البنية الأساسية الخاصة بك وعلى مجموعة واسعة من الأجهزة. أحد التحديات الرئيسية التي يواجهها المطورون والمؤسسات هو التعقيد الهندسي لتحسين أعباء عمل الاستدلال لـ LLMs على وحدة معالجة رسومات معينة أو مسرع الذكاء الاصطناعي. باستخدام HUGS، نقوم بتمكين الحد الأقصى من عمليات نشر الإنتاجية لأكثر برامج LLM المفتوحة شيوعًا دون الحاجة إلى أي تكوين. يتم اختبار كل تكوين نشر تقدمه HUGS بالكامل وصيانته للعمل خارج الصندوق.
توفر عمليات نشر نماذج HUGS واجهة برمجة تطبيقات متوافقة مع OpenAI لاستبدال تطبيقات الذكاء الاصطناعي التوليدية الحالية المبنية على واجهات برمجة تطبيقات موفر النموذج. ما عليك سوى توجيه التعليمات البرمجية الخاصة بك إلى نشر HUGS لتشغيل تطبيقاتك بنماذج مفتوحة مستضافة في البنية الأساسية الخاصة بك.
لماذا العناق؟
توفر HUGS طريقة سهلة لإنشاء تطبيقات الذكاء الاصطناعي باستخدام نماذج مفتوحة مستضافة في البنية التحتية الخاصة بك، مع المزايا التالية:
- في البنية التحتية الخاصة بك: انشر النماذج المفتوحة داخل بيئتك الآمنة. احتفظ ببياناتك ونماذجك بعيدًا عن الإنترنت!
- نشر التكوين الصفري: تعمل HUGS على تقليل وقت النشر من أسابيع إلى دقائق من خلال إعداد بدون تكوين، مما يؤدي تلقائيًا إلى تحسين النموذج وتقديم التكوين لمسرع NVIDIA أو AMD GPU أو AI.
- الاستدلال الأمثل للأجهزة: تم تصميم HUGS استنادًا إلى استدلال إنشاء النص (TGI) الخاص بـ Hugging Face لتحقيق أعلى أداء عبر إعدادات الأجهزة المختلفة.
- مرونة الأجهزة: قم بتشغيل HUGS على مجموعة متنوعة من المسرعات، بما في ذلك وحدات معالجة الرسومات NVIDIA ووحدات معالجة الرسومات AMD، مع دعم AWS Inferentia وGoogle TPU قريبًا.
- مرونة النموذج: HUGS متوافق مع مجموعة واسعة من النماذج مفتوحة المصدر، مما يضمن المرونة والاختيار لتطبيقات الذكاء الاصطناعي الخاصة بك.
- واجهات برمجة التطبيقات القياسية الصناعية: انشر HUGS بسهولة باستخدام Kubernetes مع نقاط النهاية المتوافقة مع OpenAI API، مما يقلل من تغييرات التعليمات البرمجية.
- توزيع المؤسسة: HUGS عبارة عن توزيع مؤسسي لتقنيات Hugging Face مفتوحة المصدر، وتقدم دعمًا طويل الأمد واختبارًا صارمًا وامتثال SOC2.
- امتثال المؤسسة: يقلل من مخاطر الامتثال من خلال تضمين التراخيص وشروط الخدمة الضرورية.
لقد قدمنا إمكانية الوصول المبكر إلى HUGS لاختيار عملاء Enterprise Hub:
تعد HUGS بمثابة توفير كبير للوقت لنشر نماذج جاهزة للعمل محليًا ذات أداء جيد – قبل HUGS كان الأمر يستغرق منا أسبوعًا، والآن يمكننا إنجاز ذلك في أقل من ساعة واحدة. بالنسبة للعملاء ذوي متطلبات الذكاء الاصطناعي السيادية، فهذا يغير قواعد اللعبة! – هنري جوهاود، الرئيس التنفيذي للتكنولوجيا في Polyconseil
لقد جربنا HUGS لنشر Gemma 2 على GCP باستخدام وحدة معالجة الرسومات L4 – لم نضطر إلى العبث بالمكتبات والإصدارات والمعلمات، لقد نجح الأمر للتو. تمنحنا HUGS الثقة في قدرتنا على توسيع نطاق استخدامنا الداخلي للنماذج المفتوحة! – غيسلان بوتوا، مهندس أبحاث في شركة Orange
كيف يعمل
يعد استخدام HUGS أمرًا سهلاً. إليك كيف يمكنك البدء:
ملاحظة: ستحتاج إلى الوصول إلى الاشتراك المناسب أو عرض السوق وفقًا لطريقة النشر التي اخترتها.
أين تجد العناق
HUGS متاح من خلال عدة قنوات:
- أسواق مزودي الخدمات السحابية (CSP).: يمكنك العثور على HUGS ونشرها على Amazon Web Services (AWS) وGoogle Cloud Platform (GCP). سيأتي دعم Microsoft Azure قريبًا.
- المحيط الرقمي: HUGS متاحة أصلاً داخل DigitalOcean كخدمة جديدة للنماذج بنقرة واحدة، مدعومة بواسطة Hugging Face HUGS وGPU Droplets.
- مركز المؤسسة: إذا تمت ترقية مؤسستك إلى Enterprise Hub، فاتصل بفريق المبيعات لدينا للوصول إلى HUGS.
للحصول على تعليمات النشر المحددة لكل منصة، يرجى الرجوع إلى الوثائق ذات الصلة المرتبطة أعلاه.
التسعير
تقدم HUGS أسعارًا حسب الطلب استنادًا إلى وقت تشغيل كل حاوية، باستثناء عمليات النشر على DigitalOcean.
- AWS Marketplace وGoogle Cloud Platform Marketplace: 1 دولار أمريكي لكل ساعة لكل حاوية، بدون حد أدنى للرسوم (يتم إصدار فواتير استخدام الحوسبة بشكل منفصل بواسطة CSP). في AWS، لديك فترة تجريبية مجانية مدتها 5 أيام لتتمكن من اختبار HUGS مجانًا.
- المحيط الرقمي: تتوفر نماذج النقرة الواحدة المدعومة بواسطة Hugging Face HUGS دون أي تكلفة إضافية على DigitalOcean – تنطبق تكاليف حساب GPU Droplets العادية.
- مركز المؤسسة: نحن نقدم وصولاً مخصصًا لـ HUGS إلى مؤسسات Enterprise Hub. يرجى الاتصال بفريق المبيعات لدينا لمعرفة المزيد.
تشغيل الاستدلال
تعتمد HUGS على استدلال إنشاء النص (TGI)، مما يوفر تجربة استدلال سلسة. للحصول على تعليمات وأمثلة تفصيلية، راجع دليل تشغيل الاستدلال على HUGS. تعمل HUGS على تعزيز واجهة برمجة التطبيقات للرسائل المتوافقة مع OpenAI، مما يسمح لك باستخدام الأدوات والمكتبات المألوفة مثل cURL، huggingface_hub SDK، و openai SDK لإرسال الطلبات.
from huggingface_hub import InferenceClient
ENDPOINT_URL="REPLACE"
client = InferenceClient(base_url=ENDPOINT_URL, api_key="-")
chat_completion = client.chat.completions.create(
messages=[
{"role":"user","content":"What is Deep Learning?"},
],
temperature=0.7,
top_p=0.95,
max_tokens=128,
)
النماذج والأجهزة المدعومة
تدعم HUGS النظام البيئي المتنامي للنماذج المفتوحة ومنصات الأجهزة. راجع صفحات النماذج المدعومة والأجهزة المدعومة للحصول على أحدث المعلومات.
نطلق اليوم مع 13 برنامج LLM مفتوحًا وشهيرًا:
للحصول على عرض تفصيلي للنماذج المدعومة x Hardware، راجع الوثائق.
ابدأ مع HUGS اليوم
تعمل HUGS على تسهيل الاستفادة من قوة النماذج المفتوحة، مع الاستدلال الأمثل بدون تكوين في الأشعة تحت الحمراء الخاصة بك. باستخدام HUGS، يمكنك التحكم في تطبيقات الذكاء الاصطناعي الخاصة بك والانتقال بسهولة إلى تطبيقات إثبات المفهوم المبنية بنماذج مغلقة لفتح النماذج التي تستضيفها بنفسك.
ابدأ اليوم وقم بنشر HUGS على AWS أو Google Cloud أو DigitalOcean!
