نحن سعداء لمشاركة ذلك OVHcloud أصبح الآن موفر استدلال مدعومًا على Hugging Face Hub! تنضم OVHcloud إلى نظامنا البيئي المتنامي، مما يعزز اتساع وقدرات الاستدلال بدون خادم مباشرة على صفحات نماذج Hub. يتم أيضًا دمج موفري الاستدلال بسلاسة في حزم SDK لعملائنا (لكل من JS وPython)، مما يجعل من السهل جدًا استخدام مجموعة واسعة من النماذج مع موفري الخدمات المفضلين لديك.
يُسهّل هذا الإطلاق أكثر من أي وقت مضى الوصول إلى النماذج الشهيرة ذات الوزن المفتوح مثل gpt-oss وQwen3 وDeepSeek R1 وLlama — مباشرة من Hugging Face. يمكنك تصفح مؤسسة OVHcloud على المركز على https://huggingface.co/ovhcloud ومحاولة توجيه النماذج المدعومة على https://huggingface.co/models?inference_provider=ovhcloud&sort=trending.
OVHcloud AI Endpoints هي خدمة مُدارة بالكامل بدون خادم توفر الوصول إلى نماذج الذكاء الاصطناعي الرائدة من مختبرات الأبحاث الرائدة عبر مكالمات API البسيطة. تقدم الخدمة أسعارًا تنافسية للدفع لكل رمز تبدأ من 0.04 يورو لكل مليون رمز.
تعمل الخدمة على بنية تحتية آمنة موجودة في مراكز البيانات الأوروبية، مما يضمن سيادة البيانات وزمن الوصول المنخفض للمستخدمين الأوروبيين. يدعم النظام الأساسي الميزات المتقدمة بما في ذلك المخرجات المنظمة واستدعاء الوظائف وقدرات الوسائط المتعددة لمعالجة النصوص والصور.
تم تصميم البنية التحتية للاستدلال الخاصة بـ OVHcloud للاستخدام في الإنتاج، وتوفر أوقات استجابة أقل من 200 مللي ثانية للرموز المميزة الأولى، مما يجعلها مثالية للتطبيقات التفاعلية وسير العمل الوكيل. تدعم الخدمة كلاً من إنشاء النص وتضمين النماذج. يمكنك معرفة المزيد حول النظام الأساسي والبنية التحتية لـ OVHcloud على https://www.ovhcloud.com/en/public-cloud/ai-endpoints/catalog/.
اقرأ المزيد حول كيفية استخدام OVHcloud كموفر استدلال في صفحة الوثائق المخصصة له.
انظر قائمة النماذج المدعومة هنا.
كيف يعمل
في واجهة المستخدم للموقع
في إعدادات حساب المستخدم الخاص بك، يمكنك:
- قم بتعيين مفاتيح API الخاصة بك لموفري الخدمة الذين قمت بالتسجيل معهم. إذا لم يتم تعيين أي مفتاح مخصص، فسيتم توجيه طلباتك عبر HF.
- مقدمي الطلب حسب الأفضلية. ينطبق هذا على عناصر واجهة المستخدم ومقتطفات التعليمات البرمجية في صفحات النماذج.
كما ذكرنا سابقًا، هناك وضعان عند استدعاء موفري الاستدلال:
- مفتاح مخصص (تنتقل المكالمات مباشرة إلى موفر الاستدلال، باستخدام مفتاح API الخاص بك لموفر الاستدلال المقابل)
- توجيه بواسطة HF (في هذه الحالة، لا تحتاج إلى رمز مميز من الموفر، ويتم تطبيق الرسوم مباشرة على حساب HF الخاص بك بدلاً من حساب الموفر)
تعرض صفحات النماذج موفري الاستدلال التابعين لجهات خارجية (تلك المتوافقة مع النموذج الحالي، مرتبة حسب تفضيلات المستخدم)
من SDKs العميل
من بايثون، باستخدام Huggingface_hub
يوضح المثال التالي كيفية استخدام gpt-oss-120b الخاص بـ OpenAI باستخدام OVHcloud كموفر الاستدلال. يمكنك استخدام رمز Hugging Face للتوجيه التلقائي من خلال Hugging Face، أو مفتاح OVHcloud AI Endpoints API الخاص بك إذا كان لديك واحد.
ملحوظة: وهذا يتطلب استخدام إصدار حديث من Huggingface_hub (>= 1.1.5).
import os
from huggingface_hub import InferenceClient
client = InferenceClient(
api_key=os.environ["HF_TOKEN"],
)
completion = client.chat.completions.create(
model="openai/gpt-oss-120b:ovhcloud",
messages=[
{
"role": "user",
"content": "What is the capital of France?"
}
],
)
print(completion.choices[0].message)
من JS باستخدام @huggingface/inference
import { InferenceClient } from "@huggingface/inference";
const client = new InferenceClient(process.env.HF_TOKEN);
const chatCompletion = await client.chatCompletion({
model: "openai/gpt-oss-120b:ovhcloud",
messages: [
{
role: "user",
content: "What is the capital of France?",
},
],
});
console.log(chatCompletion.choices[0].message);
الفواتير
إليك كيفية عمل الفواتير:
-
ل طلبات مباشرة، أي عند استخدام المفتاح من موفر الاستدلال، تتم محاسبتك بواسطة الموفر المقابل. على سبيل المثال، إذا كنت تستخدم مفتاح OVHcloud API، فستتم محاسبتك على حساب OVHcloud الخاص بك.
-
ل الطلبات الموجهة، أي عند المصادقة عبر Hugging Face Hub، ستدفع فقط أسعار واجهة برمجة التطبيقات (API) الخاصة بالموفر القياسي. ليس هناك أي علامات إضافية من جانبنا؛ نحن فقط نمرر تكاليف المزود مباشرة. (في المستقبل، قد نبرم اتفاقيات لتقاسم الإيرادات مع شركائنا من مقدمي الخدمة.)
ملحوظة هامة‼️ يحصل مستخدمو PRO على أرصدة استدلال بقيمة 2 دولار كل شهر. يمكنك استخدامها عبر مقدمي الخدمة. 🔥
اشترك في خطة Hugging Face PRO لتتمكن من الوصول إلى أرصدة Inference وZeroGPU وSpaces Dev Mode وحدود أعلى 20x والمزيد.
نحن نقدم أيضًا استدلالًا مجانيًا بحصة صغيرة للمستخدمين المجانيين الذين قاموا بتسجيل الدخول، ولكن يرجى الترقية إلى PRO إذا استطعت!
ردود الفعل والخطوات التالية
نحن نحب أن نحصل على تعليقاتك! شارك أفكارك و/أو تعليقاتك هنا: https://huggingface.co/spaces/huggingface/HuggingDiscussions/discussions/49
