نحن سعداء لمشاركة ذلك مقياس أصبح الآن موفر استدلال مدعومًا على Hugging Face Hub! تنضم Scaleway إلى نظامنا البيئي المتنامي، مما يعزز اتساع وقدرات الاستدلال بدون خادم مباشرة على صفحات نموذج Hub. يتم أيضًا دمج موفري الاستدلال بسلاسة في حزم SDK لعملائنا (لكل من JS وPython)، مما يجعل من السهل جدًا استخدام مجموعة واسعة من النماذج مع موفري الخدمات المفضلين لديك.
يُسهّل هذا الإطلاق أكثر من أي وقت مضى الوصول إلى النماذج الشهيرة ذات الوزن المفتوح مثل gpt-oss وQwen3 وDeepSeek R1 وGemma 3 — مباشرةً من Hugging Face. يمكنك تصفح مؤسسة Scaleway على المركز على https://huggingface.co/scaleway ومحاولة توجيه النماذج المدعومة على https://huggingface.co/models?inference_provider=scaleway&sort=trending.
واجهات برمجة التطبيقات التوليدية Scaleway هي خدمة مُدارة بالكامل بدون خادم توفر الوصول إلى نماذج الذكاء الاصطناعي الرائدة من مختبرات الأبحاث الرائدة عبر مكالمات API البسيطة. تقدم الخدمة أسعارًا تنافسية للدفع لكل رمز تبدأ من 0.20 يورو لكل مليون رمز.
تعمل الخدمة على بنية تحتية آمنة موجودة في مراكز البيانات الأوروبية (باريس، فرنسا)، مما يضمن سيادة البيانات وزمن الوصول المنخفض للمستخدمين الأوروبيين. يدعم النظام الأساسي الميزات المتقدمة بما في ذلك المخرجات المنظمة واستدعاء الوظائف وقدرات الوسائط المتعددة لمعالجة النصوص والصور.
توفر البنية التحتية للاستدلال الخاصة بـ Scaleway، المصممة للاستخدام في الإنتاج، أوقات استجابة أقل من 200 مللي ثانية للرموز المميزة الأولى، مما يجعلها مثالية للتطبيقات التفاعلية وسير العمل الوكيل. تدعم الخدمة كلاً من إنشاء النص وتضمين النماذج. يمكنك معرفة المزيد حول النظام الأساسي والبنية التحتية لشركة Scaleway على https://www.scaleway.com/en/geneative-apis/.
اقرأ المزيد حول كيفية استخدام Scaleway كموفر استدلال في صفحة الوثائق المخصصة له.
انظر قائمة النماذج المدعومة هنا.
كيف يعمل
في واجهة المستخدم للموقع
- في إعدادات حساب المستخدم الخاص بك، يمكنك:
- قم بتعيين مفاتيح API الخاصة بك لموفري الخدمة الذين قمت بالتسجيل معهم. إذا لم يتم تعيين أي مفتاح مخصص، فسيتم توجيه طلباتك عبر HF.
- مقدمي الطلب حسب الأفضلية. ينطبق هذا على عناصر واجهة المستخدم ومقتطفات التعليمات البرمجية في صفحات النماذج.
- كما ذكرنا سابقًا، هناك وضعان عند استدعاء موفري الاستدلال:
- مفتاح مخصص (تنتقل المكالمات مباشرة إلى موفر الاستدلال، باستخدام مفتاح واجهة برمجة التطبيقات (API) الخاص بموفر الاستدلال المقابل)
- يتم التوجيه بواسطة HF (في هذه الحالة، لا تحتاج إلى رمز مميز من الموفر، ويتم تطبيق الرسوم مباشرة على حساب HF الخاص بك بدلاً من حساب الموفر)
- تعرض صفحات النماذج موفري الاستدلال التابعين لجهات خارجية (تلك المتوافقة مع النموذج الحالي، مرتبة حسب تفضيلات المستخدم)
من SDKs العميل
من بايثون، باستخدام Huggingface_hub
يوضح المثال التالي كيفية استخدام gpt-oss-120b الخاص بـ OpenAI باستخدام Scaleway كموفر الاستدلال. يمكنك استخدام رمز Hugging Face المميز للتوجيه التلقائي من خلال Hugging Face، أو مفتاح واجهة برمجة تطبيقات Scaleway الخاص بك إذا كان لديك واحد.
ملاحظة: يتطلب هذا استخدام إصدار حديث من huggingface_hub (>= 0.34.6).
import os
from huggingface_hub import InferenceClient
client = InferenceClient(
provider="scaleway",
api_key=os.environ["HF_TOKEN"],
)
messages = [
{
"role": "user",
"content": "Write a poem in the style of Shakespeare"
}
]
completion = client.chat.completions.create(
model="openai/gpt-oss-120b",
messages=messages,
)
print(completion.choices[0].message)
من JS باستخدام @huggingface/inference
import { InferenceClient } from "@huggingface/inference";
const client = new InferenceClient(process.env.HF_TOKEN);
const chatCompletion = await client.chatCompletion({
model: "openai/gpt-oss-120b",
messages: [
{
role: "user",
content: "Write a poem in the style of Shakespeare",
},
],
provider: "scaleway",
});
console.log(chatCompletion.choices[0].message);
الفواتير
إليك كيفية عمل الفواتير:
بالنسبة للطلبات المباشرة، أي عند استخدام المفتاح من مزود الاستدلال، تتم محاسبتك بواسطة المزود المقابل. على سبيل المثال، إذا كنت تستخدم مفتاح واجهة برمجة تطبيقات Scaleway، فستتم محاسبتك على حساب Scaleway الخاص بك.
بالنسبة للطلبات الموجهة، أي عند المصادقة عبر Hugging Face Hub، ستدفع فقط أسعار واجهة برمجة تطبيقات المزود القياسية. ليس هناك أي علامات إضافية من جانبنا؛ نحن فقط نمرر تكاليف المزود مباشرة. (في المستقبل، قد نبرم اتفاقيات لتقاسم الإيرادات مع شركائنا من مقدمي الخدمة.)
ملاحظة هامة ‼️ يحصل مستخدمو PRO على أرصدة استدلال بقيمة 2 دولار كل شهر. يمكنك استخدامها عبر مقدمي الخدمة. 🔥
اشترك في خطة Hugging Face PRO لتتمكن من الوصول إلى أرصدة Inference وZeroGPU وSpaces Dev Mode وحدود أعلى 20x والمزيد.
نحن نقدم أيضًا استدلالًا مجانيًا بحصة صغيرة للمستخدمين المجانيين الذين قاموا بتسجيل الدخول، ولكن يرجى الترقية إلى PRO إذا استطعت!
ردود الفعل والخطوات التالية
نحن نحب أن نحصل على تعليقاتك! شارك أفكارك و/أو تعليقاتك هنا: https://huggingface.co/spaces/huggingface/HuggingDiscussions/discussions/49
