نحن سعداء لمشاركة ذلك الذكاء الاصطناعي العام أصبح الآن موفر استدلال مدعومًا على Hugging Face Hub! ينضم الذكاء الاصطناعي العام إلى نظامنا البيئي المتنامي، مما يعزز اتساع وقدرات الاستدلال بدون خادم مباشرةً على صفحات نموذج Hub. يتم أيضًا دمج موفري الاستدلال بسلاسة في حزم SDK لعملائنا (لكل من JS وPython)، مما يجعل من السهل جدًا استخدام مجموعة واسعة من النماذج مع موفري الخدمات المفضلين لديك.
يُسهّل هذا الإطلاق أكثر من أي وقت مضى الوصول إلى النماذج العامة والسيادية من مؤسسات مثل مبادرة الذكاء الاصطناعي السويسرية ومنظمة الذكاء الاصطناعي السنغافورية – مباشرة من Hugging Face. يمكنك تصفح مؤسسة Public AI على المركز على https://huggingface.co/publicai وتجربة نماذج مدعومة رائجة على https://huggingface.co/models?inference_provider=publicai&sort=trending.
إن أداة الاستدلال العامة للذكاء الاصطناعي هي مشروع مفتوح المصدر وغير ربحي. يقوم الفريق ببناء المنتجات وتنظيم المناصرة لدعم عمل منشئي نماذج الذكاء الاصطناعي العامة مثل مبادرة الذكاء الاصطناعي السويسرية ومنظمة الذكاء الاصطناعي السنغافورية وغيرها.
تعمل أداة Public AI Inference Utility على بنية تحتية موزعة تجمع بين الواجهة الخلفية المدعومة بـ vLLM وطبقة نشر مصممة لتحقيق المرونة عبر شركاء متعددين. خلف الكواليس، يتم التعامل مع الاستدلال من خلال خوادم تعرض واجهات برمجة التطبيقات المتوافقة مع OpenAI على vLLM، والتي يتم نشرها عبر مجموعات تبرع بها الشركاء الوطنيون والصناعيون. تضمن طبقة موازنة التحميل العالمية توجيه الطلبات بكفاءة وشفافية، بغض النظر عن حساب البلد الذي يخدم الاستعلام.
يتم دعم الوصول العام المجاني من خلال وقت GPU المتبرع به والإعانات الإعلانية، في حين يهدف الاستقرار على المدى الطويل إلى ترسيخه من خلال مساهمات الدولة والمؤسسات. يمكنك معرفة المزيد حول النظام الأساسي والبنية التحتية لـ Public AI على https://platform.publicai.co/.
يمكنك الآن استخدام أداة الاستدلال العامة للذكاء الاصطناعي كموفر استدلال على الوجه المعانق. نحن متحمسون لرؤية ما ستبنيه مع هذا المزود الجديد.
اقرأ المزيد حول كيفية استخدام الذكاء الاصطناعي العام كموفر استدلال في صفحة الوثائق المخصصة له.
انظر قائمة النماذج المدعومة هنا.
كيف يعمل
في واجهة المستخدم للموقع
- في إعدادات حساب المستخدم الخاص بك، يمكنك:
- قم بتعيين مفاتيح API الخاصة بك لموفري الخدمة الذين قمت بالتسجيل معهم. إذا لم يتم تعيين أي مفتاح مخصص، فسيتم توجيه طلباتك عبر HF.
- مقدمي الطلب حسب الأفضلية. ينطبق هذا على عناصر واجهة المستخدم ومقتطفات التعليمات البرمجية في صفحات النماذج.
- كما ذكرنا سابقًا، هناك وضعان عند استدعاء موفري الاستدلال:
- مفتاح مخصص (تنتقل المكالمات مباشرة إلى موفر الاستدلال، باستخدام مفتاح واجهة برمجة التطبيقات (API) الخاص بموفر الاستدلال المقابل)
- يتم التوجيه بواسطة HF (في هذه الحالة، لا تحتاج إلى رمز مميز من الموفر، ويتم تطبيق الرسوم مباشرة على حساب HF الخاص بك بدلاً من حساب الموفر)
- تعرض صفحات النماذج موفري الاستدلال التابعين لجهات خارجية (تلك المتوافقة مع النموذج الحالي، مرتبة حسب تفضيلات المستخدم)
من SDKs العميل
من بايثون، باستخدام Huggingface_hub
يوضح المثال التالي كيفية استخدام Apertus-70B الخاص بالذكاء الاصطناعي السويسري باستخدام الذكاء الاصطناعي العام كموفر للاستدلال. يمكنك استخدام رمز Hugging Face المميز للتوجيه التلقائي من خلال Hugging Face، أو مفتاح واجهة برمجة تطبيقات الذكاء الاصطناعي العام الخاص بك إذا كان لديك واحد.
ملاحظة: يتطلب هذا استخدام إصدار حديث من huggingface_hub (>= 0.34.6).
import os
from huggingface_hub import InferenceClient
client = InferenceClient(
provider="publicai",
api_key=os.environ["HF_TOKEN"],
)
messages = [
{
"role": "user",
"content": "What is the capital of France?"
}
]
completion = client.chat.completions.create(
model="swiss-ai/Apertus-70B-Instruct-2509",
messages=messages,
)
print(completion.choices[0].message)
من JS باستخدام @huggingface/inference
import { InferenceClient } from "@huggingface/inference";
const client = new InferenceClient(process.env.HF_TOKEN);
const chatCompletion = await client.chatCompletion({
model: "swiss-ai/Apertus-70B-Instruct-2509",
messages: [
{
role: "user",
content: "What is the capital of France?",
},
],
provider: "publicai",
});
console.log(chatCompletion.choices[0].message);
الفواتير
في وقت كتابة هذا التقرير، يكون استخدام أداة الاستدلال العامة للذكاء الاصطناعي من خلال موفري استدلالات معانقة الوجه مجانيًا. قد يتغير السعر والتوافر.
إليك كيفية عمل الفواتير لمقدمي الخدمات الآخرين على النظام الأساسي:
بالنسبة للطلبات المباشرة، أي عند استخدام المفتاح من مزود الاستدلال، تتم محاسبتك بواسطة المزود المقابل. على سبيل المثال، إذا كنت تستخدم مفتاح Public AI API، فستتم محاسبتك على حساب Public AI الخاص بك.
بالنسبة للطلبات الموجهة، أي عند المصادقة عبر Hugging Face Hub، ستدفع فقط أسعار واجهة برمجة تطبيقات المزود القياسية. ليس هناك أي علامات إضافية من جانبنا؛ نحن فقط نمرر تكاليف المزود مباشرة. (في المستقبل، قد نبرم اتفاقيات لتقاسم الإيرادات مع شركائنا من مقدمي الخدمة.)
ملاحظة هامة ‼️ يحصل مستخدمو PRO على أرصدة استدلال بقيمة 2 دولار كل شهر. يمكنك استخدامها عبر مقدمي الخدمة. 🔥
اشترك في خطة Hugging Face PRO لتتمكن من الوصول إلى أرصدة Inference وZeroGPU وSpaces Dev Mode وحدود أعلى 20x والمزيد.
نحن نقدم أيضًا استدلالًا مجانيًا بحصة صغيرة للمستخدمين المجانيين الذين قاموا بتسجيل الدخول، ولكن يرجى الترقية إلى PRO إذا استطعت!
ردود الفعل والخطوات التالية
نحن نحب أن نحصل على تعليقاتك! شارك أفكارك و/أو تعليقاتك هنا: https://huggingface.co/spaces/huggingface/HuggingDiscussions/discussions/49
