نحن متحمسون لمشاركة بعض الأخبار الرائعة! أصبح بمقدور منشئي الذكاء الاصطناعي الآن تسريع تطبيقاتهم باستخدام Google Cloud TPUs على نقاط نهاية ومساحات استدلال الوجه!
بالنسبة لأولئك الذين قد لا يكونون على دراية، فإن وحدات TPU هي عبارة عن أجهزة ذكاء اصطناعي مصممة خصيصًا بواسطة Google. إنهم معروفون بقدرتهم على التوسع بفعالية من حيث التكلفة وتقديم أداء مثير للإعجاب عبر أعباء عمل الذكاء الاصطناعي المختلفة. وقد لعب هذا الجهاز دورًا حاسمًا في بعض أحدث ابتكارات Google، بما في ذلك تطوير نماذج Gemma 2 المفتوحة. يسعدنا أن نعلن أن وحدات TPU ستكون متاحة الآن للاستخدام في نقاط نهاية الاستدلال والمساحات.
تعد هذه خطوة كبيرة في تعاوننا المستمر لتزويدك بأفضل الأدوات والموارد لمشاريع الذكاء الاصطناعي الخاصة بك. نحن نتطلع حقًا إلى رؤية الأشياء الرائعة التي ستنشئها بهذه الإمكانية الجديدة!
معانقة دعم نقاط النهاية لاستدلال الوجه لوحدات TPU
توفر Hugging Face Inference Endpoints طريقة سلسة لنشر نماذج الذكاء الاصطناعي التوليدي ببضع نقرات على بنية أساسية مخصصة ومدارة باستخدام موفر السحابة الذي تختاره. بدءًا من اليوم، أصبح Google TPU v5e متاحًا على Inference Endpoints. اختر النموذج الذي تريد نشره، وحدد Google Cloud Platform، وحدد us-west1 وستكون جاهزًا لاختيار تكوين TPU:
لدينا 3 تكوينات للمثيلات، مع المزيد في المستقبل:
- v5litepod-1 TPU v5e مع نواة واحدة وذاكرة سعة 16 جيجابايت (1.375 دولارًا في الساعة)
- v5litepod-4 TPU v5e مع 4 مراكز وذاكرة 64 جيجابايت (5.50 دولارًا في الساعة)
- v5litepod-8 TPU v5e مع 8 مراكز وذاكرة 128 جيجابايت (11.00 دولارًا في الساعة)
بينما يمكنك استخدام v5litepod-1 للنماذج التي تحتوي على ما يصل إلى 2 مليار معلمة دون الكثير من المتاعب، نوصي باستخدام v5litepod-4 للنماذج الأكبر حجمًا لتجنب مشكلات ميزانية الذاكرة. كلما كان التكوين أكبر، كلما انخفض زمن الوصول.
بالتعاون مع فرق المنتجات والهندسة في Google، نحن متحمسون لتقديم الأداء والفعالية من حيث التكلفة لوحدات TPU إلى مجتمع Hugging Face. وقد أدى هذا التعاون إلى بعض التطورات العظيمة:
- لقد أنشأنا مكتبة مفتوحة المصدر تسمى Optimum TPU، مما يجعل من السهل جدًا عليك تدريب نماذج Hugging Face ونشرها على Google TPU.
- تستخدم نقاط نهاية الاستدلال تقنية TPU المثالية مع استدلال إنشاء النص (TGI) لخدمة نماذج اللغات الكبيرة (LLMs) على وحدات TPU.
- نحن نعمل دائمًا على دعم مجموعة متنوعة من بنيات النماذج. بدءًا من اليوم، يمكنك نشر Gemma وLlama وMistral ببضع نقرات. (النماذج المدعومة الأمثل من مادة TPU).
دعم مساحات الوجه المعانقة لوحدات TPU
توفر Hugging Face Spaces للمطورين منصة لإنشاء العروض التوضيحية والتطبيقات التي تدعم الذكاء الاصطناعي ونشرها ومشاركتها بسرعة. يسعدنا تقديم دعم جديد لمثيلات TPU v5e لـ Hugging Face Spaces. لترقية مساحتك الخاصة لتعمل على وحدات TPU، انتقل إلى زر الإعدادات في مساحتك وحدد التكوين المطلوب:
- v5litepod-1 TPU v5e مع نواة واحدة وذاكرة سعة 16 جيجابايت (1.375 دولارًا في الساعة)
- v5litepod-4 TPU v5e مع 4 مراكز وذاكرة 64 جيجابايت (5.50 دولارًا في الساعة)
- v5litepod-8 TPU v5e مع 8 مراكز وذاكرة 128 جيجابايت (11.00 دولارًا في الساعة)
ابدأ ببناء عروض توضيحية رائعة مدعومة بالتعلم الآلي ومشاركتها مع المجتمع على وحدات TPU على Hugging Face Spaces!
نحن فخورون بما حققناه مع Google ولا يمكننا الانتظار لنرى كيف ستستخدم مواد TPU في مشروعاتك.
