يسعدنا أن نعلن عن شراكتنا مع Protect AI، كجزء من التزامنا طويل الأمد بتوفير منصة آمنة وموثوقة لمجتمع ML.
Protect AI هي شركة تأسست بهدف إنشاء عالم أكثر أمانًا يعتمد على الذكاء الاصطناعي. إنهم يطورون أدوات قوية، وهي Guardian، لضمان استمرار الوتيرة السريعة لابتكار الذكاء الاصطناعي دون المساس بالأمن.
ينبع قرارنا بالشراكة مع Protect AI من نهجهم المجتمعي تجاه الأمن، والدعم النشط للمصادر المفتوحة، والخبرة في كل ما يتعلق بالأمن x AI.
هل أنت مهتم بالانضمام إلى شراكتنا الأمنية/توفير معلومات المسح على المركز؟ يرجى التواصل معنا علىsecurity@huggingface.co.
نموذج تجديد الأمان
لمشاركة النماذج، نقوم بإجراء تسلسل للأوزان والتكوينات وهياكل البيانات الأخرى التي نستخدمها للتفاعل مع النماذج، وذلك لتسهيل التخزين والنقل. بعض تنسيقات التسلسل معرضة لاستغلالات سيئة، مثل التنفيذ التعسفي للتعليمات البرمجية (النظر إليك مأزق)، مما يجعل النماذج المشتركة التي تستخدم تلك التنسيقات يحتمل أن تكون خطرة.
نظرًا لأن Hugging Face أصبحت منصة شائعة لمشاركة النماذج، فإننا نرغب في المساعدة في حماية المجتمع من هذا، ولهذا السبب قمنا بتطوير أدوات مثل Picklescan ولماذا قمنا بدمج Guardian في مجموعة الماسحات الضوئية الخاصة بنا.
Pickle ليس التنسيق الوحيد القابل للاستغلال، راجع كمرجع كيف يمكن للمرء استغلال طبقات Keras Lambda لتحقيق تنفيذ تعليمات برمجية عشوائية. والخبر السار هو أن Guardian اكتشف كلا من هاتين الاستغلالتين والمزيد في تنسيقات ملفات إضافية – راجع قاعدة المعرفة الخاصة بهم للحصول على معلومات الماسح الضوئي المحدثة.
اقرأ جميع وثائقنا المتعلقة بالأمان هنا: https://huggingface.co/docs/hub/security 🔥
اندماج
أثناء دمج Guardian باعتباره ماسحًا ضوئيًا تابعًا لجهة خارجية، استخدمنا هذا كفرصة لتجديد الواجهة الأمامية لدينا لعرض نتائج الفحص. وهنا ما يبدو الآن:
كما ترون هنا، يوجد زر Pickle إضافي عند إجراء فحص استيراد Pickle
كما ترون من لقطة الشاشة، ليس هناك ما عليك القيام به للاستفادة من هذا! سيتم فحص جميع مستودعات النماذج العامة بواسطة Guardian تلقائيًا بمجرد دفع ملفاتك إلى Hub. فيما يلي مثال للمستودع الذي يمكنك الاطلاع عليه لرؤية الميزة قيد التنفيذ: mcpotato/42-eicar-street.
لاحظ أنك قد لا ترى فحصًا لنموذجك اعتبارًا من اليوم، حيث لدينا أكثر من مليون نموذج إعادة شراء. قد يستغرق منا بعض الوقت للحاق 😅.
في المجمل، قمنا بالفعل بفحص مئات الملايين من الملفات، لأننا نعتقد أن تمكين المجتمع من مشاركة النماذج بطريقة آمنة وخالية من الاحتكاك سيؤدي إلى نمو المجال بأكمله.
