يسعدنا أن نعلن عن شراكتنا مع Wiz بهدف تحسين الأمان عبر نظامنا الأساسي والنظام البيئي للذكاء الاصطناعي/تعلم الآلة بشكل عام.
تعاون باحثو Wiz مع Hugging Face بشأن أمان منصتنا وشاركوا النتائج التي توصلوا إليها. Wiz هي شركة أمان سحابي تساعد عملائها على إنشاء البرامج وصيانتها بطريقة آمنة. إلى جانب نشر هذا البحث، فإننا ننتهز الفرصة لتسليط الضوء على بعض التحسينات الأمنية ذات الصلة بـ Hugging Face.
قامت Hugging Face مؤخرًا بدمج Wiz لإدارة الثغرات الأمنية، وهي عملية مستمرة واستباقية للحفاظ على منصتنا خالية من الثغرات الأمنية. بالإضافة إلى ذلك، نحن نستخدم Wiz for Cloud Security Posture Management (CSPM)، والذي يسمح لنا بتكوين بيئتنا السحابية بشكل آمن، ومراقبتها للتأكد من بقائها آمنة.
إحدى ميزات Wiz المفضلة لدينا هي النظرة الشاملة لنقاط الضعف، بدءًا من التخزين ومرورًا بالحوسبة ووصولاً إلى الشبكة. نحن ندير مجموعات Kubernetes (k8s) متعددة ولدينا موارد عبر مناطق متعددة وموفري الخدمات السحابية، لذلك من المفيد للغاية أن يكون لديك تقرير مركزي في مكان واحد مع الرسم البياني السياقي الكامل لكل ثغرة أمنية. لقد قمنا أيضًا بالاعتماد على أدواتهم لمعالجة المشكلات المكتشفة تلقائيًا في منتجاتنا، وعلى الأخص في Spaces.
كجزء من العمل المشترك، حدد فريق البحث الأمني في Wiz أوجه القصور في بيئات الحوسبة ذات وضع الحماية لدينا من خلال تشغيل تعليمات برمجية عشوائية داخل النظام بفضل Pickle. أثناء قراءتك لهذه المدونة وورقة بحث الأمان الخاصة بـ Wiz، من المهم أن تتذكر أننا قمنا بحل جميع المشكلات المتعلقة باستغلال الثغرات الأمنية ونواصل بذل الجهد في عملية الكشف عن التهديدات والاستجابة للحوادث.
معانقة وجه الأمن
في Hugging Face، نأخذ الأمن على محمل الجد، فمع التطور السريع للذكاء الاصطناعي، يبدو أن نواقل التهديد الجديدة تظهر كل يوم. على الرغم من إعلان Hugging Face عن شراكات وعلاقات تجارية متعددة مع أكبر الأسماء في مجال التكنولوجيا، فإننا نظل ملتزمين بالسماح لمستخدمينا ومجتمع الذكاء الاصطناعي بتجربة أنظمة وتقنيات الذكاء الاصطناعي/تعلم الآلة وتشغيلها بشكل مسؤول. نحن ملتزمون بتأمين منصتنا بالإضافة إلى إضفاء الطابع الديمقراطي على الذكاء الاصطناعي/التعلم الآلي، بحيث يمكن للمجتمع أن يساهم ويكون جزءًا من هذا الحدث المتغير النموذجي الذي سيؤثر علينا جميعًا. نكتب هذه المدونة لنؤكد من جديد التزامنا بحماية مستخدمينا وعملائنا من التهديدات الأمنية. سنناقش أدناه أيضًا فلسفة Hugging Face فيما يتعلق بدعمنا لملفات المخلل المثيرة للجدل بالإضافة إلى مناقشة المسؤولية المشتركة المتمثلة في الابتعاد عن تنسيق المخلل.
هناك العديد من التحسينات والإعلانات الأمنية المثيرة الأخرى التي ستصدر في المستقبل القريب. لن تناقش المنشورات المخاطر الأمنية التي يتعرض لها مجتمع منصة Hugging Face فحسب، بل ستغطي أيضًا المخاطر الأمنية النظامية للذكاء الاصطناعي بالإضافة إلى أفضل الممارسات للتخفيف من حدتها. نحن لا نزال ملتزمين بجعل منتجاتنا، وبنيتنا التحتية، ومجتمع الذكاء الاصطناعي آمنًا، تابعونا لمتابعة منشورات مدونة الأمان والتقارير التقنية.
التعاون والأدوات الأمنية مفتوحة المصدر للمجتمع
نحن نقدر بشدة الشفافية والتعاون مع المجتمع، وهذا يشمل المشاركة في تحديد نقاط الضعف والكشف عنها، والتعاون في حل المشكلات الأمنية، وأدوات الأمان. فيما يلي أمثلة على مكاسبنا الأمنية الناتجة عن التعاون، والتي تساعد مجتمع الذكاء الاصطناعي بأكمله على تقليل المخاطر الأمنية:
- تم إنشاء Picklescan بالشراكة مع Microsoft؛ بدأ Matthieu Maitre المشروع ونظرًا لأنه كان لدينا نسختنا الداخلية الخاصة من نفس الأداة، فقد وحدنا جهودنا وساهمنا في Picklescan. ارجع إلى صفحة الوثائق التالية إذا كنت ترغب في معرفة المزيد حول كيفية عملها: https://huggingface.co/docs/hub/en/security-pickle
- تعد Safetensors، التي طورها نيكولاس باتري، بديلاً آمنًا لملفات المخلل. تم تدقيق Safetensors بواسطة Trail of Bits في مبادرة تعاونية مع EuletherAI & Stability AI. https://huggingface.co/docs/safetensors/en/index
- لدينا برنامج قوي لمكافأة اكتشاف الأخطاء، يضم العديد من الباحثين الرائعين من جميع أنحاء العالم. يمكن للباحثين الذين حددوا ثغرة أمنية الاستفسار عن الانضمام إلى برنامجنا من خلالsecurity@huggingface.co
- فحص البرامج الضارة: https://huggingface.co/docs/hub/en/security-malware
- مسح الأسرار: https://huggingface.co/docs/hub/security-secrets
- وكما ذكرنا سابقًا، فإننا نتعاون أيضًا مع Wiz لتقليل المخاطر الأمنية للنظام الأساسي
- لقد بدأنا سلسلة من المنشورات الأمنية التي تتناول المشكلات الأمنية التي تواجه مجتمع الذكاء الاصطناعي/التعلم الآلي.
أفضل ممارسات الأمان لمستخدمي الذكاء الاصطناعي/تعلم الآلة مفتوحي المصدر
لقد قدم الذكاء الاصطناعي/التعلم الآلي نواقل جديدة للهجوم، ولكن بالنسبة للعديد من هذه الهجمات، فإن أدوات التخفيف من هذه الهجمات قديمة ومعروفة جيدًا. يجب على متخصصي الأمن التأكد من أنهم يطبقون الضوابط الأمنية ذات الصلة على موارد ونماذج الذكاء الاصطناعي. بالإضافة إلى ذلك، فيما يلي بعض الموارد وأفضل الممارسات عند العمل باستخدام البرامج والنماذج مفتوحة المصدر:
ملفات المخلل – الفيل غير الآمن في الغرفة
كانت ملفات Pickle في قلب معظم الأبحاث التي أجراها Wiz والمنشورات الحديثة الأخرى التي أجراها باحثون أمنيون حول Hugging Face. لطالما اعتبرت ملفات Pickle تنطوي على مخاطر أمنية مرتبطة بها، راجع ملفات المستندات الخاصة بنا لمزيد من المعلومات: https://huggingface.co/docs/hub/en/security-pickle
على الرغم من هذه العيوب الأمنية المعروفة، لا يزال مجتمع الذكاء الاصطناعي/التعلم الآلي يستخدم بشكل متكرر المخللات (أو التنسيقات المماثلة القابلة للاستغلال). العديد من حالات الاستخدام هذه منخفضة المخاطر أو لأغراض الاختبار مما يجعل الإلمام بملفات المخلل وسهولة استخدامها أكثر جاذبية من البديل الآمن.
باعتبارنا منصة مفتوحة المصدر للذكاء الاصطناعي، أمامنا الخيارات التالية:
- حظر ملفات المخلل تماما
- لا تفعل شيئًا بشأن ملفات المخلل
- العثور على حل وسط يسمح باستخدام المخللات بالإضافة إلى التخفيف بشكل معقول وعملي من المخاطر المرتبطة بملفات المخللات
لقد اخترنا الخيار 3، وهو الحل الأوسط في الوقت الحالي. يمثل هذا الخيار عبئًا على فرقنا الهندسية والأمنية وقد بذلنا جهدًا كبيرًا للتخفيف من المخاطر مع السماح لمجتمع الذكاء الاصطناعي باستخدام الأدوات التي يختارونها. تتضمن بعض وسائل التخفيف الرئيسية التي قمنا بتنفيذها للمخاطر المتعلقة بالمخلل ما يلي:
- إنشاء وثائق واضحة تحدد المخاطر
- تطوير أدوات المسح الآلي
- استخدام أدوات المسح ووضع العلامات على النماذج التي تحتوي على ثغرات أمنية مع تحذيرات واضحة
- لقد قدمنا أيضًا حلاً آمنًا لاستخدامه بدلاً من المخلل (الأدوات الآمنة)
- لقد جعلنا Safetensors أيضًا مواطنًا من الدرجة الأولى على منصتنا لحماية أفراد المجتمع الذين قد لا يفهمون المخاطر
- بالإضافة إلى ما سبق، كان علينا أيضًا تقسيم وتعزيز الأمان بشكل كبير في المناطق التي تُستخدم فيها النماذج لمراعاة نقاط الضعف المحتملة داخلها
نعتزم الاستمرار في كوننا الشركة الرائدة في حماية وتأمين مجتمع الذكاء الاصطناعي. جزء من هذا سيكون مراقبة ومعالجة المخاطر المتعلقة بملفات المخلل. كما أن دعم المخللات عند غروب الشمس ليس أمرًا مستبعدًا أيضًا، ومع ذلك، فإننا نبذل قصارى جهدنا لتحقيق التوازن بين التأثير على المجتمع كجزء من قرار مثل هذا.
ملاحظة مهمة هي أن المجتمعات مفتوحة المصدر وكذلك شركات التكنولوجيا والأمن الكبيرة، كانت صامتة إلى حد كبير بشأن المساهمة في الحلول هنا وتركت Hugging Face تحدد الفلسفة وتستثمر بكثافة في تطوير وتنفيذ ضوابط التخفيف لضمان أن الحل مقبول وعملي.
الملاحظات الختامية
لقد تحدثت بشكل مكثف مع نيكولاس باتري، مبتكر Safetensors في كتابة منشور المدونة هذا وطلب مني إضافة عبارة تحث المستخدم على اتخاذ إجراء إلى مجتمع الذكاء الاصطناعي مفتوح المصدر وعشاق الذكاء الاصطناعي:
- ابدأ بشكل استباقي في استبدال ملفات المخلل الخاصة بك بـ Safetensors. كما ذكرنا سابقًا، يحتوي Pickle على عيوب أمنية متأصلة وقد لا يكون مدعومًا في المستقبل القريب.
- استمر في فتح المشكلات/العلاقات العامة المتعلقة بالأمن في مكتباتك المفضلة لدفع الإعدادات الافتراضية الآمنة قدر الإمكان إلى المنبع.
تتغير صناعة الذكاء الاصطناعي بسرعة ويتم تحديد نواقل الهجوم/الثغرات الجديدة طوال الوقت. تمتلك Huggingface مجتمعًا فريدًا من نوعه ونحن نتشارك معك بشكل كبير لمساعدتنا في الحفاظ على منصة آمنة.
يرجى تذكر ضرورة الكشف بشكل مسؤول عن الثغرات الأمنية/الأخطاء من خلال القنوات المناسبة لتجنب المسؤولية القانونية المحتملة وانتهاك القوانين.
هل تريد الانضمام إلى المناقشة؟ تواصل معنا عبر البريد الإلكترونيsecurity@huggingface.co أو تابعنا على Linkedin/Twitter.
