يقترح Anthropic إطارًا مشتركًا لكسر الحماية
استخدمت Anthropic هذا الإعلان للدعوة إلى إطار عمل على مستوى الصناعة لتقييم عمليات كسر الحماية للذكاء الاصطناعي، قائلة إن المطورين والحكومات يفتقرون حاليًا إلى معيار مشترك لتقييم التقنيات المكتشفة حديثًا.
وقالت الشركة: “لا يوجد حاليًا إجماع في صناعة الذكاء الاصطناعي حول كيفية وصف، بعبارات موضوعية، مدى خطورة كسر حماية الذكاء الاصطناعي”. وقالت Anthropic إنها تعمل مع Amazon وMicrosoft وGoogle وشركاء Project Glasswing الآخرين على إطار عمل لتقييم عمليات كسر الحماية، مع توسيع التعاون أيضًا مع حكومة الولايات المتحدة من خلال اختبار ما قبل الإصدار للنماذج الحدودية المستقبلية ومشاركة المعلومات والأبحاث الأمنية المشتركة للذكاء الاصطناعي.
وقالت أنثروبيك: “إن مشاركة الحكومة في إصدارات الذكاء الاصطناعي تتطلب عملية دائمة وشفافة تمنح المدافعين عن الإنترنت وغيرهم من اليقين الذي يحتاجون إليه بشأن الوصول إلى النماذج القوية”. “يجب تدوين هذه القواعد في تنظيم قوي وتطبيقها بالتساوي عبر مطوري النماذج الحدودية.”
