في 12 يونيو، قدمت شركة Hugging Face ردًا على طلب وزارة التجارة الأمريكية NTIA للحصول على معلومات حول سياسة مساءلة الذكاء الاصطناعي. وفي ردنا، أكدنا على دور معايير التوثيق والشفافية في دفع عمليات المساءلة في مجال الذكاء الاصطناعي، فضلاً عن ضرورة الاعتماد على مجموعة كاملة من الخبرات ووجهات النظر والمهارات التي يتمتع بها العديد من أصحاب المصلحة في مجال التكنولوجيا لمعالجة الآفاق المروعة للتكنولوجيا التي يطرح نموها غير المسبوق أسئلة أكثر مما يستطيع أي كيان منفرد الإجابة عليها.
تتمثل مهمة Hugging Face في “إضفاء الطابع الديمقراطي على التعلم الآلي الجيد”. نحن نفهم أن مصطلح “التحول الديمقراطي” في هذا السياق يعني جعل أنظمة التعلم الآلي ليس فقط أسهل في التطوير والنشر، ولكن أيضًا أسهل على العديد من أصحاب المصلحة في الفهم والاستجواب والنقد. ولتحقيق هذه الغاية، عملنا على تعزيز الشفافية والشمول من خلال جهودنا التعليمية، والتركيز على التوثيق والمبادئ التوجيهية المجتمعية ونهج الانفتاح المسؤول، بالإضافة إلى تطوير أدوات بدون تعليمات برمجية ومنخفضة للسماح للأشخاص ذوي جميع مستويات الخلفية التقنية بتحليل مجموعات بيانات ونماذج تعلم الآلة. نعتقد أن هذا يساعد جميع المهتمين على فهم القيود المفروضة على أنظمة تعلم الآلة بشكل أفضل وكيف يمكن الاستفادة منها بأمان لتقديم أفضل خدمة للمستخدمين والمتأثرين بهذه الأنظمة. لقد أثبتت هذه الأساليب بالفعل فائدتها في تعزيز المساءلة، وخاصة في المساعي البحثية الأكبر متعددة التخصصات التي ساعدنا في تنظيمها، بما في ذلك BigScience (راجع سلسلة مدوناتنا حول المخاطر الاجتماعية للمشروع)، ومشروع BigCode الأحدث (الذي تم وصف إدارته بمزيد من التفاصيل هنا).
وبشكل ملموس، فإننا نقدم التوصيات التالية بشأن آليات المساءلة:
- ينبغي لآليات المساءلة التركيز على جميع مراحل عملية تطوير تعلم الآلة. يعتمد التأثير المجتمعي لنظام كامل مدعوم بالذكاء الاصطناعي على الاختيارات التي يتم اتخاذها في كل مرحلة من مراحل التطوير بطرق من المستحيل التنبؤ بها بشكل كامل، كما أن التقييمات التي تركز فقط على مرحلة النشر تخاطر بتحفيز الامتثال على المستوى السطحي الذي يفشل في معالجة المشكلات الأعمق حتى تسبب ضررًا كبيرًا.
- ينبغي لآليات المساءلة الجمع بين المتطلبات الداخلية والوصول الخارجي والشفافية. تشكل المتطلبات الداخلية مثل ممارسات التوثيق الجيدة تطويرًا أكثر مسؤولية وتوفر الوضوح بشأن مسؤولية المطورين في تمكين تكنولوجيا أكثر أمانًا وموثوقية. لا يزال الوصول الخارجي إلى العمليات الداخلية وخيارات التطوير ضروريًا للتحقق من المطالبات والوثائق، وتمكين العديد من أصحاب المصلحة في التكنولوجيا الذين يقيمون خارج سلسلة التطوير الخاصة بها لتشكيل تطورها بشكل هادف وتعزيز مصالحهم.
- ينبغي لآليات المساءلة دعوة للمشاركة من أكبر مجموعة ممكنة من المساهمين، بما في ذلك المطورين الذين يعملون بشكل مباشر على التكنولوجيا، ومجتمعات البحث متعددة التخصصات، ومنظمات المناصرة، وصانعي السياسات، والصحفيين. إن فهم التأثير التحويلي للنمو السريع في اعتماد تكنولوجيا التعلم الآلي هو مهمة تتجاوز قدرة أي كيان منفرد، وسوف يتطلب الاستفادة من مجموعة كاملة من المهارات والخبرات لمجتمعنا البحثي الواسع ومستخدميه المباشرين والسكان المتضررين.
نحن نؤمن بأن إعطاء الأولوية للشفافية في كل من نتائج تعلم الآلة نفسها ونتائج تقييمها سيكون جزءًا لا يتجزأ من تحقيق هذه الأهداف. يمكنك العثور على ردنا الأكثر تفصيلاً الذي يتناول هذه النقاط هنا.
