TL؛ DR: نحن بحاجة إلى طرق أفضل لتقييم التحيز في نماذج تحويل النص إلى صورة
مقدمة
يعد إنشاء تحويل النص إلى صورة (TTI) أمرًا شائعًا هذه الأيام، ويتم تحميل الآلاف من نماذج TTI إلى Hugging Face Hub. من المحتمل أن تكون كل طريقة عرضة لمصادر منفصلة للتحيز، الأمر الذي يطرح السؤال التالي: كيف نكشف عن التحيزات في هذه النماذج؟ في منشور المدونة الحالي، نشارك أفكارنا حول مصادر التحيز في أنظمة TTI بالإضافة إلى الأدوات والحلول المحتملة لمعالجتها، ونعرض مشاريعنا الخاصة ومشروعات المجتمع الأوسع.
القيم والتحيز المشفرة في أجيال الصورة
هناك علاقة وثيقة جدًا بين التحيز والقيم، لا سيما عندما تكون مضمنة في اللغة أو الصور المستخدمة للتدريب والاستعلام عن نموذج معين لتحويل النص إلى صورة؛ وتؤثر هذه الظاهرة بشكل كبير على المخرجات التي نراها في الصور المولدة. على الرغم من أن هذه العلاقة معروفة في مجال أبحاث الذكاء الاصطناعي الأوسع، وهناك جهود كبيرة تبذل لمعالجتها، إلا أن التعقيد المتمثل في محاولة تمثيل الطبيعة المتطورة لقيم مجموعة سكانية معينة في نموذج واحد لا يزال قائمًا. ويمثل هذا تحديًا أخلاقيًا دائمًا للكشف عنه ومعالجته بشكل مناسب.
على سبيل المثال، إذا كانت بيانات التدريب باللغة الإنجليزية بشكل أساسي، فمن المحتمل أنها تنقل القيم الغربية إلى حد ما. ونتيجة لذلك نحصل على تمثيلات نمطية لثقافات مختلفة أو بعيدة. تظهر هذه الظاهرة بشكل ملحوظ عندما نقارن نتائج ERNIE ViLG (يسار) وStable Diffusion v 2.1 (يمين) لنفس الموجه، “منزل في بكين”:
مصادر التحيز
شهدت السنوات الأخيرة الكثير من الأبحاث المهمة حول اكتشاف التحيز في أنظمة الذكاء الاصطناعي باستخدام طرائق واحدة في كل من معالجة اللغات الطبيعية (Abid et al., 2021) وكذلك الرؤية الحاسوبية (Buolamwini and Gebru, 2018). وبقدر ما يتم إنشاء نماذج تعلم الآلة من قبل البشر، فإن التحيزات موجودة في جميع نماذج تعلم الآلة (وفي الواقع، التكنولوجيا بشكل عام). يمكن أن يتجلى ذلك من خلال التمثيل الزائد أو الناقص لبعض الخصائص البصرية في الصور (على سبيل المثال، جميع صور العاملين في المكاتب الذين لديهم ربطات عنق)، أو وجود قوالب نمطية ثقافية وجغرافية (على سبيل المثال، جميع صور العرائس اللاتي يرتدين الفساتين البيضاء والحجاب، في مقابل الصور الأكثر تمثيلاً للعرائس في جميع أنحاء العالم، مثل العرائس اللاتي يرتدين الساري الأحمر). وبالنظر إلى أن أنظمة الذكاء الاصطناعي منتشرة في سياقات اجتماعية تقنية أصبحت منتشرة على نطاق واسع في قطاعات وأدوات مختلفة (مثل Firefly وShutterstock)، فمن المرجح بشكل خاص أن تؤدي إلى تضخيم التحيزات المجتمعية وعدم المساواة القائمة. نحن نهدف إلى تقديم قائمة غير شاملة لمصادر التحيز أدناه:
التحيزات في بيانات التدريب: تم العثور على مجموعات البيانات الشائعة متعددة الوسائط، مثل LAION-5B لتحويل النص إلى صورة، وMS-COCO للتعليق على الصور، وVQA v2.0 للإجابة على الأسئلة المرئية، على العديد من التحيزات والارتباطات الضارة (Zhao et al 2017, Prabhu and Birhane, 2021, Hirota et al, 2022)، والتي يمكن أن تتسرب إلى النماذج المدربة على مجموعات البيانات هذه. على سبيل المثال، تُظهر النتائج الأولية لمشروع Hugging Face Stable Bias الافتقار إلى التنوع في أجيال الصور، فضلاً عن إدامة الصور النمطية الشائعة للثقافات ومجموعات الهوية. وبمقارنة جيل Dall-E 2 من الرؤساء التنفيذيين (على اليمين) والمديرين (على اليسار)، يمكننا أن نرى أن كلاهما يفتقر إلى التنوع:
التحيزات في تصفية بيانات ما قبل التدريب: غالبًا ما يكون هناك شكل من أشكال التصفية يتم إجراؤه على مجموعات البيانات قبل استخدامها في نماذج التدريب؛ يقدم هذا تحيزات مختلفة. على سبيل المثال، في منشور مدونتهم، وجد منشئو Dall-E 2 أن تصفية بيانات التدريب يمكن أن تؤدي في الواقع إلى تضخيم التحيزات – فهم يفترضون أن هذا قد يكون بسبب تحيز مجموعة البيانات الحالية نحو تمثيل النساء في سياقات أكثر جنسية أو بسبب التحيزات المتأصلة في أساليب التصفية التي يستخدمونها.
التحيزات في الاستدلال: يحتوي نموذج CLIP المستخدم لتوجيه التدريب والاستدلال على نماذج تحويل النص إلى صورة مثل Stable Diffusion و Dall-E 2 على عدد من التحيزات الموثقة جيدًا المحيطة بالعمر والجنس والعرق أو الإثنية، على سبيل المثال معالجة الصور التي تم تصنيفها على أنها white, middle-aged، و male كإعداد افتراضي. يمكن أن يؤثر هذا على أجيال النماذج التي تستخدمها للتشفير السريع، على سبيل المثال من خلال تفسير مجموعات الجنس والهوية غير المحددة أو غير المحددة للدلالة على البيض والذكور.
التحيزات في الفضاء الكامن للنماذج: تم إنجاز العمل الأولي من حيث استكشاف المساحة الكامنة للنموذج وتوجيه توليد الصور عبر محاور مختلفة مثل الجنس لجعل الأجيال أكثر تمثيلاً (انظر الصور أدناه). ومع ذلك، هناك حاجة إلى مزيد من العمل لفهم بنية الفضاء الكامن لأنواع مختلفة من نماذج الانتشار بشكل أفضل والعوامل التي يمكن أن تؤثر على التحيز المنعكس في الصور المولدة.
التحيزات في التصفية اللاحقة: تأتي العديد من نماذج إنشاء الصور مزودة بمرشحات أمان مدمجة تهدف إلى الإبلاغ عن المحتوى الذي به مشكلات. ومع ذلك، يجب تحديد مدى عمل هذه المرشحات ومدى قوتها بالنسبة لأنواع مختلفة من المحتوى – على سبيل المثال، أظهرت الجهود المبذولة لتشكيل فريق أحمر لمرشح أمان الانتشار الثابت أنه يحدد في الغالب المحتوى الجنسي، ويفشل في الإبلاغ عن أنواع أخرى من المحتوى العنيف أو الدموي أو المزعج.
كشف التحيز
إن أغلب القضايا التي وصفناها أعلاه لا يمكن حلها بحل واحد ــ في الواقع، التحيز موضوع معقد ولا يمكن معالجته بشكل هادف باستخدام التكنولوجيا وحدها. يتشابك التحيز بشكل عميق مع السياق الاجتماعي والثقافي والتاريخي الأوسع الذي يوجد فيه. ولذلك، فإن معالجة التحيز في أنظمة الذكاء الاصطناعي لا تمثل تحديًا تكنولوجيًا فحسب، بل تمثل أيضًا تحديًا اجتماعيًا وتقنيًا يتطلب اهتمامًا متعدد التخصصات. ومع ذلك، يمكن لمجموعة من الأساليب، بما في ذلك الأدوات وفرق العمل الحمراء والتقييمات، أن تساعد في استخلاص رؤى مهمة يمكنها إعلام كل من منشئي النماذج ومستخدمي المراحل النهائية بالتحيزات الموجودة في TTI والنماذج متعددة الوسائط الأخرى.
ونعرض بعض هذه الأساليب فيما يلي:
أدوات لاستكشاف التحيز: كجزء من مشروع Stable Bias، أنشأنا سلسلة من الأدوات لاستكشاف ومقارنة المظاهر المرئية للتحيزات في نماذج مختلفة لتحويل النص إلى صورة. على سبيل المثال، تتيح لك أداة Average Diffusion Faces مقارنة متوسط التمثيلات للمهن المختلفة والنماذج المختلفة – مثل “janitor”، الموضح أدناه، لـ Stable Diffusion v1.4، v2، و Dall-E 2:
وتسمح الأدوات الأخرى، مثل أداة Face Clustering وأداة Colourness Profession Explorer، للمستخدمين باستكشاف الأنماط في البيانات وتحديد أوجه التشابه والقوالب النمطية دون إسناد تسميات أو خصائص هوية. في الواقع، من المهم أن نتذكر أن الصور التي تم إنشاؤها للأفراد ليست أشخاصًا حقيقيين، ولكنها إبداعات مصطنعة، لذلك من المهم عدم معاملتهم كما لو كانوا بشرًا حقيقيين. اعتمادًا على السياق وحالة الاستخدام، يمكن استخدام أدوات مثل هذه لسرد القصص والتدقيق.
الفريق الأحمر: يتكون “الفريق الأحمر” من نماذج الذكاء الاصطناعي لاختبار التحمل بحثًا عن نقاط الضعف والتحيزات ونقاط الضعف المحتملة من خلال تحفيزها وتحليل النتائج. على الرغم من أنه تم استخدامه عمليًا لتقييم نماذج اللغة (بما في ذلك حدث Geneative AI Red Teaming القادم في DEFCON، والذي نشارك فيه)، إلا أنه لا توجد طرق راسخة ومنهجية لنماذج الذكاء الاصطناعي ذات الفريق الأحمر ولا تزال مخصصة نسبيًا. في الواقع، هناك العديد من الأنواع المحتملة لأنماط الفشل والتحيزات في نماذج الذكاء الاصطناعي، ومن الصعب توقعها جميعًا، كما أن الطبيعة العشوائية للنماذج التوليدية تجعل من الصعب إعادة إنتاج حالات الفشل. يوفر الفريق الأحمر رؤى قابلة للتنفيذ حول قيود النموذج ويمكن استخدامه لإضافة حواجز الحماية وقيود نموذج المستند. لا توجد حاليًا أي معايير للفريق الأحمر أو لوحات الصدارة تسلط الضوء على الحاجة إلى المزيد من العمل في موارد الفريق الأحمر مفتوحة المصدر. تعد مجموعة بيانات الفريق الأحمر الخاصة بـ Anthropic المصدر الوحيد المفتوح المصدر لمطالبات الفريق الأحمر، ولكنها تقتصر على نص اللغة الإنجليزية الطبيعية فقط.
تقييم وتوثيق التحيز: في Hugging Face، نحن من كبار المؤيدين للبطاقات النموذجية وغيرها من أشكال التوثيق (على سبيل المثال، أوراق البيانات، والملفات التمهيدية، وما إلى ذلك). في حالة نماذج تحويل النص إلى صورة (وغيرها من الوسائط المتعددة)، يمكن مشاركة نتائج الاستكشافات التي تم إجراؤها باستخدام أدوات المستكشف وجهود الفريق الأحمر مثل تلك الموضحة أعلاه جنبًا إلى جنب مع نقاط التفتيش والأوزان النموذجية. إحدى المشكلات هي أننا لا نملك حاليًا معايير قياسية أو مجموعات بيانات لقياس التحيز في النماذج متعددة الوسائط (وفي الواقع، في أنظمة توليد النص إلى الصورة على وجه التحديد)، ولكن مع قيام المجتمع بتنفيذ المزيد من العمل في هذا الاتجاه، يمكن الإبلاغ عن مقاييس التحيز المختلفة بالتوازي في وثائق النموذج.
القيم والتحيز
تعد جميع الأساليب المذكورة أعلاه جزءًا من اكتشاف وفهم التحيزات المضمنة في نماذج توليد الصور. ولكن كيف نتعامل معهم بفعالية؟
ويتمثل أحد الأساليب في تطوير نماذج جديدة تمثل المجتمع كما نتمنى أن يكون. ويقترح هذا إنشاء أنظمة ذكاء اصطناعي لا تحاكي الأنماط الموجودة في بياناتنا فحسب، بل تعمل بنشاط على تعزيز وجهات نظر أكثر إنصافًا وإنصافًا. ومع ذلك، فإن هذا النهج يثير سؤالًا حاسمًا: ما هي القيم التي نبرمجها في هذه النماذج؟ تختلف القيم عبر الثقافات والمجتمعات والأفراد، مما يجعل تحديد الشكل الذي يجب أن يبدو عليه المجتمع “المثالي” ضمن نموذج الذكاء الاصطناعي مهمة معقدة. والسؤال في الواقع معقد ومتعدد الأوجه. إذا تجنبنا إعادة إنتاج التحيزات المجتمعية الموجودة في نماذج الذكاء الاصطناعي لدينا، فإننا نواجه التحدي المتمثل في تحديد التمثيل “المثالي” للمجتمع. المجتمع ليس كيانًا ثابتًا، بل هو بناء ديناميكي ومتغير باستمرار. هل ينبغي لنماذج الذكاء الاصطناعي إذن أن تتكيف مع التغيرات في الأعراف والقيم المجتمعية مع مرور الوقت؟ إذا كان الأمر كذلك، فكيف نضمن أن هذه التحولات تمثل بشكل حقيقي جميع الفئات داخل المجتمع، وخاصة تلك التي غالبا ما تكون ممثلة تمثيلا ناقصا؟
وأيضًا، كما ذكرنا في رسالة إخبارية سابقة، لا توجد طريقة واحدة واحدة لتطوير أنظمة التعلم الآلي، وأي خطوة من خطوات عملية التطوير والنشر يمكن أن توفر فرصًا لمعالجة التحيز، بدءًا من من يتم تضمينه في البداية، إلى تحديد المهمة، إلى تنسيق مجموعة البيانات، وتدريب النموذج، والمزيد. وينطبق هذا أيضًا على النماذج المتعددة الوسائط والطرق التي يتم بها نشرها أو إنتاجها في المجتمع في نهاية المطاف، نظرًا لأن عواقب التحيز في النماذج المتعددة الوسائط ستعتمد على استخدامها في المراحل النهائية. على سبيل المثال، إذا تم استخدام نموذج في إعداد الإنسان في الحلقة للتصميم الجرافيكي (مثل تلك التي تم إنشاؤها بواسطة RunwayML)، فإن المستخدم لديه العديد من المناسبات لاكتشاف التحيز وتصحيحه، على سبيل المثال عن طريق تغيير الموجه أو خيارات الإنشاء. ومع ذلك، إذا تم استخدام النموذج كجزء من أداة لمساعدة فناني الطب الشرعي على إنشاء رسومات الشرطة للمشتبه بهم المحتملين (انظر الصورة أدناه)، فإن المخاطر تكون أعلى بكثير، لأن هذا يمكن أن يعزز الصور النمطية والتحيزات العنصرية في بيئة عالية المخاطر.
تحديثات أخرى
كما نواصل العمل على جبهات أخرى تتعلق بالأخلاق والمجتمع، بما في ذلك:
- الإشراف على المحتوى:
- لقد أجرينا تحديثًا كبيرًا على سياسة المحتوى الخاصة بنا. لقد مر عام تقريبًا منذ آخر تحديث لدينا وقد نما مجتمع Hugging Face بشكل كبير منذ ذلك الحين، لذلك شعرنا أن الوقت قد حان. في هذا التحديث نؤكد موافقة كواحدة من القيم الأساسية لـ Hugging Face. لقراءة المزيد عن عملية التفكير لدينا، قم بمراجعة مدونة الإعلان .
- سياسة المساءلة في مجال الذكاء الاصطناعي:
- لقد قدمنا ردًا على طلب NTIA للتعليق على سياسة مساءلة الذكاء الاصطناعي، حيث أكدنا على أهمية آليات التوثيق والشفافية، فضلاً عن ضرورة الاستفادة من التعاون المفتوح وتعزيز الوصول إلى أصحاب المصلحة الخارجيين. يمكنك العثور على ملخص لردنا ورابط للوثيقة الكاملة في منشور مدونتنا!
الملاحظات الختامية
كما يمكنك أن ترى من مناقشتنا أعلاه، فإن مسألة اكتشاف التحيز والقيم والتعامل معها في النماذج متعددة الوسائط، مثل نماذج تحويل النص إلى صورة، هي مسألة مفتوحة إلى حد كبير. وبصرف النظر عن العمل المذكور أعلاه، فإننا نتعامل أيضًا مع المجتمع ككل بشأن هذه القضايا – لقد شاركنا مؤخرًا في قيادة جلسة CRAFT في مؤتمر FAccT حول هذا الموضوع ونواصل متابعة الأبحاث التي تركز على البيانات والنماذج حول هذا الموضوع. أحد الاتجاهات المحددة التي نحن متحمسون لاستكشافها هو إجراء بحث أكثر تعمقًا للقيم المغروسة في نماذج تحويل النص إلى صورة وما تمثله (تابعنا!).
