في الأشهر الأخيرة، شهدنا العديد من القصص الإخبارية التي تتضمن “تزييفًا عميقًا”، أو محتوى تم إنشاؤه بواسطة الذكاء الاصطناعي: من صور تايلور سويفت إلى مقاطع فيديو توم هانكس وتسجيلات الرئيس الأمريكي جو بايدن. سواء كانوا يبيعون المنتجات، أو يتلاعبون بصور الأشخاص دون موافقتهم، أو يدعمون التصيد الاحتيالي للحصول على معلومات خاصة، أو ينشئون مواد مضللة تهدف إلى تضليل الناخبين، تتم مشاركة التزييف العميق بشكل متزايد على منصات وسائل التواصل الاجتماعي. وهذا يمكّنهم من الانتشار بسرعة والوصول إلى نطاق أوسع، وبالتالي إمكانية التسبب في أضرار طويلة الأمد.
في منشور المدونة هذا، سنصف طرق تنفيذ العلامات المائية للمحتوى الذي تم إنشاؤه بواسطة الذكاء الاصطناعي، ومناقشة إيجابياتها وسلبياتها، وتقديم بعض الأدوات المتاحة على Hugging Face Hub لإضافة/اكتشاف العلامات المائية.
ما هي العلامة المائية وكيف تعمل؟
العلامة المائية هي طريقة مصممة لوضع علامة على المحتوى من أجل نقل معلومات إضافية، مثل الأصالة. يمكن أن تتراوح العلامات المائية في المحتوى الذي تم إنشاؤه بواسطة الذكاء الاصطناعي من مرئية بالكامل (الشكل 1) إلى غير مرئية (الشكل 2). في الذكاء الاصطناعي على وجه التحديد، تتضمن العلامة المائية إضافة أنماط إلى المحتوى الرقمي (مثل الصور)، ونقل المعلومات المتعلقة بمصدر المحتوى؛ يمكن بعد ذلك التعرف على هذه الأنماط إما من قبل البشر أو من خلال الخوارزميات.
هناك طريقتان أساسيتان لوضع علامة مائية على المحتوى الذي تم إنشاؤه بواسطة الذكاء الاصطناعي: الأولى تحدث أثناء إنشاء المحتوى، الأمر الذي يتطلب الوصول إلى النموذج نفسه ولكن يمكن أيضًا أن يكون أكثر قوة نظرًا لأنه مدمج تلقائيًا كجزء من عملية الإنشاء. أما الطريقة الثانية، والتي يتم تنفيذها بعد إنتاج المحتوى، فيمكن تطبيقها أيضًا حتى على المحتوى من نماذج مغلقة المصدر ونماذج مملوكة، مع التحذير من أنها قد لا تكون قابلة للتطبيق على جميع أنواع المحتوى (على سبيل المثال، النص).
تقنيات تسميم البيانات والتوقيع
بالإضافة إلى العلامات المائية، تلعب العديد من التقنيات ذات الصلة دورًا في الحد من التلاعب غير التوافقي في الصور. تقوم بعض الصور بتغيير الصور التي تشاركها عبر الإنترنت بشكل غير محسوس بحيث لا تقوم خوارزميات الذكاء الاصطناعي بمعالجتها بشكل جيد. على الرغم من أن الأشخاص يمكنهم رؤية الصور بشكل طبيعي، إلا أن خوارزميات الذكاء الاصطناعي لا يمكنها الوصول إلى محتوى مشابه، ونتيجة لذلك، لا يمكنها إنشاء صور جديدة. بعض الأدوات التي تغير الصور بشكل غير محسوس تشمل Glaze وPhotoguard. وتعمل أدوات أخرى على “تسميم” الصور بحيث تكسر الافتراضات المتأصلة في تدريب خوارزميات الذكاء الاصطناعي، مما يجعل من المستحيل على أنظمة الذكاء الاصطناعي معرفة شكل الأشخاص بناءً على الصور التي تتم مشاركتها عبر الإنترنت – وهذا يجعل من الصعب على هذه الأنظمة إنشاء صور مزيفة للأشخاص. تتضمن هذه الأدوات Nightshade وFawkes.
من الممكن أيضًا الحفاظ على أصالة المحتوى وموثوقيته من خلال استخدام تقنيات “التوقيع” التي تربط المحتوى بالبيانات التعريفية حول مصدرها، مثل عمل Truepic، الذي يقوم بتضمين البيانات التعريفية وفقًا لمعيار C2PA. يمكن أن يساعد توقيع الصور في فهم مصدر الصور. في حين أنه يمكن تحرير البيانات التعريفية، فإن أنظمة مثل Truepic تساعد في التغلب على هذا القيد من خلال 1) توفير شهادة لضمان إمكانية التحقق من صحة البيانات الوصفية و2) التكامل مع تقنيات العلامات المائية لجعل إزالة المعلومات أكثر صعوبة.
العلامات المائية المفتوحة مقابل العلامات المائية المغلقة
هناك إيجابيات وسلبيات توفير مستويات مختلفة من الوصول إلى كل من العلامات المائية وأجهزة الكشف لعامة الناس. ويساعد الانفتاح على تحفيز الابتكار، حيث يستطيع المطورون تكرار الأفكار الرئيسية وإنشاء أنظمة أفضل وأفضل. ومع ذلك، يجب أن يكون هذا متوازنا ضد الاستخدام الضار. مع وجود تعليمات برمجية مفتوحة في مسار الذكاء الاصطناعي الذي يستدعي علامة مائية، فمن السهل إزالة خطوة العلامة المائية. حتى إذا تم إغلاق هذا الجانب من المسار، إذا كانت العلامة المائية معروفة وكان رمز العلامة المائية مفتوحًا، فقد تقرأ الجهات الفاعلة الضارة الكود لمعرفة كيفية تحرير المحتوى الذي تم إنشاؤه بطريقة لا تعمل فيها العلامة المائية. إذا كان الوصول إلى الكاشف متاحًا أيضًا، فمن الممكن الاستمرار في تحرير شيء اصطناعي حتى يعيد الكاشف ثقة منخفضة، مما يؤدي إلى التراجع عن ما توفره العلامة المائية. هناك أساليب هجينة مفتوحة ومغلقة تعالج هذه المشكلات بشكل مباشر. على سبيل المثال، تم إغلاق رمز العلامة المائية Truepic، ولكنها توفر مكتبة JavaScript عامة يمكنها التحقق من بيانات اعتماد المحتوى. رمز IMATAG لاستدعاء العلامة المائية أثناء الإنشاء مفتوح، لكن العلامة المائية الفعلية والكاشف خاصان.
وضع علامة مائية على أنواع مختلفة من البيانات
في حين أن العلامة المائية هي أداة مهمة عبر الطرائق (الصوت والصور والنص وما إلى ذلك)، فإن كل طريقة تجلب معها تحديات واعتبارات فريدة. وكذلك الأمر بالنسبة للقصد من العلامة المائية: ما إذا كان سيتم منع استخدامها أم لا بيانات التدريب لنماذج التدريب، لحماية المحتوى من التلاعب، لوضع علامة على الإخراج من النماذج، أو يكشف البيانات التي تم إنشاؤها بواسطة الذكاء الاصطناعي. في القسم الحالي، نستكشف طرائق مختلفة للبيانات، والتحديات التي تمثلها لوضع العلامات المائية، والأدوات مفتوحة المصدر الموجودة في Hugging Face Hub لتنفيذ أنواع مختلفة من العلامات المائية.
صور العلامات المائية
من المحتمل أن أفضل نوع معروف من العلامات المائية (سواء للمحتوى الذي أنشأه البشر أو الذي ينتجه الذكاء الاصطناعي) يتم تنفيذه على الصور. كانت هناك أساليب مختلفة مقترحة لوضع علامات على بيانات التدريب للتأثير على مخرجات النماذج المدربة عليها: الطريقة الأكثر شهرة لهذا النوع من نهج “إخفاء الصورة” هي “Nightshade”، والتي تنفذ تغييرات صغيرة على الصور التي تكون غير محسوسة للعين البشرية ولكنها تؤثر على جودة النماذج المدربة على البيانات المسمومة. هناك أدوات مماثلة لإخفاء الصور متاحة على Hub – على سبيل المثال، Fawkes، الذي طوره نفس المختبر الذي طور Nightshade، يستهدف على وجه التحديد صور الأشخاص بهدف إحباط أنظمة التعرف على الوجه. وبالمثل، هناك أيضًا Photoguard، الذي يهدف إلى حماية الصور من التلاعب باستخدام أدوات الذكاء الاصطناعي التوليدية، على سبيل المثال، لإنشاء صور مزيفة بناءً عليها.
فيما يتعلق بوضع العلامات المائية على الصور الناتجة، هناك طريقتان متكاملتان متاحتان على Hub: IMATAG (انظر الشكل 2)، الذي ينفذ وضع العلامات المائية أثناء إنشاء المحتوى من خلال الاستفادة من الإصدارات المعدلة من النماذج الشائعة مثل Stable Diffusion XL Turbo، وTruepic، الذي يضيف بيانات اعتماد محتوى غير مرئية بعد إنشاء الصورة.
يقوم TruePic أيضًا بتضمين بيانات اعتماد محتوى C2PA في الصور، مما يتيح تخزين البيانات التعريفية المتعلقة بمصدر الصورة وإنشائها في الصورة نفسها. تسمح كل من IMATAG وTruePic Spaces أيضًا باكتشاف الصور التي تحمل علامة مائية بواسطة أنظمتها. تعمل كل من أدوات الكشف هذه مع النهج الخاص بها (أي أنها خاصة بالنهج). توجد مساحة عامة للكشف عن التزييف العميق على المركز، ولكن من خلال تجربتنا، وجدنا أن هذه الحلول لها أداء متغير اعتمادًا على جودة الصورة والنموذج المستخدم.
نص العلامة المائية
في حين أن وضع العلامات المائية على الصور التي تم إنشاؤها بواسطة الذكاء الاصطناعي قد يبدو أكثر سهولة – نظرًا للطبيعة المرئية القوية لهذا المحتوى – فإن النص قصة مختلفة تمامًا… كيف يمكنك إضافة علامات مائية إلى الكلمات والأرقام المكتوبة (الرموز المميزة)؟ حسنًا، تعتمد الأساليب الحالية للعلامة المائية على الترويج للمفردات الفرعية بناءً على النص السابق. دعونا نتعمق في الشكل الذي سيبدو عليه هذا بالنسبة للنص الذي تم إنشاؤه بواسطة LLM.
أثناء عملية الإنشاء، يقوم LLM بإخراج قائمة من السجلات الخاصة بالرمز المميز التالي قبل أن يقوم بأخذ العينات أو فك التشفير الجشع. استنادًا إلى النص الذي تم إنشاؤه مسبقًا، تقسم معظم الأساليب جميع الرموز المميزة المرشحة إلى مجموعتين – أطلق عليهما اسم “الأحمر” و”الأخضر”. سيتم تقييد الرموز “الحمراء”، وسيتم ترقية المجموعة “الخضراء”. يمكن أن يحدث هذا عن طريق عدم السماح برموز المجموعة الحمراء تمامًا (العلامة المائية الصلبة)، أو عن طريق زيادة احتمالية المجموعة الخضراء (العلامة المائية الناعمة). كلما قمنا بتغيير الاحتمالات الأصلية، زادت قوة العلامة المائية لدينا. أنشأت WaterBench مجموعة بيانات مرجعية لتسهيل مقارنة الأداء عبر خوارزميات العلامات المائية مع التحكم في قوة العلامة المائية لمقارنات التفاح إلى التفاح.
يعمل الاكتشاف عن طريق تحديد “لون” كل رمز مميز، ثم حساب احتمالية أن يأتي نص الإدخال من النموذج المعني. تجدر الإشارة إلى أن النصوص الأقصر تتمتع بثقة أقل بكثير، نظرًا لوجود عدد أقل من الرموز المميزة التي يجب فحصها.
هناك طريقتان يمكنك من خلالهما تنفيذ العلامة المائية بسهولة لـ LLMs على Hugging Face Hub. توضح العلامة المائية لمساحة LLM (انظر الشكل 3) ذلك، باستخدام نهج العلامة المائية LLM على نماذج مثل OPT وFlan-T5. بالنسبة لأحمال العمل على مستوى الإنتاج، يمكنك استخدام مجموعة أدوات استدلال إنشاء النص الخاصة بنا، والتي تنفذ نفس خوارزمية العلامة المائية وتعيين المعلمات المقابلة ويمكن استخدامها مع أي من أحدث الموديلات!
على غرار العلامة المائية العالمية للصور التي تم إنشاؤها بواسطة الذكاء الاصطناعي، لم يتم بعد إثبات ما إذا كان النص الذي يحمل علامة مائية عالمية ممكنًا أم لا. تهدف الأساليب مثل GLTR إلى أن تكون قوية لأي نموذج لغة يمكن الوصول إليه (نظرًا لأنها تعتمد على مقارنة سجلات النص الذي تم إنشاؤه بتلك الخاصة بالنماذج المختلفة). من المستحيل حاليًا اكتشاف ما إذا كان قد تم إنشاء نص معين باستخدام نموذج لغة دون الوصول إلى هذا النموذج (إما لأنه مغلق المصدر أو لأنك لا تعرف النموذج الذي تم استخدامه لإنشاء النص).
كما ناقشنا أعلاه، تتطلب طرق الكشف عن النص الذي تم إنشاؤه قدرًا كبيرًا من النص ليكون موثوقًا به. وحتى في هذه الحالة، يمكن أن يكون لدى أجهزة الكشف معدلات إيجابية كاذبة عالية، مما يؤدي إلى تصنيف النص المكتوب من قبل الأشخاص بشكل غير صحيح على أنه اصطناعي. في الواقع، قامت OpenAI بإزالة أداة الكشف الداخلية الخاصة بها في عام 2023 نظرًا لانخفاض معدل الدقة، والذي جاء مع عواقب غير مقصودة عندما استخدمها المعلمون لقياس ما إذا كانت المهام المقدمة من طلابهم قد تم إنشاؤها باستخدام ChatGPT أم لا.
العلامة المائية الصوت
غالبًا ما تُستخدم البيانات المستخرجة من صوت الشخص (بصمة الصوت) كآلية مصادقة أمنية بيومترية لتحديد هوية الفرد. على الرغم من أن اختراق هذه البيانات البيومترية يقترن بشكل عام بعوامل أمنية أخرى مثل رقم التعريف الشخصي أو كلمة المرور، إلا أنه لا يزال يمثل خطرًا ويمكن استخدامه للوصول إلى الحسابات المصرفية، على سبيل المثال، نظرًا لأن العديد من البنوك تستخدم تقنيات التعرف على الصوت للتحقق من العملاء عبر الهاتف. نظرًا لأن تكرار الصوت أصبح أسهل باستخدام الذكاء الاصطناعي، يجب علينا أيضًا تحسين التقنيات للتحقق من صحة الصوت. يشبه وضع العلامات المائية على المحتوى الصوتي وضع العلامات المائية على الصور، بمعنى أن هناك مساحة إخراج متعددة الأبعاد يمكن استخدامها لإدخال البيانات التعريفية المتعلقة بالمصدر. في حالة الصوت، يتم تنفيذ العلامة المائية عادةً على ترددات غير محسوسة للآذان البشرية (أقل من 20 ~ أو أعلى من 20000 هرتز)، والتي يمكن اكتشافها بعد ذلك باستخدام أساليب تعتمد على الذكاء الاصطناعي.
نظرًا لطبيعة إخراج الصوت عالية المخاطر، يعد وضع العلامات المائية على المحتوى الصوتي مجالًا نشطًا للبحث، وقد تم اقتراح طرق متعددة (على سبيل المثال، WaveFuzz، وVenomave) على مدار السنوات القليلة الماضية.
AudioSeal هي طريقة للعلامة المائية المترجمة للكلام، مع سرعة كشف متطورة دون المساس بقوة العلامة المائية. فهو يقوم بشكل مشترك بتدريب مولد يقوم بتضمين علامة مائية في الصوت، وكاشف يكتشف أجزاء العلامة المائية في صوتيات أطول، حتى في حالة وجود تحرير. يحقق Audioseal أداء كشف متطور لكل من الكلام الطبيعي والصناعي على مستوى العينة (دقة 1/16 كيلو ثانية)، ويولد تغييرًا محدودًا في جودة الإشارة وهو قوي للعديد من أنواع تحرير الصوت.
تم استخدام AudioSeal أيضًا لإصدار العروض التوضيحية SeamlessExpressive وSeamlessStreaming مع آليات السلامة.
خاتمة
قد تكون المعلومات المضللة، والاتهام بإنتاج محتوى اصطناعي عندما يكون الأمر حقيقيًا، وحالات التمثيل غير المناسب للأشخاص دون موافقتهم، أمرًا صعبًا ويستغرق وقتًا طويلاً؛ يحدث الكثير من الضرر قبل إجراء التصحيحات والتوضيحات. على هذا النحو، وكجزء من مهمتنا لإضفاء الطابع الديمقراطي على التعلم الآلي الجيد، فإننا في Hugging Face نعتقد أن وجود آليات لتحديد المحتوى الذي ينشئه الذكاء الاصطناعي بسرعة وبشكل منهجي أمر مهم. العلامات المائية باستخدام الذكاء الاصطناعي ليست مضمونة، ولكنها يمكن أن تكون أداة قوية في مكافحة الاستخدامات الضارة والمضللة للذكاء الاصطناعي.
القصص الصحفية ذات الصلة
