سناب شات تضيف إجراءات وقائية جديدة لروبوت الدردشة الذكى My AI
ومن جانبها، قالت سناب إنها على علم بأن الناس كانوا يحاولون، بعد إطلاق روبوت الدردشة، «خداعه لتقديم ردود لا تتوافق مع إرشاداتنا». لذلك أطلقت الشركة بعض الأدوات بهدف إبقاء استجابات الروبوت تحت السيطرة.
وأدرجت سناب مرشحًا يتيح لروبوت الذكاء الاصطناعي معرفة تاريخ ميلاد المستخدمين ويزودهم باستجابات مناسبة للعمر، وقالت الشركة إن الروبوت «سيأخذ سنهم في الاعتبار باستمرار» أثناء التحدث مع المستخدمين.
وفي الأسابيع المقبلة، تخطط سناب أيضًا لتقديم المزيد من الرؤى للآباء أو الأوصياء بشأن تفاعلات الأطفال مع الروبوت في مركز العائلة، الذي أُطلق في شهر أغسطس الماضي.
وستكشف الميزة الجديدة إن كان المراهقون يتفاعلون مع روبوت الدردشة، وتكرار هذه التفاعلات، ويحتاج كل من الوصي والمراهق إلى الاشتراك في مركز العائلة لاستخدام ميزات الرقابة الأبوية هذه.
ونبهت سناب في منشور على مدونتها إلى أن روبوت الدردشة (ماي أي آي) My AI ليس «صديقًا حقيقيًا». ولتحسين الردود، فإنه يستخدم سجل المحادثات، ثم إن الشركة تُخطر المستخدمين أيضًا بشأن الاحتفاظ بالبيانات عند بدء الدردشة مع الروبوت.
وقالت الشركة إن نسبة الردود «غير ملائمة» من الروبوت لم تتعدَ 0.01% ، وتحسب سناب أي رد يتضمن إشارات إلى «العنف، أو المصطلحات الجنسية الصريحة، أو تعاطي المخدرات غير المشروع، أو الاعتداء الجنسي على الأطفال، أو التنمر، أو خطاب الكراهية، أو العبارات المهينة أو المتحيزة، أو العنصرية، أو كراهية النساء، أو تهميش المجموعات غير الممثلة» على أنها «غير ملائمة».
وذكرت سناب شات أنه في معظم الحالات، كانت هذه الردود غير الملائمة نتيجة لتقليد الروبوت لكل ما قاله المستخدمون. كما أشارت إلى أنها ستحظر مؤقتًا الوصول إلى روبوت الذكاء الاصطناعي على المستخدم الذي يسيء الاستخدام.
اكتشاف المزيد من إن سفن
اشترك للحصول على أحدث التدوينات المرسلة إلى بريدك الإلكتروني.