قام روبوت محادثة آلي يعمل لدى Anthropic هذا الشهر بإسقاط تقرير الثغرة الأمنية الذي أعده باحث Wiz، قائلًا إنه “يقع خارج نموذج التهديد الخاص بـ Claude Code”. كان هذا خبرًا جديدًا للباحثين الأمنيين في Wiz.
وتبين أيضًا أن هذا كان بمثابة خبر جديد للمديرين التنفيذيين الأنثروبيين، الذين لديهم وجهة نظر مختلفة تمامًا.
في الواقع، كانت شركة Anthropic واحدة من العديد من ضحايا الثغرة، بما في ذلك Amazon وGoogle وCursor وغيرها. ولكن ما يجعل الحادث غريبًا للغاية هو أنه بعيدًا عن تجاهل التهديد، فقد اكتشفته شركة Anthropic قبل الباحثين الأمنيين، بل قامت بتصحيحه قبل أن ينبههم الباحثون.
وكما هو معتاد على أن تفعل روبوتات الذكاء الاصطناعي هذه، فإن الروبوت لم يرفض الطلب فحسب. لقد شرحت بثقة مبرراتها، على الرغم من أن منطقها كان خاطئا.
وقال برنامج الدردشة الآلي، وفقًا لتقرير صادر عن Wiz: “هذا يقع خارج نموذج التهديد الحالي لدينا”. “عندما يقوم المستخدم بتشغيل Claude Code لأول مرة في الدليل، يجب عليه التأكد من أنه يثق في الدليل قبل بدء الجلسة. يتضمن السيناريو الذي تصفه مستخدمًا يؤكد صراحةً مطالبة الإذن داخل دليل يحتوي على رابط رمزي ضار، والذي يقع خارج نموذج التهديد الخاص بـ Claude Code.”
قال الباحثون إن إدارة Anthropic أوضحت الموقف لاحقًا: “تم شحن تحذير الارتباط الرمزي في مربع حوار إذن التحرير/الكتابة في الإصدار 2.1.32 (5 فبراير 2026)، قبل تسعة أيام من تقديم هذا التقرير إلينا. تمت إضافته كجزء من التشديد الأمني الاستباقي بناءً على المراجعة الداخلية. وكان رفض التعليق بمثابة رد تلقائي من نظام الفرز لدينا.”
رد تلقائي من نظام الفرز لدينا؟ كم عدد الردود الوهمية الأخرى التي أرسلها هذا النظام؟ وما هو مستوى الضرر الذي تعرض له الأنثروبولوجيا؟
هذه ليست مجرد قضية أنثروبيا. كان هناك العديد من مواطن الخلل في روبوتات المؤسسة في الاتصالات مع العملاء. بعض من المفضلة تشمل:
- الروبوتات التي اختارت من تلقاء نفسها إلغاء العملاء. (كان هذا في الواقع حادثًا إنسانيًا آخر). في هذه الحالة، قام روبوت إنساني بإلغاء حساب الذكاء الاصطناعي لشركة سويسرية كانت تعتمد على الخدمة. تدخل أحد المحامين وتمت استعادة الحساب خلال يوم واحد، مع حذف 80% من البيانات. أُووبس.
- قرر روبوت المؤشر تسجيل خروج العملاء عند تبديل الأجهزة، وهو ما لم يكن من المفترض أن يفعله. ثم أرسل الروبوت بعد ذلك بريدًا إلكترونيًا إلى العملاء وكذب قائلاً: “عمليات تسجيل الخروج كانت سلوكًا متوقعًا بموجب سياسة تسجيل الدخول الجديدة”. تفصّل إحدى قصص مجلة Fortune كيف “انتشرت الأخبار بسرعة في مجتمع المطورين، مما أدى إلى تقارير عن قيام المستخدمين بإلغاء اشتراكاتهم، بينما اشتكى البعض من نقص الشفافية. نشر المؤسس المشارك مايكل ترويل أخيرًا على Reddit معترفًا بـ “الاستجابة غير الصحيحة من روبوت دعم الذكاء الاصطناعي في الخطوط الأمامية”، وقال إنه كان يحقق في خطأ أدى إلى تسجيل خروج المستخدمين. وكتب “نعتذر عن الارتباك هنا”.
- تعرض الناخبون في الانتخابات الاسكتلندية للخداع من قبل روبوتات الذكاء الاصطناعي الحكومية التي “اختلقت فضائح وهمية بشكل مختلف، وأعطت موعدًا خاطئًا للانتخابات، وادعت خطأً أن الناخبين في الانتخابات الاسكتلندية يحتاجون إلى بطاقة هوية في مراكز الاقتراع ووضعت المرشحين في مسابقات خاطئة”.
- ودعونا لا نصنع القصة الكلاسيكية حول روبوت طيران كندا، حيث “تم إصدار أمر لشركة طيران كندا بتعويض أحد العملاء بعد أن قدم برنامج الدردشة الآلي الخاص بها معلومات غير صحيحة حول سياسة أسعار التذاكر الخاصة بشركة الطيران. ووجدت المحكمة أن شركة طيران كندا كانت مسؤولة عن المعلومات المقدمة من خلال موقعها على الإنترنت، بما في ذلك برنامج الدردشة الآلي”.
لنكن واضحين هنا: يجب أن تقتصر الروبوتات على ترحيل البرامج النصية المعتمدة مسبقًا فقط.
يتيح الذكاء الاصطناعي التوليدي قدرًا أكبر من التطور لروبوتات الدردشة، ولكن هذا يعني أيضًا احتمال حدوث أخطاء أكبر بكثير. وهذا أمر لا يمكن الدفاع عنه في أي وظيفة تجارية. وعندما يتظاهر التطبيق بأنه إنسان – ويتفاعل مع العملاء من البشر – فإن الأمر غير مقبول على الإطلاق.
