6. تعامل مع أنظمة الذكاء الاصطناعي وكأنها عاملة أكثر من كونها برمجيات
لا تزال بعض الشركات تحكم الذكاء الاصطناعي مثل التطبيقات التقليدية. ولكن وفقًا لكالي، تتصرف أنظمة الذكاء الاصطناعي بشكل أشبه بالعمال وليس مثل البرامج الحتمية.
ويقول: “لا يمكنك النشر مرة واحدة ثم الانتهاء منه”. “مثلهم مثل العمال، فهم بحاجة إلى رقابة مستمرة.”
وقد أصبحت هذه الرقابة المستمرة وظيفة أساسية للمساءلة. لا يتم تعيين الموظفين وتدريبهم ثم تركهم دون إشراف إلى أجل غير مسمى. يقوم المديرون بمراقبة الأداء، وتقديم التغذية الراجعة، وتقييم المسؤوليات المتغيرة، والتدخل عندما ينحرف السلوك عن التوقعات. ويقول كالي إن أنظمة الذكاء الاصطناعي تتطلب معاملة مماثلة بشكل متزايد.
غالبًا ما يمكن مراجعة البرامج التقليدية والموافقة عليها في وقت الإصدار لأن سلوكها يظل مستقرًا نسبيًا بين الإصدارات. أنظمة الذكاء الاصطناعي مختلفة. تتطور النماذج، وتطالب بالتغيير، ويتم تحديث أنظمة الاسترجاع، وتتغير المعلومات المتاحة للوكلاء بشكل مستمر.
ويمتد هذا التحدي إلى ما هو أبعد من الأنظمة المطورة داخليًا. يجب على الشركات أيضًا مراقبة خدمات الذكاء الاصطناعي التابعة لجهات خارجية والتي تعتمد عليها. لا تتطور نماذج البائعين من تلقاء نفسها فحسب، بل يقوم البائعون أيضًا بتحديث البرامج والقدرات خلف الكواليس.
يقول كالي: “إن البائع الذي وافقنا عليه في الربع الأخير هو بائع مختلف وظيفيًا في هذا الربع”.
ونتيجة لذلك، لا يمكن أن تنتهي المساءلة عند نشر النظام. يجب أن يظل شخص ما مسؤولاً عن مراقبة الأداء ومراجعة التغييرات وتقييم المخاطر وتحديد ما إذا كانت الأنظمة ستستمر في العمل ضمن الحدود المقبولة. يشير Kale إلى إطار المسؤولية المشتركة للذكاء الاصطناعي التابع لـ CoSAI باعتباره أحد الجهود الناشئة لتوضيح تلك المسؤوليات عبر المؤسسات وبائعي البرامج ومقدمي النماذج ومشغلي البنية التحتية.
تكتشف المنظمات التي تحقق أكبر قدر من التقدم أن المساءلة لا يمكن تحديدها على الورق ثم نسيانها. نظرًا لأن أنظمة الذكاء الاصطناعي أصبحت أكثر استقلالية، فقد أصبحت المساءلة قدرة تشغيلية مدمجة في إدارة البيانات وقابلية المراقبة وعمليات التصعيد والرقابة المستمرة. بالنسبة لقادة تكنولوجيا المعلومات، لم يعد التحدي يتمثل في تحديد المسؤولية. إنه يجعل المسؤولية قابلة للتنفيذ.
القراءة ذات الصلة:
