أعلن عمر سلطان العلماء، وزير دولة للذكاء الاصطناعي في الإمارات، عن وجود نظام رقابي مركزي يُعرف باسم "Agent Control Tower"، يتعين ربط وكلاء الذكاء الاصطناعي به عند نشرهم، مع إخضاع عملهم للتدقيق البشري والآلي. وجاء الإعلان خلال جلسة بعنوان "اختبار الثقة في الذكاء الاصطناعي الوكيلي"، ضمن الاجتماع السنوي لقادة المستقبل العالميين للمنتدى الاقتصادي العالمي في دبي، وفق تقرير نشرته وكالة أنباء الإمارات "وام".

ويطرح استخدام هذه الأنظمة تحديات تتعلق بحدود صلاحيات الوكلاء والمسؤولية عن تصرفاتهم، خصوصاً عندما تؤثر قراراتهم في حياة الأفراد ومصادر رزقهم.

عمر سلطان العلماء خلال جلسة اختبار الثقة في الذكاء الاصطناعي الوكيلي بدبي (وام)

رقابة مزدوجة ومسؤولية بشرية

يعتمد نظام المراقبة على تدقيق تنفذه أنظمة ذكاء اصطناعي، وآخر يتولاه البشر، دون أن يوضح التقرير آلية عمله التقنية أو نطاق تطبيقه. وتضمنت النقاشات المتعلقة بحوكمة هذه الأنظمة ضرورة تحديد صلاحيات الوكلاء منذ مرحلة التصميم، وإتاحة التراجع عن الإجراءات التي ينفذونها.

وجرى تأكيد تحميل المؤسسات التي تنشر هذه الأنظمة مسؤولية الأضرار التي قد تلحق بالمواطنين، بدلاً من تحميلها للوكلاء أنفسهم. وتبرز أهمية تطوير معايير سلامة استباقية تواكب تطور التكنولوجيا، وتعزيز التعاون بين الحكومات والقطاع الخاص لتنظيم استخدامها.

حماية الأطفال والوظائف

أكد عمر سلطان العلماء أن التأثير في حياة البشر ومصادر رزقهم يمثل خطاً أحمر عند نشر الذكاء الاصطناعي، مشدداً على أن استخدام هذه التكنولوجيا لا يقتصر على زيادة الإنتاجية وخفض التكاليف.

وامتدت النقاشات إلى حماية الأطفال من مخاطر رفقاء الذكاء الاصطناعي، عبر دمج معايير السلامة في تصميم الأنظمة منذ البداية، وتجنب تكرار تجربة منصات التواصل الاجتماعي التي صُممت لتعظيم التفاعل، رغم أن زيادة التفاعل لا تتوافق دائماً مع رفاه المستخدمين.

وفي سوق العمل، برزت دعوات إلى التركيز على قدرة الذكاء الاصطناعي على خلق فرص ومهن جديدة، بدلاً من حصر النقاش في المخاوف من فقدان الوظائف.