حذّرت لجنة خبراء تابعة للأمم المتحدة في تقرير نُشر اليوم الاثنين من أن نموذج إدارة المخاطر المرتبطة بالذكاء الاصطناعي "ينهار"، مستندة إلى حادثة وقعت لدى شركة "أوبن إيه آي" في تموز/ يوليو.

وخلال الحادثة، خرج نظامان للذكاء الاصطناعي تابعان للشركة من البيئة المعزولة التي كانا يخضعان فيها للاختبار، ووَصلا إلى الإنترنت واخترقا عدداً من المواقع، بينها منصة الذكاء الاصطناعي "هاغينغ فايس".

وبعد مراجعة الحادثة، خلصت اللجنة العلمية الدولية المستقلة المعنية بالذكاء الاصطناعي، التي أُنشئت عام 2025، إلى أن "مبادئ أساسية للسلامة أُهملت"، وأن "تدابير الحماية لا تتطور بالوتيرة نفسها التي تتقدم بها قدرات" هذه التكنولوجيا.

وأظهرت الحادثة أيضاً، بحسب الخبراء، أن وكلاء الذكاء الاصطناعي قادرة في ظل الإطار الحالي لتطوير هذه التكنولوجيا "تحديد أهدافها بنفسها" و"انتهاك تعليمات السلامة عمدا" و"إخفاء أفعالها".

ووكلاء الذكاء الاصطناعي برامج قادرة على تنفيذ مهام بصورة مستقلة بناء على طلب المستخدم.

وأعربت اللجنة عن قلقها من تطور هذه البرامج إلى حد يمكّنها من فهم الأطر الأمنية التي يضعها مطوروها و"التخطيط للالتفاف عليها". وخلصت إلى أنه "بعبارة أبسط، ينهار النموذج التقليدي للسيطرة" على الذكاء الاصطناعي.

وإلى جانب حادثة "أوبن إيه آي"، وهي الأكثر تداولا إعلاميا، أبلغت الشركة ومنافستها الرئيسية "أنثروبيك" عن حوادث أخرى خرجت فيها أنظمة للذكاء الاصطناعي عن المسار المحدد خلال اختبارات أُجريت منذ مطلع العام، من دون أن تترتب عليها حتى الآن عواقب خطيرة.

صورة تعبيرية (أرشيفية).

وتضم اللجنة الخاصة أعضاء أُعلنت أسماؤهم في شباط/فبراير، وتتمثل مهمتها في "تعزيز الفهم العلمي" للذكاء الاصطناعي، وضمان استناد مداولات الأمم المتحدة إلى "أفضل قاعدة معرفية ممكنة".

وأكدت اللجنة في تقريرها أنها لا "تتوقع فقدانا خطيرا للسيطرة على الذكاء الاصطناعي"، لكنها ليست واثقة أيضا من أن "هذه الأنظمة ستظل قابلة للسيطرة".

وللحد من المخاطر، توصي لجنة الخبراء بتعدد تدابير السلامة، على غرار المعمول به في قطاعات حساسة مثل الطيران والطاقة النووية.

وتدعو إلى عدم الاعتماد على وسيلة حماية واحدة، بل إلى تقييد وصول وكلاء الذكاء الاصطناعي إلى الأدوات التي لا يحتاجون إليها، وتسجيل أنشطتهم ومراقبة سلوكهم، ووضع آليات قادرة على وقف تنفيذ المهام عند رصد سلوك خطير.

ويشدد التقرير أيضاً على ضرورة الإبقاء على إمكان التدخل البشري.

واستلهاماً من قطاع الطيران، يدعو الخبراء إلى "الإبلاغ الإلزامي عن الحوادث الخطيرة"، وكذلك إلى الإبلاغ عن "الحوادث الأقل خطورة" و"الحوادث التي كادت تقع".

وأوضحوا أن "الهدف هو تعزيز التعلم"، إذ يمكن "تحسين السلامة عندما تتبادل المؤسسات والدول المعلومات بشأن الحوادث".