استعانت صحيفة "الإندبندنت" البريطانية بأداة تعمل بالذكاء الاصطناعي للإجابة عن أحد أكثر الأسئلة إثارة للقلق: ما احتمال أن تؤدي هذه التكنولوجيا إلى انقراض البشر خلال العقد المقبل؟

وخلصت أداة التنبؤ "Noah Predict" إلى تقدير الاحتمال بنحو 0.85 في المئة، أي ما يعادل احتمالاً واحداً تقريباً من كل 118، وهي نسبة أدنى بكثير من تقديرات طرحها باحثون ومهندسون في مجال سلامة الذكاء الاصطناعي.

لكن النسبة ليست نتيجة دراسة علمية تثبت إمكان وقوع الانقراض، ولا تعبّر عن إجماع الخبراء، بل هي تقدير احتمالي أعدته أداة تنبؤ خاصة اعتماداً على البيانات والمصادر التي حللتها والافتراضات المضمّنة في نموذجها.

52 مليون نقطة بيانات

بحسب تقرير "الإندبندنت"، اختبرت الأداة السؤال عبر 41 مساراً بحثياً و108 عمليات تحقق، مستعينةً بنحو 52 مليون نقطة بيانات للوصول إلى تقديرها.

وجاء الاختبار بعد تحذيرات أطلقها الباحث السابق في شركتي "أنثروبيك" و"أوبن إيه آي" جايكوب كوكسون، الذي قال إن العاملين على تطوير النماذج المتقدمة يعتقدون بجدية أنها قد تهدد البشرية قبل نهاية العقد.

وأيّد مهندس سلامة الذكاء الاصطناعي إيفان هوبينغر هذه المخاوف، مقدّراً احتمال انقراض البشر بسبب التقنية بأكثر من 10 في المئة خلال عشر سنوات.

كما سبق لعالم الحاسوب والحائز جائزة نوبل جيفري هينتون أن اعتبر تقدير الخطر بنحو 10 في المئة "غير غير معقول"، مع إقراره بعدم إمكان تحديد الاحتمال الحقيقي بدقة.

الخطر الأول: إنسان يستخدم التقنية للإيذاء

حددت أداة التنبؤ ثلاثة مسارات رئيسية قد يتفاقم الخطر من خلالها. يبدأ الأول بجهة بشرية تستخدم الذكاء الاصطناعي لتنفيذ مهمة خطرة بسرعة أكبر وكلفة أقل وفاعلية أعلى.

وقد يشمل ذلك الهجمات الإلكترونية على المستشفيات وشبكات الطاقة والبنية التحتية، أو مساعدة جهات ضارة على تطوير أدوات بيولوجية خطرة.

ورأت الأداة أن المسار الأكثر مباشرة لا يبدأ بآلة تقرر القضاء على البشر، بل بمهاجم بشري يستفيد من قدراتها، فيما تشمل وسائل الحد من الخطر تقييد الوصول وإجراء اختبارات مستقلة وتعزيز حماية أنظمة الصحة والطاقة والاتصالات.

الخطر الثاني: انهيار المؤسسات

يتمثل المسار الثاني في اعتماد المؤسسات المتزايد على عدد محدود من الأنظمة الآلية، إلى درجة تجعل أي خلل برمجي أو هجوم إلكتروني أو قرار آلي خاطئ ينتشر في قطاعات حيوية عدة في الوقت نفسه.

ملصق يروج للذكاء الاصطناعي في معرض لسلاسل الإمداد استضافته بكين أخيراً (أ ف ب)

وقد يفاقم الذكاء الاصطناعي أيضاً اضطراب أسواق العمل إذا أعادت المؤسسات تنظيم وظائفها بوتيرة أسرع من قدرة العاملين على اكتساب مهارات جديدة أو الانتقال إلى أعمال بديلة، ما قد يؤدي إلى توترات اجتماعية وسياسية.

ولا يُعد فقدان الوظائف أو عدم الاستقرار السياسي، في حد ذاته، تهديداً بانقراض البشرية، لكنه قد يُضعف قدرة المؤسسات على مواجهة أزمات أخرى أو استعادة عملها بعد انهيار الأنظمة الرقمية.

الخطر الثالث: تحوّل السيطرة البشرية إلى أمر شكلي

عدّت الأداة فقدان السيطرة الفعلية على الأنظمة المتقدمة السيناريو الأكثر إثارة للقلق، وخصوصاً إذا صُمم نظام لمتابعة هدف يرى في التدخل البشري عقبة يجب تجاوزها.

لكن التقرير ميّز بين مخالفة نموذج لتعليمات خلال اختبار مخبري وبين تحوله إلى تهديد مستقل قادر على الاستمرار والتوسع في العالم الحقيقي.

وتتمثل الأسئلة الحاسمة في قدرة النظام على تكرار سلوكه، ونوعية الصلاحيات التي مُنحت له، وما إذا كان المشغّلون قد اكتشفوا المشكلة وتمكنوا من إيقافه.

واقترحت الأداة تقييد صلاحيات الأنظمة، ومنع وصولها غير الضروري إلى البنية التحتية الحساسة، واختبارها تحت ظروف عدائية، والتحقق من إمكان إيقافها واستعادة الأنظمة المتضررة.

نسبة صغيرة بعواقب هائلة

على الرغم من أن 0.85 في المئة تبدو نسبة منخفضة، أشار التقرير إلى أنها لا يمكن أن تُعامل بوصفها صفراً، لأن النتائج المحتملة، في حال تحقق السيناريو، ستكون غير قابلة للعكس.

وخلصت "الإندبندنت" إلى أن الاستفادة من قدرات الذكاء الاصطناعي يجب أن تترافق مع إبقاء الأنظمة تحت سيطرة بشرية فعلية، وتقييد الإمكانات التي يمكن إساءة استخدامها، ومنح تدابير السلامة وقتاً لمواكبة سرعة التطوير.