يحذر خبراء الذكاء الاصطناعي من اقتراب مرحلة قد تصبح فيها الأنظمة الذكية قادرةً على تطوير نفسها وتحسينها بشكل مستقل، وهو ما يفتح الباب أمام إنجازات علمية وطبية كبيرة، لكنه يثير في الوقت نفسه تساؤلات جدية حيال قدرة البشر على مراقبة هذه الأنظمة والتحكم بها.

وفي هذا السياق، دعا معهد "أنثروبيك" شركات التكنولوجيا إلى تبني ضوابط وآليات أمانٍ أكثر صرامة، معتبراً أن التطور المتسارع للذكاء الاصطناعي قد يتجاوز توقعات الباحثين إذا لم ترافقه إجراءات تضمن بقاء القرار النهائي بيد الإنسان.

أنثروبيك (وول ستريت جورنال)

مخاطر جسيمة على البشرية؟

ووفقاً لمقال نشرته مارينا فافارو، رئيسة معهد "أنثروبيك"، وجاك كلارك، أحد مؤسسي المعهد، فإن أنظمة الذكاء الاصطناعي القادرة على تطوير نفسها ذاتياً، والمعروفة باسم "التحسين الذاتي التكراري الكامل"، قد تحمل في طياتها فوائد جمة للعلوم والرعاية الصحية، إلا أنها قد تشكل أيضاً مخاطر جسيمة على البشرية.

وكتبا: "قد يزيد هذا التحسين الذاتي من مخاطر فقدان البشر سيطرتهم على أنظمة الذكاء الاصطناعي، فإذا كانت الأنظمة قادرةً على بناء أنظمة بديلة منها بالكامل، فإن طرق تأمينها ومراقبتها وتوجيه سلوكها ستزداد أهميةً بشكل كبير".

وحذر فافارو وكلارك من أن القطاع أصبح أقرب بكثير إلى الذكاء الاصطناعي الذاتي التطوير مما كان متوقعاً سابقاً، لذا ينبغي على شركات التكنولوجيا التفكير في إبطاء تطوير الذكاء الاصطناعي المتقدم أو وقفه موقتاً لإتاحة الوقت أمام الباحثين لفهم الأضرار المجتمعية المحتملة التي قد يُسببها الذكاء الاصطناعي المُتطور ذاتياً.

واعتبرا أن على الباحثين أيضاً ابتكار آلية للتدخل البشري إذا ما خرجت الأمور عن السيطرة.

وفي السياق، كانت شركة "أنثروبيك" أطلقت  معهدها الجديد هذا العام بهدف دراسة التحديات المجتمعية التي قد تظهر مع ازدياد قدرات أنظمة الذكاء الاصطناعي.

ويأتي هذا التحذير بعد أن تقدمت بطلب لطرح أسهمها للاكتتاب العام، وهي خطوة من شأنها جمع عشرات مليارات الدولارات من المستثمرين لتسريع بناء مراكز البيانات وأجهزة الكمبيوتر اللازمة للذكاء الاصطناعي.