تصاعدت خلال الأيام الماضية التحذيرات من سرعة تطور الذكاء الاصطناعي، وهذه المرة من داخل الدائرة التي تقود تطويره. باحثون ورؤساء شركات وخبراء في السلامة باتوا يطرحون بصورة أكثر إلحاحاً مسألة إبطاء تطوير الأنظمة الأكثر تقدماً، وربط الانتقال إلى قدرات جديدة باختبارات وضمانات سلامة تسبق التدريب والنشر.

وجاءت هذه التحذيرات مع اتساع النقاش حول قدرات النماذج المتقدمة ووكلاء الذكاء الاصطناعي، وإمكان تجاوزهم القيود الموضوعة لهم، فيما أعاد يوشوا بنجيو في 11 أيلول/سبتمبر تسليط الضوء على سلوكيات مثل الخداع وتجاوز بيئات الاحتواء والتنسيق لتحقيق أهداف لم يحدّدها البشر.

وفي قلب هذا النقاش يبرز سؤال يرتبط بمن يملك القرار عندما تصبح الأنظمة أكثر قدرة واستقلالية: كيف نوقف الذكاء الاصطناعي عند حدود معيّنة كي لا يتحوّل خطراً على الإنسان؟

طرحت "النهار" هذا السؤال على خبراء ومتخصصين في التكنولوجيا والذكاء الاصطناعي والتعليم والأسواق، وتوزعت إجاباتهم بين الحوكمة الدولية والرقابة المستقلة والضوابط التقنية والإشراف البشري والتربية على الاستخدام الواعي، وصولاً إلى رأي يرى أن وقف هذا المسار عند حدود محددة قد لا يكون ممكناً أصلاً.

وإلى هذه الإجابات، يعرض التقرير رؤيتين ليوشوا بنجيو، عالم الحاسوب وأحد رواد الذكاء الاصطناعي، وستيوارت راسل، أستاذ علوم الحاسوب في جامعة كاليفورنيا. هاتان الرؤيتان ليستا في حديث مع "النهار"، وإنما تندرجان في سياق النقاش العالمي حول الوسائل الممكنة لإبقاء الإنسان مسيطراً على الأنظمة التي يطوّرها.

View this post on Instagram

A post shared by Annahar (@annaharnews)

إيناس الخالدي: ثلاث ركائز للضبط

ترى الدكتورة إيناس الخالدي، خبيرة التكنولوجيا القانونية والذكاء الاصطناعي، في حديثها لـ"النهار"، أن الضوابط الفعالة للذكاء الاصطناعي لا تكمن في التشريعات وحدها، بل في ثلاث ركائز متكاملة.

أولاً، الحوكمة الملزمة، عبر إنشاء هيئات رقابية مستقلة تُلزم الشركات المطوّرة بالإفصاح عن المخاطر، واختبار الأنظمة قبل إطلاقها، وتحديد المسؤولية القانونية عند وقوع الضرر.

ثانياً، الضوابط التقنية، من خلال اعتماد أنظمة "الإيقاف الآمن" (Kill Switch)، وتضمين معايير أخلاقية في التصميم، وإخضاع النماذج العالية المخاطر لتدقيق بشري مستمر، مع منع التطوير الذاتي خارج السيطرة.

ثالثاً، الشفافية والوعي، عبر إتاحة المعلومات للجمهور حول كيفية عمل الأنظمة، وتعليم المجتمعات مخاطرها، وتمكين الإنسان من فهمها قبل استخدامها.

وتشدد الخالدي على أن الأهم هو "أن يبقى القرار النهائي بيد الإنسان، لأن الآلة قد تحسب، لكنها لا تحكم، ولا تشعر، ولا تتحمّل مسؤولية. والحوكمة، دون أخلاق، تبقى هيكلاً بلا روح".

وتضيف: "وهذه الركائز لا يعمل بعضها بمعزل عن بعض؛ فالحوكمة بلا تقنية تبقى حبراً على ورق، والتقنية بلا وعي مجتمعي تبقى أداة في يد من لا يفهمها. والتكامل بينها هو الضمانة الوحيدة لبقاء الذكاء الاصطناعي في خدمة الإنسان، لا في مواجهته".

هاني الغانم: التحدّي الأكبر مع الذكاء الاصطناعي العام

يميّز الدكتور هاني الغانم، المختص بالذكاء الاصطناعي وعلوم البيانات، في حديثه لـ"النهار"، بين وضع حدود للسيطرة البشرية على أنظمة الذكاء الاصطناعي الحالية وبين تقييم المخاطر المستقبلية المحتملة على الإنسان والمجتمع.

ويوضح أن أنظمة الذكاء الاصطناعي صُمّمت أساساً لتنفيذ مهام متخصصة قد تتفوّق فيها على القدرات البشرية، مع تطوير أطر عالمية للحوكمة والشفافية وقابلية التفسير، إضافة إلى إبقاء الإنسان ضمن دائرة القرار، خصوصاً في تطبيقات الذكاء الاصطناعي الوكيلي (Agentic AI).

أما التحدي الأكبر فيرتبط بالتوجه نحو الذكاء الاصطناعي العام (AGI)، الذي يُفترض أن يمتلك قدرات واسعة قد تضاهي أو تتجاوز القدرات البشرية في مجالات متعددة. وفي هذه الحالة، قد تصبح آليات الحوكمة وحواجز الحماية الحالية غير كافية.

ورغم أن أبحاث أمن وسلامة الذكاء الاصطناعي تتطور بالتوازي مع تطور قدراته، فإن ضمان السيطرة الكاملة على أنظمة مستقبلية فائقة القدرة يظل، بحسب الغانم، سؤالاً مفتوحاً.

هيلدا نرش: إعداد إنسان يستطيع مساءلة الآلة

تنطلق الباحثة في نظم القيادة التربوية والتعليم هيلدا نرش، في حديثها لـ"النهار"، من دور المدرسة في الحد من مخاطر الذكاء الاصطناعي.

وتقول إن مساهمة المدرسة تبدأ "بتربية طالب يفكّر ويسأل، ويتحقق من المعلومات، ويميّز بين المساعدة التقنية وتسليم عقله للآلة". وعملياً، ينبغي تحديد متى يُسمح باستخدامه، وإلزام الطالب شرح إجاباته وذكر كيفية استعانته به، وتخصيص أنشطة للقراءة والكتابة والنقاش من دونه.

ويجب أن يبقى تقييم التلامذة والقرار التربوي بيد المعلم، مع تعليم أخلاقيات الاستخدام، واحترام الخصوصية، وكشف التزييف والتحيّز.

وتضيف: "المدرسة وحدها لا تكفي لضبط هذه التكنولوجيا، لكنها تستطيع إعداد إنسان يمتلك المعرفة والشجاعة لمساءلتها، ورفض استخدامها حين تمسّ كرامته أو حقوق الآخرين".

View this post on Instagram

A post shared by Annahar Al Arabi (@annaharar)

محمد الكيالي: رقابة دولية قبل طرح الأنظمة في الأسواق

يدعو الدكتور محمد الكيالي، رئيس الاتحاد الدولي للتكنولوجيا والاتصالات IFGICT في فلوريدا، في حديثه لـ"النهار"، إلى عدم السماح مستقبلاً بإصدار أي من البرمجيات الخاصة بالذكاء الاصطناعي إلا من خلال رقابة موحدة ودولية.

ويقترح أن تتولى ذلك هيئة أو منظمة دولية تشارك فيها جميع الدول، أو جهة رقابية تضم أعضاءً من الدول التي تسمح بتداول هذه البرمجيات في أسواقها، أي بعد منحها ترخيصاً لاستخدامها في السوق.

ويربط الكيالي هذه الخطوة بالتأكد من استيفاء البرمجيات للمعايير الأخلاقية والتقنية المطلوبة، وعدم منح الذكاء الاصطناعي صلاحيات أو تمكيناً كاملاً في القطاعات الأكثر أهمية وحساسية، مثل القطاعات العسكرية والصحية والبيولوجية والطبية.

ويقول إن هذه القطاعات شديدة الحساسية، ولا بد من وضع ضوابط واضحة تحدد مستوى الصلاحيات التي يمكن منحها للذكاء الاصطناعي، بحيث لا تتجاوز الحد المطلوب لأداء المهام الموكلة إليه.

رولاند أبي نجم: "لا يمكنك"

في مقابل المقاربات التي تبحث عن وسائل لضبط تطوّر الذكاء الاصطناعي، يقدّم الخبير في التحول الرقمي والذكاء الاصطناعي رولاند أبي نجم إجابة مقتضبة عن سؤال "النهار" حول إمكان إيقاف الذكاء الاصطناعي عند حدود معينة كي لا يتحول خطراً على الإنسان:

"لا يمكنك".

جو يرق: هناك مبالغة... والإنسان يبقى صاحب القرار

يرى جو يرق، رئيس قسم الأسواق العالمية في Cedra Markets، في حديثه لـ"النهار"، أن هناك قدراً من المبالغة في الحديث عن حجم المخاطر المرتبطة بتطور الذكاء الاصطناعي. ويشير إلى أن الشركات الكبرى تتحدث عن وجود مخاطر محتملة، وفي المقابل لم تتفق الشركات على كيفية معالجة ذلك بعد.

ويرى أن الحلول الأولى لعلها تكون من خلال إنشاء هيئات مستقلة تتولى الإشراف على قطاع الذكاء الاصطناعي، ووضع أطر وضوابط واضحة لتنظيم استخدامه، بما يضمن ألا تُوظّف هذه التقنيات بطريقة سلبية أو ضارة.

وينطبق هذا الأمر أيضاً على الشركات التي تستخدم الذكاء الاصطناعي على نطاق واسع. ويشير يرق إلى دعوات للتريث، أو حتى تخفيف الاستثمارات في هذا المجال بصورة مؤقتة، بهدف تقييم حجم الاستثمارات الضخمة التي تم ضخها فيه، وقياس العوائد التي يمكن أن تحققها هذه الاستثمارات على المديين القريب والمتوسط.

وفي النهاية، يرى أن الإنسان يبقى الجهة القادرة على توجيه هذا التطوّر ووضع الضوابط اللازمة له، ولا سيما الشركات الكبرى والمطوّرين الذين يمتلكون التأثير والقدرة الأكبر على تحديد مسار هذه التكنولوجيا.

يوشوا بنجيو: السلامة قبل التدريب والنشر

خارج إجابات الخبراء لـ"النهار"، تلتقي بعض هذه المقاربات مع طرح يوشوا بنجيو، عالم الحاسوب وأحد رواد الذكاء الاصطناعي.

يدعو بنجيو إلى ضبط وتيرة تطور الذكاء الاصطناعي، وعدم المضيّ في تدريب نماذج جديدة أو نشرها قبل التأكد من وجود ضمانات قوية للسلامة، وبما يقنع خبراء مستقلين بأن هذه النماذج لا تشكل مخاطر غير مقبولة.

وبذلك، تصبح السلامة شرطاً يسبق الانتقال إلى مستويات جديدة من القدرات، بدلاً من التعامل معها بعد تدريب الأنظمة أو نشرها.

ستيوارت راسل: خطوط حمراء منذ مرحلة التصميم

أما ستيوارت راسل، أستاذ علوم الحاسوب في جامعة كاليفورنيا، فيطرح مقاربة تقوم على إلزام المطورين إثبات أن أنظمتهم لن تتجاوز خطوطاً حمراء، مثل اختراق الحواسيب أو نسخ نفسها من دون إذن.

وتشمل المقاربة إنشاء آلية لرصد المخالفات وإيقاف النظام عند حدوثها، إلى جانب بناء القدرة على التحكم البشري فيه منذ مرحلة التصميم.

"السلامة أولاً... والتطوير بعدها"

على اختلاف المقاربات، من الحوكمة والرقابة الدولية إلى الضوابط التقنية والتعليم والتحكم البشري، يمكن اختصار الاتجاه الغالب في إجابات الخبراء بقاعدة واحدة: "السلامة أولاً... والتطوير بعدها".

المطلوب، وفق معظم هذه الآراء، ليس وقف الذكاء الاصطناعي بقدر ما هو منع قدراته من التقدم أسرع من وسائل السيطرة عليه. اختبار الأنظمة قبل إطلاقها، وتقييد صلاحياتها في القطاعات الحساسة، وإبقاء الإنسان داخل دائرة القرار، ووضع آليات للإيقاف والمحاسبة، كلها تصبّ في اتجاه واحد: ألا تُمنح التكنولوجيا قدرات جديدة قبل التأكد من إمكان استخدامها بأمان.

وتتقاطع هذه الخلاصة مع مقاربتي بنجيو وراسل. بنجيو يربط تدريب الأنظمة ونشرها بوجود ضمانات سلامة قوية تقنع خبراء مستقلين، فيما يدعو راسل إلى إلزام المطوّرين إثبات أن أنظمتهم لن تتجاوز خطوطاً حمراء محددة، وبناء القدرة على التحكم البشري فيها منذ مرحلة التصميم.

ويبقى موقف رولاند أبي نجم، "لا يمكنك"، على الطرف الآخر من النقاش، ويضع أمام كل هذه المقترحات احتمالاً أكثر صعوبة: أن تصل قدرات الذكاء الاصطناعي إلى مرحلة تصبح فيها محاولة وضع الحدود أصعب من تطوير التكنولوجيا نفسها.

وبين التحذيرات ومحاولات الضبط، يمكن اختصار الاتجاه الغالب الذي تعكسه آراء الخبراء والمنظرين في هذا التقرير بشعار واحد: السلامة أولاً... والتطوير بعدها.