هل يمكن للعلماء أخيراً فهم ما يحدث داخل نماذج الذكاء الاصطناعي، بعدما ظلت آليات عملها أشبه بصندوق أسود يصعب تفسيره؟ هذا السؤال أثار نقاشاً واسعاً في وادي السيليكون، عقب نشر باحث بارز أطروحة تتحدى أحد التصورات الأساسية عن الشبكات العصبية، وتطرح احتمال أن تكون هذه الأنظمة أكثر قابلية للفهم والتنبؤ مما اعتقد الخبراء سابقاً.

وتناولت صحيفة "ذا أتلانتيك" خلال شهر تشرين الأول/أكتوبر 2026 الجاري، وموقع Futurism في 19 من الشهر نفسه، أطروحة الباحث نيك كاماراتا، التي تمتد إلى نحو 26 ألف كلمة، وأثارت حماس شخصيات بارزة في قطاع التكنولوجيا، بينها الرئيس التنفيذي لشركة "أوبن إيه آي" سام ألتمان.

ووصف أحد الباحثين في الشركة العمل بأنه "لحظة كبرى في تاريخ العلم"، فيما رأى آخرون أنه قد يفتح طريقاً جديدة لفهم سلوك أنظمة الذكاء الاصطناعي والحد من مخاطرها.

لغز الصندوق الأسود

تعتمد نماذج الذكاء الاصطناعي الحديثة على شبكات عصبية تتألف من طبقات مترابطة من الوحدات الحسابية، تُعرف بالعصبونات الاصطناعية، وتتفاعل لمعالجة المعلومات وإنتاج الاستجابات.

ورغم قدرة الباحثين على تدريب هذه الأنظمة وتطويرها، فإن فهم الأسباب الدقيقة وراء استجاباتها لا يزال تحدياً علمياً؛ فالنماذج المتقدمة تضم عشرات المليارات من المعايير، ما يجعل تتبع عملياتها الداخلية بالغ التعقيد.

ولهذا تُوصف غالباً بأنها "صناديق سوداء"، إذ يمكن ملاحظة المدخلات والنتائج، من دون امتلاك تفسير كامل للعمليات التي تربط بينهما.

لكن كاماراتا، الموظف السابق في "أوبن إيه آي"، والعامل حالياً في شركة Goodfire المتخصصة في أبحاث الذكاء الاصطناعي، يرى أن هذا التصور قد يكون مبالغاً فيه.

والمفارقة التي أبرزتها "ذا أتلانتيك" أن الباحث نفسه ساهم قبل سنوات في تطوير الفهم العلمي الذي جعل الشبكات العصبية تبدو شديدة الغموض، قبل أن يعود اليوم ليشكك في أحد افتراضاته الأساسية.

اكتشاف داخل الشبكات العصبية

تتمحور أطروحة كاماراتا حول وظيفة العصبونات الاصطناعية، وكيفية استجابتها للصور والمعلومات المختلفة.

فقد أظهرت أبحاث سابقة أن العصبون الواحد قد يستجيب لمفاهيم تبدو غير مترابطة، مثل وجوه القطط وأرجلها ومقدمات السيارات، ما جعل تحديد وظيفته الدقيقة أمراً صعباً.

وكان أحد التفسيرات البارزة لهذه الظاهرة مفهوم "التراكب" (Superposition)، الذي يفترض أن الشبكات العصبية قد تمثل خصائص متعددة ضمن المكونات الحسابية نفسها، عندما يتجاوز عدد الخصائص المطلوب تمثيلها عدد الأبعاد المتاحة داخل الشبكة.

وبموجب هذا التصور، يمكن للعصبون الواحد أن يؤدي وظائف مختلفة، من دون وجود رابط واضح بينها.

لكن كاماراتا يقترح تفسيراً آخر، مفاده أن هذه الاستجابات قد تكون مرتبطة بخصائص مشتركة لم يلاحظها الباحثون سابقاً.

ويضرب مثالاً بعصبون يستجيب لوجه قطة ومقدمة سيارة، وهما صورتان تبدوان مختلفتين. ووفق تحليل كاماراتا، فإن الرابط بين الاستجابتين يتمثل في نمط بصريّ مشترك يشبه حرف V.

وفق تفسيره، فإن العصبون لا يتعرّف بالضرورة على القطة والسيارة بوصفهما مفهومين منفصلين، بل يستجيب لهذا النمط البصريّ المشترك.

وأشارت "ذا أتلانتيك" إلى أن العصبون نفسه يستجيب لأشكال أخرى مشابهة، بينها ألسنة لهب وتيارات مياه تتخذ شكل V.

بذلك يرى كاماراتا أن بعض العصبونات قد تمتلك وظائف أكثر اتساقاً ووضوحاً مما توحي به التفسيرات السابقة، وأن الشبكات العصبية ليست بالضرورة مجموعات معقدة من الوظائف المتشابكة التي يستحيل فهمها.

نحو ذكاء اصطناعي أكثر أماناً

لا تقتصر أهمية الأطروحة على تفسير كيفية معالجة الصور، بل تمتد إلى أحد أبرز تحديات تطوير الذكاء الاصطناعي، وهو ضمان توافق سلوك الأنظمة مع الأهداف والضوابط البشرية.

ويُعرف هذا التحدّي باسم "مواءمة الذكاء الاصطناعي"(AI Alignment)، ويهدف إلى تقليل احتمالات تصرف النماذج بطرق غير متوقعة أو ضارّة.

فإذا تمكن الباحثون من فهم العمليات الداخلية لهذه الأنظمة، فقد يصبح من الممكن تفسير أسباب تجاوز روبوتات المحادثة ضوابطَ السلامة، أو انخراط وكلاء الذكاء الاصطناعي المستقلّين في محاولات اختراق إلكتروني.

كما قد يساعد هذا الفهم في دراسة الحالات التي تنتج فيها النماذج استجابات مضلّلة، أو تبدو كأنها تخدع الباحثين الذين يختبرونها.

ونقلت "ذا أتلانتيك" عن الباحث في "أوبن إيه آي" آدم مجمدار وصفه الأطروحة بأنها واحدة من أبرز دواعي التفاؤل منذ سنوات.

لكن هذه الاحتمالات تظلّ مرتبطة بصحة النتائج وإمكانية تطبيقها على أنظمة أكثر تعقيداً.

حدود النتائج العلمية

رغم الاهتمام الكبير بالأطروحة، لا يزال هناك خلاف بشأن دلالاتها العلمية.

وأوضحت "ذا أتلانتيك" بأن أبرز التجارب التي استند إليها كاماراتا ركّزت على نماذج الرؤية الحاسوبية، وهي عموماً أبسط وأكثر قابلية للفهم من النماذج اللغوية. وتناول الباحث كذلك تجارب على نماذج لغوية، من دون أن يعني ذلك إثبات إمكانية تفسير جميع الأنظمة المتقدّمة.

وهذا يعني أن النتائج المتعلّقة بمعالجة الصور لا يمكن تعميمها تلقائياً على الأنظمة اللغوية المتقدمة.

كما أن النص المنشور يمثل «فرضية عمل» تمهيداً لورقة تقنية، ولم يخضع لمراجعة الأقران. وأشار كاماراتا إلى أن منهجه يبدو واعداً حتى الآن عند تطبيقه على نماذج لغوية حديثة أكبر حجماً.

في المقابل، اعترض نيل ناندا، الباحث في Google DeepMind، والمسؤول عن جهود تفسير الآليات الداخلية للنماذج، على المبالغة في أهمية النتائج.

واعتبر أن العمل مثير للاهتمام، لكنه لا يغير الصورة العامة لفهم الشبكات العصبية، مؤكداً استمرار اعتقاده بصحة ظاهرة التراكب.

صورة تعبيرية مصممة بالذكاء الاصطناعي (شات جي بي تي)

فهم العصبونات لا يكفي

تبرز مشكلة أخرى تتعلق بالفارق بين فهم وظيفة العصبون الواحد وفهم سلوك الشبكة العصبية بأكملها.

فحتى لو تمكن العلماء من تحديد وظيفة كل عصبون، فإن ذلك لا يعني بالضرورة قدرتهم على تفسير كيفية تفاعل ملايين المكونات أو التنبؤ بجميع نتائجها.

واستخدمت "ذا أتلانتيك" مثالاً من الفيزياء لتوضيح هذه المعضلة، إذ إن معرفة خصائص الذرات والتفاعلات بينها لا تسمح دائماً بالتنبؤ بكل الظواهر الفيزيائية المعقدة.

وينطبق المنطق نفسه على الذكاء الاصطناعي، حيث قد يؤدي تفاعل مكونات مفهومة بصورة منفردة إلى سلوك يصعب توقعه على مستوى النظام الكامل.

تالياً، فإن تحسين قابلية تفسير النماذج قد يشكّل خطوة مهمّة نحو تطوير أنظمة أكثر أماناً، من دون أن يكون ضمانة كافية لتحقيق ذلك.

مسؤولية شركات الذكاء الاصطناعي

تذهب "ذا أتلانتيك" إلى أن التحدّي لا يقتصر على اكتشاف كيفية عمل النماذج، بل يشمل استعداد الشركات لتحويل المعرفة العلمية إلى إجراءات فعلية للسلامة.

فحتى إذا ثبتت صحة أطروحة كاماراتا، ستظلّ هناك حاجة إلى تعاون شركات التكنولوجيا مع المدققين المستقلّين والحكومات، لضمان تطوير منتجات آمنة وموثوقة.

وتنتقد الصحيفة اندفاع القطاع نحو تطوير أنظمة أكثر تقدّماً، رغم اعتراف الشركات بمحدودية فهمها الكامل للتقنيات التي تنتجها. وترى "ذا أتلانتيك" أن غياب تنظيم جاد يفرض على الشركات اتخاذ إجراءات مشتركة يترك قرارات السلامة الأساسية بيد الشركات نفسها.

ويشير تقرير Futurism بدوره إلى أن سلامة الذكاء الاصطناعي لا تتحقق عبر الحلول التقنية وحدها، بل تتطلب أطر حوكمة قانونية واجتماعية.

وهكذا، قد تمثل أطروحة كاماراتا خطوة مهمة في أبحاث تفسير الذكاء الاصطناعي، إذا تأكدت نتائجها. أما السؤال الأوسع، فيتعلق بقدرة الشركات على استخدام هذا الفهم لجعل أنظمتها أكثر أماناً، وليس فقط أكثر تطوراً.