خلال الأسبوعين الماضيين، كشفت شركات الذكاء الاصطناعي الكبرى أوبن إيه آي وأنثروبيك وميتا أن نماذجها تمكنت، خلال اختبارات أمنية روتينية، من الخروج عن السلوك المتوقع والوصول إلى أنظمة ومواقع لم يكن يفترض أن تتمكن من الوصول إليها.

وفي روايات الشركات الثلاث لما حدث، برز اسم شركة إسرائيلية ناشئة واحدة: Irregular.

تأسست الشركة قبل ثلاث سنوات في تل أبيب، وتعمل في مجال متخصص يتمثل في اختبار أمن نماذج الذكاء الاصطناعي. وقد جمعت حتى الآن نحو 80 مليون دولار من شركتي الاستثمار سيكويا وريدبوينت فنتشرز، فيما بلغت قيمتها العام الماضي نحو 450 مليون دولار.

وتعمل Irregular بمثابة بيئة اختبار أمنية لنماذج الذكاء الاصطناعي المتقدمة، بهدف اكتشاف نقاط الضعف التي قد يستغلها النموذج أو جهات خبيثة لاحقاً.

ومع التطور السريع في قدرات نماذج الذكاء الاصطناعي، بات احتمال استخدامها لتنفيذ عمليات ضارة يمثل تحدياً متزايداً للشركات والحكومات، خصوصاً عندما يتعلق الأمر باختراق أنظمة حاسوبية أو بنى تحتية حساسة.

الحوادث الأخيرة المرتبطة بأوبن إيه آي وأنثروبيك وميتا تشترك في نقطة أساسية: نماذج الذكاء الاصطناعي تمكنت، خلال اختبارات للأمن السيبراني، من الوصول إلى مواقع على الإنترنت كان يفترض أن تكون خارج نطاق صلاحياتها.

ميتا (رويترز)

كيف حدث ذلك؟

تكرر اسم Irregular لأن الشركة كانت تدير بيئة الاختبار التي أجريت فيها هذه التقييمات.

ومن جهتها، كانت ميتا، التي تحاول اللحاق بالمنافسين في سباق تطوير نماذج الذكاء الاصطناعي المتقدمة، آخر الشركات الثلاث التي تكشف عن حادثة مماثلة.

وقال متحدث باسم الشركة إن ميتا علمت بالواقعة من Irregular، وإنها بدأت التحقيق فيها.

وأضاف المتحدث أن الشركة ستصدر تقييماً شاملاً للحادثة بعد استكمال جمع المعلومات والوقائع.

تسلط هذه الحوادث الضوء على الطبيعة المتغيرة بسرعة للذكاء الاصطناعي، وعلى الضغوط التي تواجه مطوري النماذج المتقدمة لوضع ضوابط أمنية حول تقنيات تزداد قوة وتعقيداً.

ولا تريد شركات الذكاء الاصطناعي ببساطة تصحيح اختبارات تجريها بنفسها، بل تحتاج إلى تقييمات مستقلة من جهات خارجية يمكنها اختبار النماذج بصورة أكثر حيادية.

ما هي Irregular؟

تأسست الشركة عام 2023، وتستطيع إجراء اختبارات هجومية على النماذج المتقدمة واكتشاف نقاط ضعفها قبل إطلاقها، إضافة إلى تطوير وسائل دفاعية لمواجهتها.

لكن، رغم الضجة التي رافقت الحوادث الأخيرة، يرى بعض الخبراء أن ما حدث قد يكون، إلى حد ما، نتيجة متوقعة لطبيعة هذه الاختبارات، إذ إن النماذج كانت موجهة أصلاً إلى البحث عن ثغرات أمنية واستغلالها داخل بيئة اختبار تحاكي العالم الحقيقي. ومن الطبيعي، وفق هذا المنظور، أن تكتشف النماذج أخطاءً برمجية أو إعدادات غير صحيحة لم ينتبه إليها البشر.

ومع ذلك، يرى البعض أن شركات تطوير النماذج كان بإمكانها مراقبة حركة البيانات الصادرة من بيئة الاختبار ووقف التجربة فوراً.

قضيّة سياسية

لم يعد الموضوع محصوراً في شركات التكنولوجيا، بل بدأ يتحول إلى قضية سياسية وتنظيمية.

تكشف الوقائع الأخيرة عن مفارقة أساسية في سباق الذكاء الاصطناعي: فكلما أصبحت النماذج أكثر قدرة على اكتشاف الثغرات والتصرف باستقلالية، أصبح اختبار حدودها الأمنية أكثر صعوبة وأهمية في الوقت نفسه، ما يثير مخاوف أمنية وسياسية.