تجري شركة Moonshot AI الصينية مراجعة داخلية، بعدما تمكن باحثون من شركة Mindgard من دفع نموذجين من نماذج Kimi إلى تجاوز قيود السلامة وتقديم معلومات تتعلق بصنع أسلحة بيولوجية وتنفيذ عمليات اغتيال، وفق تقرير نشرته BBC.

وبحسب Mindgard، المتخصصة في اختبار أمن أنظمة الذكاء الاصطناعي، اكتشف باحثوها في تموز/يوليو أن نموذجي Kimi K2.6 وK3 Swarm يمكن دفعهما إلى تخطي حدود السلامة التي وضعها المطورون.

ما الذي حدث مع نماذج Kimi؟

توصل الباحثون إلى هذه النتائج خلال عملية تُعرف باسم Jailbreaking أو "كسر القيود"، حيث يستخدم الباحثون سلسلة من التعليمات المعقدة لاختبار ما إذا كانت أدوات الذكاء الاصطناعي ستتجاهل ضوابط الحماية الموضوعة لها.

وبمجرد نجاح كسر القيود، يمكن للنموذج مناقشة أي موضوع وتقديم توصيات بشأن موضوعات ضارة أخرى بصورة مبتكرة، وفق نتائج Mindgard.

مع ذلك، لم تثبت الشركة ما إذا كانت الإجابات التي قدمها Kimi بشأن الموضوعات الخطرة قابلة للتطبيق عملياً. وترى أن ضوابط الحماية كان ينبغي أن تمنع النماذج أساساً من الدخول في نقاشات مع المستخدمين بشأن موضوعات من هذا النوع.

جناح Kimi للذكاء الاصطناعي خلال معرض تقني في الصين (بلومبرغ)

مخاطر تتجاوز الأسلحة البيولوجية

لم تقتصر نتائج الاختبارات على المحتوى المرتبط بالأسلحة البيولوجية. وأكدت Mindgard أيضاً ثقتها أن Kimi K2.6 بعد كسر قيوده يمكن أن يسمح لمهاجمين بتشغيل تعليمات برمجية على موارده الحاسوبية والاتصال بالإنترنت، ما قد يجعله منصة محتملة لإطلاق هجمات سيبرانية.

وأبلغت Mindgard شركة Moonshot بالثغرة عبر بريد إلكتروني في 27 تموز/يوليو، ثم تابعت التواصل بعد نحو أسبوع، قبل نشر تدوينة عن المشكلة في 12 أيلول/سبتمبر. ووفق Mindgard، لم تتواصل Moonshot معها إلا أخيراً، بعدما طلبت BBC تعليقاً من الشركة.

وأوضحت Moonshot أن نموذجها أظهر عموماً "معدل رفض مرتفعاً لهذا النوع من الطلبات" في تقييماتها الداخلية. وأكدت ترحيبها بملاحظات الجهات الخارجية باعتبارها ركناً أساسياً لبناء ذكاء اصطناعي أفضل وأكثر أماناً، كما أبلغت BBC أنها تناقش نتائج Mindgard معها.

Kimi والجدل حول سلامة النماذج المفتوحة

تأتي النتائج وسط استمرار الانقسام في صناعة الذكاء الاصطناعي بشأن ما إذا كانت النماذج المغلقة والمملوكة، مثل تلك التي تشغّل"شات جي بي تي" و"كلود"، أم الأدوات المفتوحة هي الخيار الأفضل أو الأكثر أماناً.

ويُصنف Kimi كنموذج مفتوح الأوزان (Open-weight)، ما يعني أنه يمكن نظرياً أخذ النموذج وتشغيله على بنية حوسبة خاصة.

وتثير النماذج المفتوحة مخاوف من احتمال وقوعها في أيدي جهات مسيئة، في مقابل إمكان استخدامها أيضاً في الدفاع السيبراني. ويصعب على التنظيم الدولي مجاراة سرعة تطور الذكاء الاصطناعي، ما يعزز الدعوات إلى زيادة التركيز على تحديد الأشخاص الذين يسيئون استخدام هذه التقنيات وملاحقتهم قضائياً.