في وقت تتوسع فيه أدوات الذكاء الاصطناعي في توليد الشيفرات البرمجية، حذّر المركز الوطني للأمن السيبراني في المملكة المتحدة (NCSC) من أن الاعتماد على هذه الأدوات دون تدقيق بشري قد يفتح الباب أمام ثغرات أمنية ويؤدي إلى تطوير أنظمة يصعب فهمها أو مراجعتها، مؤكداً أن مستوى الإشراف المطلوب يجب أن يتناسب مع حساسية التطبيق الذي يجري تطويره.

وأوضح المركز أن التحول من البرمجة اليدوية إلى الشيفرات التي يولدها الذكاء الاصطناعي قد ينطوي على مخاطر كبيرة إذا تم الوثوق بمخرجاته دون مراجعة دقيقة. وأشار إلى أن هذه الشيفرات قد تتضمن ثغرات أمنية، كما قد تؤدي إلى إنشاء أنظمة معقدة يصعب تدقيقها وصيانتها مستقبلاً، ما لم يحتفظ المطورون بالسيطرة الكاملة على عملية التطوير.

وأكد أن المطورين يجب ألا يثقوا بشكل أعمى بالشيفرات التي تنتجها أدوات الذكاء الاصطناعي، بل ينبغي اختبارها ومراجعتها وفهمها والتحقق من خلوها من الثغرات قبل استخدامها في بيئات التشغيل الفعلية.

صورة تعبيرية مصممة بالذكاء الاصطناعي (شات جي بي تي)

وأضاف أن أسلوب "Vibe Coding"، الذي يعتمد على توليد الذكاء الاصطناعي لمعظم الشيفرات مع إشراف محدود، قد يكون مناسباً للمشروعات منخفضة المخاطر، مثل النماذج الأولية، لكنه يتطلب مراجعة دقيقة عند تطوير أنظمة المصادقة أو التطبيقات التي تعالج بيانات حساسة.

واختتم المركز بالتأكيد على أن الخطر لا يكمن في استخدام الذكاء الاصطناعي، بل في إهمال تطبيق الضوابط المناسبة عندما تكون المخاطر مرتفعة، مشيراً إلى أن النماذج تتطور بسرعة، لكنها لم تبلغ بعد مستوى يسمح بالاعتماد الكامل على مخرجاتها دون إشراف بشري.