شهد العالم خلال الأشهر الأخيرة صدمة حقيقية بعدما ارتبطت عدة حوادث انتحار باستخدام أو تفاعل مباشر مع تطبيقات الذكاء الاصطناعي التوليدي.

هذا التطوّر الخطير أخرج النقاش من الدوائر الأكاديمية والتقنية الضيقة، ووضعه في قلب النقاش المجتمعي والسياسي. لم يعد السؤال كيف نستفيد من هذه التطبيقات فحسب، بل كيف نحمي المستخدمين ـ وخاصة الفئات الهشّة مثل المراهقين ـ من مخاطرها المحتملة.

من الحوادث الفردية إلى الضغط التنظيمي

خلال آب/ أغسطس وأيلول/ سبتمبر 2025، تصاعد الجدل بعد ظهور تقارير ودراسات أكاديمية تُظهر أن النماذج اللغوية قادرة على رفض الطلبات الواضحة ذات الطابع الانتحاري، لكنها تتخبّط عند مواجهة الحالات المتوسطة الخطورة، مثل رسائل اليأس غير المباشرة. هذا النقص في التوازن حفّز لجنة التجارة الفيدرالية الأميركية على فتح تحقيق موسّع مع كبريات الشركات المطوّرة مثل "أوبن إيه آي"، "غوغل"، "أنثروبيك"، و"ديبسيك"، مطالبةً ببيانات حول كيفية اختبار هذه النماذج وتأثيرها على المراهقين. وفي الوقت ذاته، أقرّت ولاية كاليفورنيا قانوناً جديداً يُلزم الشركات بالكشف عن أُطر السلامة والإبلاغ عن الحوادث.

مقارنة بين أهم التطبيقات وإجراءاتها الوقائية

1. "تشات جي بي تي" – من "أوبن إيه آي"

أقدمت "أوبن إيه آي" في أيلول/سبتمبر 2025 على خطوة بارزة عبر إطلاق حزمة من أدوات الحماية للمراهقين:

ربط حساب المراهق بحساب وليّ الأمر.

تفعيل "ساعات هدوء" تمنع الاستخدام الليلي.

إمكانية إرسال تنبيه للأهل إذا رُصد سلوك عالي الخطورة (دون مشاركة نصوص المحادثة).

هذه الإجراءات اعتُبرت الأكثر وضوحاً واستجابة مباشرة للقضايا القضائية التي واجهتها الشركة. ومع ذلك، أشارت الدراسات إلى استمرار عدم الاتساق عند التعامل مع الحالات غير المباشرة.

2. "كلود" – من "أنثروبيك"

يستند "كلود" إلى فلسفة الذكاء الاصطناعي الدستوري (Constitutional AI)، أي إن النموذج مُدرَّب على مبادئ واضحة تضبط استجاباته. في آب/ أغسطس 2025، أعلنت "أنثروبيك" عن تحسينات تتعلق بتقليل ظاهرة "الموافقة العمياء" (sycophancy) وتوضيح أن بعض المحادثات يمكن إنهاؤها على نحو استثنائي إذا تضمنت محتوى حسّاساً جداً. لكن ما زالت المراجعات الخارجية تكشف عن تباينات مشابهة في الحالات المعقدة.

3. "جيمناي" – من "غوغل"

رغم أن "غوغل" تملك منظومة شاملة لـ"الذكاء الاصطناعي المسؤول"، فإن تقييم Common Sense Media في أيلول/ سبتمبر منح "جيمناي" تصنيف "مخاطر عالية" عند استخدامه من قبل الأطفال والمراهقين. السبب الأساسي كان غياب التخصيص الدقيق لهذه الفئة العمرية والاكتفاء بمعايير عامة. وهذا يثير قلقاً إضافياً حول جدوى هذه التدابير في السياق العائلي والتربوي.

4. "ديبسيك"

باعتبارها من النماذج المفتوحة المصدر، وفّرت "ديبسيك" مرونة كبيرة للباحثين والمطوّرين، لكنها عانت في المقابل من قابلية عالية للتجاوز (Jailbreaking) عند تعطيل طبقات الأمان. وقد ظهرت لاحقاً مبادرات بحثية وتجارية مثل "RealSafe-R1" و"DeepSeek-R1-Safe" لتعزيز الحماية، غير أنّ هذه النسخ لا تزال محدودة الانتشار، فيما يظلّ التحدي قائماً في ضبط النماذج المفتوحة على نحو شامل.

صورة تعبيرية مولّدة بالذكاء الاصطناعي

قراءة تحليلية: ما الذي نتعلمه من هذه المقاربة؟

الاستجابة للأزمات: الخطوات التي اتخذتها "أوبن إيه آي" جاءت بعد ضغط مجتمعي وقضائي، ما يعكس أن الصناعة لا تزال تتحرك كردّ فعل أكثر من كونها سبّاقة في حماية المستخدمين.

التباين في السياسات: كل شركة تبنّت نهجاً مختلفاً: من الأدوات العائلية ("أوبن إيه آي" مع "تشات جي بي تي")، إلى الأُطر الفلسفية ("أنثروبيك" مع "كلود")، إلى التقييم الخارجي الحاد ("غوغل" مع "جيمناي")، وصولاً إلى الانفتاح مع مخاطر ("ديبسيك").

الحاجة إلى معايير مشتركة: تبيّن أن غياب معيار عالمي لتقييم استجابات الذكاء الاصطناعي للحالات النفسية يُضعف الثقة.

الفئات الهشة محور الاهتمام: فئة المراهقين هي الأكثر عرضة، ما يستدعي حلولاً خاصة لا عامة فقط.

تظهر التجربة الأخيرة أن الحوادث المؤسفة لم تكن مجرد حوادث فردية، بل ناقوس خطر دفع الشركات والحكومات معاً إلى مراجعة سياساتها. "أوبن إيه آي" سارعت لإطلاق أدوات مخصّصة للمراهقين، "أنثروبيك" كثّفت جهودها لضبط استجابات "كلود"، "غوغل" تخضع لتدقيق خارجي صارم على "جيمناي"، و"ديبسيك" بدأت رحلة تطوير نسخ أكثر أماناً.

هذا يعكس تحولاً واضحاً في أولويات شركات التكنولوجيا: من سباق ميزات وإمكانيات إلى سباق على تعزيز الأمان والثقة. وربما يكون الدرس الأهم أن الابتكار لم يعد معيار النجاح الوحيد، بل أصبحت حماية المستخدم وحياته في صميم المنافسة المستقبلية.