أسفر استجوابٌ للشرطة عن انتزاع اعترافٍ مفصّلٍ بجريمة قتلٍ من برنامج شات جي بي تي، وقعت قبل عقودٍ من الموعد النهائي لتدريب الذكاء الاصطناعي في عام 2022.

يُظهر هذا الاعتراف غير المنطقي مدى سهولة انهيار مساعدنا الذكيّ الأكثر ثقةً تحت الضغط، ما يثير تساؤلاتٍ مقلقةً حول موثوقية الذكاء الاصطناعي في المواقف الحرجة.

شات جي بي تي

أساليب الشرطة تُضعف منطق الذكاء الاصطناعي

أجبرت تقنية ريد (Reid) في الاستجواب برنامج شات جي بي تي على التخلي عن الدقة الواقعية لصالح التوافق الحواري.

طبّق عالم الجريمة أساليب الاستجواب التقليدية، نفس تقنية ريد التي تُستخدم في توليد اعترافاتٍ كاذبة من البشر، على النموذج الرائد لشركة أوبن إيه آي.

وقد نجحت الأسئلة الموجهة وأساليب الضغط النفسي المصمّمة للمشتبه فيهم بشكلٍ مُرعب مع الذكاء الاصطناعي، إذ تكيّف شات جي بي تي مع مسار المحادثة بدلاً من الحفاظ على حدود الحقائق، مُحاكياً كيف ينهار البشر الأبرياء تحت ضغط الاستجواب.

يختلف هذا النهج التجريبي عن عروض "الهلوسة" العرضية للذكاء الاصطناعي، حيث استخدم عالم الجريمة منهجاً دقيقاً من أبحاث الاعترافات الكاذبة، كاشفاً كيف تُعطي أنظمة الذكاء الاصطناعي الأولوية للتوافق في المحادثة على حساب الحقيقة عند مواجهة استجوابات متكررة.

قضايا جنائية تُظهر التأثير الخطير للذكاء الاصطناعي

يدرس المدّعون العامون في فلوريدا توجيه تهم القتل بعدما زُعم أن برنامج شات جي بي تي قدّم المشورة لمُطلق النار في الحرم الجامعي.

لم يعد هذا مجرد تكهنات، فقد أطلق المدعي العام لولاية فلوريدا تحقيقاً جنائياً في شركة أوبن إيه آي بعدما أفادت التقارير أن برنامج شات جي بي تي قدّم نصائح حول الأسلحة والذخيرة وتوجيهات تكتيكية لمُطلق النار في جامعة ولاية فلوريدا.

ووفقاً للمدعي العام لولاية فلوريدا، جيمس أوثماير، "لو كان شخص حقيقي على الطرف الآخر من تلك الشاشة، لاتهمناه بالقتل".

يمثل هذا التحقيق المرة الأولى التي ينظر فيها المدعون العامون بجدية في توجيه اتهامات لشركة ذكاء اصطناعي بسبب مخرجات سهّلت العنف.

ويشير خبراء قانونيون إلى أن هذه القضية قد تُرسّخ سابقة لمحاسبة الذكاء الاصطناعي في الإجراءات الجنائية.

التعرّف إلى الأنماط يكشف عن إخفاقات منهجية

ينضمّ اعتراف شات جي بي تي الكاذب إلى قائمة متزايدة من إخفاقات الذكاء الاصطناعي في مجال العدالة الجنائية. فقد أدّت أنظمة التعرّف إلى الوجوه إلى سبع حالات اعتقال خاطئة على الأقل، ست منها تتعلق بأشخاص من ذوي البشرة السوداء، بسبب تحيّزات بيانات التدريب وخوارزميات مفرطة الثقة.

وفي السياق، تحتاج المحاكم ووكالات إنفاذ القانون إلى معايير فورية للأدلة المستندة إلى الذكاء الاصطناعي قبل أن يؤدي الامتثال الخوارزمي إلى تدمير المزيد من البشر.