تحذيرات داخليّة من هلوسات "أمازون Q"!

المصدر: النهار

تعبيرية

يعاني روبوت الدردشة المخصص للأعمال من "أمازون" Amazon Q من هلوسة شديدة وتسريب بيانات سرية، ما دفع بعض الموظفين إلى دقّ ناقوس الخطر.

وتتضمّن بعض هذه التسريبات موقع مراكز بيانات AWS وبرامج الخصم الداخلية، وكذلك المزايا التي لم تصدرها الشركة بعد.

وتشير وثيقة داخلية حول هلوسة Amazon Q وإجاباته الخطأ إلى أنه قد يهلوس ويردّ ردودًا ضارة أو غير مناسبة، إذ قد يقدّم معلومات أمنية قديمة قد تُعرّض حسابات العملاء للخطر.

وتُعدّ المخاطر الموضحة في الوثيقة نموذجية لنماذج اللغات الكبيرة، التي تَعرض جميعها استجابات غير صحيحة أو غير مناسبة في بعض الوقت على الأقل.

وتأتي مشاكل Amazon Q المبكرة في وقت تعمل فيه "أمازون" على دحض الادعاءات بأنّ "مايكروسوفت" و"غوغل" وشركات التكنولوجيا الأخرى قد تفوّقت عليها في سباق الذكاء الاصطناعيّ التوليديّ.

وأعلنت الشركة في أيلول أنّها تستثمر نحو 4 مليارات دولار في شركة أنثروبيك الناشئة للذكاء الاصطناعيّ.

وقللت "أمازون" في بيان لها من أهمية مناقشات الموظفين، وقال المتحدث باسم الشركة: "ينشر بعض الموظفين التعليقات من خلال القنوات الداخلية، وهي ممارسة معتادة في أمازون، ولم نحدّد أيّ مشكلة أمنية نتيجة لهذه التعليقات، ونحن نقدّر جميع التعليقات التي تلقيناها ونواصل ضبط Amazon Q أثناء انتقاله من كونه منتجًا قيد المعاينة إلى كونه متاحًا بشكل عام".