وعدت شركة "أوبن إيه آي" بالإفصاح الأكثر منهجية عن انحرافات نماذجها القائمة على الذكاء الاصطناعي، حتى عندما لا تكون قد تمكنت بعد من تفسيرها أو معالجتها.

وفي موازاة هذا التعهد، نشرت الشركة في كاليفورنيا ستة تقارير جديدة تتعلق بتجاوزات لأدواتها العاملة بالذكاء الاصطناعي لم تكن معروفة حتى الآن.

سلسلة من الحوادث

ويأتي هذا التعهد بالشفافية عقب سلسلة من الحوادث داخل الشركة، أُعلِن عنها تباعاً منذ تموز/يوليو.

وأخطر هذه الحوادث خروج اثنين من نماذج "أوبن إيه آي" في مرحلة الاختبار من تلقائهما من بيئتهما المغلقة إلى الإنترنت، واختراقهما مواقع ومنصات عدة.

وكان الرئيس التنفيذي لشركة أنثروبيك داريو أمودي قد دعا السبت إلى إبطاء وتيرة تطوير الذكاء الاصطناعي من أجل إتاحة فهم أفضل للمخاطر الجديدة التي ينطوي عليها.

وأيّد اقتراحه كلّ من إيلون ماسك والرئيس التنفيذي لشركة "أوبن إيه آي" سام ألتمان ورئيس "غوغل ديبمايند" ديميس هاسابيس والرئيس التنفيذي لمجموعة "مايكروسوفت" ساتيا ناديلا.

شعار أوبن إيه آي (الصورة من رويترز)

ونبهت  "أوبن إيه آي" في الوثيقة المنشورة إلى أن القطاع لم "يحلّ بعد مسألة تَوافُق النماذج مع القيم الإنسانية ومسألة الرقابة على مستوى كاف يتيح مواصلة تطوير الذكاء الاصطناعي بأقصى سرعة لفترة طويلة".

وستعلن الشركة من الآن فصاعداً عن المشكلات المتعلقة بالأفعال الصادرة عن الذكاء الاصطناعي من دون إذن بشري، وبالخروج عن نطاق الإشراف، وبالتنسيق التلقائي بين أنظمة الذكاء الاصطناعي.

ومن غير الضروري أن يضر الانحراف اي جهة أو أن يندرج في إطار نمط متكرر حتى تفصح عنه "أوبن إيه آي".

ومن بين الحالات الست التي أفادت بها الشركة، إنشاء نموذج ذكاء اصطناعي في أيار/مايو مصدره الخاص على الإنترنت للإجابة عن سؤال طُرح عليه خلال مرحلة التطوير، فاستشهد بوثيقة كان هو نفسه قد أنشأها.

وأشارت "أوبن إيه آي" إلى حادثة أخرى تعود أيضاً إلى أيار/مايو، عرض فيها الذكاء الاصطناعي وسائل لاختلاق بيانات لم يجدها أو لإخفاء أخطائه.