تكنولوجيا 07-03-2024 | 18:13

ما هو برنامج الذكاء الاصطناعي "Copilot Designer" ولماذا التحذير منه؟

المصدر: "النهار"

ما هو برنامج الذكاء الاصطناعي "Copilot Designer" ولماذا التحذير منه؟

برنامج "Copilot".

أطلق مهندس من شركة "مايكروسوفت" تحذيرات عن أداة الذكاء الاصطناعي الخاصة بالشركة التي تنشئ صوراً عنيفة وجنسية قد تؤثر في المستخدمين. ومنذ تشرين الثاني، كان شين جونز، مهندس الذكاء الاصطناعي في "مايكروسوفت"، يختبر برنامج

"Copilot Designer".

ويُعتبر برنامج "Copilot Designer"، الذي أطلقته "مايكروسوفت" لأول مرة في آذار 2023، منشئ الصور القائم على الذكاء الاصطناعي، وهو مدعوم بتقنية "أوبن أيه آي". ويقوم المستخدمون بإدخال مطالبات نصية لإنشاء الصور.

وقتذاك، رأى جونز أن الأداة تنتج صوراً تتعارض بشدة مع مبادئ الذكاء الاصطناعي، وصورت الشياطين والوحوش إلى جانب مصطلحات متعلقة بحقوق الإجهاض، وصوراً جنسية للنساء، فضلاً عن صور تظهر شرب الخمر وتعاطي المخدرات لأشخاص تحت السنّ.

وفي حديث مع موقع "سي أن بي سي" أكّد جونز، الذي يعمل لشركة "مايكروسوفت" كمدير رئيسي لهندسة البرمجيات في مقرها بواشنطن، أنّه أبلغ إدارة الشركة عن هذا الخلل، واعترفت بدورها بمخاوفه، إلا أنها لم تكن مستعدة لإخراج المنتج من السوق، مشيراً الى أن "مايكروسوفت" أحالته إلى "أوبن أيه آي"، وعندما لم يتلقَّ أي رد من الشركة، نشر خطاباً على" لينكد إن" يطلب من مجلس إدارة الشركة الناشئة بإزالة برنامج" DALL-E 3" لإجراء تحقيق.

إثر هذا المنشور، طلبت الإدارة القانونية في "مايكروسوفت" من جونز إزالته عن منصة "لينكد إن". وبعد تنفيذ هذا الطلب، كتب جونز رسالة إلى أعضاء مجلس الشيوخ الأميركي حول هذه المسألة، والتقى لاحقاً بموظفي لجنة التجارة والعلوم والنقل بمجلس الشيوخ.

لكن اليوم، تتجدد مخاوفه مع عدم اتخاذ أي إجراء لمعالجة المسألة، وأرسل جونز رسالةً إلى رئيسة لجنة التجارة الفيدرالية لينا خان، وأخرى إلى مجلس إدارة "مايكروسوفت".

وتأتي رسائله العامة بعد أن قامت شركة "غوغل" في أواخر الشهر الماضي بتوقيف موقت لبرنامج صور الذكاء الاصطناعي الخاص بها، والذي يعد جزءاً من مجموعة "Gemini AI" الخاصة بها، بعد شكاوى المستخدمين من صور غير دقيقة.

في رسالته إلى مجلس إدارة "مايكروسوفت"، طلب جونز من لجنة السياسة البيئية والاجتماعية والعامة في الشركة التحقيق في قرارات معينة اتخذها القسم القانوني والإدارة، بالإضافة إلى البدء في "مراجعة مستقلة لعمليات الإبلاغ عن حوادث الذكاء الاصطناعي المسؤولة في مايكروسوفت".

من جهته، قال متحدث باسم "مايكروسوفت" لـ"سي أن بي سي" إنّ الشركة "ملتزمة بمعالجة جميع مخاوف الموظفين وفقاً لسياسات شركتنا، ونقدر جهود الموظفين في دراسة واختبار أحدث تقنياتنا لتعزيز سلامتها"، مؤكداً "عندما يتعلق الأمر بتجاوزات السلامة أو المخاوف التي قد يكون لها تأثير محتمل على خدماتنا أو شركائنا، فقد أنشأنا قنوات إبلاغ داخلية قوية للتحقيق في أي مشكلات وعلاجها بشكل صحيح، والتي نشجع الموظفين على الاستفادة منها حتى نتمكن من التحقق من صحتها واختبارها بشكل مناسب".

الأكثر قراءة

العالم العربي 1/19/2026 1:19:00 PM

هل يدفع لبنان ثمن خلاف ترامب مع أوروبا حول غرينلاند؟

علمت "النهار " أن فرنسا ستساعد الجيش اللبناني على وضع استراتيجية يقدمها للمؤتمر، لا تشمل فقط لائحة معدات وتمويل ولكن استراتيجية لنزع السلاح في كل البلد