اشترِك في نشرتنا الإخبارية
أداة إنشاء أصوات اصطناعية يتم استخدامها لتزييف مقاطع صوتية للمشاهير
31-01-2023 | 17:33
المصدر: "النهار"
أطلقت شركة "ElevenLabs" قبل أيامٍ قليلة، إصداراً تجريبياً على نظامها الأساسي يمنح المستخدمين القدرة على إنشاء أصوات اصطناعية جديدة لتحويل النص إلى كلام أو استنساخ صوت شخصٍ ما. ولم تمضِ سوى بضعة أيام قبل بدء استخدامه للقيام بأعمال مشبوهة.
وكشفت الشركة عبر موقع "تويتر" أنها ترى أعداداً متزايدة من حالات إساءة استخدام خاصية استنساخ الصوت، وأنها تفكر في طريقة لمعالجة المشكلة من خلال تطبيق ضمانات إضافية.
Crazy weekend - thank you to everyone for trying out our Beta platform. While we see our tech being overwhelmingly applied to positive use, we also see an increasing number of voice cloning misuse cases. We want to reach out to Twitter community for thoughts and feedback!
— ElevenLabs (@elevenlabsio) January 30, 2023
وفي حين أن الشركة لم تشرح بالتفصيل ما تعنيه بحالات إساءة الاستخدام، عثر موقع "Motherboard" على منشورات عبر موقع "4chan" مع مقاطع تعرض أصواتاً مولّدة تبدو وكأنها لمشاهير يقرؤون أو يقولون أشياء مشكوكاً فيها. كما نشر المستخدمون مقاطع صوتية تظهر فيها مشاعر كراهية للمثليين والمتحوّلين جنسياً.
وتقوم شركة "ElevenLabs" الآن بجمع اقتراحات حول كيفية منع المستخدمين من إساءة استخدام تقنيتها. ويتضمن أحد هذه الاقتراحات مطالبة المستخدمين إدخال معلومات الدفع أو إظهار هويتهم. كما تفكر الشركة أيضاً في جعل المستخدمين يتحققون من ملكية حقوق النشر للصوت الذي يريدون استنساخه.
