الانتقادات تلاحق فايسبوك... الخوارزميات الذكيّة لمنع المحتويات المؤذية ما زالت ضعيفة

أثارت عملية البث المباشر التي ظهر فيها مطلق النار على موقع #فايسبوك، أثناء هجومه على مسجد المصلين في #نيوزيلندا، تساؤلات كبيرة طاولت مواقع التواصل الاجتماعي بشكل عام، وموقع فايسبوك بشكل خاص حول عدم قدرة الموقع على وقف البث الفوري لهذا العمل الإرهابي فور وقوعه.

وبحسب ما ذكر موقع "بلومبيرغ"، فقد أثبتت السرعة التي انتشر بها تسجيل الفيديو عبر منصات التواصل الاجتماعي، مرة أخرى، أن الشركات التكنولوجية مثل فايسبوك ما تزال تكافح من أجل التحكّم في المحتوى الذي يظهر عليها، لا سيما في الخدمات التي تقدم بثًا مباشرًا للأحداث.

وفي حين أن منصات التواصل الأخرى بما في ذلك " #تويتر" و " #يوتيوب" قالا إنهما تحركا بسرعة لتطهير أي محتوى متعلق بالحادث من مواقعهما، إلا أن بعض الأشخاص أفادوا أن المحتوى ما يزال متاحًا على نطاق واسع بعد ساعات من تحميله لأول مرة، وهو بقي متاحاً على يوتيوب لمدة 12 ساعة تقريباً.

وقال متحدث باسم يوتيوب في بيان، إن "المحتوى المروع والعنيف والرسومات ليس لها مكان على منصاتنا، ويتم إزالتها بمجرد أن ندرك ذلك".

كما قال فايسبوك على حسابه على تويتر: "لقد أبلغتنا الشرطة بمقطع فيديو على فايسبوك بعد فترة وجيزة من بدء البث المباشر، وسرعان ما أزلنا حسابات مطلق النار من فايسبوك وإنستاغرام والفيديو. نحن أيضًا نزيل أي ثناء أو دعم للجريمة ولمطلق النار بمجرد علمنا".

وكانت فايسبوك قد أتاحت ميزة البث المباشر على تطبيقها في العام 2016، واقتصرت الفيديوات آنذاك على مقاطع غير ضارة كفيديوات لأطفال وحيوانات، لكن الأمر لم يستغرق وقتًا طويلاً قبل أن تنتشر على الخدمة فيديوات لعمليات إطلاق نار وقتل وانتحار، لتقوم الشركة بالإعلان عن اتخاذها قراراً بإزالة أي محتوى مؤذٍ أو يشكل تهديداً.

وفي العام الماضي، قال فايسبوك إنه يعمل على رقائق مصممة لتحليل وتصفية محتوى الفيديو المباشر بشكل أكثر كفاءة. وقال هاني فريد، أستاذ علوم الكمبيوتر بجامعة كاليفورنيا: "بمجرد أن يتم تحديد المحتوى على أنه غير قانوني أو متطرف أو انتهاك لشروط خدمة فايسبوك، لا يوجد أي سبب على الإطلاق لعدم إمكانية حذف هذا المحتوى تلقائيًا عند نقطة التحميل، وخلال فترة زمنية قصيرة نسبيًا".

والسؤال الذي يطرح نفسه هنا، لمَ إذاً لم يقم فايسبوك بإزالة هذا المحتوى المؤذي فوراً؟!

يحذّر بعض الخبراء من أنه لا توجد طريقة لإبقاء الجانب المظلم من سلوك الإنسان بعيدًا عن منصات التواصل الاجتماعي. وقالت ماري آن فرانكس، أستاذة القانون في جامعة ميامي، إن زوكربيرغ "رفض مواجهة المشكلة الأساسية في ميزة فايسبوك للبث المباشر، وهو أنه لا يوجد ببساطة أي وسيلة مسؤولة لمراقبة خدمة البث المباشر الحقيقية. لقد عرف فايسبوك منذ البداية أن خدمة البث المباشر لديه قادرة على تشجيع ونقل أسوأ المحتويات المؤذية، وهو يجب أن يواجه حقيقة أنه ملطخ بالدماء".

خوارزمية إدارة الأزمات في فايسبوك والمنصات الاجتماعية ما تزال ضعيفة

يعمل في فايسبوك حالياً حوالي الـ 15000 موظف يتصفحون المشاركات لإزالة اي محتوى مسيء. وقال زوكربيرغ إن خوارزميات الذكاء الاصطناعي التي تستخدمها الشركة بالفعل لتحديد محتوى العري والمحتوى الإرهابي، ستتعامل في النهاية مع معظم هذا الفرز، ولكن في الوقت الحالي، تكافح حتى أكثر برامج الذكاء الاصطناعي تطوراً في هذا المجال".

وقالت مونيكا بيكيرت، رئيس إدارة السياسة العالمية في فايسبوك، في مقابلة أجريت معها في حزيران 2018: "خطاب الكراهية هو أحد تلك المجالات".

وبحسب صحيفة "الواشنطن بوست"، فعندما يتمّ تحميل مقطع فيديو أو صور مؤذية على مواقع التواصل الاجتماعي، فإن هذه المواقع تستخدم هذا الفيديو غالبًا لإنشاء نسخة ملحوظة، تُعرف باسم "التجزئة- hash"، والتي يمكن استخدامها لإنشاء قائمة سوداء تلقائية لهذه الفيديوات عندما يتم نشرها مرة أخرى.

وقد استُخدمت تقنية الخوارزمية القديمة هذه، والتي روِّج لها لأول مرة كتكتيك لمكافحة انتشار الصور الإباحية للأطفال، لمنع المواد المحمية بحقوق الطبع والنشر والمواد الإباحية والمحتويات الأخرى التي تنتهك قواعد مواقع التواصل الاجتماعي تلقائيًا.

لكن هذه الخوارزميات لا تزال معيبة بشكل خطير، كما يقول الخبراء، إذ يمكن لأولئك الذين يقومون بتحميل مقاطع الفيديو تجنب القواعد عن طريق تغيير المقاطع بطرق صغيرة، مثل إرفاق علامة مائية أو تشويه الموسيقى أو تخطي حجم الفيديو أو تحريره أو سرعته، ومن هنا يبدو أن العديد من مقاطع الفيديو التي يعاد نشرها على موقع يوتيوب تحتوي على هذه التعديلات، على الرغم من أنه من غير الواضح ما إذا كانت تلك التغييرات قد ساهمت في بقائها على الإنترنت.

ويُعدّ هجوم نيوزيلندا الإرهابي هو الثالث من نوعه الذي يتمّ فيه استخدام فايسبوك لبث فيديو عن جريمة قتل. ففي العام 2015، قام رجل مسلح بتحميل فيديو له وهو يصور قتل اثنين من صحافيي التلفزيون من محطة رونوك، فرجينيا، وفي العام 2017، نشر مسلحٌ فيديو لإطلاقه النار على أحد المارة في كليفلاند، ثم دخل إلى خدمة فايسبوك للبث المباشر للحديث عن عملية القتل.

ويقول النقاد إن الأنظمة الآلية القوية التي تعتمدها المنصات اليوم تفتقر إلى السياق أو الدقة لتقييم العديد من أنواع المحتوى غير المناسب بشكل صحيح، مثل خطاب الكراهية ومقاطع الفيديو العنيفة. كما تساءل النقاد عن مدى إعطاء الشركات أولوية عالية لضبط المحتوى، على عكس الخوارزميات الخاصة بالبحث أو الاكتشاف أو تحسين الإعلان، والتي تسهم في الكثير من إيرادات المنصات.

من جهة أخرى، يمثّل الفيديو المباشر أيضًا تحدياً للشرطة لأن خوارزميات مراقبة المحتوى اليوم ليست ذكية بدرجة كافية حتى تتمكّن من معرفة العنف تلقائيًا عند مشاهدتها.

وقال جوان دونوفان، مدير مشروع أبحاث التكنولوجيا والتغيير الاجتماعي في مركز شورينستين بجامعة هارفارد: "إن الشركات ليس لديها دوافع تذكر لمراقبة المحتوى لأن المشاركة السريعة والسهلة تساعد في زيادة المستخدمين ووجهات النظر وإيرادات الإعلانات. كما أن الإشراف على المحتوى صعب بشكل لا يصدق ويحمل معه إمكانية التسييس، بما في ذلك الحجج الحالية من بعض المحافظين والليبراليين بأن مشاركاتهم يتمّ إسكاتها بشكل غير عادل".