هل علينا القلق من ميزة غوغل الجديدة في إجرائها اتصالات واقعية نيابة عنّا؟

10 نوار 2018 | 17:20

المصدر: "ذا فيرج"

كان العرض الأكثر إثارة للإعجاب في مؤتمر #غوغل للمطورين I / O عبارة عن مكالمة هاتفية لحجز موعد في صالون لتصفيف الشعر. بالطبع، كانت هذه المكالمة الهاتفية جديدة كلياً، اذ لم تتم من خلال إنسان حقيقي، ولكن من خلال مساعد غوغل والذي بدوره أدى مهمة جيدة بشكل لافت من خلال طرحه أسئلة صحيحة، والتوقف مؤقتًا في الأماكن الصحيحة، وحتى نطقه كلمة "mmhmm" بطريقة واقعية.

صُعق الحشد، لكن الشيء الأكثر إثارة للإعجاب هو أن الشخص الذي كان على الطرف المتلقي للمكالمة لم يشك في أنه كان يتحدث إلى ذكاء إصطناعي. إنه إنجاز تكنولوجي ضخم لشركة غوغل، ولكنه يفتح أيضًا باباً امام تحديات أخلاقية واجتماعية.

على سبيل المثال، هل تلتزم غوغل بإخبار الأشخاص الذين يتحدثون مع مساعدها بأنهم يتحدثون مع جهاز؟ هل تقلل التكنولوجيا التي تحاكي البشر من ثقتنا بما نراه ونسمعه؟ بعبارة أخرى، كان عرض غوغل نموذجيًا: ولكن الجميع اليوم قلق ويطرح تساؤلات.

غوغل لم تعطِ تفاصيل

على المسرح، لم تتحدث غوغل كثيرًا عن تفاصيل كيفية عمل الميزة، المسماة Duplex- "دوبلكس". ولكن غوغل أكدت في مدونة لها، انها لا تعتبر خدمة Duplex قادرة على إجراء محادثات مفتوحة مع الجميع، وقال باحثون من غوغل، انه يمكن فقط التحدث في "المجالات المغلقة" مع حدود صارمة على ما قيل . وعلى سبيل المثال سيجري الحديث على الشكل التالي: "هل تريد طاولة؟ بكم؟ في أي يوم؟ وأي وقت ؟ أوكي، شكرا ، إلى اللقاء. إنها سهلة للغاية!

يقول مارك ريدل، الأستاذ المشارك في أبحاث الذكاء الاصطناعي في جامعة جورجيا للتخصصات في سرد الكمبيوتر، لموقع "ذا فيرج" إنه يعتقد أن مساعد غوغل ربما يعمل "بشكل جيد"، ولكن فقط في المواقف القياسية.

وقال ريدل: "إن التعامل مع الحوار اللغوي خارج السياق هو مشكلة صعبة حقاً". "ولكن هناك أيضًا الكثير من الحيل للتخفي عندما لا يفهم الذكاء الاصطناعي ما يُقال على الجهة الآخرى، أو لإعادة المحادثة إلى مسارها الصحيح".

وقد أظهر أحد عروض غوغل التوضيحية كيفية عمل هذه الحيل، فقد تمكن الذكاء الإصطناعي من التغلب على سلسلة من "سوء الفهم"، ولكنه فعل ذلك من خلال إعادة صياغة الأسئلة وتكرارها. هذا النوع من الأمور شائع بالنسبة لبرامج الكمبيوتر المصممة للتحدث مع البشر.

تبدو مقتطفات المحادثة وكأنها تُظهر ذكاءً حقيقياً، لكن عندما تحلل ما يقال يتم كشفها كمنابر مسبقة البرمجة. وتقدم مدونة غوغل بعض التفاصيل الرائعة عن هذا، موضحة بعض العلامات اللفظية التي سيستخدمها Duplex. وتشمل هذه التوضيحات "ليوم الجمعة الأسبوع المقبل، الثامن عشر"، والمزامنات "هل تسمعني؟" ، والانقطاعات "الرقم هو 212" "آسف ، هل يمكنك البدء من جديد؟".

تجربة وليست منتجاً نهائياً

من المهم ملاحظة أن غوغل تصف نظامها Duplex "بالتجربة". إنه ليس منتجًا نهائيًا، وليس هناك ما يضمن أنه سيكون متاحاً على نطاق واسع.

يعمل Duplex في ثلاثة سيناريوات في الوقت الحالي: حجز مكان في مطعم ؛ جدولة مواعيد عند صالون تصفيف الشعر وطلب الشركات لقضاء ساعات العطلة. كما أنه سيكون متاحًا فقط لعدد محدود وغير معروف من المستخدمين في وقت ما من هذا الصيف.

وتضيف غوغل في مدونتها ان Duplex لديه "قدرة ذاتية على المراقبة" تسمح له بالتعرف عندما تكون المحادثات قد تجاوزت قدراته. يقول غوغل: "في هذه الحالات، الإنسان البشري يمكنه إكمال المهمة".

كل هذا يعطينا صورة أوضح لما يمكن أن يفعله Duplex، ولكنه لا يجيب عن الأسئلة حول التأثيرات التي سيحدثها Duplex! وبوصفها أول شركة تقدم هذه التقنية، فإن غوغل تتحمل مسؤولية مواجهة هذه المشكلات بشكل مباشر.

والسؤال المطروح هنا: هل على الشركة إخبار الناس أنهم يتحدثون إلى روبوت؟

يقول يوسي ماتياس، نائب رئيس قسم الهندسة في غوغل ، لموقع CNET إنه "من المحتمل" حدوث ذلك، ولكن في حديثه إلى "ذا فيرج" ، ذهب إلى أبعد من ذلك وقال إنه يعتقد بالتأكيد أنه يتحمل مسؤولية إبلاغ الأفراد.

ولكن لماذا لم يتم ذكر ذلك على المسرح على الإطلاق!

يتفق العديد من الخبراء العاملين في هذا المجال، أن الطريقة التي ستخبر بها غوغل أي شخص يتحدث إلى الذكاء الاصطناعي هي أمر صعب. فعلى سبيل المثال إذا بدأ المساعد إجراء مكالماته بالقول "مرحبًا، أنا روبوت"، من المرجح أن يتم إغلاق الخط في وجهه، لذا تأمل غوغل أن تتطور المعايير الاجتماعية بشكل طبيعي للتفاعل مع المتصل اذا ما كان عبارة عن ذكاء إصطناعي.

من جهتها، صرّحت جوانا برايسون، الأستاذة المشاركة في جامعة باث والتي تدرس أخلاقيات الذكاء الاصطناعي، بأن غوغل لديها التزام واضح بالكشف عن هذه المعلومات. إذا كانت الروبوتات يمكن أن تكون حرة كالبشر، فإن نطاق الأذى الناتج عنها سيكون أمراً لا يصدق.

تخيل على سبيل المثال، تلقي مكالمة هاتفية مرعبة من شخص ما يقول إنه كان هناك إطلاق نار في مكان قريب. أنت ستسألهم بعض الأسئلة، سيجيبون على ما يكفي لإقناعك بأنهم حقيقيون - ثم يغلقون الخط ، قائلين إنهم حصلوا على الرقم الخطأ، ألن تقلق اذا ما حصل هذا؟

وتضيف برايسون إن السماح للشركات بإدارة ذلك بنفسها لن يكون كافياً، وستكون هناك حاجة إلى إصدار قوانين جديدة لحماية الجمهور. "اذا لم نقم بتنظيم هذه القوانين، فإن بعض الشركات في وضع أقل وضوحًا من غوغل ستستفيد من هذه التكنولوجيا.قد تفعل غوغل الشيء الصحيح ، لكن لن يفعل الجميع ذلك". 

التأثيرات التي ستجلبها مكالمات الذكاء الاصطناعي

قد يكون أحد مؤثرات مكالمات الذكاء الاصطناعي الهاتفية هو جعلنا جميعًا أكثر فظاظة، لا سيما إذا لم نتمكن من معرفة الفرق بين البشر والآلات على الهاتف، فهل علينا ان نتعامل مع جميع المحادثات الهاتفية بمزيد من الشك؟ قد نبدأ بقطع الأناس الحقيقيين أثناء حديثهم معنا على الهاتف بالقول لهم: " اسكت واسمح لي أن أتكلم إلى إنسان".

لا توجد إجابات واضحة عن هذه الأسئلة ، ولكن كما تشير برايسون ، فإن غوغل تقوم على الأقل بخدمة العالم من خلال جذب الانتباه إلى هذه التقنية. إنها ليست الشركة الوحيدة التي تطور هذه الخدمات، وبالتأكيد لن تكون الوحيدة التي تستخدمها. وتتابع برايسون: "من المهم أن يستمروا في الكشف عن العروض التوضيحية ومقاطع الفيديو حتى يمكن للأشخاص مشاهدة هذه الأشياء التي تحدث، ما نحتاجه حقًا هو وجود مواطنين مطلعين". وبعبارة أخرى ، نحن بحاجة إلى إجراء محادثة حول كل هذا ، قبل أن تبدأ الروبوتات في التحدث نيابة عنا.


إظهار التعليقات

يلفت موقع النهار الإلكتروني إلى أنّه ليس مسؤولًا عن التعليقات التي ترده ويأمل من القرّاء الكرام الحفاظ على احترام الأصول واللياقات في التعبير.

Digital solutions by WhiteBeard
Digital solutions by WhiteBeard