اشترِك في نشرتنا الإخبارية
الخبير غاري ماركوس: مخاطر الذكاء الاصطناعي على البشرية "مبالغ فيها"
05-06-2023 | 00:00
المصدر: "النهار"
قضى اختصاصي الذكاء الاصطناعي غاري ماركوس الأشهر الأخيرة يحذر أقرانه والنواب والجمهور عموماً من المخاطر المرتبطة بتطوير أدوات هذا المجال الجديدة وانتشارها فائق السرعة، لكنه اعتبر في حديث أجرته معه وكالة فرانس برس في سان فرانسيسكو أن مخاطر انقراض البشرية "مبالغ فيها".
وقال الأستاذ الفخري في جامعة نيويورك الذي قدم إلى كاليفورنيا لحضور مؤتمر، "شخصيا، وفي الوقت الحاضر، لست قلقا جداً بهذا الشأن، لأن السيناريوات ليست في غاية الواقعية"، مضيفاً أن "ما يقلقني هو أن نبني أنظمة ذكاء اصطناعي لا نحكم السيطرة عليها".
ابتكر غاري ماركوس برنامجه الأول للذكاء الاصطناعي في المدرسة الثانوية، وكان لترجمة نصوص من اللاتينية إلى الإنكليزية، وبعد سنوات من دراسة علم النفس للأطفال، أنشأ شركة متخصصة في "تعلّم الآلة" استحوذت عليها "أوبر" لاحقا.
وفي آذار الماضي، كان من موقعي الرسالة التي نشرها مئات الخبراء للمطالبة بتعليق تطوير أنظمة ذكاء اصطناعي فائقة القوة مثل روبوت الدردشة "تشات جي بي تي" الذي أطلقته شركة "أوبن إيه آي" الناشئة لمدة ستة أشهر للتثبت من أن البرامج المطروحة حاليا للاستخدام "موثوقة وآمنة وشفافة ووفية… وموائمة" للقيم البشرية.
لكنه لم يوقّع الإعلان المقتضب الذي أصدرته مجموعة من كبار رجال الأعمال والخبراء هذا الأسبوع وكان له وقع شديد.
ودعا موقّعو الإعلان ومن أبرزهم مبتكر "تشات جي بي تي" نفسه سام التمان، والمهندس الكبير السابق لدى "غوغل" جيفري هينتون الذي يعتبر من الآباء المؤسسين للذكاء الاصطناعي، ورئيس شركة "ديب مايند" للبحوث في مجال الذكاء الاصطناعي التابعة لغوغل ديميس هاسابيس، والمدير الفني لمايكروسوف كيفن سكوت، إلى التصدي لـ"مخاطر انقراض" البشرية "المرتبطة بالذكاء الاصطناعي".
وقال غاري ماركوس إن "كنتم مقتنعين فعلياً أن هناك خطراً وجودياً، فلماذا تعملون على ذلك بالأساس؟ هذا سؤال منطقي"، معتبراً أن "انقراض الجنس البشري… مسألة في غاية التعقيد في الواقع، ويمكننا تصور كلّ أنواع الآفات، لكن ثمة من سينجو حتما".
وشدد في المقابل على أن هناك سيناريوات ذات صدقية يمكن في سياقها أن يتسبب الذكاء الاصطناعي بـ"أضرار هائلة".
وتابع "قد ينجح البعض على سبيل المثال في التلاعب بالأسواق. وقد نتهم الروس بتحمل المسؤولية ونهاجمهم في حين أن لا ضلوع لهم إطلاقا، وقد ننجر إلى حرب عرضية تهدد بأن تتحول إلى حرب نووية".
وعلى المدى القريب، يعرب غاري ماركوس عن مخاوف على الديموقراطية، فبرمجيات الذكاء الاصطناعي التوليدي قادرة بصورة متزايدة على إنتاج صور زائفة وقريبا فيديوات واقعية، بكلفة زهيدة، وفي هذا السياق، فإن "الانتخابات ستحسم للذين يبرعون أكثر من سواهم في نشر التضليل الإعلامي، وهؤلاء قد يعدّلون القوانين بعد فوزهم… ويفرضون نظاما سلطويا".
وأكد أن "الديموقراطية تقوم على امتلاك معلومات منطقية واتخاذ قرارات صائبة. وإن لم يعد أحد يميز بين ما هو صحيح وما هو غير صحيح، عندها ينتهي الأمر".
لكن هذا لا يعني برأي الخبير الذي صدر له كتاب بعنوان "إعادة إطلاق الذكاء الاصطناعي" (Rebooting AI) أن هذه التكنولوجيا لا تحمل وعوداً.
وقال إن "ثمة فرصة بأن نستخدم ذات يوم نظام ذكاء اصطناعي لم نبتكره بعد، يساعدنا في إحراز تقدم في العلم، في الطب، في رعاية المسنين… لكننا في الوقت الحاضر غير جاهزين. نحن بحاجة إلى تنظيمات وإلى جعل البرامج أكثر موثوقية".
ولدى مثوله أمام لجنة في الكونغرس الأميركي في أيار الماضي، دعا إلى إنشاء وكالة وطنية أو دولية يعهد إليها بحوكمة الذكاء الاصطناعي.
وهو مشروع يحظى أيضا بتأييد سام ألتمان العائد من جولة أوروبية حض خلالها القادة السياسيين على البحث عن "توازن عادل" بين الإنتاج والابتكار.
لكن غاري ماركوس حذر من ترك السلطة بهذا الشأن بأيدي الشركات وقال: "ذكّرتنا الأشهر الأخيرة إلى أي حد هي التي تتخذ القرارات المهمة من دون أن تأخذ بالضرورة… آثارها الجانبية".
وقال الأستاذ الفخري في جامعة نيويورك الذي قدم إلى كاليفورنيا لحضور مؤتمر، "شخصيا، وفي الوقت الحاضر، لست قلقا جداً بهذا الشأن، لأن السيناريوات ليست في غاية الواقعية"، مضيفاً أن "ما يقلقني هو أن نبني أنظمة ذكاء اصطناعي لا نحكم السيطرة عليها".
ابتكر غاري ماركوس برنامجه الأول للذكاء الاصطناعي في المدرسة الثانوية، وكان لترجمة نصوص من اللاتينية إلى الإنكليزية، وبعد سنوات من دراسة علم النفس للأطفال، أنشأ شركة متخصصة في "تعلّم الآلة" استحوذت عليها "أوبر" لاحقا.
وفي آذار الماضي، كان من موقعي الرسالة التي نشرها مئات الخبراء للمطالبة بتعليق تطوير أنظمة ذكاء اصطناعي فائقة القوة مثل روبوت الدردشة "تشات جي بي تي" الذي أطلقته شركة "أوبن إيه آي" الناشئة لمدة ستة أشهر للتثبت من أن البرامج المطروحة حاليا للاستخدام "موثوقة وآمنة وشفافة ووفية… وموائمة" للقيم البشرية.
لكنه لم يوقّع الإعلان المقتضب الذي أصدرته مجموعة من كبار رجال الأعمال والخبراء هذا الأسبوع وكان له وقع شديد.
ودعا موقّعو الإعلان ومن أبرزهم مبتكر "تشات جي بي تي" نفسه سام التمان، والمهندس الكبير السابق لدى "غوغل" جيفري هينتون الذي يعتبر من الآباء المؤسسين للذكاء الاصطناعي، ورئيس شركة "ديب مايند" للبحوث في مجال الذكاء الاصطناعي التابعة لغوغل ديميس هاسابيس، والمدير الفني لمايكروسوف كيفن سكوت، إلى التصدي لـ"مخاطر انقراض" البشرية "المرتبطة بالذكاء الاصطناعي".
وقال غاري ماركوس إن "كنتم مقتنعين فعلياً أن هناك خطراً وجودياً، فلماذا تعملون على ذلك بالأساس؟ هذا سؤال منطقي"، معتبراً أن "انقراض الجنس البشري… مسألة في غاية التعقيد في الواقع، ويمكننا تصور كلّ أنواع الآفات، لكن ثمة من سينجو حتما".
وشدد في المقابل على أن هناك سيناريوات ذات صدقية يمكن في سياقها أن يتسبب الذكاء الاصطناعي بـ"أضرار هائلة".
وتابع "قد ينجح البعض على سبيل المثال في التلاعب بالأسواق. وقد نتهم الروس بتحمل المسؤولية ونهاجمهم في حين أن لا ضلوع لهم إطلاقا، وقد ننجر إلى حرب عرضية تهدد بأن تتحول إلى حرب نووية".
وعلى المدى القريب، يعرب غاري ماركوس عن مخاوف على الديموقراطية، فبرمجيات الذكاء الاصطناعي التوليدي قادرة بصورة متزايدة على إنتاج صور زائفة وقريبا فيديوات واقعية، بكلفة زهيدة، وفي هذا السياق، فإن "الانتخابات ستحسم للذين يبرعون أكثر من سواهم في نشر التضليل الإعلامي، وهؤلاء قد يعدّلون القوانين بعد فوزهم… ويفرضون نظاما سلطويا".
وأكد أن "الديموقراطية تقوم على امتلاك معلومات منطقية واتخاذ قرارات صائبة. وإن لم يعد أحد يميز بين ما هو صحيح وما هو غير صحيح، عندها ينتهي الأمر".
لكن هذا لا يعني برأي الخبير الذي صدر له كتاب بعنوان "إعادة إطلاق الذكاء الاصطناعي" (Rebooting AI) أن هذه التكنولوجيا لا تحمل وعوداً.
وقال إن "ثمة فرصة بأن نستخدم ذات يوم نظام ذكاء اصطناعي لم نبتكره بعد، يساعدنا في إحراز تقدم في العلم، في الطب، في رعاية المسنين… لكننا في الوقت الحاضر غير جاهزين. نحن بحاجة إلى تنظيمات وإلى جعل البرامج أكثر موثوقية".
ولدى مثوله أمام لجنة في الكونغرس الأميركي في أيار الماضي، دعا إلى إنشاء وكالة وطنية أو دولية يعهد إليها بحوكمة الذكاء الاصطناعي.
وهو مشروع يحظى أيضا بتأييد سام ألتمان العائد من جولة أوروبية حض خلالها القادة السياسيين على البحث عن "توازن عادل" بين الإنتاج والابتكار.
لكن غاري ماركوس حذر من ترك السلطة بهذا الشأن بأيدي الشركات وقال: "ذكّرتنا الأشهر الأخيرة إلى أي حد هي التي تتخذ القرارات المهمة من دون أن تأخذ بالضرورة… آثارها الجانبية".
