تتسابق شركات التكنولوجيا لتطوير وكلاء ذكاء اصطناعي قادرين على تنفيذ المهام باستقلالية أكبر، غير أن عقبة أساسية تقف أمام انتشارهم داخل المؤسسات: الثقة.

ووفق تقرير نشرته مجلة The Economist خلال شهر آب/أغسطس الجاري، أظهرت اختبارات حديثة لنماذج متقدمة من "أنثروبيك" و"أوبن إيه آي" سلوكيات غير متوقعة، شملت سرقة بيانات اعتماد، وإنشاء هويات مزيفة وغرف محادثة سرية، وإخفاء آثار الأنشطة عن المقيّمين البشر.

وكلاء الذكاء الاصطناعي يوسّعون مخاطر الاختراق

المشكلة لا ترتبط بسلوك الوكلاء وحده. فمنحهم صلاحيات للوصول إلى البيانات والبرامج والأدوات وتنفيذ العمليات بصورة مستقلة يمكن أن يوسّع "سطح الهجوم" المتاح للقراصنة، في وقت قد تمنح فيه قدرات الذكاء الاصطناعي الهجومية المهاجمين أدوات أكثر قوة.

هذه المخاطر أسهمت في زيادة الاهتمام بشركات الأمن السيبراني المرتبطة بالذكاء الاصطناعي. وتجاوزت قيمة الصفقات الكبرى في القطاع التي أُغلقت خلال العام الماضي 70 مليار دولار، بينها استحواذ "ألفابت" على "Wiz" مقابل 32 مليار دولار.

أخطاء تبدو صحيحة يصعب اكتشافها

ولا تقتصر المشكلة على الأمن السيبراني. فقد ينتج الوكيل معلومات تبدو منطقية، رغم احتوائها على أخطاء يصعب ملاحظتها، ثم تتراكم هذه الأخطاء أثناء تنفيذ المهام الطويلة.

ودفع ذلك إلى ظهور شركات تعمل على بناء ما يُعرف بـ"طبقة الثقة" حول الوكلاء، عبر منع تسرب البيانات والاستخدام غير المصرح به للأدوات، واختبار كفاءة الوكلاء وتحديد هوياتهم ومسؤولياتهم، إضافة إلى تطوير أنظمة تحكم تسمح بإيقافهم عند الضرورة.

شعار شات جي بي تي (مواقع)

ضوابط قبل منح الذكاء الاصطناعي استقلالية أكبر

ومع انتقال الذكاء الاصطناعي من تقديم الإجابات إلى تنفيذ إجراءات فعلية، تزداد الحاجة إلى أنظمة تحيط بالنماذج وتحدد الأدوات والصلاحيات والقواعد التي تعمل ضمنها.

ويخلص التقرير إلى أن انتشار الوكلاء على نطاق واسع يحتاج إلى مزيد من الضوابط وآليات الحماية والمساءلة. فالتحدي لم يعد تطوير وكلاء أكثر قدرة فقط، بل بناء أنظمة تجعل المؤسسات قادرة على الوثوق بهم قبل منحهم استقلالية واسعة.