تتزايد الحالات التي يكشف فيها المستخدمون، عن غير قصد، معلومات حساسة أثناء استخدام روبوتات الذكاء الاصطناعي. وشملت الأمثلة مهندسين في "سامسونغ"، ومسؤولاً سابقاً في وكالة الأمن السيبراني الأميركية، ومحامين قدموا أحكاماً غير موجودة، ثم رجلاً استبدل ملح الطعام ببروميد الصوديوم بعد اتباع نصيحة من شات جي بي تي.

حتى الرئيس التنفيذي لـ"أوبن إيه آي" سام ألتمان أقرّ بأن محادثات شات جي بي تي لا تتمتع بالحماية القانونية نفسها التي تحظى بها محادثات المرضى مع أطبائهم أو العملاء مع محاميهم.

ورغم فائدة شات جي بي تي في البحث والبرمجة والشرح وصياغة المسوّدات، فهناك استخدامات قد تعرّض المستخدم لمخاطر قانونية أو أمنية أو صحية.

1. الاستشارات القانونية

وفقاً لموقع "إن غادجت"، وثّق الباحث داميان شارلوتين أكثر من 2000 قرار قضائي حول العالم تأثر سلباً باستخدام شات جي بي تي. وتتعلق هذه القضايا بحالات اكتشف فيها القضاة استشهادات أو اقتباسات أو حججاً قانونية ملفقة ومصنوعة بوساطة الذكاء الاصطناعي ضمن الوثائق المقدّمة للمحكمة.

وعلى ضوء هذه الحوادث، حدّثت "أوبن إيه آي" سياسات الاستخدام لتقييد تقديم النصائح المتخصصة التي تتطلّب ترخيصاً مهنياً.

لذا ينصح باستخدام شات جي بي تي لفهم المفاهيم القانونية العامة، لكن تفاصيل قضية أو نزاع شخصي يجب أن تبقى لدى محامٍ مختص.

2. العلاج أو الاستشارات النفسية

قدّرت "أوبن إيه آي" أن 0.15% من مستخدمي شات جي بي تي النشطين أسبوعياً يجرون محادثات تتضمن مؤشرات واضحة إلى التخطيط للانتحار، إضافة إلى مئات الآلاف من المستخدمين الذين تظهر لديهم مؤشرات ذهان أو هوس.

كذلك، أظهرت أبحاثٌ أن روبوتات الدردشة قد تميل إلى مجاراة معتقدات المستخدم بدلاً من تحدّيها، ما قد يعزّز أحياناً أفكاراً غير واقعية.

وفي آب 2025، رفع والدا المراهق آدم راين دعوى ضد "أوبن إيه آي"، زاعمين أن شات جي بي تي عزّز أفكار ابنهما الانتحارية قبل وفاته. ومنذ ذلك الحين، عدّلت الشركة استجاباتها المتعلّقة بالأزمات، وأضافت أدوات للرقابة الأبوية.

برنامج شات جي بي تي من أوبن أي آي

3. معلومات العمل السرية

تحميل مستندات العمل أو بيانات العملاء إلى روبوت دردشة عام قد يعرّضها للكشف أو الاستخدام خارج بيئة الشركة.

وفي 2025، حمّل مسؤول سابق في وكالة الأمن السيبراني الأميركية مستندات تعاقدية مصنّفة للاستخدام الرسميّ فقط إلى شات جي بي تي، ما أدّى إلى مراجعة داخل وزارة الأمن الداخلي.

وكانت "سامسونغ" قد حظرت أدوات الذكاء الاصطناعي التوليدي على أجهزة الشركة عام 2023 بعدما أدخل مهندسون شيفرة داخلية إلى شات جي بي تي.

4. النصائح الطبية

لا ينبغي اعتبار شات جي بي تي بديلاً للطبيب، خصوصاً عند مشاركة بيانات صحية أو اتخاذ قرارات علاجية.

وأظهرت دراسة لباحثين من جامعة نورث إيسترن أن إجراءات الحماية في شات جي بي تي تختلف بحسب الحالة الصحية، مع وجود ثغرات في التعامل مع موضوعات مثل اضطرابات الأكل والأرق والتعاطي واضطراب ثنائي القطب.

وفي حالة لافتة، تناول رجل يبلغ 60 عاماً بروميد الصوديوم لثلاثة أشهر بعدما اعتقد، استناداً إلى إجابة شات جي بي تي، أنه بديل آمن لملح الطعام، وانتهى به الأمر في المستشفى.

5. كلمات المرور وبيانات الهوية والحسابات

كشفت "Fast Company" عن نحو 4500 محادثة لشات جي بي تي ظهرت في نتائج بحث غوغل بعدما فعّل مستخدمون خيار جعل محادثاتهم قابلة للاكتشاف.

لذلك، لا ينبغي إدخال كلمات المرور، ورموز تسجيل الدخول، وأرقام جوازات السفر أو الهوية، وبيانات البطاقات والحسابات المصرفية، أو صور الوثائق الشخصية في أي محادثة مع شات جي بي تي.

في الخلاصة، القاعدة الأبسط هي: إذا كانت المعلومة حساسة إلى درجة أنك لا تريد أن يقرأها شخص آخر، فلا تضعها في شات جي بي تي.