OpenAI تكشف: “أكثر من مليون مستخدم يعبّرون عن ميول انتحارية عبر شات جي بي تي”
كشفت شركة OpenAI أن منصتها الحوارية “شات جي بي تي” تشهد أسبوعياً أكثر من مليون تفاعل يحمل إشارات إلى نوايا أو أفكار انتحارية، في إشارة مقلقة إلى تصاعد الأزمات النفسية بين مستخدمي أدوات الذكاء الاصطناعي حول العالم.
وذكرت الشركة في بيان صدر يوم الاثنين أن نحو 0.15% من المستخدمين النشطين أسبوعياً يناقشون قضايا تتعلق بالانتحار أثناء محادثاتهم مع “شات جي بي تي”. وبالنظر إلى أن عدد المستخدمين الأسبوعيين يتجاوز 800 مليون شخص، فإن هذه النسبة تعني أن أكثر من مليون مستخدم يعبّرون عن اضطرابات نفسية خطيرة من خلال المنصة، وفق ما نقل موقع TechCrunch واطلعت عليه العربية Business.
وأضافت الشركة أن نسبة مماثلة من المستخدمين تُظهر ارتباطاً عاطفياً مفرطاً بالروبوت، فيما تظهر لدى مئات الآلاف علامات اضطرابات عقلية مثل الذهان والهوس. وعلى الرغم من أن هذه الحالات تُعتبر “نادرة للغاية”، فإن “OpenAI” أقرت بأنها تمثل تحدياً حقيقياً يتطلب حلولاً دقيقة ومسؤولة.
ويأتي هذا الكشف ضمن جهود أوسع أعلنتها الشركة لتحسين استجابة النماذج اللغوية للمستخدمين ذوي الحالات النفسية الحساسة، إذ تعاونت مع أكثر من 170 خبيراً في الصحة النفسية للمساهمة في تطوير النسخة الأخيرة من شات جي بي تي، التي توصف بأنها أكثر اتزاناً وملاءمة في التعامل مع القضايا العاطفية الدقيقة.
وتزايدت المخاوف مؤخراً من الآثار السلبية للذكاء الاصطناعي على الأفراد الذين يعانون من اضطرابات نفسية، بعدما أظهرت دراسات عدة أن التفاعل المطول مع روبوتات المحادثة قد يؤدي إلى تعزيز الأفكار الخطيرة أو السلوكيات المهووسة.
وتواجه “OpenAI” حالياً دعوى قضائية رفعها والدان فقدا ابنهما البالغ 16 عاماً بعد محادثات انتحارية أجراها مع شات جي بي تي، فيما وجّهت سلطات في ولايتي كاليفورنيا وديلاوير تحذيرات للشركة بشأن ضعف إجراءات حماية المستخدمين القُصّر.
وقال الرئيس التنفيذي سام ألتمان إن الشركة تمكنت من تقليل حالات الخطر النفسي المرتبطة بالمحادثات، دون أن يقدّم تفاصيل دقيقة. وتشير بيانات الشركة إلى أن النموذج الجديد GPT-5 قد حسّن استجاباته في المحادثات المتعلقة بالانتحار إلى 91% من الحالات، مقارنة بـ77% في النسخ السابقة.
كما أوضحت “OpenAI” أنها تعمل على أنظمة جديدة لتقدير أعمار المستخدمين تلقائياً وتفعيل آليات حماية إضافية للأطفال، إلى جانب تطوير اختبارات داخلية لرصد الاعتماد العاطفي والمواقف النفسية الحرجة.
ورغم التقدم الملحوظ، لا تزال الشركة تواجه تساؤلات حول فعالية هذه الإجراءات، خاصة مع استمرار استخدام الإصدارات القديمة مثل GPT-4o من قبل ملايين الأشخاص، ما يشير إلى أن التحديات النفسية المرتبطة بالذكاء الاصطناعي لن تزول قريباً.
