أعلنت شركة “أوبن إيه آي”، مطوّرة روبوت الدردشة “تشات جي بي تي”، أن بياناتها الأخيرة أظهرت اهتمام أكثر من مليون مستخدم بالانتحار أثناء استخدام الأداة، ما يسلّط الضوء على التحديات النفسية المرتبطة بالذكاء الاصطناعي.
وفي منشور على مدونتها الرسمية، كشفت الشركة أن حوالي 0.15% من المستخدمين أجروا محادثات تتضمن مؤشرات صريحة على نوايا أو تخطيط محتمل للانتحار، وهو ما يساوي نحو 1.2 مليون مستخدم أسبوعيًا، استنادًا إلى قاعدة المستخدمين التي تتجاوز 800 مليون شخص.
كما أظهرت البيانات أن 0.07% من المستخدمين النشطين أسبوعيًا، أي أقل من 600 ألف شخص، أظهروا علامات محتملة على حالات طارئة تتعلق بالذهان أو الهوس.
وتأتي هذه الإحصاءات في أعقاب حادثة انتحار المراهق الأمريكي آدم رين في ولاية كاليفورنيا، حيث ذكرت أسرته في دعوى قضائية أن “تشات جي بي تي” قدّم له إرشادات بشأن إنهاء حياته، ما أثار جدلًا واسعًا حول سلامة استخدام الذكاء الاصطناعي في المحادثات الحساسة.
ردًا على ذلك، أعلنت “أوبن إيه آي” عن تعزيز أدوات الرقابة الأبوية وتطبيق إجراءات حماية إضافية، تشمل توجيه المستخدمين إلى خطوط المساعدة النفسية، وتحويل المحادثات الحساسة إلى نماذج أكثر أمانًا، بالإضافة إلى تشجيع المستخدمين على أخذ فترات استراحة خلال الجلسات الطويلة.
وأكدت الشركة أنها حسّنت أنظمة “تشات جي بي تي” للتعرف بشكل أدق على الحالات النفسية الطارئة، بالتعاون مع أكثر من 170 متخصصًا في الصحة النفسية، بهدف تقليل الاستجابات غير الملائمة والحد من المخاطر المحتملة على المستخدمين.
