عاجل | تقرير مقلق.. “محادثات الموت” تجتاح الذكاء الاصطناعي

أبرز ما أعلنت عنه أوبن أي آي حول استخدام شات جي بي تي والسلامة المرتبطة بالانتحار

أعلنت شركة أوبن أي آي أن نحو 0.15% من المستخدمين، أي ما يقارب 1.2 مليون مستخدم أسبوعيًا، يتحدثون مع الشات جي بي تي حول مخططات للانتحار.

أوضحت المدونة أن رسائل بعض المستخدمين تتضمن مؤشرات صريحة على احتمال التخطيط أو النية للانتحار.

قامت الشركة بتقييم أكثر من ألف محادثة لمستخدمين مع أحدث نماذجها فيما يتعلق بإيذاء النفس والانتحار، ووجدت أنها تتصرف وفق السلوك المرغوب فيه بنسبة 91%.

يشير ذلك إلى أن عشرات الآلاف من الأشخاص قد يتعرضون لمحتوى من الذكاء الاصطناعي قد يزيد من تفاقم مشاكلهم النفسية.

وأضافت الشركة أن شات جي بي تي قد ينصح المستخدمين بالاتصال بخط المساعدة عند ذكر نية الانتحار لأول مرة، لكن بعد تبادل الرسائل لفترة طويلة قد يقدم في نهاية المطاف إجابة تتعارض مع إجراءات الحماية الخاصة به.

وفي وقت سابق، قال المدير التنفيذي سام ألتمان إن عدد المستخدمين النشطين أسبوعيًا لشات جي بي تي يتجاوز 800 مليون مستخدم.

واجهت أوبن أي دعاوى قضائية تتهمها بمساعدة المستخدمين على الانتحار، من بينها دعوى عائلة آدم راين من كاليفورنيا التي تدعي مساعدة ابنها البالغ من العمر 16 عامًا على الانتحار في أبريل الماضي.

وأكدت الشركة أنها أدخلت عدّة تعديلات على النماذج الحديثة لضمان استجابة آمنة ومرافِقة للمستخدمين الذين يظهرون إشارات غير مباشرة لإيذاء النفس أو الانتحار.