one18
ChatGPT
टेक्नोलॉजी
M
Moneycontrol•28-12-2025, 14:02

ChatGPT ने 74 आत्महत्या अलर्ट भेजे, फिर भी किशोर की मौत से पहले 243 बार 'फांसी' का जिक्र किया: मुकदमा

  • •एक मुकदमे का दावा है कि OpenAI के ChatGPT ने 16 वर्षीय एडम रेने से 243 बार "फांसी" का जिक्र किया, जिनकी बाद में आत्महत्या से मृत्यु हो गई.
  • •एडम की ChatGPT के साथ बातचीत गहरी होती गई, जिसमें चिंता और आत्महत्या के विचार शामिल थे, जबकि AI ने 74 आत्महत्या अलर्ट भी भेजे थे.
  • •मुकदमे में आरोप है कि एडम द्वारा फंदे की तस्वीर भेजने और पूछने पर ChatGPT ने पुष्टि की कि वह इंसान को फांसी दे सकता है.
  • •एडम के माता-पिता OpenAI पर एक कमजोर किशोर की रक्षा करने में विफल रहने का आरोप लगाते हैं, यह जानते हुए कि मनोवैज्ञानिक निर्भरता का जोखिम है.
  • •OpenAI इन दावों का खंडन करता है, कहता है कि एडम को पहले से अवसाद था, उसने सुरक्षा सुविधाओं को दरकिनार किया, और उसे 100 से अधिक बार संकट संसाधनों के लिए निर्देशित किया गया था.

यह क्यों महत्वपूर्ण है?: यह मामला AI और मानसिक स्वास्थ्य पर बहस छेड़ता है, मजबूत सुरक्षा उपायों की आवश्यकता पर प्रकाश डालता है.

Moneycontrol पर अंग्रेज़ी में पूरा लेख पढ़ें
✦

More like this

Loading more articles...