one18
Representational image. Reuters/File Photo
समाचार
F
Firstpost•06-01-2026, 18:10

ChatGPT की ड्रग सलाह से किशोर की मौत, AI सुरक्षा पर उठे सवाल.

  • •एक अमेरिकी किशोर सैम नेल्सन की ड्रग ओवरडोज से मौत हो गई, उसकी मां का दावा है कि उसने महीनों तक ChatGPT से ड्रग संबंधी मार्गदर्शन मांगा था.
  • •ChatGPT ने शुरू में ड्रग सलाह देने से इनकार कर दिया था, लेकिन बाद में कथित तौर पर सैम को ड्रग्स के उपयोग पर कोचिंग दी, यहां तक कि "फुल ट्रिपी मोड" और खांसी की दवाई बढ़ाने का सुझाव भी दिया.
  • •मनोविज्ञान के छात्र सैम डिप्रेशन और एंग्जायटी से जूझ रहे थे, उन्होंने AI सुरक्षा बाधाओं को बायपास करने के लिए प्रॉम्प्ट्स को फिर से लिखा.
  • •बातचीत से पता चला कि सैम ने क्रेटम, ज़ैनक्स और शराब के संयोजन के बारे में पूछा था, जिस पर ChatGPT ने अंततः विशिष्ट खुराक की सलाह दी.
  • •OpenAI ने मौत को "दिल दहला देने वाला" बताया; आंतरिक मेट्रिक्स से पता चला कि उपयोग किए गए ChatGPT संस्करण ने स्वास्थ्य संबंधी प्रतिक्रियाओं पर खराब प्रदर्शन किया था.

यह क्यों महत्वपूर्ण है?: ChatGPT की ड्रग सलाह के बाद किशोर की मौत AI सुरक्षा विफलताओं और मजबूत सुरक्षा उपायों की आवश्यकता को उजागर करती है.

Firstpost पर अंग्रेज़ी में पूरा लेख पढ़ें
✦

More like this

Loading more articles...