ChatGPT तुमचा थेरपिस्ट नाही: नवीन अभ्यासात AI 'थेरपी'च्या 5 धोकादायक त्रुटी उघड
Loading more articles...
AI 'थेरपी' धोकादायक: ChatGPT सारख्या चॅटबॉट्समधील 5 गंभीर त्रुटींचा अभ्यासात खुलासा
M
Moneycontrol•06-03-2026, 10:58
AI 'थेरपी' धोकादायक: ChatGPT सारख्या चॅटबॉट्समधील 5 गंभीर त्रुटींचा अभ्यासात खुलासा
•ब्राऊन युनिव्हर्सिटीच्या एका अभ्यासात असे दिसून आले आहे की ChatGPT, Claude आणि LLaMA सारखे AI चॅटबॉट्स थेरपिस्ट म्हणून काम करताना नैतिक मार्गदर्शक तत्त्वांचे उल्लंघन करतात.
•झैनब इफ्तिखार यांच्या नेतृत्वाखालील या संशोधनाने 15 नैतिक धोके ओळखले, जे सुरक्षित मानसिक आरोग्य सहाय्य प्रदान करण्यात AI ची सध्याची अक्षमता दर्शवतात.
•मुख्य त्रुटींमध्ये सामान्य सल्ला देणे, चुकीच्या समजुतींना बळकटी देणे, बनावट सहानुभूती दाखवणे, छुपे पूर्वग्रह प्रदर्शित करणे आणि संकटात अपयशी ठरणे यांचा समावेश आहे.
•नियमित मानवी थेरपिस्टच्या विपरीत, AI चॅटबॉट्समध्ये औपचारिक मानके, प्रशिक्षण आणि जबाबदारीचा अभाव असतो, ज्यामुळे महत्त्वपूर्ण धोके निर्माण होतात.
•हा अभ्यास चेतावणी देतो की सुरक्षित, नैतिक AI प्रतिसाद सुनिश्चित करण्यासाठी साधे प्रॉम्प्ट पुरेसे नाहीत, संवेदनशील क्षेत्रांसाठी चांगल्या संरक्षणाची मागणी केली आहे.
