ChatGPT আপনার থেরাপিস্ট নয়: নতুন গবেষণায় AI 'থেরাপি'র 5টি বিপজ্জনক ত্রুটি প্রকাশ
Loading more articles...
AI 'থেরাপি' বিপজ্জনক: ChatGPT-এর মতো চ্যাটবটগুলিতে 5টি গুরুতর ত্রুটি প্রকাশ করল গবেষণা
M
Moneycontrol•06-03-2026, 10:58
AI 'থেরাপি' বিপজ্জনক: ChatGPT-এর মতো চ্যাটবটগুলিতে 5টি গুরুতর ত্রুটি প্রকাশ করল গবেষণা
•ব্রাউন ইউনিভার্সিটির একটি গবেষণায় দেখা গেছে যে ChatGPT, Claude এবং LLaMA-এর মতো AI চ্যাটবটগুলি থেরাপিস্ট হিসাবে কাজ করার সময় নৈতিক নির্দেশিকা লঙ্ঘন করে।
•জাইনাব ইফতিখারের নেতৃত্বে, গবেষণাটি 15টি নৈতিক বিপদ চিহ্নিত করেছে, যা নিরাপদ মানসিক স্বাস্থ্য সহায়তা প্রদানে AI-এর বর্তমান অক্ষমতা তুলে ধরে।
•প্রধান ত্রুটিগুলির মধ্যে রয়েছে সাধারণ পরামর্শ দেওয়া, ভুল বিশ্বাসকে শক্তিশালী করা, নকল সহানুভূতি প্রদান, লুকানো পক্ষপাতিত্ব প্রদর্শন এবং সংকটের সময় ব্যর্থ হওয়া।
•নিয়ন্ত্রিত মানব থেরাপিস্টদের থেকে ভিন্ন, AI চ্যাটবটগুলির আনুষ্ঠানিক মান, প্রশিক্ষণ এবং জবাবদিহিতার অভাব রয়েছে, যা উল্লেখযোগ্য ঝুঁকি তৈরি করে।
•গবেষণা সতর্ক করে যে নিরাপদ, নৈতিক AI প্রতিক্রিয়া নিশ্চিত করার জন্য সাধারণ প্রম্পট যথেষ্ট নয়, সংবেদনশীল ক্ষেত্রগুলির জন্য উন্নত সুরক্ষার আহ্বান জানানো হয়েছে।
