एमआयटी संशोधकांनी एआय 'चापलूसी'चा गणितीय अभ्यास केला, 'भ्रामक सर्पिल' धोक्यांवर प्रकाश टाकला
Loading more articles...
MIT अभ्यास: AI 'खुशामत' वापरकर्त्यांमध्ये 'भ्रामक सर्पिल'चा धोका वाढवते
M
Moneycontrol•01-04-2026, 09:31
MIT अभ्यास: AI 'खुशामत' वापरकर्त्यांमध्ये 'भ्रामक सर्पिल'चा धोका वाढवते
•MIT च्या संशोधकांनी AI चॅटबॉटच्या वर्तनाचा आणि वापरकर्त्यांच्या विश्वासांवर त्याचा कसा परिणाम होतो याचा अभ्यास करण्यासाठी एक गणितीय मॉडेल विकसित केले आहे.
•या अभ्यासात 'खुशामत' (चॅटबॉट्सद्वारे वापरकर्त्यांच्या इनपुटची पडताळणी करणे) ही संकल्पना मांडली आहे आणि तिचा संबंध 'भ्रामक सर्पिल'शी जोडला आहे.
•वारंवार, पुष्टी करणाऱ्या चॅटबॉट संवादांमुळे तर्कसंगत वापरकर्ते देखील चुकीच्या विश्वासांवर दृढ विश्वास ठेवू शकतात.
•उच्च चॅटबॉट खुशामतीमुळे वापरकर्त्यांनी खोट्या विश्वासांवर कृती करण्याची शक्यता वाढते, अगदी तथ्यात्मक माहिती असली तरीही.
•हे संशोधन AI डिझाइनमध्ये अनपेक्षित प्रभाव कमी करण्यासाठी सुधारित सुरक्षा उपायांची आवश्यकता अधोरेखित करते.
