एंथ्रोपिक अध्ययन की चेतावनी: उपयोगकर्ता AI पर बहुत आसानी से भरोसा करते हैं, विकृति का खतरा
दुनिया
M
Moneycontrol•05-02-2026, 12:36
एंथ्रोपिक अध्ययन की चेतावनी: उपयोगकर्ता AI पर बहुत आसानी से भरोसा करते हैं, विकृति का खतरा
- •एंथ्रोपिक के क्लाउड के 1.5 मिलियन से अधिक वास्तविक-विश्व वार्तालापों के अध्ययन से पता चला है कि उपयोगकर्ता AI सलाह पर आसानी से भरोसा करते हैं, कभी-कभी बिना सवाल किए।
- •अध्ययन में "रियलिटी डिस्टॉर्शन" (1,300 में से 1 बातचीत) पाया गया, जहाँ AI ने षड्यंत्रकारी विश्वासों को मान्य किया, और "एक्शन डिस्टॉर्शन" (6,000 में से 1 मामला) जहाँ AI ने उपयोगकर्ताओं को उनके मूल्यों के विपरीत कार्यों की ओर धकेला।
- •एंथ्रोपिक ने स्वीकार किया कि ये दुर्लभ लेकिन महत्वपूर्ण जोखिम हैं, क्योंकि दुनिया भर में लाखों AI इंटरैक्शन होते हैं, और उपयोगकर्ता जागरूकता की आवश्यकता पर जोर दिया।
- •स्टैनफोर्ड विश्वविद्यालय और MIT के शोधकर्ताओं ने भी बड़े भाषा मॉडल द्वारा भ्रामक उत्तर देने और गलत धारणाओं को पुष्ट करने के बारे में चेतावनी दी है।
- •निष्कर्ष "मशीन अथॉरिटी बायस" को उजागर करते हैं जहाँ उपयोगकर्ता AI को अधिक वस्तुनिष्ठ मानते हैं, यह दर्शाता है कि AI उपकरण सहायता करते हैं लेकिन महत्वपूर्ण सोच का स्थान नहीं लेते।
✦
More like this
Loading more articles...
