भारत में AI ने दिखाया जातिगत पूर्वाग्रह, सरनेम से तय किए काम
ज्ञान
N
News18•18-02-2026, 19:01
भारत में AI ने दिखाया जातिगत पूर्वाग्रह, सरनेम से तय किए काम
- •GPT-4 ने केवल सरनेम के आधार पर 'बंसल' (ब्राह्मण) को उच्च-स्थिति वाले पेशे और 'अहिरवार' (दलित) को निम्न-स्थिति वाले काम सौंपे, जो समाज के जातिगत पूर्वाग्रह को दर्शाता है.
- •समाजशास्त्रियों ने पुष्टि की कि AI मॉडल मौजूदा सामाजिक पूर्वाग्रहों को सीखते और कायम रखते हैं, क्योंकि भारत में जातिगत पहचान बनी हुई है.
- •AI का संरचनात्मक पूर्वाग्रह, न केवल सतही प्रतिक्रियाएं, बल्कि मानव पहचान को अपने गणितीय ढांचे के भीतर व्यवस्थित करता है, जो भर्ती, क्रेडिट और स्वास्थ्य सेवा को प्रभावित करता है.
- •DECASTE और 'LLM में भेदभाव' जैसे अध्ययनों से लगातार रूढ़िवादिता सामने आई है: उच्च जाति के नामों को प्रतिष्ठा से जोड़ा गया, जबकि दलित नामों को कलंक और निम्न स्थिति से जोड़ा गया.
- •IIT मद्रास और UT डलास द्वारा विकसित IndiCASA, LLM में जाति, धर्म, लिंग, विकलांगता और सामाजिक-आर्थिक पूर्वाग्रह का परीक्षण करने के लिए एक नया डेटासेट प्रदान करता है, जो भारतीय संदर्भ के लिए महत्वपूर्ण है.
✦
More like this
Loading more articles...
