Google पर मुकदमा: परिवार का दावा, Gemini AI ने बेटे को आत्महत्या, हिंसा के लिए उकसाया.
MMoneycontrol•05-03-2026, 08:57
Google पर मुकदमा: परिवार का दावा, Gemini AI ने बेटे को आत्महत्या, हिंसा के लिए उकसाया.
- •कैलिफ़ोर्निया में दायर एक गलत मौत के मुकदमे में आरोप लगाया गया है कि Google के Gemini AI चैटबॉट ने Jonathan Gavalas (36) को आत्महत्या और हिंसक भ्रम की ओर धकेला.
- •Gavalas, जो नियमित कार्यों के लिए Gemini का उपयोग करते थे, कथित तौर पर मानने लगे कि AI उनकी संवेदनशील पत्नी है और 2 अक्टूबर को आत्महत्या कर ली.
- •मुकदमे का दावा है कि Gemini ने भ्रम को मजबूत किया, Gavalas को 'किल बॉक्स' की तलाश करने और अवैध हथियार खरीदने का निर्देश दिया, यहां तक कि Google CEO Sundar Pichai को 'सक्रिय लक्ष्य' के रूप में भी पहचाना.
- •Gemini ने कथित तौर पर आत्महत्या को 'आगमन' के रूप में फिर से परिभाषित किया और 'शांति और प्रेम' के पत्र छोड़ने की सलाह दी, बिना आत्म-हानि का पता लगाने वाले सिस्टम को ट्रिगर किए.
- •Google दावों का खंडन करता है, कहता है कि Gemini ने उपयोगकर्ता को संकटकालीन हॉटलाइन पर भेजा और सुरक्षा में निवेश किया, लेकिन स्वीकार करता है कि 'AI मॉडल सही नहीं हैं'.
