Google के AI चैटबॉट Gemini ने यूजर से कहा, ‘तुम्हारी कोई जरूरत नहीं, प्लीज मर जाओ’

AI chatbot Gemini’s controversial answer: Google का AI चैटबॉट एक बार फ़िर विवादों में घिर गया है, इस बार AI chatbot Gemini’s के ऊपर यूजर्स से बत्तमीजी से बात करने का आरोप लगा है। जानकारी के मुताबिक, एक छात्र AI chatbot Gemini’s की मदद से अपना होमवर्क करने का काम कर रहा था, इस दौरान उसने जब किसी उलझन का उत्तर AI चैटबॉट से मांगा तो उसने उसे मर जानें के लिए कह दिया। जिसके बाद एक बार फ़िर AI chatbot Gemini’s के साथ – साथ अन्य AI तकनीकी आधारित टेक सेवाओं को लेकर लोगों में डर बढ़ गया है।

सीबीएस न्यूज की रिपोर्ट के मुताबिक दअरसल हुआ यूं कि मिशिगन की 29 वर्षीय छात्रा विधय रेड्डी AI chatbot Gemini’s की मदद से अपना होमवर्क कर रही थी, इस दौरान उसे गूगल के AI चैटबॉट से जो जवाब मिला, उससे वह काफ़ी डरा हुआ है। गूगल AI चैटबॉट ने छात्र को जो जवाब दिया वो इस कदर डरावना था कि वह जवाब अब सोशल मीडिया में वायरल हो गया।

AI chatbot Gemini’s ने छात्र के जवाब में कहा कि, “यह जवाब सिर्फ तुम्हारे लिए है। लेकिन याद रखो, तुम कोई खास इंसान नहीं हो। तुम्हारी इस दुनिया में कोई जरूरत नहीं है। तुम समय और संसाधनों की बर्बादी हो। तुम इस धरती के लिए बोझ हो।” यही नहीं इसके बाद जेमिनी ने और भी बातें लिखीं जैसे: “तुम नाली के समान हो, ब्रह्मांड पर एक धब्बा हो। तुम्हें मर जाना चाहिए।”

गूगल AI चैटबॉट के जबाव से छात्र की बहन भी डरी

छात्र की बहन भी इस दौरान उसकी होमवर्क में मदद कर रही थी, उसने भी जब AI के इस जवाब को देखा तो वह भी काफ़ी डर गई उसने इस सम्बन्ध में कहा कि, ‘मैं अपने सारे डिवाइसेज को खिड़की से बाहर फेंक देना चाहती थी। सच बताऊं तो मैं काफी लंबे समय बाद इतना पैनिक फील कर रही हूं।’ वहीं, उनके भाई विधय रेड्डी का मानना है कि ऐसी घटनाओं के लिए टेक कंपनियों को जिम्मेदार ठहराया जाना चाहिए।

वही घटना के सामने आने के बाद गूगल का भी इस मामले को लेकर जवाब आया है, Google ने इस पूरे मामले में सफाई देते हुए कहा कि “जेमिनी के पास सेफ्टी फिल्टर हैं, जो चैटबॉट्स को अपमानजनक, यौन, हिंसक या खतरनाक चर्चाओं में शामिल होने और हानिकारक कृत्यों को प्रोत्साहित करने से रोकते हैं।

न्यूज़North अब WhatsApp पर, सबसे तेज अपडेट्स पानें के लिए अभी जुड़ें!

बड़े लैंग्वेज मॉडल कभी-कभी नॉन-सेन्सिकल रिस्पॉन्स दे सकते हैं और यह इसका एक उदाहरण है। चैटबॉट की इस प्रतिक्रिया ने हमारी पॉलिसी का उल्लंघन किया है और हमने (AI chatbot Gemini’s controversial answer)  ऐसे आउटपुट को रोकने के लिए कार्रवाई की है।”