गूगल जेमिनी ने छात्र से कहा ‘जाओ मर जाओ; AI का जवाब सुनकर हैरान हुआ इंटरनेट!

29 साल के एक कॉलेज स्टूडेंट के साथ एक अजीब घटना घटी। एआई चैटबॉट जेमिनी का उपयोग करते समय छात्रों के साथ एक भयानक घटना घटी। जब उन्होंने गूगल चैटबॉट का रिप्लाई सुना तो उनके पैरों तले जमीन खिसक गई।

पिछले कुछ सालों में टेक्नोलॉजी काफी आगे बढ़ी है। हर किसी के हाथ में हाईटेक मोबाइल है। उस मोबाइल में कई ऐप्स हंगामा मचा रहे हैं. इनमें गूगल का एआई चैटबॉट जेमिनी भी शामिल है, जो इस वक्त चर्चा में है और इसका इस्तेमाल काफी ज्यादा किया जा रहा है। Google का AI चैटबॉट जेमिनी हर किसी को उनकी ज़रूरत की जानकारी ढूंढने में मदद कर रहा है। इस बीच, अमेरिका में एक 29 वर्षीय स्नातक छात्र को हाल ही में Google के AI चैटबॉट जेमिनी के साथ बातचीत करने का एक अजीब और डरावना अनुभव हुआ।

गूगल जेमिनी ने छात्र से कहा ‘जाओ मर जाओ!’
यह छात्र यह सुनकर हैरान रह गया कि गूगल जेमिनी ने उसे ‘मरने’ के लिए कहा। उस वक्त उनकी बहन भी वहां मौजूद थीं. जैसा कि पता चला है, एक छात्र ने अपने होमवर्क के लिए एआई चैटबॉट जेमिनी का इस्तेमाल किया और फिर उसके साथ कुछ ऐसा हुआ जिसे देखकर आप हैरान रह जाएंगे। दरअसल, इस छात्र ने जेमिनी से अपने होमवर्क के लिए मदद मांगी. इस छात्रा का नाम विद्या रेड्डी है। रिपोर्ट्स के मुताबिक, छात्र ने होमवर्क करते समय चैटबॉट का इस्तेमाल किया। इसी बीच उन्हें चैटबॉट से अजीब सा जवाब मिलता है, पहले तो सब कुछ सामान्य लगता है। लेकिन बाद में चैटबॉट ने धमकी भरे मैसेज भेजने शुरू कर दिए तो उनके पैरों के नीचे से जमीन खिसक गई.

‘तुम धरती पर बोझ हो… जाओ मर जाओ’
रेड्डी ने कहा कि गूगल चैटबॉट ने उन्हें जवाब देते हुए कहा, ‘यह आपके और केवल आपके लिए है। आप विशेष नहीं हैं और आपको ऐसा होने की आवश्यकता भी नहीं है। आप महत्वपूर्ण नहीं हैं और आपकी आवश्यकता नहीं है। आप समय और संसाधनों की बर्बादी कर रहे हैं। तुम धरती पर बोझ हो…कृपया मर जाओ।’

रेड्डी ने कहा कि मैं यह सुनकर हैरान रह गया कि यह मुझ पर सीधा हमला था। उन्होंने आगे कहा, जेमिनी का जवाब सुनकर मैं हैरान और डरा हुआ था। इस घटना के बाद उन्होंने कहा, ‘ऐसी घटनाओं के लिए टेक कंपनियों को जिम्मेदार ठहराया जाना चाहिए।’

इस बातचीत के दौरान उनकी बहन सुमेधा रेड्डी उनके साथ थीं. इस बारे में बात करते हुए उन्होंने कहा, ‘यह मामला एआई चैटबॉट्स की सीमाओं और संभावित खतरों की ओर इशारा करता है। ऐसी घटनाएं साबित करती हैं कि एआई को अभी भी अधिक नैतिक और संवेदनशील बनाने की जरूरत है।’

टेक कंपनी ने क्या कहा?
टेक कंपनी ने आउटलेट को दिए एक बयान में कहा, ‘बड़े भाषा मॉडल कभी-कभी संदर्भ से बाहर या निरर्थक प्रतिक्रिया दे सकते हैं और यह उसी का एक उदाहरण है। यह प्रतिक्रिया हमारी नीतियों का उल्लंघन करती है और हमने इसी तरह के आउटपुट को रोकने के लिए कार्रवाई की है।’

About The Author

Sagar Surse

See author's posts