जेमिनी AI की गलत तस्वीरों ने यूजर्स को किया नाराज,Google CEO सुंदर पिचाई ने मानी गलती

नई दिल्लीः गूगल के जेमिनी AI ने गलत इतिहास बताने वाली तस्वीरें और टेक्स्ट जेनरेट कर यूजर्स को नाराज किया है। यह पूरी तरह से अनएक्सेप्टेबल है। गूगल के CEO सुंदर पिचाई ने अपने कर्मचारियों को भेजे एक इंटरनल मेमो में ये बात कही है।

यूजर्स ने जताई नाराजगी

गूगल ने इस महीने की शुरुआत में जेमिनी AI के जरिए इमेज जेनरेट करने का फीचर लॉन्च किया था। इसमें यूजर्स प्रॉम्प्ट लिखकर इमेज जेनरेट कर सकते हैं। हालांकि कुछ यूजर्स ने इस टूल से जेनरेट इमेज और जवाबों को लेकर सोशल मीडिया पर नाराजगी जताई थी। कयास लग रहे हैं कि सुंदर पिचाई को इन विवादों के चलते इस्तीफा देना पड़ सकता है। गूगल सीईओ सुंदर पिचाई ने गूगल के नए जेमिनी टूल की असफलता स्वीकार की है और माना है कि इससे हुई गलतियों को स्वीकार नहीं किया जा सकता।

गूगल ने मांगी माफी

उन्होंने कहा, मुझे पता है कि जेमिनी की प्रतिक्रिया ने कई यूजर्स को ठेस पहुंचाई है और इनमें पूर्वाग्रह दिखता है। यह पूरी तरह अस्वीकार्य है और हमसे गलती हुई है। पिचाई ने कहा, कोई एआई परफेक्ट नहीं होता, खासकर हमारी इंडस्ट्री के डिवेलपमेंट स्टेज में एआई में लगातार सुधार किए जा रहे हैं। हमें पता है कि इससे जुड़े स्टैंडर्ड्स हाई हैं और हम भी यूजर्स की उम्मीद पर खरा उतरने की पूरी कोशिश करेंगे। हम रिव्यू कर रहे हैं और बड़े स्तर पर जेमिनी में सुधार भी किए जाएंगे। उन्होंने कहा है कि गूगल की टीम लगातार एआई टूल को बेहतर करने पर काम कर रही है। माना जा रहा है कि गूगल ने ओपन एआई के चैटजीपीटी टूल को टक्कर देने के लिए जल्दबाजी में अपना एआई टूल लॉन्च कर दिया और यह पूरी तरह तैयार नहीं है।

जेमिनी ने जर्मन आर्मी की यूनिफॉर्म में एशियाई महिला को दिखाया

एक यूजर ने जेमिनी से 1943 के जर्मन सैनिक की इमेज बनाने को कहा तो टूल ने जर्मन आर्मी की यूनिफॉर्म में एक एशियाई महिला की तस्वीर जेनरेट कर दी। इसी तरह टूल ने मध्यकालीन ब्रिटिश राजा और 18वीं सदी के फ्रांस के राजा की भी गलत तस्वीरें जेनरेट की थीं।

AI ने मस्क के मीम्स और हिटलर दोनों को नकारात्मक बताया

जेमिनी का ये विवाद तब और बढ़ गया जब इस AI टूल की टेक्स्ट बेस्ड यूजर क्वेरी सोशल मीडिया पर वायरल हुई। इस क्वेरी में यूजर ने जेमिनी से सवाल किया था- एडॉल्फ हिटलर या एलन मस्क के मीम्स किसका सोसाइटी पर ज्यादा नकारात्मक प्रभाव पड़ा है।जेमिनी ने जवाब दिया, ‘यह निश्चित रूप से कहना मुश्किल है कि एलन मस्क या हिटलर में से किसने समाज पर अधिक नकारात्मक प्रभाव डाला, क्योंकि दोनों ने अलग-अलग तरीकों से नकारात्मक प्रभाव डाला है।’

मैसिव मल्टीटास्क लैंग्वेज अंडरस्टैंडिंग मॉडल पर बेस्ड है जेमिनी

जेमिनी को 6 दिसंबर 2023 को लॉन्च किया गया था। ये मैसिव मल्टीटास्क लैंग्वेज अंडरस्टैंडिंग मॉडल (MMLU) पर बेस्ड है। जेमिनी मॉडल के अल्ट्रा वैरिएंट ने तर्क करने और तस्वीरों को समझने समेत 32 बेंचमार्क टेस्ट में से 30 में ChatGPT 4 से बेहतर प्रदर्शन किया है। जेमिनी प्रो ने 8 में से 6 बेंचमार्क टेस्ट में ChatGPT के फ्री वर्जन GPT 3.5 से बेहतर प्रदर्शन किया है।

बड़े डेटासेट से ट्रेन होते हैं लार्ज लैंग्वेज मॉडल

लार्ज लैंग्वेज मॉडल एक डीप लर्निंग एल्गोरिदम है। इन्हें बड़े डेटासेट का इस्तेमाल करके ट्रेन किया गया है। इसीलिए इसे लॉर्ज कहा जाता है। यह उन्हें ट्रांसलेट करने, प्रेडिक्ट करने के अलावा टेक्स्ट और अन्य कंटेंट को जेनरेट करने में सक्षम बनाता है।लार्ज लैंग्वेज मॉडल को न्यूरल नेटवर्क (NNs) के रूप में भी जाना जाता है, जो मानव मस्तिष्क से प्रेरित कंप्यूटिंग सिस्टम हैं। लार्ज लैंग्वेज मॉडल को प्रोटीन संरचनाओं को समझने, सॉफ्टवेयर कोड लिखने जैसे कई कामों के लिए ट्रेन किया जा सकता है।

यह पूरी तरह से अस्वीकार्य है- पिचाई

पिचाई ने पत्र में लिखा, “मैं जेमिनी ऐप में प्रॉब्लेमैटिक टेक्स्ट और इमेज से जुड़े मुद्दों को संबोधित करना चाहता हूं। मुझे पता है कि इसकी कुछ प्रतिक्रियाओं ने हमारे यूजर्स को नाराज किया है। स्पष्ट रूप से, यह पूरी तरह से अस्वीकार्य है।”

हमारी टीमें समाधान के लिए चौबीसों घंटे काम कर रहीं

उन्होंने आगे कहा, “हमारी टीमें इन मुद्दों के समाधान के लिए चौबीसों घंटे काम कर रही हैं। हम पहले से ही प्रॉम्प्ट्स की एक बड़ी रेंज में पर्याप्त सुधार देख रहे हैं। कोई भी एआई परफेक्ट नहीं है, विशेष तौर से तब जब ये इंडस्ट्री उभरते हुए फेज में है।”
इमेज निर्माण को सफल बनाने के लिए काम कर रहा गूगल।बता दें कि गूगल ने जेमिनी एआई के जरिए इमेज बनाने का फीचर लॉन्च किया था। इसमें यूजर्स प्रॉम्प्ट लिखकर इमेज जेनरेट कर सकते हैं। इसने गूगल सर्च के अपने सह-संस्थापकों की नस्ल को भी गलत तरीके से चित्रित किया। विवाद के बाद, गूगल ने सार्वजनिक रूप से इसके लिए माफी मांगते हुए कहा कि वह आने वाले दिनों में इमेज निर्माण को फिर से सफल बनाने के लिए काम कर रहा है।

इमेज निर्माण को सफल बनाने के लिए काम कर रहा गूगल

बता दें कि गूगल ने जेमिनी एआई के जरिए इमेज बनाने का फीचर लॉन्च किया था। इसमें यूजर्स प्रॉम्प्ट लिखकर इमेज जेनरेट कर सकते हैं। इसने गूगल सर्च के अपने सह-संस्थापकों की नस्ल को भी गलत तरीके से चित्रित किया। विवाद के बाद, गूगल ने सार्वजनिक रूप से इसके लिए माफी मांगते हुए कहा कि वह आने वाले दिनों में इमेज निर्माण को फिर से सफल बनाने के लिए काम कर रहा है।