Elon Musk के AI टूल से बवाल! एक कमांड पर यूजर्स बना रहे एडल्ट वीडियो, सेलिब्रिटी भी नहीं सेफ!

Elon Musk की AI कंपनी xAI ने अपनी इमेज और वीडियो जनरेटिंग टूल Grok Imagine के लेटेस्ट अपडेट के साथ सबका ध्यान खींचा है. यह टूल अब X (पहले Twitter) के iOS ऐप पर SuperGrok और Premium+ सब्सक्राइबर्स के लिए उपलब्ध है.

Survey

लेकिन, इस अपडेट में जो सबसे ज्यादा चर्चा में है, वह है नया ‘spicy mode’, जो यूजर्स को यौन रूप से संकेतात्मक (sexually suggestive) कंटेंट बनाने की अनुमति देता है. जी हां, आपने सही पढ़ा. इस नए मोड के जरिए यूजर कोई भी टेक्स्ट प्रॉम्प्ट डालकर 15 सेकंड का वीडियो बना सकते हैं जिसमें नेटिव ऑडियो भी होगा.

Add As A Trusted Source For Google.

Add as a preferred source on Google

सेमी-न्यूड वीडियो को लेकर बवाल

यह वीडियो आंशिक रूप से न्यूड (semi-nude) या रिस्क (risqué) विजुअल्स के साथ आ सकता है. हालांकि कुछ हद तक कंटेंट मॉडरेशन भी किया गया है, फिर भी कई बार ऐसे इमेज या वीडियो सामने आ रहे हैं जिनमें न्यूडिटी की झलक है.

यह देखकर कोई बहुत हैरान नहीं होगा क्योंकि xAI पहले भी इस दिशा में जा चुका है. पिछले महीने कंपनी ने Anime-इंस्पायर्ड AI कंपेनियन लॉन्च किया था जिसकी हाइपर-सेक्सुलाइज्ड वाइब ने काफी बवाल मचाया था. एलन मस्क लगातार Grok को एक “अनफिल्टर्ड” चैटबॉट के रूप में प्रमोट करते रहे हैं और अब ऐसा लगता है कि उनका इमेज और वीडियो जेनरेटर भी उसी रास्ते पर चल रहा है.

इस फीचर की जानकारी तब सामने आई जब xAI के कर्मचारी Mati Roy ने X पर एक पोस्ट में कहा कि यह फीचर न्यूडिटी जेनरेट कर सकता है. हालांकि वह पोस्ट अब डिलीट कर दी गई है, लेकिन फीचर असली है और इसे लेकर विवाद भी शुरू हो गया है.

एक गंभीर चिंता यह भी है कि Grok Imagine के ज़रिए सेलिब्रिटीज के इमेज भी बनाए जा सकते हैं. हालांकि कुछ सेफगार्ड्स मौजूद हैं (जैसे आप “प्रेग्नेंट Donald Trump” जैसे प्रॉम्प्ट नहीं चला सकते), लेकिन इसके दुरुपयोग की संभावना बहुत ज्यादा है.

कम समय में अधिक आउटपुट

फिलहाल, जो इमेज और वीडियो Grok Imagine से निकल रहे हैं, वे अभी भी ‘uncanny valley’ में आते हैं, स्किन काफी शाइनी लगती है और फेशियल फीचर्स कार्टून-जैसे दिखाई देते हैं. लेकिन टेक्स्ट प्रॉम्प्ट डालते ही इतने कम समय में एक से ज्यादा इमेज और वीडियो का मिलना तकनीकी रूप से काफी प्रभावशाली है. यूजर एक क्लिक में एनिमिटेड और स्टाइलाइज्ड वीडियो बना सकते हैं.

एलन मस्क ने दावा किया है कि यह टूल “हर दिन बेहतर होता जाएगा”, लेकिन जैसे-जैसे Grok Imagine सीमाएं तोड़ता जा रहा है, वैसे-वैसे इसके साथ एथिक्स, मॉडरेशन और रिस्पॉन्सिबिलिटी को लेकर गंभीर सवाल उठने लगे हैं.

यह भी पढ़ें: वॉशिंग मशीन में कपड़े धोते समय डाल दें ये चीज, चमक के साथ हो जाएंगे मुलायम..नाम जानकर नहीं होगा यकीन, हर किचन में मौजूद!

Follow Us

Sudhanshu Shubham

सुधांशु शुभम मीडिया में लगभग आधे दशक से सक्रिय हैं. टाइम्स नेटवर्क में आने से पहले वह न्यूज 18 और आजतक जैसी संस्थाओं के साथ काम कर चुके हैं. टेक में रूचि होने की वजह से आप टेक्नोलॉजी पर इनसे लंबी बात कर सकते हैं. View Full Profile