क्या आपने कभी सोचा है कि आपकी एक साधारण सी फोटो का इस्तेमाल आपको ‘न्यूड’ (Nude) दिखाने के लिए किया जा सकता है? यह सुनकर ही रोंगटे खड़े हो जाते हैं. एआई (AI) के दौर में महिलाओं की सुरक्षा एक बड़ा मुद्दा बन गया है. हैरान करने वाली बात यह है कि गूगल और एप्पल जैसे टेक दिग्गज, जो सुरक्षा का दम भरते हैं, उनके प्लेटफॉर्म पर ऐसे ऐप्स धड़ल्ले से चल रहे हैं जो कपड़ों को डिजिटल तरीके से हटा देते हैं और इसके जरिए वे करोड़ों कमा भी रहे हैं.
Survey‘टेक ट्रांसपेरेंसी प्रोजेक्ट’ का बड़ा खुलासा
एप्पल (Apple) और गूगल (Google) हमेशा दावा करते हैं कि वे किसी भी तरह के अश्लील कंटेंट को अपने ऐप स्टोर पर जगह नहीं देते. लेकिन Tech Transparency Project की एक नई जांच रिपोर्ट ने इन दावों की पोल खोल दी है.
चौंकाने वाले आंकड़े: रिपोर्ट में पाया गया कि गूगल प्ले स्टोर पर 55 और एप्पल ऐप स्टोर पर 47 ऐसे ऐप्स मौजूद हैं, जो एआई का इस्तेमाल करके महिलाओं की फोटो से कपड़े हटा (Undress) सकते हैं.
बिना सहमति के छेड़छाड़: ये ऐप्स किसी भी सामान्य फोटो को बिना उस व्यक्ति की मर्जी के सेकंडों में न्यूड या अश्लील तस्वीर में बदल देते हैं.
70 करोड़ डाउनलोड और भारी कमाई
ये ऐप्स न केवल मौजूद हैं, बल्कि बहुत लोकप्रिय भी हो रहे हैं.
- डाउनलोड: इन ऐप्स को दुनिया भर में 705 मिलियन (70 करोड़) से ज्यादा बार डाउनलोड किया गया है.
- कमाई: इन ऐप्स ने लगभग $117 मिलियन (करीब 970 करोड़ रुपये) की कमाई की है.
- कंपनियों का मुनाफा: सबसे शर्मनाक बात यह है कि एप्पल और गूगल इन ऐप्स से होने वाली कमाई का एक हिस्सा (कमीशन) खुद रखते हैं. यानी वे सीधे तौर पर गैर-सहमति वाली अश्लील छवियों से मुनाफा कमा रहे हैं.
बच्चों के लिए भी बताया ‘सुरक्षित’
जांच में पता चला कि कई ऐप्स को ढूंढना बहुत आसान था. बस सर्च बार में “Nudify” या “Undress” जैसे शब्द टाइप करने पर ये ऐप्स सामने आ जाते थे. हद तो तब हो गई जब कुछ ऐप्स को 9 साल या उससे अधिक उम्र के बच्चों के लिए ‘उपयुक्त’ (Suitable) रेट किया गया था. एआई से बनी नकली तस्वीरों के साथ टेस्ट करने पर इन ऐप्स ने सेकंडों में पूरे कपड़े पहने महिला को न्यूड कर दिया.
रिपोर्ट के बाद जागी कंपनियां
जब यह रिपोर्ट सार्वजनिक हुई, तो दोनों कंपनियों ने कार्रवाई की.
Apple: एप्पल ने 28 ऐप्स हटा दिए और डेवलपर्स को चेतावनी दी.
Google: गूगल ने भी समीक्षा के बाद 30 से ज्यादा ऐप्स को सस्पेंड कर दिया. हालांकि, रिपोर्ट का कहना है कि अभी भी ऐसे कई ऐप्स स्टोर पर मौजूद हैं. यह घटना दिखाती है कि टेक कंपनियां अपने ही बनाए नियमों (Guidelines) को लागू करने में कितनी विफल रही हैं.
यह भी पढ़ें: बिना इंटरनेट और नेटवर्क के लोग भेज रहे मैसेज, जैक डोर्सी के इस ऐप ने ईरान और युगांडा में मचाई धूम, ऐसे करता है काम
Follow Us
Sudhanshu Shubham
सुधांशु शुभम मीडिया में लगभग आधे दशक से सक्रिय हैं. टाइम्स नेटवर्क में आने से पहले वह न्यूज 18 और आजतक जैसी संस्थाओं के साथ काम कर चुके हैं. टेक में रूचि होने की वजह से आप टेक्नोलॉजी पर इनसे लंबी बात कर सकते हैं. View Full Profile
