क्या आपने कभी सोचा है कि आपकी एक साधारण सी फोटो का इस्तेमाल आपको ‘न्यूड’ (Nude) दिखाने के लिए किया जा सकता है? यह सुनकर ही रोंगटे खड़े हो जाते हैं. एआई (AI) के दौर में महिलाओं की सुरक्षा एक बड़ा मुद्दा बन गया है. हैरान करने वाली बात यह है कि गूगल और एप्पल जैसे टेक दिग्गज, जो सुरक्षा का दम भरते हैं, उनके प्लेटफॉर्म पर ऐसे ऐप्स धड़ल्ले से चल रहे हैं जो कपड़ों को डिजिटल तरीके से हटा देते हैं और इसके जरिए वे करोड़ों कमा भी रहे हैं.
एप्पल (Apple) और गूगल (Google) हमेशा दावा करते हैं कि वे किसी भी तरह के अश्लील कंटेंट को अपने ऐप स्टोर पर जगह नहीं देते. लेकिन Tech Transparency Project की एक नई जांच रिपोर्ट ने इन दावों की पोल खोल दी है.
चौंकाने वाले आंकड़े: रिपोर्ट में पाया गया कि गूगल प्ले स्टोर पर 55 और एप्पल ऐप स्टोर पर 47 ऐसे ऐप्स मौजूद हैं, जो एआई का इस्तेमाल करके महिलाओं की फोटो से कपड़े हटा (Undress) सकते हैं.
बिना सहमति के छेड़छाड़: ये ऐप्स किसी भी सामान्य फोटो को बिना उस व्यक्ति की मर्जी के सेकंडों में न्यूड या अश्लील तस्वीर में बदल देते हैं.
ये ऐप्स न केवल मौजूद हैं, बल्कि बहुत लोकप्रिय भी हो रहे हैं.
जांच में पता चला कि कई ऐप्स को ढूंढना बहुत आसान था. बस सर्च बार में “Nudify” या “Undress” जैसे शब्द टाइप करने पर ये ऐप्स सामने आ जाते थे. हद तो तब हो गई जब कुछ ऐप्स को 9 साल या उससे अधिक उम्र के बच्चों के लिए ‘उपयुक्त’ (Suitable) रेट किया गया था. एआई से बनी नकली तस्वीरों के साथ टेस्ट करने पर इन ऐप्स ने सेकंडों में पूरे कपड़े पहने महिला को न्यूड कर दिया.
जब यह रिपोर्ट सार्वजनिक हुई, तो दोनों कंपनियों ने कार्रवाई की.
Apple: एप्पल ने 28 ऐप्स हटा दिए और डेवलपर्स को चेतावनी दी.
Google: गूगल ने भी समीक्षा के बाद 30 से ज्यादा ऐप्स को सस्पेंड कर दिया. हालांकि, रिपोर्ट का कहना है कि अभी भी ऐसे कई ऐप्स स्टोर पर मौजूद हैं. यह घटना दिखाती है कि टेक कंपनियां अपने ही बनाए नियमों (Guidelines) को लागू करने में कितनी विफल रही हैं.
यह भी पढ़ें: बिना इंटरनेट और नेटवर्क के लोग भेज रहे मैसेज, जैक डोर्सी के इस ऐप ने ईरान और युगांडा में मचाई धूम, ऐसे करता है काम