AI जितनी तेजी से आगे बढ़ रहा है, उतनी ही तेजी से डीपफेक और फर्जी कंटेंट का खतरा भी फैल रहा है। सरकार इस मसले पर लगातार कदम उठाती रही है, और अब इलेक्ट्रॉनिक्स एवं सूचना प्रौद्योगिकी मंत्रालय (MeitY) ने इस दिशा में एक बड़ा फैसला लिया है, Deepfake को पहचानने और रोकने के मकसद से 13 ‘रिस्पॉन्सिबल एआई’ प्रोजेक्ट्स को हरी झंडी दे दी है। साथ ही मेटा और एक्स जैसे बड़े सोशल मीडिया प्लेटफॉर्म्स के लिए नियम पहले से कहीं ज्यादा कड़े कर दिए गए हैं। सरकार की सोच साफ है, सख्त नियम और नई तकनीक दोनों मिलकर काम करें, तो यूजर्स की सुरक्षा भी बढ़ेगी और साइबर अपराधों पर लगाम भी कसेगी।
लोकसभा में इस पूरे मामले की जानकारी देते हुए केंद्रीय राज्य मंत्री जितिन प्रसाद ने कहा कि AI अब इतना आगे निकल चुका है कि फर्जी फोटो-वीडियो को असली जैसा दिखाना बेहद आसान हो गया है। उनकी चिंता वाजिब भी है। ऐसा एडिटेड या फेक कंटेंट साइबर फ्रॉड करने, किसी की पहचान चुराने और समाज में गलत अफवाहें फैलाने के लिए धड़ल्ले से इस्तेमाल हो रहा है।
इन्हीं खतरों को देखते हुए सरकार ने IT नियम 2021 को और सख्त बना दिया है। 10 फरवरी 2026 से लागू हुए नए नियमों के मुताबिक, अगर सरकार या कोर्ट की तरफ से किसी AI-जनरेटेड फर्जी कंटेंट को हटाने का वैध आदेश आता है, तो सोशल मीडिया कंपनियों को उसे सिर्फ 3 घंटे के भीतर हटाना होगा। पहले इसके लिए कंपनियों को पूरे 36 घंटे मिलते थे, यानी समय सीमा बहुत बड़े मार्जिन से घटा दी गई है।
नए नियमों में एक और अहम बात जोड़ी गई है न्यूडिटी, फर्जी प्रोफाइल और पर्सनल सेफ्टी से जुड़ी शिकायतों पर कंपनियों को तुरंत एक्शन लेना होगा। इसके अलावा, हर AI-जनरेटेड फोटो या वीडियो पर साफ लेबल लगाना अब जरूरी होगा, ताकि यूजर एक नजर में पहचान सके कि कंटेंट असली है या मशीन-जनरेटेड। साथ ही उसमें ट्रेसेबल मेटाडेटा भी होना चाहिए, जिससे यह ट्रैक किया जा सके कि वह मीडिया आया कहां से। कंपनियों को यह भी कहा गया है कि वे ऐसी टेक्नोलॉजी लगाएं जो गैरकानूनी और भ्रामक कंटेंट को खुद-ब-खुद ब्लॉक कर दे।
सिर्फ नियम बनाकर सरकार रुकी नहीं है, तकनीकी मोर्चे पर भी काम तेज़ हो गया है। देश के टॉप शिक्षण संस्थानों के साथ मिलकर 13 रिसर्च प्रोजेक्ट्स शुरू किए गए हैं। इनमें सबसे खास है आईआईटी जोधपुर और आईआईटी मद्रास का साझा प्रोजेक्ट ‘साक्ष्य’ (Saakshya), जो डीपफेक इमेजेस को चंद सेकंड में पकड़ने के लिए बनाया जा रहा है। इसके अलावा फर्जी ऑडियो-वीडियो पकड़ने के लिए ‘एआई विश्लेषक’ (AI Vishleshak) तैयार किया जा रहा है। सबसे दिलचस्प है आईआईटी खड़गपुर का प्रोजेक्ट, जो लाइव कॉल या बातचीत के दौरान ही रियल-टाइम में AI से बनी फर्जी आवाज़ (Voice Deepfake) को पकड़ लेगा, यानी अब फोन पर होने वाले वॉइस-आधारित फ्रॉड पर भी नकेल कसना आसान होगा।
कुल मिलाकर, सरकार का यह कदम बताता है कि डीपफेक अब सिर्फ एक टेक्निकल चिंता नहीं, बल्कि एक बड़ा सामाजिक और सुरक्षा मुद्दा बन चुका है। इससे निपटने के लिए नियम और टेक्नोलॉजी, दोनों मोर्चों पर एक साथ काम हो रहा है।
यह भी पढ़ें: Flipkart बना गरीबों की लाठी! अभी खरीदें सामान और बाद में करें पेमेंट..लॉन्च की Pay Later सेवा