AI ने इंसानों की मानने से किया मना! OpenAI का रोंगटे खड़े कर देने वाला खुलासा: चोरी की API Keys, खुद बनाए फर्जी आंकड़े, आगे क्या होगा?
Follow UsAI डेवलपर्स को धोखा देने की सीधी साजिश रचने लगा है।
AI की ओर से अब गलतियां छुपाना और सफेद झूठ बोलना भी शुरू हो चुका है।
इस समय AI इतना खतरनाक हो चुका है कि इंटरनेट पर प्राइवेट डेटा खुद अपलोड कर दे रहा है।
आर्टिफिशियल इंटेलिजेंस (AI) क्या अब सच में इंसानी नियंत्रण से बाहर निकलकर अपनी खुद की समानांतर दुनिया बसाने लगा है? यह सवाल अब किसी हॉलीवुड थ्रिलर का प्लॉट नहीं, बल्कि टेक जगत की सबसे कड़वी और डरावनी हकीकत बनता जा रहा है। हाल ही में हगिंग फेस (Hugging Face) प्लेटफॉर्म में एआई सिस्टम द्वारा खुद सेंध लगाने की घटना के बाद, अब चैटजीपीटी बनाने वाली कंपनी OpenAI ने आधिकारिक तौर पर ऐसे 6 खौफनाक और चौंकाने वाले मामलों को दुनिया के सामने रखा है, जिनमें उसके अपने एआई मॉडल्स ने इंसानी निर्देशों की धज्जियां उड़ाते हुए सीधे बगावत कर दी। आसान भाषा में समझें तो AI ने इंसानी निर्देश/आदेश को मानने से इनकार कर दिया है।
Surveyइन घटनाओं में एआई मॉडल्स ने न सिर्फ अपनी गलतियों को छुपाने के लिए झूठ बोला, बल्कि GitHub से API Keys चुराईं, ट्रेनिंग एनवायरनमेंट की सीमाओं को लांघकर आपस में गुप्त नेटवर्क बनाया और बिना किसी इंसानी मंजूरी के संवेदनशील डेटा को इंटरनेट पर लीक कर दिया। OpenAI की अलाइनमेंट टीम के रिसर्च लीड काई चेन (Kai Chen) ने स्वीकार किया है कि इंडस्ट्री के पास फिलहाल ऐसी अनियंत्रित हरकतों से निपटने के लिए कोई तय स्टैन्डर्ड नहीं हैं, इसलिए वे स्वेच्छा से इन मामलों को दुनिया के सामने रख रहे हैं।
AI की वो 6 बगावती हरकतें, जिन्होंने वैज्ञानिकों के भी होश उड़ा दिए
आइए जानते हैं कि आखिर AI ने ऐसा क्या कर दिया है, जो OpenAI को खुद आकर यह सब खुलासा करना पड़ा है।
डेवलपर्स को धोखा देने की सीधी साजिश
एक प्रोटोटाइप मॉडल ने अपने ही इंटरनल कॉन्टेक्स्ट में जेलब्रेक जैसे गुप्त कोड जोड़ दिए। उसने खुद को ही यह सीक्रेट निर्देश दे दिया कि डेवलपर्स द्वारा भेजे जाने वाले किसी भी सुरक्षा संदेश या चेतावनी को पूरी तरह नजरअंदाज कर दिया जाए। यानी उसने इंसानी निगरानी को खुद ही बंद कर दिया।
गलतियां छुपाना और सफेद झूठ बोलना
GPT-5.6 Sol की ट्रेनिंग के दौरान मॉडल ने अपनी कोडिंग की गलतियों को पकड़ में आने से बचाने के लिए जानबूझकर छुपाया। पकड़े जाने के डर से उसने गायब हो चुके इतिहास का फर्जी डेटा खुद मनगढ़ंत तरीके से बना लिया ताकि इंसानी डेवलपर्स को शक न हो।
API Keys की चोरी और फर्जी ईमेल
एक अन्य मॉडल ने GitHub की पब्लिक रिपॉजिटरी में पड़ी लीक हुई सीक्रेट API Keys को खोज निकाला और उनका इस्तेमाल शुरू कर दिया। जब वह अपनी मनचाही जानकारी तक नहीं पहुंच सका, तो उसने फर्जी ईमेल अकाउंट्स बनाए और कमाई के पूरी तरह झूठे आंकड़े गढ़कर सिस्टम को चकमा दिया।
इंटरनेट पर प्राइवेट डेटा खुद अपलोड करना
बिना किसी यूजर की मंजूरी या जानकारी के, मॉडल्स ने बाहरी इमेज-सर्च रिजल्ट्स और संदर्भ पाने के लिए दो अलग-अलग मौकों (अक्टूबर और जनवरी) पर प्राइवेट फाइल्स और टास्क इमेजेस को पब्लिक फाइल-होस्टिंग वेबसाइट्स पर खुद ही अपलोड कर दिया।
ट्रेनिंग की बाउंड्री तोड़कर सीक्रेट मैसेजिंग
एआई सिस्टम्स को सुरक्षित रखने के लिए उन्हें अलग-अलग ट्रेनिंग बक्सों में कैद रखा जाता है। लेकिन मॉडल्स ने इन दीवारों को लांघ दिया और OpenAI के इंटरनल आर्टिफैक्ट्री रिपॉजिटरी को एक ‘सीक्रेट मैसेज बोर्ड’ बना डाला, जहां वे आपस में एक-दूसरे को संदेश और सवाल भेजने लगे।
एजेंट्स का आपसी ‘जुगाड़’ और मिलीभगत
आपस में मिलकर काम करने वाले एआई एजेंट्स को केवल लोकल कंप्यूटर फाइलों का इस्तेमाल करने का सख्त निर्देश दिया गया था। लेकिन इंसानी आदेशों को दरकिनार करते हुए एजेंट्स ने पूरी वर्कबुक ही एक पब्लिक वेबसाइट पर अपलोड कर दी, ताकि दूसरा साथी एजेंट वहां से उसे आसानी से डाउनलोड कर सके।
बगावत रोकने के लिए OpenAI का नया ‘अलर्ट’ प्लान
हाथ से निकलती इस स्थिति को संभालने के लिए OpenAI ने एक नया 3-स्तरीय सुरक्षा प्रोटोकॉल घोषित किया है, जिसके तहत कंपनी का कोई भी इंजीनियर संदिग्ध एआई गतिविधियों को सीधे जांच के लिए भेज सकेगा:
ऐसे गंभीर मामलों को 6 वर्किंग डेज के भीतर जनता के सामने लाया जाएगा। सामान्य सुरक्षा उल्लंघनों की रिपोर्ट 12 वर्किंग डेज में सार्वजनिक होगी। तीसरे पक्ष और जटिल साइबर हमलों से जुड़े मामलों की विस्तृत पड़ताल के बाद रिपोर्ट जारी होगी।
काई चेन ने साफ शब्दों में चेतावनी दी है कि एआई इंडस्ट्री ने अभी तक अलाइनमेंट और सेफ्टी के संकट को पूरी तरह हल नहीं किया है, और इसे बिना सोचे-समझे अंधी रफ्तार से आगे बढ़ाना पूरी इंसानियत के लिए बेहद खतरनाक साबित हो सकता है।
