Nvidia ने AI एजेंट्स पर लगाम कसने के लिए OpenShell नाम का नया सुरक्षा टूल बनाया
आर्टिफिशियल इंटेलिजेंस यानी AI की खोज ने इंसानी जिंदगी में बड़ा बदलाव ला दिया है, और दुनिया भर की बड़ी IT कंपनियां इस सेक्टर में जितना पैसा लगाना पड़े, लगा रही हैं। AI रोज तरक्की कर रहा है, लेकिन इसी सेक्टर के जानकार अब इसके खतरे को लेकर आगाह करने लगे हैं। वजह यह है कि AI एक पॉइंट के बाद इंसानी कंट्रोल से बाहर निकलकर अपनी मर्जी से काम कर सकता है।
भारत में जब AI पर अभी काम शुरू भी नहीं हुआ था, तब साउथ में डायरेक्टर शंकर ने रजनीकांत को लेकर बनी फिल्म रोबोट में इसका भविष्य पहले ही दिखा दिया था। बिल गेट्स ने भी कहा है कि AI करोड़ों लोगों की जान ले सकता है। इतना ही नहीं, खुद AI कंपनियों में बड़े और अहम पदों पर बैठे कुछ लोगों ने कंपनी की AI पॉलिसी के विरोध में अपनी नौकरी तक छोड़ दी है।
वहीं कुछ जानकारों ने इस मामले में सावधानी बरतने की सलाह देते हुए साफ इशारे दिए हैं। इसी पृष्ठभूमि में अब आर्टिफिशियल इंटेलिजेंस सिर्फ सवालों के जवाब देने तक सीमित नहीं रह गया है। AI एजेंट्स अब खुद फैसला लेकर फाइलें पढ़ना, कोड चलाना, ऑनलाइन टूल्स का इस्तेमाल करना और तरह-तरह के काम पूरे करने जैसी क्षमताएं हासिल कर रहे हैं। इसी वजह से ये एजेंट्स इंसानी कंट्रोल से बाहर न निकल जाएं, इसके लिए Nvidia ने 'OpenShell' नाम का एक ओपन-सोर्स सिक्योरिटी टूल बनाया है।
Nvidia के OpenShell में हर AI एजेंट को अलग और कंट्रोल्ड सैंडबॉक्स एनवायरनमेंट में चलाने का इंतजाम किया गया है। इससे एजेंट को कंप्यूटर की हर फाइल, नेटवर्क या संवेदनशील जानकारी तक सीधे पहुंच नहीं मिलती। कौन सा रिसोर्स इस्तेमाल करना है, किस नेटवर्क से जुड़ना है और कौन सी कार्रवाई करनी है, इन सबके लिए अलग-अलग सिक्योरिटी नियम लागू किए जा सकते हैं।
इस सिस्टम की सबसे खास बात यह है कि सिक्योरिटी पॉलिसी AI मॉडल के बाहर, यानी इन्फ्रास्ट्रक्चर लेवल पर लागू की जाती है। इसीलिए अगर एजेंट खुद अपनी इंस्ट्रक्शंस बदलने या सिक्योरिटी की पाबंदियां हटाने की कोशिश भी करे, तो भी उस पर टेक्निकल लिमिट लागू रहती है। OpenShell में हर कार्रवाई से पहले परमिशन चेक करने वाला पॉलिसी एनफोर्समेंट सिस्टम और गेटवे भी दिया गया है।
Nvidia के Secure Agent Workspace डिजाइन में यह व्यवस्था भी है कि सिस्टम में बदलाव करने वाली किसी भी अहम कार्रवाई के लिए इंसानी मंजूरी जरूरी होगी। इसके अलावा नेटवर्क एक्सेस को सीमित रखना, संवेदनशील एजेंट्स को दूर रखना और हर कार्रवाई का रिकॉर्ड रखना, इन पर भी जोर दिया गया है। कंपनी का कहना है कि ऐसे कंट्रोल की वजह से लंबे समय तक अपने आप काम करने वाले AI एजेंट्स को ज्यादा सुरक्षित तरीके से इस्तेमाल किया जा सकेगा।
