Nvidia कडून AI एजंट्सवर नियंत्रण ठेवणारे OpenShell हे सुरक्षा साधन सादर

कृत्रिम बुद्धिमत्तेच्या म्हणजेच AI च्या शोधामुळे माणसाच्या रोजच्या आयुष्यात मोठे बदल घडत आहेत. जगभरातील मोठमोठ्या IT कंपन्या या क्षेत्रात मोठ्या प्रमाणात पैसा गुंतवत असून AI तंत्रज्ञान दिवसेंदिवस पुढे जात आहे. मात्र याच वेळी या क्षेत्रातील तज्ञ मंडळी AI मुळे निर्माण होणाऱ्या धोक्यांबद्दल बोलू लागली आहेत. कारण एका ठराविक टप्प्यानंतर AI माणसाच्या नियंत्रणाबाहेर जाऊन स्वतःच्या मर्जीने काम करू शकते, अशी भीती व्यक्त केली जात आहे.

भारतात AI वर अजून तितकेसे काम सुरु नसतानाच, दक्षिणेकडील दिग्दर्शक शंकर यांनी रजनीकांत यांना घेऊन रोबोट या सिनेमातून याबाबतचे भाकीत आधीच केले होते. याशिवाय बिल गेट्स यांनीही AI मुळे कोट्यवधी लोकांचा जीव धोक्यात येऊ शकतो, अशी भीती बोलून दाखवली आहे. काही AI कंपन्यांमधील महत्त्वाच्या पदांवरील व्यक्तींनी कंपनीच्या AI धोरणाला विरोध करत आपल्या नोकऱ्यांचाही राजीनामा दिला आहे. तज्ञ मंडळींनीही याबाबत वेळोवेळी सावधगिरीचे इशारे दिले आहेत. या पार्श्वभूमीवर आता कृत्रिम बुद्धिमत्ता केवळ प्रश्नांची उत्तरे देण्यापुरती मर्यादित राहिलेली नाही. AI एजंट्स आता स्वतः निर्णय घेऊन फाईल्स वाचणे, कोड चालवणे, ऑनलाईन साधनांचा वापर करणे आणि वेगवेगळी कामे पूर्ण करणे अशा गोष्टी करू लागले आहेत. हे एजंट्स माणसाच्या नियंत्रणाबाहेर जाऊ नयेत यासाठी Nvidia ने OpenShell नावाचे ओपन-सोर्स सुरक्षा साधन तयार केले आहे.

Nvidia च्या OpenShell मुळे प्रत्येक AI एजंटला स्वतंत्र आणि नियंत्रित सॅन्डबॉक्स वातावरणात चालवण्याची सोय होते. त्यामुळे संबंधित एजंटला कंप्यूटरमधील प्रत्येक फाईल, नेटवर्क किंवा संवेदनशील माहितीपर्यंत थेट पोहोचता येत नाही. कोणती संसाधने वापरायची, कोणत्या नेटवर्कशी जोडून घ्यायचे आणि कोणती कृती करायची, यावर स्वतंत्र सुरक्षा नियम लागू करता येतात.

या प्रणालीचे एक महत्त्वाचे वैशिष्ट्य म्हणजे सुरक्षा धोरणे AI मॉडेलच्या बाहेर, इन्फ्रास्ट्रक्चर पातळीवर लागू केली जातात. त्यामुळे एजंटने स्वतःच्या सूचना बदलण्याचा किंवा सुरक्षा निर्बंध टाळण्याचा प्रयत्न केला, तरी त्याला तांत्रिक मर्यादा कायम लागू राहतात. OpenShell मध्ये प्रत्येक कृतीआधी परवानगी तपासणारी पॉलिसी एन्फोर्समेंट सिस्टिम आणि गेटवे देण्यात आला आहे.

Nvidia च्या सिक्युर एजंट वर्कस्पेस या डिझाईनमध्ये, प्रणालीत बदल करणाऱ्या महत्त्वाच्या कृतीसाठी माणसाची मंजुरी आवश्यक ठेवण्यात आली आहे. नेटवर्क प्रवेश मर्यादित करणे, संवेदनशील माहितीपासून एजंट्सना दूर ठेवणे आणि प्रत्येक कृतीची नोंद ठेवणे, यावरही यात भर देण्यात आला आहे. कंपनीच्या मते, अशा नियंत्रणामुळे दीर्घकाळ स्वतंत्रपणे काम करणाऱ्या AI एजंट्सना अधिक सुरक्षित पद्धतीने वापरता येऊ शकते.