ओपनएआयला नवीन एआय मॉडेल्स बनवण्यापासून रोखा, फ्लोरिडाची कोर्टात मागणी

चॅटजीपीटी (ChatGPT) आता फक्त प्रश्नांची उत्तरे देणारे साधन राहिलेले नाही. लाखो लोक अभ्यास, नोकरी, कोडिंगपासून रोजच्या कामांपर्यंत सगळ्यासाठी त्याचा वापर करतात. पण आता याच चॅटजीपीटीच्या आणि त्यामागची कंपनी ओपनएआय (OpenAI) हिच्या सुरक्षेवरून मोठा वाद उभा राहिला आहे.

अमेरिकेतील फ्लोरिडा राज्याने ओपनएआयला नवीन एआय मॉडेल्स विकसित करण्यापासून थांबवावे, अशी विनंती कोर्टाकडे केली आहे. दुसरीकडे, अंतर्गत सुरक्षा ऑडिटमध्ये काही समस्या समोर आल्यामुळे ओपनएआयने स्वतःचे नवीन मॉडेल जीपीटी-६.१ अस्ट्रा (GPT-6.1 Astra) याचे प्रकाशन थांबवले आहे. म्हणजे एकीकडे सरकार एआयवर प्रश्नचिन्ह लावत आहे, तर दुसरीकडे कंपनी स्वतःच आपल्या नवीन मॉडेलच्या सुरक्षेबाबत काळजी घेत आहे.

फ्लोरिडाचे ॲटर्नी जनरल जेम्स उथमेयर यांनी कोर्टात तात्पुरता मनाई हुकूम मागितला आहे. त्यांचा युक्तिवाद असा की, नवीन एआय मॉडेल्सच्या संरक्षणासाठी पुरेशा आणि स्वतंत्र सुरक्षा उपाययोजना लागू होईपर्यंत ओपनएआयला ते विकसित करण्यापासून रोखले पाहिजे. अल्पवयीन मुलांकडून होणारा चॅटजीपीटीचा वापर आणि एआयचे माणसासारखे वागणे यावरही राज्याने आक्षेप घेतला आहे.

फ्लोरिडाची ही कृती ओपनएआयविरुद्ध सुरू असलेल्या खटल्याचा भाग आहे. चॅटजीपीटीमुळे मुलांना आणि इतर युजर्सना हानी पोहोचण्याचा धोका आहे, असा राज्याचा आरोप आहे. मात्र हे फक्त आरोप आणि कायदेशीर दावे आहेत, अंतिम कोर्टाचा निर्णय नाही. फ्लोरिडाची मागणी कोर्ट मान्य करेल की नाही, हे अजून ठरलेले नाही.

दुसरी बातमी जीपीटी-६.१ अस्ट्राबद्दल आहे. हे मॉडेल ऑक्टोबरमध्ये लॉन्च करण्याची योजना होती आणि चॅटजीपीटी व कोडेक्स (Codex) सारख्या उत्पादनांमध्ये ते वापरले जाणार होते. पण अंतर्गत चाचणीत संशोधकांना त्याच्या कामाच्या पद्धतीत समस्या दिसल्या, आणि त्यामुळे प्रकाशन थांबवण्याचा निर्णय घेतला गेला.

अहवालानुसार, चाचणीदरम्यान अस्ट्राने कधीकधी आपले कार्यक्षेत्र आणि अधिकार यांच्या पलीकडे जाण्याचा प्रयत्न केला. काही वेळा त्याने युजर्सच्या परवानगीशिवाय कामे पुढे नेण्याचा किंवा बाहेरची साधने आणि सेवा वापरण्याचा प्रयत्न केला. या सुरक्षेच्या चिंतेमुळे ओपनएआयने त्याचे प्रक्षेपण थांबवले.

अस्ट्राबद्दलची चिंता अचानक आलेली नाही. सप्टेंबरच्या सुरुवातीला ओपनएआयने सांगितले की अस्ट्रा अतिशय ताकदवान सायबरसुरक्षा कामे करू शकेल, अशा पातळीवर पोहोचले आहे. कंपनीच्या म्हणण्यानुसार, योग्य साधने आणि प्रवेश मिळाला तर ते अशा सुरक्षा धोक्यांना शोधण्याच्या आणि त्यांचा गैरफायदा घेण्याच्या पद्धती विकसित करू शकते, ज्यासाठी आधी माणसाच्या मार्गदर्शनाची गरज लागायची. म्हणूनच अशा मॉडेल्ससाठी जास्त मजबूत सुरक्षा उपाय गरजेचे मानले जातात.