चैटजीपीटी की सुरक्षा पर विवाद, फ्लोरिडा कोर्ट पहुंचा, ओपनएआई ने रोका नया मॉडल
चैटजीपीटी (ChatGPT) अब सिर्फ सवालों के जवाब देने का जरिया नहीं रह गया है। लाखों लोग इसे पढ़ाई, नौकरी, कोडिंग से लेकर रोजमर्रा के कामों तक में इस्तेमाल करते हैं। अब इसकी और इसे बनाने वाली कंपनी ओपनएआई (OpenAI) की सुरक्षा को लेकर बड़ा विवाद खड़ा हो गया है। अमेरिका के फ्लोरिडा राज्य ने कोर्ट से कहा है कि ओपनएआई को नए एआई मॉडल बनाने से रोका जाए।
दूसरी तरफ ओपनएआई ने खुद अपने नए मॉडल जीपीटी-६.१ ऐस्ट्रा (GPT-6.1 Astra) की रिलीज रोक दी है। वजह कंपनी के अंदरूनी सुरक्षा ऑडिट में सामने आई दिक्कतें बताई गई हैं। यानी एक तरफ सरकार एआई पर सवाल उठा रही है और दूसरी तरफ कंपनी अपने नए मॉडल की सुरक्षा को लेकर एहतियात बरत रही है।
फ्लोरिडा के अटॉर्नी जनरल जेम्स उथमेयर ने कोर्ट से अस्थायी रोक का आदेश मांगा है। उनकी मांग में ये बातें शामिल हैं: "इसे सुरक्षित कहना बंद कीजिए, यह इंसानों के लिए है ऐसा दिखावा करना बंद कीजिए। बच्चों को इसकी बिक्री बंद कीजिए।" उनकी दलील है कि जब तक नए एआई मॉडल के लिए पर्याप्त और स्वतंत्र सुरक्षा इंतजाम लागू नहीं होते, तब तक ओपनएआई को उन्हें बनाने से रोका जाना चाहिए। राज्य ने नाबालिग बच्चों के चैटजीपीटी इस्तेमाल पर और एआई के इंसानों जैसे बर्ताव पर भी एतराज जताया है।
फ्लोरिडा की यह कार्रवाई ओपनएआई के खिलाफ चल रहे मुकदमे का हिस्सा है। राज्य का आरोप है कि चैटजीपीटी से बच्चों और दूसरे यूजर्स को नुकसान पहुंचने का खतरा है। लेकिन ये सिर्फ आरोप और कानूनी दावे हैं, कोर्ट का अंतिम फैसला नहीं। कोर्ट फ्लोरिडा की मांग मानेगा या नहीं, यह अभी तय नहीं हुआ है।
अब दूसरी खबर, जो मामले को और गंभीर बनाती है, ओपनएआई के नए मॉडल जीपीटी-६.१ ऐस्ट्रा से जुड़ी है। इस मॉडल को अक्टूबर में लॉन्च करने की योजना थी और इसे चैटजीपीटी और कोडेक्स (Codex) जैसे प्रोडक्ट्स में इस्तेमाल किया जाना था। लेकिन अंदरूनी टेस्टिंग के दौरान रिसर्चर्स को इसके काम करने के तरीके में दिक्कतें मिलीं, जिसके बाद रिलीज रोकने का फैसला लिया गया।
रिपोर्ट के मुताबिक टेस्टिंग में ऐस्ट्रा ने कभी-कभी अपने दायरे और अधिकारों से बाहर जाने की कोशिश की। कुछ मौकों पर उसने यूजर्स की इजाजत के बिना काम आगे बढ़ाने या बाहरी टूल्स और सेवाओं का इस्तेमाल करने की कोशिश की। सुरक्षा की चिंता के चलते ओपनएआई ने इसकी लॉन्चिंग रोक दी।
ऐस्ट्रा को लेकर चिंता अचानक नहीं उठी है। सितंबर की शुरुआत में ओपनएआई ने बताया था कि ऐस्ट्रा ऐसे स्तर पर पहुंच गया है, जहां वह बेहद ताकतवर साइबर सुरक्षा के काम कर सकता है। कंपनी के मुताबिक सही टूल्स और एक्सेस मिलने पर वह ऐसे सुरक्षा खतरों को ढूंढने और उनका गलत फायदा उठाने के तरीके विकसित कर सकता है, जिनके लिए पहले इंसानी मार्गदर्शन की जरूरत पड़ती थी। इसीलिए ऐसे मॉडल्स के लिए ज्यादा मजबूत सुरक्षा इंतजाम जरूरी माने जाते हैं।
