OpenAI ने बताया, एडवांस्ड AI के जोखिम को वह कैसे संभालती है
OpenAI के मुताबिक कंपनी अपने सबसे ताक़तवर AI मॉडल के जोखिम को ट्रेनिंग से लेकर इस्तेमाल तक कई स्तर पर संभालती है। आम यूज़र के लिए इसका मतलब है कि AI टूल पर कुछ रोक और निगरानी रहती है।
OpenAI ने एक रिपोर्ट में बताया है कि वह अपने सबसे एडवांस्ड AI मॉडल के जोखिम को कैसे सँभालती है। इन्हें "फ्रंटियर AI" कहा जाता है, यानी वे AI सिस्टम जो आज की तकनीक की सबसे आगे की सीमा पर हैं।
कंपनी के मुताबिक यह काम किसी एक जगह नहीं होता। मॉडल की ट्रेनिंग के समय से लेकर आम लोगों तक पहुँचने के बाद तक, हर चरण में अलग इंतज़ाम रखे जाते हैं।
OpenAI ने चार चीज़ें गिनाई हैं। पहली है मॉडल अलाइनमेंट, यानी मॉडल को इस तरह तैयार करना कि वह इंसान की मंशा और नियमों के हिसाब से चले। दूसरी है सैंडबॉक्सिंग, यानी AI को एक बंद और सुरक्षित माहौल में चलाना, ताकि वह बाहर की चीज़ों को न छू सके। तीसरी है ब्लॉकिंग सेफ़गार्ड, यानी ख़तरनाक काम की रोक। चौथी है मॉनिटरिंग, यानी इस्तेमाल के दौरान निगरानी।
इन इंतज़ामों की पूरी बारीकियाँ और कंपनी के उदाहरण मूल रिपोर्ट में हैं।
आपके लिए इसका मतलब
AI अब चैट, पढ़ाई और दुकान के कामों में आम हो रहा है, इसलिए यह जानना अच्छा है कि कंपनियाँ उस पर क्या रोक लगाने का दावा करती हैं। यह कंपनी का अपना बयान है, और असली असर इस पर निर्भर करेगा कि ये इंतज़ाम कितने कारगर रहते हैं।
ये शब्द समझ लें
- फ्रंटियर AI
- सबसे नए और सबसे ताक़तवर AI मॉडल, जो तकनीक की अगली सीमा पर हैं।
- सैंडबॉक्सिंग
- किसी सिस्टम को बंद और सुरक्षित माहौल में चलाना, ताकि वह बाहर कुछ बिगाड़ न सके।
- अलाइनमेंट
- AI को इस तरह तैयार करना कि वह इंसान के इरादों और नियमों के हिसाब से काम करे।
यह खबर PT24 ने AI की सहायता से, स्रोत की रिपोर्ट के आधार पर अपने शब्दों में समझाई है। स्रोत के अपने शब्द नीचे बिना बदलाव के हैं।
मूल शीर्षक: Managing frontier AI risk: From training to deployment
OpenAI publishes this report on its own site.
Read more at OpenAI