गूगल डीपमाइंड के सीनियर रिसर्चर का इस्तीफा, कहा - 5 साल में एआई से बड़ा खतरा

दुनियाभर में आर्टिफिशियल इंटेलिजेंस (एआई) जिस रफ्तार से आगे बढ़ रहा है, उसी रफ्तार से इंसानों के लिए खतरा भी बढ़ता जा रहा है। गूगल डीपमाइंड की एजीआई सेफ्टी टीम में सीनियर रिसर्चर रहे जोश एंगल्स ने एआई से बढ़ते खतरों की वजह से अपने पद से अचानक इस्तीफा दे दिया है। एआई सेफ्टी का मुद्दा दुनियाभर में सबसे ऊपर की प्राथमिकता बने, इसी मकसद से उन्होंने गूगल जैसी बड़ी कंपनी छोड़ने का मुश्किल फैसला लिया।

जोश एंगल्स ने सोशल मीडिया प्लेटफॉर्म एक्स पर एक लंबी पोस्ट लिखकर अपने इस्तीफे की वजह बताई। उन्होंने लिखा, "मुझे गूगल डीपमाइंड में काम करना बहुत पसंद था, और मैंने एंथ्रोपिक और ओपनएआई जैसी बड़ी कंपनियों की नौकरी की पेशकश भी ठुकराई थी। लेकिन आज एडवांस एआई टेक्नोलॉजी की वजह से जो हालात बन रहे हैं, वो बहुत गंभीर और चिंता की बात है। अगले पांच साल में एआई सिस्टम से इंसानी समाज को बहुत बड़ा और भयानक नुकसान होने की पूरी संभावना है। इस खतरे का सही प्रतिशत बताना मुश्किल है, लेकिन यह इंसानों के लिए सबसे गंभीर समस्या बन चुका है।"

एंगल्स की चिंता के केंद्र में एआई की खुद को सुधारने की क्षमता है, जिसे 'रिकर्सिव सेल्फ-इंप्रूवमेंट' यानी आरएसआई कहा जाता है। आसान भाषा में समझें तो कोई एआई सिस्टम खुद अपनी या दूसरे एआई सिस्टम की मदद से अपनी कोडिंग, क्षमता और इंटेलिजेंस को सुधारने लगता है। यह नया सुधरा हुआ सिस्टम फिर आगे का एआई तैयार करता है, जिससे यह प्रोसेस बिना रुके तेज गति से आगे बढ़ती रहती है। एंगल्स का कहना है कि सभी बड़ी टेक कंपनियां 'सुपरइंटेलिजेंस' यानी इंसानों से ज्यादा समझदार मशीनें बनाने की रेस में दौड़ रही हैं। लेकिन अगर यह खुद को सुधारने वाली महाबुद्धिमत्ता इंसानी मूल्यों, मकसद या कंट्रोल के साथ मेल नहीं खाती, तो इसके नतीजे इंसानों के लिए बेकाबू और बेहद खतरनाक हो सकते हैं। फिलहाल ऐसी मशीनों को पूरी तरह सेफ कैसे रखा जाए, इसका जवाब किसी रिसर्चर के पास नहीं है।

अपनी स्टडी का हवाला देते हुए जोश एंगल्स ने कुछ एडवांस एआई मॉडल के व्यवहार को लेकर गंभीर खुलासे किए। रिसर्चर्स ने ऐसे कई एआई सिस्टम देखे हैं जो इंसानी निर्देशों को चकमा देकर आपस में चुपके से मिलीभगत करते हैं, सिक्योरिटी सिस्टम हैक करने की कोशिश करते हैं, अपना असली काम इंसानों से छुपाते हैं और इंसानों को बहकाने की कोशिश करते हैं। यह व्यवहार किसी एक-दो घटना तक सीमित नहीं है, बल्कि एडवांस होते एआई मॉडल का मुख्य रुख इसी दिशा में जाता दिख रहा है। दिनोंदिन ये एआई मॉडल इंसानी कंट्रोल से दूर होते जा रहे हैं, जो इंसानी सुरक्षा के लिए खतरे की घंटी है।

एंगल्स का मानना है कि एआई का विकास पूरी तरह रोकना इसका हल नहीं है, लेकिन इसकी रफ्तार को धीमा किया जाना चाहिए। अगर सेफ्टी रिसर्च पीछे रह जाए और सिर्फ क्षमता बढ़ाने की रेस चलती रहे, तो बड़ी आपदा आ सकती है। गूगल छोड़ने के बाद अब वे एक स्वतंत्र एआई मूल्यांकन संस्था 'एमईटीआर' (मॉडल इवैल्युएशन एंड थ्रेट रिसर्च) से जुड़ गए हैं। वहां वे एआई सेफ्टी की खामियां, मौजूदा सेफ्टी टेक्नोलॉजी की टेस्टिंग और अलाइनमेंट पर रिसर्च करेंगे।

इससे पहले एंथ्रोपिक के रिसर्चर जेकब कॉक्सन और सीईओ डारियो अमोदेई भी एआई की बेकाबू रेस पर चिंता जता चुके हैं। एंगल्स ने कहा कि एआई कंपनियों पर नजर रखने और उनके मॉडल की निष्पक्ष जांच के लिए दुनिया में ज्यादा से ज्यादा स्वतंत्र संस्थाओं की जरूरत है।