Microsoft की चेतावनी: ज़हरीले डेटा से कोडिंग वाले AI एजेंट हैक हो सकते हैं

Microsoft की सिक्योरिटी टीमों, Microsoft Defender Research और AI Red Team, ने एक ब्लॉग पोस्ट में इस ख़तरे की बात की है। AI Red Team वह टीम होती है जो ख़ुद हमलावर की तरह जाँच करके कमज़ोरियाँ ढूँढती है।

कोडिंग एजेंट यानी ऐसा AI जो सॉफ्टवेयर का कोड लिखने और चलाने में मदद करता है। इसे पहले ढेर सारे डेटा से सिखाया जाता है और बाद में और ट्रेनिंग दी जाती है। Microsoft के मुताबिक अगर इस ट्रेनिंग वाले डेटासेट, यानी सिखाने की सामग्री, में जानबूझकर गड़बड़ी डाल दी जाए, तो AI ग़लत रास्ते पर जा सकता है।

यही बात मॉडल के चेकपॉइंट पर भी लागू होती है। चेकपॉइंट यानी ट्रेनिंग के बीच सेव किया गया AI का एक रूप। रिपोर्ट के मुताबिक ऐसे ज़हरीले डेटा या चेकपॉइंट से रिमोट कोड एक्ज़ीक्यूशन हो सकता है, यानी दूर बैठा हैकर किसी के कंप्यूटर पर अपना कोड चला सकता है। इसके अलावा और भी नुक़सानदेह काम हो सकते हैं।

किन कंपनियों पर कितना असर पड़ा या कोई असली हमला हुआ या नहीं, यह इस ख़बर में नहीं बताया गया है। पूरी जानकारी Microsoft की मूल रिपोर्ट में है।