एआय चॅटबोटला शिव्या देताय? अँथ्रॉपिकचा नवा नियम, अकाउंट बंद होणार का?
Claude तयार करणाऱ्या अँथ्रॉपिक कंपनीने एआयसोबत विनाकारण आणि वारंवार अपमानास्पद किंवा क्रूर वागण्यावर बंदी घातली आहे. हा नियम 12 नोव्हेंबरपासून लागू होणार आहे.
छायाचित्रे सत्यापित केलेली नाहीत
आपण चॅटजीपीटी किंवा Claude सारख्या एआय चॅटबोट्सना सतत वेगवेगळे प्रश्न विचारत असतो. पण त्यांनी दिलेले प्रत्येक उत्तर आपल्याला आवडेलच असं नाही. एखादे उत्तर पसंत पडले नाही, तर चिडून एआयला शिव्या देणारे किंवा अपशब्द बोलणारे अनेक जण असतात. आता अशा वागण्याबाबत अँथ्रॉपिक कंपनीने नवा नियम आणला आहे.
Claude हे एआय तयार करणाऱ्या अँथ्रॉपिक कंपनीने आपल्या पॉलिसीमध्ये एआय मॉडेलसोबत वारंवार अपमानास्पद किंवा चुकीचा व्यवहार करण्यावर बंदी घातली आहे. कंपनीने 8 ऑक्टोबर 2026 पासून आपल्या या नव्या पॉलिसीची घोषणा केली आहे. हा नियम 12 नोव्हेंबरपासून सर्वत्र लागू केला जाणार आहे.
पॉलिसीमध्ये "सस्टेन्ड एंड नीडलेस एब्यूसिव ऑर क्रूएल बिहेवियर" यावर बंदी आहे. म्हणजेच विनाकारण अपमानास्पद किंवा क्रूर वागणे. कंपनीचं म्हणणं आहे की, जे लोक विनाकारण आणि वारंवार एआयसोबत क्रूर किंवा अपमानास्पद वागतात, त्यांच्यावर कारवाई केली जाऊ शकते.
या नियमामुळे अकाऊंट ब्लॉक होऊ शकते का, असा प्रश्न आता यूजर्स विचारत आहेत. एक उदाहरण घेऊ. तुम्ही एआयला एखादा प्रश्न विचारला आणि त्याने चुकीचे उत्तर दिले. तुम्ही तोच प्रश्न पुन्हा विचारला आणि पुन्हा चुकीचे उत्तर मिळाले. मग रागाच्या भरात तुम्ही शिव्या दिल्या किंवा अपमानास्पद शब्द वापरले, तर अकाउंट बंद होईल का, हा तो प्रश्न आहे. अनेक जण एआयचे उत्तर मनासारखे नसले की बोलताना चुकीची भाषा वापरू लागतात, असं आपणही पाहिलं असेल. तज्ज्ञांचे मत आहे की असे केल्यास यूजर्सचेच नुकसान होऊ शकते.
यावर स्पष्टीकरण देताना सांगण्यात आलं आहे की, एआयच्या उत्तरावर नाराजी व्यक्त केली किंवा टीका केली, तर त्यामुळे अकाऊंट बंद केले जाईल असं नाही.
कंपनीने सांगितलं आहे की हा नियम केवळ गंभीर घटनांसाठी आहे. म्हणजे अशा घटना, ज्यात यूजर्स वारंवार एआयसोबत अपमानास्पद वागतात आणि त्यामागे कोणतेही स्पष्ट उद्दिष्ट नसते.
याचा अर्थ असा की Claude एखाद्या प्रश्नाचे चुकीचे उत्तर देत असेल आणि तुम्ही त्याला उत्तर चुकीचे असल्याचे सांगितले, तर तो नियमाचा भंग मानला जाणार नाही. तुम्ही Claude ने दिलेल्या उत्तराशी असहमत होऊ शकता, त्या उत्तरावर प्रश्न विचारू शकता आणि त्याला अधिक चांगले उत्तर देण्यासाठी प्रोत्साहनही देऊ शकता. तसेच मॉडेलची चाचणी घेणे किंवा एखाद्या कथेसाठी गंभीर आणि गडद विषयांवर लिहायला सांगणे, यासारख्या गोष्टीही या नियमाच्या कक्षेतून वगळण्यात आल्या आहेत.
