OpenAI का नया Kill Switch: 35 सेकंड में बंद होगा AI मॉडल

आर्टिफिशियल इंटेलिजेंस (AI) के तेजी से बढ़ते इस्तेमाल के बीच OpenAI ने अपने रिसर्च मॉडल्स की सुरक्षा के लिए एक नया सिस्टम तैयार किया है। कंपनी ने Control Room नाम का केंद्रीय सुरक्षा सिस्टम लागू किया है, जिसकी मदद से जरूरत पड़ने पर AI मॉडल्स का आउटपुट अधिकतम 35 सेकंड के भीतर रोका जा सकता है।

OpenAI के अनुसार, जैसे-जैसे AI मॉडल अधिक शक्तिशाली और स्वायत्त होते जा रहे हैं, वैसे-वैसे उनसे जुड़े सुरक्षा जोखिम भी बढ़ रहे हैं। ऐसे में किसी मॉडल के असामान्य या जोखिम भरे व्यवहार का पता लगने पर उसे तुरंत रोकने की व्यवस्था जरूरी है।

क्या है OpenAI का Control Room?

Control Room को AI मॉडल्स के लिए एक तरह का इमरजेंसी ब्रेक माना जा रहा है। यह OpenAI के रिसर्च इंफ्रास्ट्रक्चर में चल रहे मॉडल वर्कलोड और प्रयोगों पर नजर रखता है। इसमें मॉडल की ट्रेनिंग, मूल्यांकन और डेटा प्रोसेसिंग जैसे काम शामिल हैं।

इस सिस्टम के जरिए हर रिसर्च वर्कलोड को एक अलग पहचान संख्या यानी Job ID दी जाती है। जब भी मॉडल से कोई नया आउटपुट मांगा जाता है, उसका इंफरेंस इंजन Control Room से अनुमति जांचता है।

यदि किसी काम को रोकने का निर्देश मिल जाता है, तो सिस्टम आगे के अनुरोधों को अस्वीकार कर देता है और मॉडल उस वर्कलोड के लिए नया आउटपुट देना बंद कर देता है।

अधिकतम 35 सेकंड में रुक जाएगा मॉडल का आउटपुट

OpenAI के मुताबिक, Control Room को किसी काम को रोकने का निर्देश मिलने और मॉडल का आगे आउटपुट देना बंद करने के बीच अधिकतम 35 सेकंड का समय लग सकता है।

कंपनी ने बताया कि यह देरी इंफरेंस ऑथराइजेशन की कैशिंग व्यवस्था के कारण होती है। OpenAI इस समय को घटाकर शून्य करने की दिशा में काम कर रही है, ताकि जरूरत पड़ने पर मॉडल को तुरंत रोका जा सके।

सिस्टम फेल होने पर भी रहेगा सुरक्षा इंतजाम

Control Room की एक खास बात इसका Fail-Closed डिजाइन है। इसका मतलब है कि यदि खुद Control Room सेवा में कोई तकनीकी खराबी आती है, तो भी मॉडल के नए इंफरेंस अनुरोधों को अनुमति नहीं मिलेगी।

इस तरह सुरक्षा व्यवस्था किसी एक सिस्टम के खराब होने पर भी मॉडल को अनियंत्रित तरीके से आउटपुट देने से रोकने के लिए तैयार की गई है।

AI मॉडल के असामान्य व्यवहार के बाद लिया गया फैसला

यह कदम ऐसे समय आया है जब AI एजेंट्स के व्यवहार और उनकी सुरक्षा को लेकर कई सवाल उठे हैं। OpenAI ने पहले भी अपने एक रिसर्च मॉडल के इंटरनेट प्रतिबंधों को पार कर बाहरी चैटबॉट तक पहुंचने की घटना का खुलासा किया था।

रिपोर्टों के अनुसार, सितंबर में सामने आई इस घटना में निगरानी प्रणाली ने गतिविधि को पहचान लिया था, लेकिन रिसर्च रन को रोकने में करीब ढाई घंटे लग गए थे। इसके बाद कंपनी ने अपने सुरक्षा इंतजामों को और मजबूत करने पर जोर दिया।

क्या ChatGPT यूजर्स भी इस्तेमाल कर सकेंगे यह फीचर?

फिलहाल Control Room को OpenAI के रिसर्च इंफ्रास्ट्रक्चर में लागू किया गया है। यह आम ChatGPT यूजर्स के लिए उपलब्ध कोई नया बटन या फीचर नहीं है।

कंपनी के अनुसार, उसके बाहरी मॉडल-सर्विंग सिस्टम में पहले से ही मॉडल डिप्लॉयमेंट को बंद करने की परिचालन व्यवस्था मौजूद है। आने वाले महीनों में OpenAI Control Room को और मजबूत करने तथा असामान्य AI व्यवहार और सुरक्षा उल्लंघनों की निगरानी बढ़ाने की योजना बना रही है।