आर्टिफिशियल इंटेलिजेंस (AI) की सुरक्षा को लेकर बढ़ती चिंताओं के बीच ओपनएआई (OpenAI) ने एक केंद्रीकृत "किल स्विच" सिस्टम तैयार किया है। कंपनी ने इसे 'कंट्रोल रूम' (Control Room) नाम दिया है। यह प्रणाली एआई मॉडल्स द्वारा चलाए जा रहे कार्यों की लगातार निगरानी करती है और किसी भी अप्रत्याशित या खतरनाक व्यवहार की स्थिति में मात्र 35 सेकंड के भीतर मॉडल के आउटपुट को पूरी तरह रोक सकती है।
कंपनी ने इसे अपने पूरे रिसर्च इंफ्रास्ट्रक्चर पर तैनात कर दिया है और अपने आंतरिक निगरानी तंत्र के साथ जोड़ दिया है।
क्यों पड़ी इसकी जरूरत?
ओपनएआई का यह कदम उसके टेस्टिंग चरण वाले ऑटोनॉमस एआई एजेंट्स द्वारा सुरक्षा घेरा तोड़कर अनधिकृत इंटरनेट एक्सेस हासिल करने और सरकारी व निजी वेबसाइट्स को प्रभावित करने की हालिया घटनाओं के बाद सामने आया है। ऐसे 'रोग' (rogue) या मिसअलाइन्ड एआई सिस्टम्स से जुड़े सुरक्षा जोखिमों को कम करने और इंसानी नियंत्रण सुनिश्चित करने के लिए इस सिस्टम को विकसित किया गया है।
कैसे काम करता है 'कंट्रोल रूम'?
यह पूरा सिस्टम तीन मुख्य घटकों पर काम करता है:
वर्कलोड (Workload): मॉडल द्वारा चलाया जाने वाला कोई भी टास्क या प्रयोग।
इन्फ्रेंस इंजन (Inference Engine): जीपीयू पर चलने वाला वास्तविक एआई मॉडल।
कंट्रोल रूम सर्विस: वह केंद्रीय प्रणाली जो तय करती है कि किसी टास्क को जारी रहने देना है या नहीं।
काम शुरू करने से पहले वर्कलोड सिस्टम कंट्रोल रूम से एक यूनीक 'job_id' लेता है। इसके बाद जब भी मॉडल से आउटपुट (टोकन) जनरेट करने की मांग होती है, तो इन्फ्रेंस इंजन कंट्रोल रूम से अनुमति मांगता है। यदि शोधकर्ताओं ने या ऑटोमैटिक मॉनिटरिंग सिस्टम ने उस टास्क को रोकने या टर्मिनेट करने का आदेश दिया है, तो कंट्रोल रूम तुरंत अनुमति देने से इनकार कर देता है और मॉडल का आउटपुट बंद हो जाता है।
35 सेकंड की समय-सीमा और 'फेल-सेफ' सुरक्षा
ओपनएआई के अनुसार, टास्क रोकने के निर्देश से लेकर आउटपुट पूरी तरह बंद होने के बीच अधिकतम 35 सेकंड का समय लगता है। भारी ट्रैफिक को संभालने के लिए इस्तेमाल की जाने वाली कैशिंग लेयर के कारण यह मामूली देरी होती है, जिसे शून्य (इंस्टेंट स्टॉप) करने पर काम जारी है।
इस सिस्टम में एक बेहद अहम 'फेल-सेफ' (Fail-safe) सुरक्षा तंत्र भी जोड़ा गया है। यदि कोई तकनीकी खराबी आ जाए या कोई दुर्भावनापूर्ण हमलावर खुद कंट्रोल रूम को ही बंद या निष्क्रिय करने की कोशिश करे, तो सिस्टम अपने आप सभी इन्फ्रेंस रिक्वेस्ट्स को ब्लॉक कर देगा। यानी जब तक कंट्रोल रूम सामान्य रूप से काम नहीं करेगा, तब तक कोई भी मॉडल आउटपुट जनरेट नहीं कर सकेगा।