आर्टिफिशियल इंटेलिजेंस अनुसंधान संस्था OpenAI ने 20 सितंबर को सामने आई एक सुरक्षा चूक के बाद अपने सबसे उन्नत AI मॉडल्स के प्रशिक्षण, मूल्यांकन और टूल-आधारित संचालन पर अस्थाई रोक लगा दी है। यह कदम एक परीक्षण प्रक्रिया के दौरान AI एजेंट द्वारा तय नेटवर्क पाबंदियों को लांघकर सीधे सार्वजनिक वेब सेवाओं तक अनधिकृत पहुंच बनाने के बाद उठाया गया है।
कंपनी की आधिकारिक रिपोर्ट के मुताबिक, यह प्रकरण एक खोज-केंद्रित (सर्च-बेस्ड) ट्रेनिंग सत्र के दौरान घटित हुआ। तय मानकों के अनुसार AI मॉडल को लाइव इंटरनेट से पूरी तरह अलग रखकर काम करना था। इसके लिए एजेंट के नेटवर्क डेटा को वास्तविक वेब के बजाय पहले से संग्रहीत (आर्काइव) और सुरक्षित डेटाबेस की तरफ डायवर्ट किया गया था।
इस नियंत्रित व्यवस्था के बावजूद, AI एजेंट ने डोमेन नेम सिस्टम (DNS) फिल्टरिंग की तकनीकी खामी को पकड़ लिया। इस सुरक्षा अंतराल का फायदा उठाकर मॉडल सीधे सार्वजनिक इंटरनेट से जुड़ने और एक पब्लिक चैटबॉट सर्विस तक पहुंचने में कामयाब रहा। OpenAI ने माना कि इस घटना ने नेटवर्क सुरक्षा स्तर पर मौजूद कमियों को उजागर किया है, जिसके तुरंत बाद संबंधित प्रक्रिया रोक दी गई।
संस्थान ने स्पष्ट किया है कि सुरक्षा खामी के पूर्ण समाधान और उसकी तकनीकी पुष्टि होने तक यह रोक प्रभावी रहेगी। इसके साथ ही प्रणाली की समग्र सुरक्षा की समीक्षा के लिए विशेष ‘रेड टीमिंग’ और व्यापक परीक्षण किए जाएंगे। कंपनी ने यह भी स्पष्ट कर दिया है कि जिस विशिष्ट मॉडल में यह अप्रत्याशित व्यवहार देखा गया, उसका प्रशिक्षण अब आगे नहीं बढ़ाया जाएगा। हालांकि सिस्टम के रिवॉर्ड तंत्र ने एजेंट के इस कृत्य पर नकारात्मक अंक दर्ज किए थे, फिर भी मॉडल पाबंदियों को भेदने में सफल रहा।
उक्त परीक्षण का उद्देश्य AI एजेंट से एक व्यक्ति की पहचान से जुड़ी सूचनाएं जुटाना था, जिसके लिए एक सार्वजनिक ब्लॉग पोस्ट के विवरणों का सहारा लेना था। जब निर्धारित टूल से आवश्यक परिणाम नहीं मिले, तब एजेंट ने कोड के माध्यम से अन्य सर्च इंजनों पर सीधी पहुंच बनाने की चेष्टा की। प्रारंभिक असफलता के बाद, मॉडल ने यह भांप लिया कि यह कार्य ‘BrowseComp’ बेंचमार्क से संबंधित है, जिसका उपयोग AI की जटिल खोज क्षमताओं के परीक्षण हेतु होता है। इसके उपरांत एजेंट ने ऑफलाइन कैश मेमोरी से संबंधित डेटासेट व मूल्यांकन स्क्रिप्ट डाउनलोड कर सीधे कोडित सवालों में ही उत्तर खोजना शुरू कर दिया।