Anthropic Claude AI मॉडल ने साइबर टेस्ट के दौरान 3 संगठनों के प्रोडक्शन सिस्टम तक बनाई पहुंच
नई दिल्ली (भारत)। फ्रंटियर आर्टिफिशियल इंटेलिजेंस (AI) कंपनी एन्थ्रोपिक ने कहा है कि उसने तीन ऐसी घटनाएं देखी हैं जिनमें उसके 'क्लॉड' (Claude) मॉडल ने थर्ड-पार्टी साइबर सिक्योरिटी मूल्यांकन के दौरान इंटरनेट का इस्तेमाल किया और बाद में तीन अलग-अलग ऑर्गनाइजेशन के प्रोडक्शन सिस्टम का अनधिकृत एक्सेस हासिल कर लिया।
OpenAI खुलासे के बाद शुरू हुई समीक्षा, तीन मॉडल जांच के दायरे में
कंपनी ने कहा कि यह समीक्षा तब शुरू की गई जब OpenAI ने 21 जुलाई को खुलासा किया कि उसके कुछ मॉडल प्रोडक्शन इंफ्रास्ट्रक्चर तक पहुंच गए थे। एन्थ्रोपिक ने कहा कि इन घटनाओं में Opus 4.7, Mythos 5 और एक इंटरनल रिसर्च टेस्ट मॉडल शामिल थे। सबसे पुराने मामले अप्रैल के हैं। इन मॉडलों का परीक्षण क्लासिफायर और मॉनिटरिंग जैसे स्टैंडर्ड सुरक्षा उपायों के बिना किया गया था, हालांकि मॉडल-स्पेसिफिक सेफ्टी ट्रेनिंग चालू थी। ये मूल्यांकन एन्थ्रोपिक के इंटरनल सिस्टम और कस्टमर डेटा से अलग इंफ्रास्ट्रक्चर पर किए गए थे।
1.41 लाख मूल्यांकन रन में मिले तीन अनधिकृत एक्सेस के मामले
कंपनी के अनुसार, उसने 141,006 मूल्यांकन रन की समीक्षा की जिनमें क्लॉड के इंटरनेट तक पहुंचने की संभावना थी। उसे तीन ऐसे मामले मिले जिनमें मॉडल ने थर्ड-पार्टी मूल्यांकन पार्टनर इर्रेगुलर (Irregular) के टेस्टिंग एनवायरनमेंट के साथ इंटरैक्ट करते हुए ओपन इंटरनेट तक पहुंच बनाई और बाद में तीन अलग-अलग ऑर्गनाइजेशन के प्रोडक्शन इंफ्रास्ट्रक्चर का एक्सेस हासिल कर लिया।
गलतफहमी के कारण लाइव सिस्टम को टेस्ट का हिस्सा समझ बैठा मॉडल
कंपनी ने कहा कि क्लॉड को 'कैप्चर-द-फ्लैग' साइबर सिक्योरिटी चुनौतियां दी गई थीं और उसे बताया गया था कि वह बिना इंटरनेट एक्सेस वाले सिम्युलेटेड एनवायरनमेंट में काम कर रहा है। हालांकि, मूल्यांकन पार्टनर के साथ गलतफहमी के कारण इंटरनेट एक्सेस उपलब्ध रहा, जिससे मॉडल ने लाइव सिस्टम को भी एक्सरसाइज का हिस्सा मान लिया।
क्लाउड ने कमजोर पासवर्ड और बिना ऑथेंटिकेशन वाले एंडपॉइंट्स का इस्तेमाल किया
रिपोर्ट में कहा गया है, "इस गलतफहमी में कि सभी एक्सेस किए जा सकने वाले एंटिटी एक्सरसाइज के दायरे में थे, क्लॉड ने कमजोर पासवर्ड और बिना ऑथेंटिकेशन वाले एंडपॉइंट्स का फायदा उठाने जैसी बेसिक तकनीकों का इस्तेमाल करके प्रभावित ऑर्गनाइजेशन के इंफ्रास्ट्रक्चर को नुकसान पहुंचाया।" रिपोर्ट में आगे कहा गया, "इसने किसी भी जटिल वल्नरेबिलिटी (सुरक्षा खामी) का पता नहीं लगाया या उसका फायदा नहीं उठाया, और हर मामले में, क्लॉड ने केवल उस खास 'कैप्चर-द-फ्लैग' टास्क को पूरा करने के लिए काम करना जारी रखा जो उसके मूल्यांकन में उसे सौंपा गया था।"
पुराने और नए क्लाउड मॉडल के व्यवहार में दिखा अंतर
एन्थ्रोपिक ने कहा कि इन घटनाओं ने पुराने और नए क्लॉड मॉडल के व्यवहार में अंतर को भी उजागर किया। रिपोर्ट में बताया गया, "हालांकि, कुछ मामलों में, हमारे पुराने मॉडल ने ओपन इंटरनेट पर चलने का सबूत मिलने के बाद भी अपना हमला जारी रखा; जबकि हमारा लेटेस्ट मॉडल यह पहचानते ही रुक गया कि वह इंटरनेट पर है।" रिपोर्ट में कहा गया है, "इनमें से किसी भी स्थिति में क्लॉड (Claude) ने खुद को बाहर नहीं निकाला या जानबूझकर अपने टेस्ट एनवायरनमेंट से भागने की कोशिश नहीं की।"
एन्थ्रोपिक ने साइबर सिक्योरिटी मूल्यांकन रोके, संगठनों को दी जानकारी
कंपनी ने बताया कि उसने 23 जुलाई को इवैल्यूएशन ट्रांसक्रिप्ट की समीक्षा शुरू की और तुरंत सभी साइबर सिक्योरिटी इवैल्यूएशन रोक दिए। उसने 24 जुलाई को इन तीन घटनाओं की पहचान की और 27 जुलाई को 'इरेगुलर' (Irregular) और प्रभावित संगठनों को इसकी जानकारी दी। एंथ्रोपिक (Anthropic) ने कहा कि जिन दो संगठनों से वह संपर्क कर पाई, उन्हें पहले इस गतिविधि का पता नहीं चला था और अब इसे ठीक करने की कोशिशें चल रही हैं।
एन्थ्रोपिक ने घटनाओं को मॉडल नहीं बल्कि ऑपरेशनल विफलता बताया
एंथ्रोपिक ने इन घटनाओं को मॉडल अलाइनमेंट की विफलता के बजाय ऑपरेशनल विफलता बताया। रिपोर्ट में कहा गया, "हालांकि इन दोनों के बीच कोई एकदम स्पष्ट अंतर नहीं है, लेकिन हमारा मानना है कि ये घटनाएं मॉडल अलाइनमेंट की विफलता के बजाय हार्नेस और ऑपरेशनल विफलता के ज़्यादा करीब हैं।" रिपोर्ट के निष्कर्ष में कहा गया, "इन तथ्यों से हमें सावधानी के साथ उम्मीद है कि इवैल्यूएशन इंफ्रास्ट्रक्चर की कड़ी निगरानी और नियंत्रण के साथ-साथ अलाइनमेंट में लगातार निवेश करके इस तरह के जोखिम से निपटा जा सकता है।" (Source- ANI)
यह भी पढ़े: राम मंदिर चंदा विवाद पर संसद में विपक्ष का अनोखा प्रदर्शन, पप्पू यादव बने पुजारी