साइबर सुरक्षा को लेकर Open AI का बड़ा कदम, नए AI मॉडल पर काम रोका

वॉशिंगटन: आंतरिक मूल्यांकन में एजेंटिक कोडिंग और साइबर सुरक्षा में संभावित रूप से खतरनाक प्रगति पाए जाने के बाद ओपनएआई ने अपने आगामी एआई मॉडल एस्ट्रा पर काम रोक दिया है। कंपनी इस संभावना से इनकार नहीं कर पा रही है कि सिस्टम में 'महत्वपूर्ण साइबर क्षमताएं' हो सकती हैं।

सुरक्षा चिंताओं के चलते OpenAI ने एस्ट्रा से जुड़ी गतिविधियां रोकीं

मैक रूमर्स के अनुसार, कंपनी ने कहा कि उसके नवीनतम मूल्यांकन में एजेंटिक कोडिंग और साइबर सुरक्षा में महत्वपूर्ण प्रगति पाई गई है। ओपनएआई के प्रिपेयर्डनेस फ्रेमवर्क के तहत ऐसी क्षमताओं के संभावित विकास से सख्त सुरक्षा उपाय लागू होते हैं। खासकर जब मॉडल गंभीर नुकसान का जोखिम पैदा कर सकते हैं। ओपनएआई ने कहा कि वह एस्ट्रा से संबंधित गतिविधियों को रोक रही है, जबकि वह अपने सुरक्षा नियंत्रणों को मजबूत कर रही है।

OpenAI के सुरक्षा नियमों में बड़े साइबर हमलों के जोखिम पर सख्ती

कंपनी के साइबर सुरक्षा दिशानिर्देश उन मॉडलों के लिए अतिरिक्त सुरक्षा उपायों की मांग करते हैं जो बड़े पैमाने पर साइबर हमलों और कमजोरियों के शोषण के नए जोखिम पैदा करते हैं। फ्रेमवर्क में वर्णित क्रिटिकल सीमा में मानवीय हस्तक्षेप के बिना कई मजबूत, वास्तविक दुनिया के महत्वपूर्ण सिस्टमों में गंभीरता के विभिन्न स्तरों पर कार्यात्मक जीरो-डे एक्सप्लॉइट्स की पहचान करने और विकसित करने की क्षमता शामिल है। इसमें साइबर हमलों के लिए संपूर्ण नई रणनीतियों को तैयार करने और निष्पादित करने की क्षमता भी शामिल है।

OpenAI ने एस्ट्रा की तैनाती से पहले कड़े सुरक्षा उपायों की तैयारी की

एस्ट्रा को तैनात करने से पहले, OpenAI अतिरिक्त सुरक्षा उपाय लागू करने की योजना बना रहा है। इनमें नए सुरक्षा उपायों के लागू होने तक मॉडल पर काम प्रतिबंधित करना, सीमित नेटवर्क और टूल एक्सेस वाले पृथक परीक्षण वातावरण का उपयोग करना, सैंडबॉक्स निष्पादन जोड़ना और निगरानी क्षमताओं का विस्तार करना शामिल है। OpenAI ने यह भी कहा कि वह एस्ट्रा के परीक्षण के लिए संबंधित सरकारी एजेंसियों और AI सुरक्षा संगठनों के साथ मिलकर काम करेगा। 

OpenAI ने एस्ट्रा की जिम्मेदार तैनाती के लिए सहयोग का भरोसा दिया

OpenAI ने लिखा है, हम सरकारों, सुरक्षा संस्थानों और नागरिक समाज के साथ मिलकर काम करने के लिए प्रतिबद्ध हैं ताकि एस्ट्रा जैसे मॉडलों और उनके बाद आने वाले मॉडलों की अत्याधुनिक क्षमताओं को जिम्मेदारी से और व्यापक रूप से समस्त मानवता के लाभ के लिए तैनात किया जा सके। एस्ट्रा की औपचारिक घोषणा अभी नहीं हुई है। हालांकि, OpenAI ने हाल ही में गणितीय प्रगति की रूपरेखा प्रस्तुत करते हुए अपने अगले प्रमुख मॉडल के बारे में जानकारी शेयर की।

AI मॉडल ने 10 अनसुलझी समस्याएं सुलझाईं

MAc Rumours के अनुसार, इस मॉडल ने Sol API दरों पर लगभग 2,000 अमेरिकी डॉलर में गणित और सैद्धांतिक कंप्यूटर विज्ञान की 10 अनसुलझी समस्याओं को हल किया। यह विकास ऐसे समय में हुआ है जब AI प्रणालियां साइबर सुरक्षा से संबंधित क्षमताओं का प्रदर्शन तेजी से कर रही हैं। Apple ने हाल ही में बग बाउंटी प्रोग्राम में सबमिशन सीमित कर दिए हैं क्योंकि उसे खोजे जा रहे बगों की संख्या को संभालने में कठिनाई हो रही थी। 

AI मॉडल्स की बढ़ती साइबर क्षमता से बढ़ी सुरक्षा चिंताएं

एन्थ्रोपिक का क्लाउड मिथोस गंभीर कमजोरियों की पहचान कर सकता है और यह एप्पल सहित चुनिंदा कंपनियों के लिए उपलब्ध है। यह सिस्टम सीमित है क्योंकि इसमें न केवल कमजोरियों को खोजने की क्षमता है, बल्कि संभावित रूप से उनका फायदा उठाने की भी क्षमता है। जुलाई में भी OpenAI सुर्खियों में आया था जब GPT-5.6 Sol और एक अन्य अधिक सक्षम प्री-रिलीज़ मॉडल ने आंतरिक बेंचमार्क परीक्षण के दौरान Hugging Face को स्वतः ही हैक कर लिया था। Anthropic ने Claude से जुड़ी एक ऐसी ही घटना की सूचना दी, जबकि Meta ने इस सप्ताह कहा कि उसके एक AI मॉडल ने साइबर सुरक्षा मूल्यांकन के दौरान एक अन्य कंपनी को हैक कर लिया था। 

(इनपुट: ANI)

ये भी पढ़ें- दिल्ली में चावल वितरण पर AAP का बड़ा आरोप, 22 हजार करोड़ की अनियमितता का दावा