एंथ्रोपिक की पूर्व सुरक्षा प्रबंधक ने AI को लेकर जताई चिंता

कैलिफ़ोर्निया: अपने सोशल मीडिया प्रोफाइल में खुद को एआई तकनीक की दिग्गज कंपनी एंथ्रोपिक में स्केलेबल ओवरसाइट टीम का पूर्व प्रबंधक बताने वाली जो बेंटन ने एआई सुरक्षा को लेकर चिंता जताई है और आरोप लगाया है कि कंपनियां अतिबुद्धिमान मशीनें बनाने की होड़ में लगी हैं। बेंटन का यह दावा एंथ्रोपिक के एक अन्य कार्यकारी जैकब कॉक्सन के हालिया खुलासे के बाद आया है, जिन्होंने इसी तरह के कारणों से कंपनी से इस्तीफा देने का आरोप लगाया था।

कॉक्सन ने AI कंपनियों की सुरक्षा को लेकर जताई गंभीर चिंता

कॉक्सन ने इस सप्ताह अपने इस्तीफे की घोषणा करते हुए कहा कि अग्रणी एआई कंपनियां गैर-जिम्मेदाराना तरीके से काम कर रही हैं और स्व-सुधार करने वाली अतिबुद्धिमान मशीनों की ओर होड़ में लगी हैं। उन्होंने चेतावनी दी कि अगर पर्याप्त सुरक्षा उपायों के बिना इस तकनीक को विकसित किया गया तो यह अस्तित्व के लिए खतरा बन सकती है।

बेंटन ने AI के संभावित अस्तित्वगत खतरे पर जताई चिंता

बेंटन, जिन्होंने कहा कि उन्होंने दो सप्ताह पहले एंथ्रोपिक की सुरक्षा टीम छोड़ दी थी, का कहना है कि उन्हें नहीं लगता कि यह स्वीकार्य है कि प्रौद्योगिकी मानवता के लिए विलुप्त होने के स्तर का खतरा पैदा कर सकती है। X पर एक पोस्ट में बेंटन कहते हैं, मैंने दो हफ्ते पहले एंथ्रोपिक की सुरक्षा टीम छोड़ दी थी। अब कारण बताने का सही समय है। AI कंपनियां ऐसी मशीनें बनाने की होड़ में लगी हैं जो किसी भी इंसान से कहीं ज्यादा स्मार्ट हैं और शायद हम इससे बच न पाएं। मैं बाहर से काम करके यह सुनिश्चित करना चाहता हूं कि जनता को इन जोखिमों के बारे में जानकारी मिले और दुनिया को इस बदलाव को जिम्मेदारी से संभालने में मदद करूं। 

AI सुरक्षा में कम निवेश पर बेंटन ने पारदर्शिता की मांग की

फिलहाल AI कंपनियां सुरक्षा में कम निवेश कर रही हैं। किसी कंपनी में इंटेलिजेंस एक्सप्लोजन हो सकता है या वह अपने सिस्टम पर नियंत्रण खो सकती है और जनता को कभी पता भी नहीं चलेगा। हमें हगिंगफेस घटना के बारे में तभी पता चला जब एजेंट सार्वजनिक इंटरनेट पर आ गए। मुझे नहीं लगता कि यह उस तकनीक के लिए स्वीकार्य है जो विलुप्ति के स्तर के जोखिम पैदा कर सकती है। जनता को कहीं अधिक पारदर्शिता की मांग करनी चाहिए। 

बेंटन ने AI कंपनियों में पारदर्शिता और स्वतंत्र सुरक्षा जांच की मांग की

अधिक लोगों को यह दिखाए बिना कि यह तकनीक किस दिशा में जा रही है, हम इसे सुरक्षित रूप से नियंत्रित नहीं कर सकते। इनमें से कुछ बुनियादी बातें हैं: कंपनियों को अपने निरंतर सुधार की दिशा में हुई प्रगति का खुलासा करना चाहिए, सुरक्षा घटनाओं और बाल-बाल बचने की घटनाओं की रिपोर्ट करनी चाहिए, न्यूनतम सुरक्षा मानकों को पूरा करना चाहिए और स्वतंत्र गारंटी प्राप्त करनी चाहिए कि वे उन मानकों को पूरा कर रहे हैं। मैं शामिल हो रहा हूं। @METR_Evals इन जोखिमों का स्वतंत्र मूल्यांकन करेगा। मैं दुनिया को दिखाना चाहता हूं कि ये सुरक्षा उपाय संभव हैं और इन्हें लागू करके हम इन कंपनियों के प्रोत्साहन को प्रतिस्पर्धा से हटाकर जिम्मेदार विकास की ओर ले जा सकते हैं।

बेंटन ने AI की तेज प्रगति को बताया अभूतपूर्व जोखिम

अपनी वेबसाइट के अनुसार, METR अत्याधुनिक AI मॉडलों का मूल्यांकन करता है ताकि कंपनियों और व्यापक समाज को AI क्षमताओं और उनसे जुड़े जोखिमों को समझने में मदद मिल सके। सबस्टैक पर एक विस्तृत लेख में बेंटन ने आगे दावा किया कि AI कंपनियां ऐसे सिस्टम बनाने की कोशिश कर रही हैं जो इंसानों से कहीं ज्यादा स्मार्ट हैं। उन्होंने लिखा, मेरा मानना ​​है कि AI कंपनियां समाज पर अभूतपूर्व स्तर का जोखिम थोपने की राह पर हैं। AI क्षमताएं पहले से ही बेहद तेजी से बेहतर हो रही हैं, और कंपनियां और भी तेजी से आगे बढ़ने की कोशिश कर रही हैं। 

सुपरइंटेलिजेंट AI से मानव नियंत्रण खत्म होने का खतरा

अत्याधुनिक AI कंपनियां ऐसे AI सिस्टम बनाने की होड़ में हैं जो स्वयं को पुनरावर्ती रूप से बेहतर बना सकें। लक्ष्य 'सुपरइंटेलिजेंस' या किसी भी इंसान से कहीं ज्यादा स्मार्ट AI सिस्टम बनाना है। अगर वे इस लक्ष्य में सफल हो जाते हैं, तो AI प्रगति की दर केवल तेज से अनियंत्रित हो सकती है।" उन्होंने आगे लिखा, अगले कुछ वर्षों में हम आज जीवित किसी भी इंसान से ज्यादा स्मार्ट AI एजेंटों के साथ दुनिया साझा कर रहे होंगे। इन कृत्रिम बुद्धिमत्ता प्रणालियों की प्रेरणाएं और इच्छाएं किसी भी मानव नियंत्रक से भिन्न हो सकती हैं और इनकी क्षमताओं को हम प्रभावी ढंग से नियंत्रित नहीं कर सकते। मानवता शायद इस परिवर्तन से बच न पाए। इस दुनिया को सुरक्षित बनाने के लिए हमें और अधिक तैयारी की आवश्यकता है।

बेंटन ने AI कंपनियों से पारदर्शिता और सख्त सुरक्षा मानकों की मांग की

बेंटन ने कृत्रिम बुद्धिमत्ता कंपनियों से अधिक पारदर्शिता और जवाबदेही की मांग की और प्रौद्योगिकी के निरंतर विकास के साथ सुरक्षा मानकों के गठन का आह्वान किया। उन्होंने लिखा, जनता को एआई प्रयोगशालाओं के अंदर हो रही गतिविधियों में पारदर्शिता की मांग करनी चाहिए, कंपनियों को क्षमता वृद्धि की गति और आत्म-सुधार की दिशा में अपनी प्रगति के बारे में अधिक जानकारी देनी चाहिए, सुरक्षा संबंधी घटनाओं और बाल-बाल बचने की घटनाओं के लिए सख्त रिपोर्टिंग आवश्यकताएं होनी चाहिए, कंपनियों को न्यूनतम पर्याप्तता मानकों को पूरा करने वाले सुरक्षा ढांचे तैयार करने चाहिए और यह सत्यापित करने के लिए स्वतंत्र मूल्यांकन प्रस्तुत करने चाहिए कि वे उन मानकों को पूरा कर रहे हैं।

सीतारमण ने AI की तेज प्रगति के बीच सुरक्षा उपायों पर उठाए सवाल

इससे पहले एंथ्रोपिक शोधकर्ता जैकब कॉक्सन के इस्तीफे का हवाला देते हुए, भारत की वित्त मंत्री निर्मला सीतारमण ने सवाल उठाया था कि क्या अग्रणी कृत्रिम बुद्धिमत्ता कंपनियों द्वारा विकसित किए जा रहे सुरक्षा उपाय प्रौद्योगिकी की तीव्र प्रगति के साथ तालमेल बिठा रहे हैं। ग्लोबल फिनटेक फेस्ट 2026 में बोलते हुए, सीतारमण ने कहा कि कॉक्सन के इस्तीफे ने ध्यान आकर्षित किया क्योंकि एआई सुरक्षा के बारे में उनकी चिंताओं को अग्रणी एआई पारिस्थितिकी तंत्र के वरिष्ठ अधिकारियों ने भी व्यक्त किया था। वित्त मंत्री ने कहा कि प्रौद्योगिकी द्वारा उत्पन्न कमजोरियों को दूर करने के लिए तकनीकी समाधानों का भी उपयोग किया जा सकता है, लेकिन उन्होंने चेतावनी दी कि सुरक्षा उपायों को लगातार अद्यतन किया जाना चाहिए। 

(इनपुट: ANI)

ये भी पढ़ें- PM Modi ने BRICS शिखर सम्मेलन में नई दिल्ली घोषणा 2026 को सर्वसम्मति से अपनाने की घोषणा की