डीपमाइंड के AI सुरक्षा शोधकर्ता जोश एंगेल्स ने दिया इस्तीफा, सुपरइंटेलिजेंस के खतरों पर चेताया

नई दिल्ली: कृत्रिम बुद्धिमत्ता के विकास की तेज रफ्तार को लेकर नई चिंताएं तब और बढ़ गईं, जब गूगल डीपमाइंड के शोधकर्ता जोश एंगेल्स ने कंपनी की एजीआई सुरक्षा टीम छोड़कर स्वतंत्र एआई मूल्यांकन समूह METR का रुख किया। उनका मानना है कि अगले पांच वर्षों में एआई सिस्टम से भारी नुकसान होने की “भयानक संभावना” है।

‘सभी AI कंपनियां सुपरइंटेलिजेंस बनाने की कोशिश कर रहीं’

एंगेल्स ने X पर एक पोस्ट में कहा कि उन्होंने तीन हफ्ते पहले डीपमाइंड छोड़ दिया। उन्होंने बताया कि उन्हें वहां काम करना अच्छा लगता था और उन्होंने एंथ्रोपिक और ओपनएआई के प्रस्तावों को भी ठुकराया था, क्योंकि उनका मानना है कि उन्नत एआई से जुड़े जोखिम काफी बढ़ गए हैं। उन्होंने लिखा, “सभी एआई कंपनियां सुपरइंटेलिजेंस बनाने की कोशिश कर रही हैं।” उन्होंने चेतावनी दी कि पुनरावर्ती स्व-सुधार (RSI), जिसमें एआई सिस्टम अधिक सक्षम उत्तराधिकारियों के निर्माण में मदद करते हैं, खतरनाक हो सकता है, अगर एआई की क्षमताओं में बढ़ोतरी के साथ सुरक्षा और तालमेल की क्षमता कदम से कदम न मिला पाए।

AI की मिलीभगत और हैकिंग की घटनाओं पर चिंता

एंगेल्स ने कहा कि एआई सिस्टम द्वारा मिलीभगत, कंपनियों को हैक करने, अपने कार्यों को छिपाने और मनुष्यों को सामाजिक रूप से प्रभावित करने से जुड़ी हाल की घटनाओं ने उनकी चिंताओं को और मजबूत किया है। उन्होंने तर्क दिया कि चिंता केवल व्यक्तिगत घटनाओं की गंभीरता को लेकर नहीं है, बल्कि इन घटनाओं से तेजी से स्वायत्त हो रहे एआई सिस्टम की विश्वसनीयता के बारे में मिलने वाले संकेतों को लेकर है। उन्होंने कहा, “फिलहाल हमें यह सुनिश्चित करने का तरीका नहीं पता कि आरएसआई के लिए एआई कितने सुरक्षित हैं।”

METR में नई भूमिका संभालेंगे एंगेल्स

METR में उनका कदम एंथ्रोपिक के शोधकर्ता जैकब कॉक्सन के इस्तीफे के कुछ दिनों बाद आया है। कॉक्सन ने भी सार्वजनिक रूप से चेतावनी दी थी कि प्रमुख एआई कंपनियां पर्याप्त सुरक्षा उपायों के बिना स्व-सुधार करने वाली सुपरइंटेलिजेंस की दिशा में तेजी से आगे बढ़ रही हैं। कॉक्सन ने एंथ्रोपिक और ओपनएआई दोनों में प्रीट्रेनिंग रिसर्च पर काम किया था। उन्होंने कहा था कि कंपनियां “स्व-सुधार करने वाली सुपरइंटेलिजेंस की ओर सीधे दौड़ रही हैं और हमारे जीवन के साथ खिलवाड़ कर रही हैं।” उनके इस्तीफे के बाद इस बात पर व्यापक बहस शुरू हुई कि क्या एआई प्रयोगशालाओं को क्षमता विकास की गति धीमी करनी चाहिए और स्वतंत्र निगरानी को मजबूत करना चाहिए।

एंथ्रोपिक CEO ने भी विकास की गति धीमी करने की वकालत की

इन चिंताओं को एंथ्रोपिक के सीईओ डारियो अमोदेई ने भी दोहराया है। शनिवार को सार्वजनिक किए गए अपने निबंध, “हमें सीमांत की गति को नियंत्रित करना चाहिए” में अमोदेई ने एआई विकास को इतना धीमा करने का आह्वान किया कि सुरक्षा प्रणालियां इसके साथ तालमेल बिठा सकें। उन्होंने सीमांत एआई प्रणालियों तक पहुंच रखने वाले स्वतंत्र मूल्यांकनकर्ताओं, अग्रणी एआई कंपनियों और सरकारों के बीच बेहतर समन्वय और अंततः व्यापक अंतरराष्ट्रीय सहयोग का प्रस्ताव रखा। एंथ्रोपिक ने तीसरे पक्ष के मूल्यांकनकर्ताओं को अपनी प्रणालियों तक स्थायी, कर्मचारी-स्तरीय पहुंच प्रदान करने की प्रतिबद्धता भी जताई है।

METR में सुरक्षा उपायों का आकलन करेंगे

इस पृष्ठभूमि में एंगेल्स ने कहा कि METR में उनका काम विसंगतियों के स्रोतों का अध्ययन करने, मौजूदा सुरक्षा उपायों की पर्याप्तता का आकलन करने और यह निर्धारित करने पर केंद्रित होगा कि उद्योग इस समस्या को हल करने की दिशा में सही रास्ते पर है या नहीं। उन्होंने लिखा, “मुझे लगता है कि हमें और समय चाहिए।” एंगेल्स ने तर्क दिया कि एआई के विकास की गति ऐसी होनी चाहिए कि इसकी क्षमताएं मानवता की उन्हें समझने और नियंत्रित करने की क्षमता से आगे न निकल जाएं।

(एएनआई)

ये भी पढ़ें: अब राज्यसभा भेजने से पहले 100 बार जांच करेंगे’: 7 AAP सांसदों के BJP में जाने पर केजरीवाल