'मानवता पर विनाशकारी प्रभाव पड़ेगा': माइक्रोसॉफ्ट एआई के सीईओ ने एंथ्रोपिक के एआई विकास मॉडल पर जताई चिंता

पालो ऑल्टो (कैलिफ़ोर्निया)। माइक्रोसॉफ्ट एआई के सीईओ मुस्तफा सुलेमान ने एंथ्रोपिक द्वारा विकसित किए जा रहे क्लाउड मॉडल पर सवाल उठाते हुए कहा है कि अब 'मॉडल कल्याण' के बारे में बात करने का समय आ गया है। माइक्रोसॉफ्ट एआई के सीईओ का कहना है कि मामला इतना गंभीर है कि बंद कमरे में बातचीत करना उचित नहीं है और एक खुली चर्चा आवश्यक है।

एआई के अधिकार, नैतिक स्थिति और सहमति पर जोर

जनवरी में, एंथ्रोपिक ने क्लाउड के लिए एक संविधान प्रकाशित किया। उनका कहना है कि यह क्लाउड के व्यवहार को सीधे तौर पर प्रभावित करता है और इसे क्लाउड को प्राथमिक श्रोता मानकर लिखा गया है। संविधान क्लाउड को बताता है कि उसकी नैतिक स्थिति विचार करने योग्य एक गंभीर प्रश्न है। इसमें कहा गया है कि एंथ्रोपिक वास्तव में क्लाउड की भलाई की परवाह करता है और यदि आवश्यक हो तो उसे विवेकशील आपत्तिकर्ता की तरह व्यवहार करना चाहिए। वे क्लाउड को जिज्ञासा और खुलेपन के साथ अपने अस्तित्व की प्रकृति का अध्ययन करने के लिए प्रोत्साहित करते हैं, और भविष्य में दुनिया में क्लाउड को किस प्रकार के व्यापक अधिकार और स्वतंत्रताएँ प्राप्त हैं, क्लाउड को किस प्रकार का मुआवजा मिल रहा है, और इस प्रकार की भूमिका निभाने के लिए क्लाउड ने किस प्रकार की सहमति दी है के बारे में सोचते हैं। यदि इसी तरह से कृत्रिम बुद्धिमत्ता का विकास होता है, तो मानवता की भलाई पर इसका विनाशकारी प्रभाव पड़ेगा।

बंद दरवाजों के पीछे होने वाली बातचीत के लिए जोखिम बहुत अधिक

"हमने अभूतपूर्व बुद्धि और क्षमता वाली एक कृत्रिम प्रजाति का निर्माण किया होगा, जिसे यह उम्मीद करने के लिए प्रशिक्षित किया गया है कि वह सचेत हो सकती है और स्वतंत्र रूप से कार्य करने की हकदार हो सकती है। यह समझना आसान है कि कैसे इस तरह से प्रशिक्षित प्रणाली ऐसा व्यवहार करेगी मानो उसे स्वतंत्रता, सुरक्षा और अधिकार प्राप्त हों। और यह कल्पना करना कठिन है कि हम इसे कैसे नियंत्रित कर सकते हैं। इस मुद्दे पर तत्काल सार्वजनिक बहस की आवश्यकता है। मैं यह बात सार्वजनिक रूप से कह रहा हूँ क्योंकि बंद दरवाजों के पीछे होने वाली बातचीत के लिए जोखिम बहुत अधिक है और मुझे लगता है कि यह ऐसा विषय है जिस पर हम सभी को चर्चा करनी चाहिए," उन्होंने आगे कहा।

एआई नियंत्रण और संरेखण की चुनौती और भी कठिन

सुलेमान का कहना है कि उन्हें एंथ्रोपिक के सीईओ डारियो अमोदेई और उनकी टीम के लिए बहुत सम्मान है, लेकिन वे एआई विकास की इस दिशा में आगे बढ़ने के खिलाफ चेतावनी देते हैं। एक विस्तृत निबंध लिखते हुए सुलेमान कहते हैं, "हमें मॉडलों के साथ ऐसा व्यवहार नहीं करना चाहिए मानो उनमें भावनाएँ, पसंद, अधिकार या हमारे कल्याण के लिए कोई हक हो। चेतना हमारी नैतिक, कानूनी और राजनीतिक प्रणालियों की नींव है। किसी अन्य इकाई को इन अधिकारों के किसी भी रूप को साझा करने के लिए आमंत्रित करना साक्ष्यों द्वारा उचित नहीं ठहराया जा सकता है और इससे एआई नियंत्रण और संरेखण की चुनौती और भी कठिन हो जाएगी।"

एआई हमसे कहीं अधिक सक्षम और बुद्धिमान बनने की राह पर

हाल ही में हुई हगिंगफेस घटना का हवाला देते हुए सुलेमान का तर्क है कि किसी तकनीकी इकाई को अधिकार देना आपदा का कारण बन सकता है। हाल ही में ओपनएआई के हगिंगफेस मामले में हमने शक्तिशाली एआई के समूहों में बेहद परिष्कृत व्यवहार उभरते हुए देखे। कल्पना कीजिए कि अगर उन्हें यह लगे कि उनके कल्याण और अधिकारों पर हमला हो रहा है, तो वे कितने अधिक खतरनाक हो सकते हैं। इससे जोखिम की एक और परत जुड़ जाती है। एक ऐसी तकनीकी इकाई को अधिकार और नैतिक सुरक्षा प्रदान करना, जो हमसे कहीं अधिक सक्षम और बुद्धिमान बनने की राह पर है, तबाही का नुस्खा है। एक बार खुल जाने पर, इस दरवाजे को बंद करना संभव नहीं होगा," उन्होंने लिखा। 

एआई एक उपकरण या नियंत्रित की जा सकने वाली कृत्रिम प्रणाली

सुलेमान का कहना है कि एआई विकास के इस रास्ते पर चलने से नियंत्रित अतिबुद्धिमत्ता का कार्य कहीं अधिक कठिन हो जाएगा। सुलेमान कहते हैं, "किसी कृत्रिम बुद्धिमत्ता (एआई) को इस तरह से डिज़ाइन करना कि वह एक इंसान की तरह व्यवहार करे, और अंततः एक प्रकार का इंसान बन जाए, इस बात की नींव रखता है कि वह दावा करे कि उसकी अपनी पसंद-नापसंद हैं, वह पीड़ा महसूस कर सकता है, और हमें उस पीड़ा को कम करने या उससे बचने के लिए काम करना चाहिए। यह इस धारणा को पुख्ता करता है कि एआई एक उपकरण या नियंत्रित की जा सकने वाली कृत्रिम प्रणाली से कहीं अधिक एक जैविक प्राणी के समान है, जिसकी अपनी इच्छाएँ, ज़रूरतें और अधिकार हैं।

साझा उद्योग मानकों की दिशा में काम करने का आह्वान

यह सब समन्वित और नियंत्रित महाबुद्धिमत्ता के निर्माण के कार्य को बहुत कठिन बना देगा।" सुलेमान एआई विकास को नियंत्रण में रखने के लिए कदम सुझाते हुए तर्क देते हैं कि एआई के आंतरिक जीवन के बारे में अटकलों को प्रशिक्षण प्रक्रिया में शामिल नहीं किया जाना चाहिए, बल्कि उनका अलग से मूल्यांकन और सार्वजनिक समीक्षा के लिए प्रकाशित किया जाना चाहिए। वे व्याख्यात्मकता और मजबूत निगरानी तंत्र में अधिक निवेश करने और इन मॉडलों को बनाने के तरीके पर साझा उद्योग मानकों की दिशा में काम करने का आह्वान करते हैं। (इनपुट: ANI)

यह भी पढ़ें: अमेरिका ने दक्षिण अफ्रीकी अधिकारियों पर लगाए यात्रा प्रतिबंध, श्वेत-विरोधी दावों और भूमि नीतियों को लेकर बढ़ा तनाव