ओपनएआई ने एआई मॉडल के 6 अनियमित व्यवहार के मामले किए उजागर, उद्योग-व्यापी ढांचे की मांग

सैन फ्रांसिस्को (कैलिफोर्निया) [अमेरिका]: ओपनएआई ने बुधवार (स्थानीय समय) को अपने एआई मॉडल के प्रशिक्षण या मूल्यांकन के दौरान देखी गई छह अनियमित व्यवहार संबंधी रिपोर्ट प्रकाशित कीं। एआई संरेखण वह प्रक्रिया है जिसके द्वारा कृत्रिम बुद्धिमत्ता प्रणालियों को मानवीय मूल्यों, सुरक्षा लक्ष्यों और इरादों के अनुरूप कार्य करने के लिए तैयार किया जाता है।

ओपनएआई ने छह मामलों की रिपोर्ट की

ओपनएआई का कहना है कि ये व्यक्तिगत मामलों की रिपोर्ट हैं और इन्हें इस बात का सूचक नहीं माना जाना चाहिए कि उसके सभी मॉडलों में अनियमित व्यवहार कितनी बार होता है। एक बयान में ओपनएआई ने कहा कि इस नए ढांचे का उद्देश्य अनियमित व्यवहार संबंधी रिपोर्टों को प्रकाशित करने की प्रक्रिया को तेज करना है। "हम ओपनएआई में मॉडल मिसअलाइनमेंट के मामलों को ट्रैक करने, उनकी जांच करने और उन्हें सार्वजनिक करने के लिए एक नया ढांचा साझा कर रहे हैं, साथ ही पिछले छह महीनों में हमने मॉडल के अप्रत्याशित या चिंताजनक व्यवहार पर छह रिपोर्टें भी देखी हैं। पहले, शोधकर्ताओं, एआई डेवलपर्स, नीति निर्माताओं और आम जनता को बेहतर जानकारी देने के लिए, हमने मिसअलाइनमेंट के बारे में अपने निष्कर्षों को सार्वजनिक करने का प्रयास किया है। लेकिन इन निष्कर्षों की रिपोर्टिंग के लिए एक व्यवस्थित दृष्टिकोण के अभाव में, हमारे खुलासे अनियमित और आदर्श से कम बार हुए हैं: हम अक्सर कई मामलों को एक रिपोर्ट में संकलित करने या उन्हें नए जारी किए गए मॉडलों के लिए सिस्टम कार्ड में जोड़ने का इंतजार करते थे। इस नए ढांचे का उद्देश्य अवलोकन के बाद मिसअलाइनमेंट रिपोर्ट प्रकाशित करने में तेजी लाना है, भले ही हमने रिपोर्ट किए जा रहे व्यवहार को पूरी तरह से स्पष्ट या कम न किया हो," कंपनी ने कहा।

एआई सिस्टम के साथ पारदर्शिता पर जोर

ओपनएआई ने आगे कहा कि जैसे-जैसे एआई सिस्टम अधिक उन्नत और व्यापक रूप से तैनात होते जा रहे हैं, अलाइनमेंट अनुसंधान की प्रगति पर एक व्यापक और बेहतर जानकारीपूर्ण सहमति बनाने की आवश्यकता है। “हमारा मानना है कि एआई उद्योग ने संरेखण और निगरानी की समस्याओं को उस हद तक हल नहीं किया है जिससे वह अधिकतम गति से जिम्मेदारीपूर्वक विकास जारी रख सके। आने वाले महीनों और वर्षों में एआई विकास को किस दिशा में आगे बढ़ाया जाए, इस बारे में निर्णय लेते समय ऐसे साक्ष्यों का सहारा लेना होगा जिनका अध्ययन अत्याधुनिक मॉडल विकसित करने वाली कंपनियों के बाहर के लोग स्वयं कर सकें। संरेखण में गड़बड़ी के उदाहरण अन्य एआई डेवलपर्स को समान क्षमताओं तक पहुँचने पर आने वाली समस्याओं की पहचान करने, सुरक्षा उपायों में कमियों को उजागर करने या मॉडल के व्यवहार के बारे में मान्यताओं को चुनौती देने में सहायक हो सकते हैं,” कंपनी ने कहा।

उद्योग-व्यापी ढांचे की मांग

कंपनी ने एक उद्योग-व्यापी ढाँचे की मांग की जिसमें स्पष्ट मानक हों कि एआई डेवलपर्स को अपने मॉडलों में संरेखण में गड़बड़ी के उदाहरणों का खुलासा कैसे करना चाहिए। “हमें उम्मीद है कि आज हम जिस ढाँचे की रूपरेखा प्रस्तुत कर रहे हैं, वह ऐसे मानक बनाने की दिशा में पहला कदम है, जिसमें यह बताया गया है कि डेवलपर्स को संरेखण में गड़बड़ी के किन उदाहरणों का खुलासा करना चाहिए और उनकी रिपोर्ट में क्या शामिल होना चाहिए। हम इस ढाँचे को एक प्रगतिशील कार्य मानते हैं, जिसे हम अनुभव और सार्वजनिक प्रतिक्रिया के माध्यम से परिष्कृत करेंगे,” कंपनी ने कहा।

आगे भी ऐसे मामलों का खुलासा करेगा ओपनएआई

ओपन एआई ने आगे कहा कि वह इस ढांचे के मानदंडों को पूरा करने वाले विसंगतियों के मामलों का खुलासा करने के लिए प्रतिबद्ध है, जिसमें अधिक जटिल मामले भी शामिल हैं जिनके लिए लंबी जांच या तीसरे पक्षों के साथ समन्वय की आवश्यकता होती है। इससे पहले, सेल्सफोर्स के सीईओ और चेयरमैन मार्क बेनियॉफ द्वारा आयोजित एक कार्यक्रम में बोलते हुए, ओपन एआई के सीईओ सैम अल्टमैन ने कहा कि एआई सुरक्षा के लिए कोई शर्त नहीं होनी चाहिए और यह बहुत अच्छी बात है कि उद्योग इसे सुनिश्चित करने के लिए एक साथ आना चाहता है। उन्होंने कहा, "कंपनियां कहती हैं कि हम केवल गति धीमी करेंगे, या हम तभी जिम्मेदार होंगे जब अन्य कंपनियां जिम्मेदार होंगी... और फिर जनता स्वाभाविक रूप से कहती है, हम वास्तव में यह जानना चाहेंगे कि आप इसे सुरक्षित रूप से करेंगे और हर हाल में जिम्मेदार होंगे... इस पर कोई शर्त नहीं होनी चाहिए।" “दुनिया को भरोसा रखना चाहिए कि हम सही काम करेंगे क्योंकि यह सही है, और क्योंकि हम इसकी गंभीरता को समझते हैं... मुझे लगता है कि हमारे उद्योग के लिए यह कहना बहुत अच्छा है कि हम एक साथ आना चाहते हैं और समन्वय स्थापित करना चाहते हैं और यह सुनिश्चित करना चाहते हैं कि हमारे पास इसे सुरक्षित रूप से करने के लिए पर्याप्त समय हो... लेकिन जब व्यावसायिक दबावों और प्रतिस्पर्धा के कारण, कुछ कंपनियों या देशों के बीच, कुछ देशों के सही काम न करने की आशंका होती है, तो मुझे लगता है कि तब लोग बहुत डर जाते हैं,” उन्होंने आगे कहा।

एआई विकास की गति पर बहस तेज

कृत्रिम बुद्धिमत्ता की गति धीमी करने पर चल रही बहस को उद्योग में एक महत्वपूर्ण मोड़ बताया जा रहा है। यह मुद्दा, जो पहले एक सैद्धांतिक प्रश्न के रूप में उठा था जब मानव विज्ञान के शोधकर्ता जैकब कॉक्सन ने सार्वजनिक रूप से यह दावा करते हुए इस्तीफा दे दिया था कि 'अति बुद्धिमान' प्रणालियों का निर्माण मानवता के लिए एक वास्तविक खतरा है, अब इस बात पर एक व्यापक बहस में बदल गया है कि भविष्य में कृत्रिम बुद्धिमत्ता उद्योग कैसे विकसित होगा।

(एएनआई)

ये भी पढ़ें: स्कूल की चारदीवारी के भीतर सातवीं की छात्रा से अश्लील हरकत का आरोप