एआई के 'स्व-सुधार' पर एंथ्रोपिक ने उठाए सवाल, मॉडल विकास में अधिक पारदर्शिता की वकालत

कैलिफोर्निया [अमेरिका]: एआई क्षेत्र में अग्रणी प्रयोगशाला एंथ्रोपिक ने एआई मॉडल के विकास में अधिक पारदर्शिता की वकालत की है। एक ब्लॉग पोस्ट में कंपनी ने कहा कि एआई प्रणालियां तेजी से शक्तिशाली होती जा रही हैं और अपने निर्माण की प्रक्रिया के अधिकांश हिस्से को स्वचालित करना शुरू कर रही हैं। जैसे-जैसे दुनिया एआई विकास की गति को धीमा करने पर विचार कर रही है, जनता को अधिक जानकारी की आवश्यकता है।

एआई विकास को मापने के लिए सुझाए मेट्रिक्स

पोस्ट में एआई विकास के महत्वपूर्ण पहलुओं पर मापन उपकरणों की सूची दी गई है। इनमें शामिल हैं- एआई द्वारा स्वयं का अगला संस्करण बनाने की सीमा बनाम मनुष्यों द्वारा निर्माण, एंथ्रोपिक की प्रणालियों पर एआई एजेंटों द्वारा की जाने वाली कार्रवाइयों की निगरानी और हस्तक्षेप करने की क्षमता, और अधिक सक्षम मॉडल के विकास को शक्ति प्रदान करने वाले संसाधन। एंथ्रोपिक ने आगे कहा कि उसने एक रूपरेखा तैयार की है, जिसमें बताया गया है कि कैसे एक अग्रणी प्रयोगशाला सुरक्षित मॉडल जारी करने और पारदर्शिता सुनिश्चित कर सकती है। कंपनी ने कहा, "उन्नत एआई पर हमारे नीति प्रस्ताव, एडवांस्ड एआई फ्रेमवर्क (एएआईएफ) में, हम यह निर्धारित करने के लिए नियम प्रस्तावित करते हैं कि कोई भी प्रयोगशाला सुरक्षित मॉडल कैसे जारी करे, जिसमें पारदर्शिता संबंधी दायित्व भी शामिल हैं जिन्हें सरकारें लागू कर सकती हैं, जैसे कि जोखिम रिपोर्ट। ये प्रस्तावित मापन और नीतियां प्रयोगशालाओं के बाहर से एआई विकास की गति की निगरानी के लिए एक प्रारंभिक बिंदु हैं।"

'स्व-सुधार' वाले मॉडलों पर निगरानी की जरूरत

एंथ्रोपिक ने चेतावनी दी कि स्वतः गति पकड़ने वाले मॉडल मनुष्यों के लिए ऐसे सिस्टम को नियंत्रित करना चुनौतीपूर्ण बना सकते हैं। कंपनी ने कहा कि ऐसे मॉडलों के 'स्व-सुधार' पर मेट्रिक्स की आवश्यकता है। कंपनी ने कहा, "अग्रणी एआई प्रयोगशालाएं भविष्य के एआई मॉडल बनाने के लिए एआई का तेजी से उपयोग कर रही हैं। यह प्रक्रिया लोकतांत्रिक देशों की प्रयोगशालाओं को अधिक सक्षम मॉडल तेजी से विकसित करने और जारी करने से पहले मॉडलों पर अधिक सुरक्षा और परीक्षण करने की अनुमति देती है, ताकि अग्रणी रहते हुए एआई के लाभों को सुरक्षित किया जा सके। हालांकि, स्वतः गति पकड़ने वाले मॉडल मनुष्यों के लिए इन सिस्टम को समझना या नियंत्रित करना अधिक चुनौतीपूर्ण बना सकते हैं। इसलिए, यह समझना महत्वपूर्ण है कि दुनिया पुनरावर्ती स्व-सुधार (एक मॉडल जो पूरी तरह से स्वायत्त रूप से अपने उत्तराधिकारी का निर्माण करता है) तक पहुंचने के कितने करीब है।"

अमोदेई के बयान के बाद पारदर्शिता पर जोर

सीईओ डारियो अमोदेई द्वारा एआई विकास की गति धीमी करने के आह्वान के बाद, कंपनी ने इस विकास के बेहतर मापन की वकालत की है। कंपनी ने कहा, "जैसे-जैसे दुनिया इस क्षेत्र में प्रगति पर विचार कर रही है, हमें अग्रणी प्रयोगशालाओं और आम जनता के बीच के अंतर को कम करने के लिए हर संभव प्रयास करना चाहिए। इसका अर्थ है एआई के विकास का बेहतर मापन करना, इसकी सार्वजनिक रूप से रिपोर्ट करना और समाज को इस जानकारी का उपयोग करने का निर्णय लेने का अवसर देना। हम इन मापों को जारी करके पारदर्शिता का उदाहरण प्रस्तुत करने की उम्मीद करते हैं, और हम ऐसा करना जारी रखेंगे।"

एआई की तेज रफ्तार पर अमोदेई ने जताई चिंता

इससे पहले, सीबीएस न्यूज़ संडे मॉर्निंग से बात करते हुए अमोदेई ने चेतावनी दी थी कि एआई की घातीय वृद्धि एक संकेत है कि अग्रणी प्रयोगशालाओं को अपनी गति धीमी करने की आवश्यकता है। अमोदेई ने कहा, "मुझे नहीं लगता कि मैंने पूरी तरह से यह समझा था कि जब प्रगति इतनी तेज़ होगी तो असल में क्या होगा... इसका मतलब यह नहीं है कि हमें आज घबरा जाना चाहिए। इसका मतलब यह भी नहीं है कि हमें सब कुछ बंद कर देना चाहिए।" अमोदेई ने आगे कहा कि इस तकनीक को ऐसे सुरक्षा उपायों की जरूरत है जो "तकनीक के विकास की गति के साथ तालमेल बिठा सकें।"

(एएनआई)

ये भी पढ़ें: खगोलविदों ने अब तक के सबसे युवा ज्ञात ग्रह की खोज की: अध्ययन