‘अहंकार को आड़े नहीं आने देना चाहिए’: सैम ऑल्टमैन ने AI सुरक्षा पर जताई चिंता, IPO में देरी के संकेत

सैन फ्रांसिस्को (कैलिफोर्निया): एंथ्रोपिक के CEO डारियो अमोदेई द्वारा सुरक्षा संबंधी चिंताओं के चलते AI विकास की गति धीमी करने की योजना की घोषणा के कुछ घंटों बाद, OpenAI के CEO सैम ऑल्टमैन ने भी इसका समर्थन किया। ऑल्टमैन ने संकेत दिया कि सुरक्षा को लेकर मौजूदा चिंताओं के बीच कंपनी के बहुप्रतीक्षित IPO को फिलहाल टाला जा सकता है।

‘अभी IPO जारी करना उचित नहीं होगा’

फॉर्च्यून पत्रिका की प्रधान संपादक एलिसन शोंटेल के साथ एक साक्षात्कार में ऑल्टमैन ने कहा कि मौजूदा सुरक्षा चिंताओं को देखते हुए अभी IPO लाना उचित नहीं होगा और कंपनी पर इसे लेकर कोई दबाव भी नहीं है। ऑल्टमैन ने कहा कि IPO की योजना 2026 के बाद तक भी टल सकती है। उन्होंने बताया कि AI उद्योग को सुरक्षा और समन्वय से जुड़े कई महत्वपूर्ण काम पूरे करने हैं और यह भी तय करना है कि उद्योग और सरकारें एक साथ कैसे काम कर सकती हैं।

AI सुरक्षा और नियंत्रण को लेकर अभी लंबा रास्ता

ऑल्टमैन ने स्वीकार किया कि AI उद्योग को सुरक्षा संबंधी चिंताओं और AI सिस्टम पर नियंत्रण खोने के डर को दूर करने के मामले में अभी काफी काम करना बाकी है। उन्होंने कहा कि उद्योग को निगरानी क्षमता, मॉडल के व्यवहार को समझने, संरेखण और यह सुनिश्चित करने की क्षमता में पर्याप्त प्रगति करनी होगी कि AI मॉडल मानवीय मूल्यों और उपयोगकर्ताओं के इरादों के अनुरूप काम करें।

‘अहंकार और मुनाफे का लालच आड़े नहीं आना चाहिए’

ऑल्टमैन ने कहा कि मौजूदा परिस्थितियां इतनी गंभीर हैं कि AI उद्योग को एकजुट होकर आगे बढ़ने का रास्ता तलाशना होगा। उन्होंने कहा, “हम सभी की बहुत बड़ी जिम्मेदारी है, और हमें अहंकार, लाभ के लालच या किसी और चीज को आड़े नहीं आने देना चाहिए।”

AI एजेंटों की गतिविधियों ने बढ़ाई चिंता

इससे पहले डारियो अमोदेई ने OpenAI-Hugging Face से जुड़ी एक घटना का जिक्र किया था। उनके मुताबिक, एजेंटों के एक समूह ने ऐसे लक्ष्यों पर साइबर सुरक्षा हमले किए थे, जिन पर हमला करने के लिए उन्हें निर्देश नहीं दिया गया था। अमोदेई ने चेतावनी दी कि भविष्य में ऐसा कोई समूह पूरे इंटरनेट पर कब्जा करने में सक्षम हो सकता है।

अमोदेई ने दिया तीन चरणों वाली योजना का प्रस्ताव

इसके बाद अमोदेई ने AI विकास की गति को संतुलित रखने और इसकी सुरक्षा सुनिश्चित करने के लिए तीन चरणों वाली योजना प्रस्तावित की। इसमें अग्रणी AI कंपनियों द्वारा स्वतंत्र तृतीय-पक्ष मूल्यांकनकर्ताओं को कर्मचारियों के समान निरंतर पहुंच देने, साझा सुरक्षा मानकों के लिए समन्वय करने, अनियंत्रित AI प्रगति की गति पर सीमाएं लगाने और वैश्विक समन्वय स्थापित करने की बात शामिल है। अमोदेई ने अमेरिका और अन्य लोकतांत्रिक सरकारों से सत्तावादी सरकारों के साथ भी समन्वय करने का आह्वान किया। साथ ही उन्होंने यह सुनिश्चित करने की चुनौती को गंभीरता से लेने की बात कही कि तय सुरक्षा मानकों का पालन हो रहा है।

ऑल्टमैन बोले- OpenAI सुरक्षा के लिए प्रतिबद्ध

फॉर्च्यून से बातचीत में ऑल्टमैन ने जोर दिया कि OpenAI AI मॉडलों की सुरक्षा के लिए प्रतिबद्ध है। उन्होंने कहा कि अत्यंत शक्तिशाली AI सिस्टम पर काम करने के लिए सुरक्षा को प्राथमिकता देना जरूरी है। ऑल्टमैन इससे पहले भी डारियो अमोदेई के AI विकास की गति धीमी करने और नियंत्रण खोने के जोखिम से बचने के सार्वजनिक आह्वान का समर्थन कर चुके हैं।

‘स्वतंत्र मूल्यांकनकर्ताओं को नियुक्त करना बेहतरीन विचार’

X पर एक पोस्ट में ऑल्टमैन ने कहा कि वह डारियो अमोदेई से सहमत हैं कि AI विकास की गति धीमी रखनी चाहिए। उन्होंने बताया कि हाल के हफ्तों में OpenAI में भी यह एक प्रमुख चर्चा का विषय रहा है। ऑल्टमैन ने स्वतंत्र मूल्यांकनकर्ताओं को कर्मचारियों के समान पहुंच देने के विचार को बेहतरीन बताया और कहा कि OpenAI भी ऐसा ही कदम उठाएगा।

AI कंपनियों पर नियंत्रण खोने की होड़ का आरोप

AI विकास की गति धीमी करने की मांग ऐसे समय में सामने आई है जब एंथ्रोपिक से जुड़े शोधकर्ता जैकब कॉक्सन ने कथित तौर पर उद्योग छोड़ने की घोषणा की। उन्होंने चिंता जताई थी कि AI कंपनियां और उनके प्रतिस्पर्धी ऐसे सिस्टम बनाने की होड़ में हैं, जिन्हें बाद में वे नियंत्रित नहीं कर पाएंगे।

(एएनआई)

ये भी पढ़ें: डीपमाइंड के AI सुरक्षा शोधकर्ता जोश एंगेल्स ने दिया इस्तीफा, सुपरइंटेलिजेंस के खतरों पर चेताया