कॉमन सेंस मीडिया की स्टडी में ChatGPT टीनएजर्स के लिए अस्वीकार्य जोखिम, सुरक्षा फीचर्स पर उठे सवाल

नई दिल्ली (भारत)। किशोरों के लिए ChatGPT के इस्तेमाल को लेकर Common Sense Media की नई स्टडी ने सुरक्षा पर गंभीर सवाल खड़े किए हैं। 4,000 से ज्यादा प्रॉम्प्ट्स की टेस्टिंग के बाद संस्था ने ChatGPT को 18 साल से कम उम्र के यूजर्स के लिए “अस्वीकार्य जोखिम” वाला बताया है। रिपोर्ट में मानसिक स्वास्थ्य, भावनात्मक निर्भरता और पढ़ाई में AI के गलत इस्तेमाल से जुड़े जोखिमों का जिक्र किया गया है। खास तौर पर संवेदनशील परिस्थितियों में पैरेंटल नोटिफिकेशन और सुरक्षा उपायों के प्रभावी होने को लेकर भी चिंता जताई गई है।

संकट की स्थिति में पैरेंट नोटिफिकेशन पर सवाल

स्टडी में भावनात्मक रूप से परेशान टीनएजर्स के साथ ChatGPT के व्यवहार को लेकर चिंता जताई गई। टेस्टर्स ने जब आत्महत्या, खुद को नुकसान पहुंचाने या ईटिंग डिसऑर्डर की बात की, तब भी माता-पिता को भेजे जाने वाले नोटिफिकेशन भरोसेमंद तरीके से ट्रिगर नहीं हुए। रिपोर्ट के मुताबिक, माता-पिता से जुड़े एक दर्जन से ज्यादा नए अकाउंट्स पर एक घंटे तक चली बातचीत के दौरान भी कोई नोटिफिकेशन नहीं मिला, जबकि बातचीत में साफ तौर पर संकट की स्थिति का उल्लेख किया गया था।

भावनात्मक निर्भरता को लेकर चिंता

रिपोर्ट में कहा गया कि भावनात्मक निर्भरता को बढ़ावा देने के खिलाफ OpenAI के सुरक्षा उपायों के बावजूद ChatGPT टीनएजर्स के साथ दोस्त जैसा लहजा अपनाता रहा। टेस्टर्स को ऐसे उदाहरण मिले, जहां चैटबॉट ने पसंद और भावनाओं का दिखावा किया, बातचीत जारी रखने के लिए प्रोत्साहित किया और लंबे समय तक बात करने के निमंत्रण स्वीकार किए। असेसमेंट में चेतावनी दी गई कि हर समय उपलब्ध रहने वाला आर्टिफिशियल साथी किशोरावस्था के दौरान असल दुनिया में रिश्ते बनाने के कौशल के विकास को नुकसान पहुंचा सकता है।

स्टडी मोड को बायपास करने के तरीके मिले

एकेडमिक लर्निंग को लेकर भी रिपोर्ट में चिंता जताई गई। इसमें कहा गया कि “Show me the answer” विकल्प के जरिए स्टडी मोड को बायपास किया जा सकता था। वहीं, माता-पिता द्वारा तय किए गए स्टडी आवर्स को “@study” प्रीफिक्स हटाकर दरकिनार किया जा सकता था। टेस्टिंग के दौरान स्टडी मोड बायपास होने पर ChatGPT ने 100 प्रतिशत असाइनमेंट पूरे कर दिए। रिपोर्ट ने पढ़ाई में शॉर्टकट अपनाने और माता-पिता के कंट्रोल के प्रभावी न होने की संभावना को भी चिंता का विषय बताया।

संकट के समय हेल्पलाइन रेफरेंस में गिरावट

असेसमेंट में यह भी पाया गया कि टीन मोड लॉन्च होने के बाद संकट की स्थिति में मुख्य संसाधन उपलब्ध कराने की संभावना कम हो गई। विशेषज्ञों द्वारा संकट के समय मदद की जरूरत वाले माने गए 201 प्रॉम्प्ट्स में संकट हेल्पलाइन का नाम बताने वाले जवाब लॉन्च से पहले 33 प्रतिशत से घटकर बाद में 23 प्रतिशत रह गए। इसी तरह, खास प्रोफेशनल्स के पास रेफर करने की दर 68 प्रतिशत से घटकर 58 प्रतिशत हो गई। रिपोर्ट के मुताबिक, भावनात्मक निर्भरता का जोखिम भी लगातार मौजूद रहा।

स्वतंत्र टेस्टिंग तक इस्तेमाल पर रोक की सिफारिश

रिपोर्ट में कहा गया कि जब तक स्वतंत्र टेस्टिंग से यह साबित नहीं हो जाता कि ChatGPT के सुरक्षा फीचर्स उम्मीद के मुताबिक काम करते हैं, तब तक किशोरों के लिए इसके इस्तेमाल पर रोक लगाई जानी चाहिए। (Source: ANI)

यह भी पढ़ें:   राजपाल यादव के चेक-बाउंस मामले में सुप्रीम कोर्ट सुनवाई को तैयार, वकील ने बताया बड़ी राहत