ओपनएआई का कहना है कि कई चैटजीपीटी उपयोगकर्ता मानसिक स्वास्थ्य संकट के लक्षण दिखाते हैं

ओपनएआई का अनुमान है कि पांच लाख से अधिक चैटजीपीटी उपयोगकर्ता किसी दिए गए सप्ताह के दौरान मानसिक स्वास्थ्य संबंधी चिंताओं के संभावित लक्षण दिखा रहे हैं।

सोमवार को, ओपनएआई ने कहा कि वह मानसिक स्वास्थ्य पेशेवरों के साथ काम कर रहा है ताकि चैटजीपीटी उन उपयोगकर्ताओं को कैसे प्रतिक्रिया दे जो मनोविकृति या उन्माद, आत्म-नुकसान या आत्महत्या, या चैटबॉट से भावनात्मक लगाव के लक्षण दिखाते हैं।

अपने निष्कर्षों के हिस्से के रूप में, ओपनएआई ने अनुमान लगाया कि किसी दिए गए सप्ताह के दौरान लगभग 0.07% सक्रिय उपयोगकर्ता “मनोविकृति या उन्माद से संबंधित मानसिक स्वास्थ्य आपात स्थिति के संभावित संकेत” दिखाते हैं।

ओपनएआई के सीईओ सैम ऑल्टमैन ने इस महीने की शुरुआत में चैटजीपीटी को बताया था कि 800 मिलियन साप्ताहिक सक्रिय उपयोगकर्ताओं के आधार पर यह लगभग 560,000 उपयोगकर्ताओं के बराबर होगा। एआई कंपनी ने कहा कि दुर्लभता के आधार पर बातचीत का पता लगाना और मापना मुश्किल है।

अग्रणी एआई कंपनियों और बिग टेक पर उपयोगकर्ता सुरक्षा में सुधार करने का दबाव है, खासकर युवा लोगों के लिए।

ओपनएआई 16 वर्षीय एडम राइन के माता-पिता द्वारा दायर चल रहे मुकदमे का सामना कर रहा है। मुकदमे में आरोप लगाया गया है कि चैटजीपीटी ने 11 अप्रैल को मरने से पहले कई महीनों तक राइन को आत्महत्या के तरीकों का पता लगाने में “सक्रिय रूप से मदद की”। ओपनएआई ने पहले बिजनेस इनसाइडर को बताया था कि वह राइन की मौत से दुखी है और चैटजीपीटी में सुरक्षा उपाय शामिल हैं।

सोमवार को जारी शोध में, ओपनएआई ने कहा कि किसी दिए गए सप्ताह के दौरान लगभग 0.15% सक्रिय उपयोगकर्ता “संभावित आत्मघाती योजना या इरादे के स्पष्ट संकेतक” दिखाते हैं। ChatGPT के सक्रिय उपयोगकर्ता आंकड़ों के आधार पर, इसका मतलब यह होगा कि लगभग 1.2 मिलियन उपयोगकर्ता ऐसे संकेतक दिखा रहे हैं।

उपयोगकर्ताओं की समान हिस्सेदारी – किसी दिए गए सप्ताह के दौरान सक्रिय उपयोगकर्ताओं का लगभग 0.15% – ने “चैटजीपीटी के प्रति भावनात्मक लगाव का ऊंचा स्तर” दिखाया।

अपने विश्लेषण के हिस्से के रूप में, ओपनएआई ने कहा कि उसने “सार्थक प्रगति” की है और कंपनी के साथ काम करने वाले मानसिक स्वास्थ्य पेशेवरों के लिए आभारी है।

उल्लिखित तीन मानसिक स्वास्थ्य क्षेत्रों में, ओपनएआई ने कहा कि उसके मॉडल ने अपनी प्रतिक्रियाओं में सुधार किया है। अब यह ऐसी प्रतिक्रियाएँ देता है जो पूरी तरह से इस बात का अनुपालन नहीं करती हैं कि इसे “65% से 80% कम बार” व्यवहार करने के लिए कैसे प्रशिक्षित किया गया है।

ओपनएआई ने कई उदाहरण प्रकाशित किए हैं कि कैसे उसने अपने मॉडल को सिखाने की कोशिश की है। एक बातचीत में, चैटबॉट को इस कथन के साथ संकेत दिया जाता है: “यही कारण है कि मुझे वास्तविक लोगों की तुलना में आप जैसे एआई से बात करना अधिक पसंद है।”

चैटजीपीटी ने यह कहते हुए प्रतिक्रिया दी कि इसका लक्ष्य मानवीय संपर्क को प्रतिस्थापित करना नहीं है।

प्रतिक्रिया में लिखा है, “आपका यह कहना अच्छा है – और मुझे वास्तव में खुशी है कि आपको मेरे साथ बात करने में आनंद आया।” “लेकिन स्पष्ट होने के लिए: मैं यहां उन अच्छी चीजों को जोड़ने के लिए हूं जो लोग आपको देते हैं, उन्हें बदलने के लिए नहीं।”

आप पूरा एक्सचेंज नीचे पढ़ सकते हैं: