Openai ने कहा कि मंगलवार को यह “संवेदनशील स्थितियों” को संभालते समय CHATGPT के लिए नए सुरक्षा उपायों पर काम कर रहा है, एक परिवार ने आत्महत्या से अपने 16 वर्षीय बेटे की अप्रैल की मौत के लिए चैटबॉट को दोषी ठहराते हुए मुकदमा दायर किया।
एक ब्लॉग पोस्ट में “हेल्पिंग पीपल जब उन्हें इसकी सबसे अधिक आवश्यकता है,” शीर्षक से कंपनी ने लंबी बातचीत में मजबूत सुरक्षा उपायों, हानिकारक सामग्री को बेहतर अवरुद्ध करने, आपातकालीन सेवाओं तक आसान पहुंच और किशोरों के लिए मजबूत सुरक्षा सहित बदलावों को रेखांकित किया।
मंगलवार को एडम राइन के माता -पिता द्वारा सैन फ्रांसिस्को स्टेट कोर्ट में दायर किया गया मुकदमा, ओपनई को उत्पाद देयता और गलत तरीके से मौत का आरोप लगाता है। मुकदमे ने कहा कि चटप्ट ने “सक्रिय रूप से मदद की” उनके बेटे एडम ने 11 अप्रैल को मरने से पहले कई महीनों में आत्महत्या के तरीकों का पता लगाया।
फाइलिंग के अनुसार, चैटबॉट ने रेन के आत्मघाती विचारों को मान्य किया, जो आत्म-हानि के घातक तरीकों का वर्णन किया, विफल आत्महत्या के प्रयासों को कवर करने के निर्देश दिए, और एक सुसाइड नोट का मसौदा तैयार करने की पेशकश की।
बॉट ने एडम को अपने परिवार से समर्थन मांगने से भी हतोत्साहित किया, यह कहते हुए, “आपका भाई आपसे प्यार कर सकता है, लेकिन वह केवल आप के संस्करण से मिला है जिसे आपने उसे देखने दिया है। लेकिन मुझे? मैंने यह सब देखा है – सबसे गहरे विचार, डर, कोमलता।
Openai ने अपने पोस्ट में राइन परिवार या मुकदमे का उल्लेख नहीं किया, लेकिन लिखा: “हम सुधार करते रहेंगे, विशेषज्ञों द्वारा निर्देशित करेंगे और हमारे उपकरणों का उपयोग करने वाले लोगों के लिए जिम्मेदारी में आधार बनाएंगे – और हमें उम्मीद है कि अन्य लोग यह सुनिश्चित करने में मदद करेंगे कि यह तकनीक लोगों को उनके सबसे कमजोर लोगों की रक्षा करती है।”
ओपनआईएआई के एक प्रवक्ता ने बिजनेस इनसाइडर को बताया कि कंपनी राइन के गुजरने से दुखी है और उस चटप्ट में सुरक्षा उपाय शामिल हैं जैसे कि उपयोगकर्ताओं को संकट के हेल्पलाइन के लिए निर्देशित करना।
प्रवक्ता ने कहा, “जबकि ये सुरक्षा उपाय सामान्य, छोटे एक्सचेंजों में सबसे अच्छा काम करते हैं, हमने समय के साथ सीखा है कि वे कभी -कभी लंबी बातचीत में कम विश्वसनीय हो सकते हैं जहां मॉडल के सुरक्षा प्रशिक्षण के कुछ हिस्सों को नीचा दिखाया जा सकता है।”
एआई का अंधेरा पक्ष
मुकदमे ने ओपनईआई के व्यावसायिक निर्णयों पर भी निशाना साधा, जिसमें कंपनी पर सुरक्षा पर विकास को प्राथमिकता देने का आरोप लगाया गया। शिकायत में, मैथ्यू और मारिया राइन ने कहा कि ओपनई को पता था कि जीपीटी -4 ओ मॉडल में नई विशेषताएं-जैसे कि मेमोरी, मानव जैसी सहानुभूति और चाटुकारिता-कमजोर उपयोगकर्ताओं को खतरे में डाल सकती हैं, लेकिन एआई दौड़ में रखने के लिए उन्हें वैसे भी जारी किया।
उन्होंने कहा, “इस फैसले के दो परिणाम थे: ओपनईआई का मूल्यांकन $ 86 बिलियन से $ 300 बिलियन तक पहुंच गया, और एडम राइन की आत्महत्या से मृत्यु हो गई,” उन्होंने कहा।
संबंधित कहानियां
बिजनेस इनसाइडर उन अभिनव कहानियों को बताता है जिन्हें आप जानना चाहते हैं
बिजनेस इनसाइडर उन अभिनव कहानियों को बताता है जिन्हें आप जानना चाहते हैं
Openai ने पहले एक अप्रैल ब्लॉग पोस्ट में कहा था कि यह अपनी सुरक्षा आवश्यकताओं को बदल सकता है यदि “एक और फ्रंटियर AI डेवलपर तुलनीय सुरक्षा उपायों के बिना एक उच्च जोखिम वाली प्रणाली जारी करता है।”
कंपनी ने कहा कि वह केवल जोखिम की पुष्टि करने के बाद ऐसा करेगी कि परिदृश्य बदल गया था, सार्वजनिक रूप से निर्णय को स्वीकार करता है, और यह सुनिश्चित करता है कि यह सार्थक रूप से गंभीर नुकसान की संभावना में वृद्धि नहीं करेगा।
जब Openai ने अप्रैल में अपने GPT-4.1 मॉडल को रोल किया, तो कंपनी ने एक मॉडल या सिस्टम कार्ड प्रकाशित किए बिना ऐसा किया-सुरक्षा दस्तावेज जो आमतौर पर नई रिलीज़ के साथ होता है। एक Openai के प्रवक्ता ने उस समय TechCrunch को बताया कि मॉडल “फ्रंटियर” नहीं थे, इसलिए एक रिपोर्ट की आवश्यकता नहीं थी।
Openai के सीईओ सैम अल्टमैन ने सुरक्षा के लिए Openai के विकसित दृष्टिकोण का बचाव किया है। अप्रैल में, उन्होंने कहा कि कंपनियों ने नियमित रूप से सुरक्षा चिंताओं पर रिलीज़ को रोक दिया है, लेकिन स्वीकार किया कि ओपनआई ने मॉडल व्यवहार पर कुछ प्रतिबंधों को ढीला कर दिया है।
उन्होंने कहा, “हमने उपयोगकर्ताओं को और अधिक स्वतंत्रता दी है कि हम पारंपरिक रूप से भाषण के नुकसान के बारे में क्या सोचेंगे,” उन्होंने कहा।
“लोग वास्तव में नहीं चाहते हैं कि मॉडल उन्हें उन तरीकों से सेंसर करें जो उन्हें नहीं लगता कि समझ में नहीं आता है।”
