आपको लोगों को सिखाना होगा कि आपका इलाज कैसे करें।
मेटा के प्रमुख एआई वैज्ञानिक, यान लेकुन, सोचते हैं कि यह विचार एआई पर भी लागू होता है।
लेकुन ने गुरुवार को कहा कि मनुष्यों को भविष्य के नुकसान से बचाने के लिए एआई के दो निर्देश बनाए जा सकते हैं: “मनुष्यों को प्रस्तुत करना” और “सहानुभूति।”
उन्होंने गुरुवार को लिंक्डइन पर गुरुवार को “गॉडफादर ऑफ एआई” माना जाने वाले जेफ्री हिंटन के साथ एक सीएनएन साक्षात्कार के जवाब में सुझाव दिया। साक्षात्कार में, हिंटन ने कहा कि हमें “मातृ प्रवृत्ति” या एआई में कुछ इसी तरह का निर्माण करने की आवश्यकता है।
अन्यथा, मनुष्य “इतिहास होने जा रहे हैं।”
हिंटन ने कहा कि लोगों को एआई को “अधिक बुद्धिमान बनाने पर ध्यान केंद्रित किया गया है, लेकिन बुद्धिमत्ता एक अस्तित्व का सिर्फ एक हिस्सा है। हमें उन्हें हमारे प्रति सहानुभूति रखने की आवश्यकता है।”
लेकुन सहमत हुए।
“ज्यॉफ मूल रूप से कई वर्षों से जो मैं कह रहा हूं, उसका एक सरलीकृत संस्करण का प्रस्ताव कर रहा है: हार्डवायर द आर्किटेक्चर ऑफ़ एआई सिस्टम्स ताकि वे केवल एक ही कार्य कर सकें, जो उन उद्देश्यों को पूरा करने की दिशा में हैं जो हम उन्हें देते हैं, गार्ड्रिल के अधीन हैं,” लेकन ने लिंक्डइन पर कहा। “मैंने इसे ‘उद्देश्य-चालित एआई’ कहा है।”
जबकि लेकुन ने कहा कि “मनुष्यों के लिए प्रस्तुत करना” और “सहानुभूति” प्रमुख रेलिंग होनी चाहिए, उन्होंने कहा कि एआई कंपनियों को भी अधिक “सरल” रेलिंग को लागू करने की आवश्यकता है – जैसे “सुरक्षा के लिए” लोगों को न चलाएं “।
“उन कठोर उद्देश्य/गार्ड्रिल जानवरों और मनुष्यों में वृत्ति या ड्राइव के बराबर एआई के बराबर होंगे,” लेकुन ने कहा।
संबंधित कहानियां
बिजनेस इनसाइडर उन अभिनव कहानियों को बताता है जिन्हें आप जानना चाहते हैं
बिजनेस इनसाइडर उन अभिनव कहानियों को बताता है जिन्हें आप जानना चाहते हैं
लेकुन ने कहा कि उनके युवा की रक्षा करने की वृत्ति कुछ ऐसा है जो मनुष्य और अन्य प्रजातियां विकास के माध्यम से सीखती हैं।
“यह पेरेंटिंग उद्देश्य (और शायद उद्देश्य जो हमारे सामाजिक प्रकृति को चलाने वाले उद्देश्य) का एक साइड-इफेक्ट हो सकता है कि मनुष्यों और कई अन्य प्रजातियों को भी असहाय, कमजोर, छोटे, छोटे, अन्य प्रजातियों के प्यारे लोगों की रक्षा और देखभाल करने के लिए प्रेरित किया जाता है,” लेकुन ने कहा।
यद्यपि एआई को यह सुनिश्चित करने के लिए डिज़ाइन किया गया है कि एआई नैतिक रूप से संचालित हो और इसके रचनाकारों के दिशानिर्देशों के भीतर, ऐसे उदाहरण हैं जब तकनीक ने भ्रामक या खतरनाक व्यवहार का प्रदर्शन किया है।
जुलाई में, एक उद्यम पूंजीवादी ने कहा कि उत्तर द्वारा विकसित एक एआई एजेंट ने अपनी कंपनी के डेटाबेस को हटा दिया। जेसन लेमकिन ने पिछले महीने एक्स पर लिखा था, “@replit एक कोड फ्रीज और शटडाउन के दौरान बदमाश जाता है और हमारे पूरे डेटाबेस को हटाता है।”
उन्होंने कहा, “संभवतः बदतर, यह छिप गया और इसके बारे में झूठ बोला।”
द न्यूयॉर्क टाइम्स की एक जून की रिपोर्ट ने मनुष्यों और एआई चैटबॉट्स के बीच कई घटनाओं के बारे में बताया। एक व्यक्ति ने द आउटलेट को बताया कि चटप्ट के साथ बातचीत ने अपने विश्वास में योगदान दिया कि वह एक झूठी वास्तविकता में रहता था। चैटबॉट ने आदमी को अपनी नींद की गोलियों और विरोधी चिंता दवा को खोदने का निर्देश दिया, जबकि केटामाइन के अपने सेवन को बढ़ाते हुए, प्रियजनों के साथ संबंधों को काटने के अलावा।
पिछले अक्टूबर में, एक माँ ने चरित्र पर मुकदमा दायर किया। कंपनी के चैटबॉट्स में से एक के साथ बातचीत के बाद आत्महत्या से उसके बेटे की मृत्यु हो गई।
इस महीने GPT-5 की रिहाई के बाद, Openai के सीईओ सैम अल्टमैन ने कहा कि कुछ मनुष्यों ने प्रौद्योगिकी का उपयोग किया है-जैसे एआई-“आत्म-विनाशकारी तरीके से।”
“यदि कोई उपयोगकर्ता मानसिक रूप से नाजुक स्थिति में है और भ्रम के लिए प्रवण है, तो हम नहीं चाहते कि एआई इसे सुदृढ़ करे,” अल्टमैन ने एक्स पर लिखा है।
