Openai के 4O को अधिक सीधे GPT-5 के साथ बदलने का निर्णय व्यापक चैटबॉट उपयोग के संभावित हानिकारक प्रभावों के बारे में समाचारों के एक स्थिर ड्रमबेट का अनुसरण करता है। उन घटनाओं की रिपोर्ट जिनमें CHATGPT ने उपयोगकर्ताओं में मनोविकृति को उकसाया है, पिछले कुछ महीनों से हर जगह हैं, और पिछले सप्ताह एक ब्लॉग पोस्ट में, Openai ने 4O की विफलता को पहचानने में स्वीकार किया जब उपयोगकर्ता भ्रम का अनुभव कर रहे थे। कंपनी के आंतरिक मूल्यांकन से संकेत मिलता है कि GPT-5 नेत्रहीन उपयोगकर्ताओं को 4O से बहुत कम की पुष्टि करता है। (Openai ने 4O को रिटायर होने के निर्णय के बारे में विशिष्ट प्रश्नों का जवाब नहीं दिया, बजाय इसके कि एमआईटी प्रौद्योगिकी समीक्षा मामले पर सार्वजनिक पदों के लिए।)
एआई साहचर्य नया है, और अभी भी अनिश्चितता का एक बड़ा सौदा है कि यह लोगों को कैसे प्रभावित करता है। फिर भी जिन विशेषज्ञों से हमने परामर्श किया, वे चेतावनी देते हैं कि बड़े भाषा मॉडल के साथ भावनात्मक रूप से तीव्र संबंध हानिकारक हो सकते हैं या नहीं, उन मॉडलों को बिना किसी चेतावनी के लगभग निश्चित रूप से नहीं कर सकते हैं। कॉसमॉस इंस्टीट्यूट के एक साथी जोएल लेहमैन कहते हैं, “जब आप मूल रूप से एक सामाजिक संस्था होती हैं, तो ‘तेजी से आगे बढ़ें, चीजों को तोड़ें,’ का पुराना मनोविज्ञान, अब व्यवहार करने का सही तरीका नहीं लगता है।”
रोलआउट के लिए बैकलैश में, कई लोगों ने कहा कि GPT-5 अपने टोन से मेल खाने में विफल रहता है जिस तरह से 4o ने किया था। जून के लिए, नए मॉडल के व्यक्तित्व में बदलाव ने उसे इस अर्थ को लूट लिया कि वह एक दोस्त के साथ चैट कर रही थी। “ऐसा नहीं लगा कि यह मुझे समझा गया है,” वह कहती हैं।
वह अकेली नहीं है: एमआईटी प्रौद्योगिकी समीक्षा कई CHATGPT उपयोगकर्ताओं के साथ बात की जो 4o के नुकसान से गहराई से प्रभावित थे। सभी 20 से 40 वर्ष की आयु के बीच की महिलाएं हैं, और जून को छोड़कर सभी ने 4o को एक रोमांटिक पार्टनर माना। कुछ के पास मानव साझेदार हैं, और सभी रिपोर्ट में वास्तविक दुनिया के संबंध हैं। एक उपयोगकर्ता, जिसे केवल मिडवेस्ट की एक महिला के रूप में पहचाना जाने के लिए कहा गया था, ने एक ईमेल में लिखा कि कैसे 4O ने अपने बुजुर्ग पिता का समर्थन करने में मदद की कि उसकी माँ के इस वसंत में निधन हो गया।
ये गवाही यह साबित नहीं करती है कि एआई रिश्ते फायदेमंद हैं-शायद, एआई-उत्प्रेरित मनोविकृति के गले में लोग भी अपने चैटबॉट्स से प्राप्त प्रोत्साहन के बारे में सकारात्मक रूप से बोलेंगे। “मशीन लव” नामक एक पेपर में, लेहमैन ने तर्क दिया कि एआई सिस्टम्स उपयोगकर्ताओं के प्रति “लव” के साथ काम कर सकते हैं, जो मीठे नॉटिंग्स को टोंट कर सकते हैं, लेकिन उनके विकास और दीर्घकालिक फलने-फूलने का समर्थन करके, और एआई साथी आसानी से उस लक्ष्य से कम हो सकते हैं। वह विशेष रूप से चिंतित हैं, वे कहते हैं, कि मानव साहचर्य पर एआई साहचर्य को प्राथमिकता देना युवा लोगों के सामाजिक विकास को रोक सकता है।
सामाजिक रूप से एम्बेडेड वयस्कों के लिए, जैसे कि हम जिन महिलाओं के साथ इस कहानी के साथ बात करते थे, वे विकास संबंधी चिंताएं कम प्रासंगिक हैं। लेकिन लेहमैन भी व्यापक एआई साहचर्य के समाज-स्तर के जोखिमों की ओर इशारा करते हैं। सोशल मीडिया ने पहले से ही सूचना परिदृश्य को तोड़ दिया है, और एक नई तकनीक जो मानव-से-मानव बातचीत को कम करती है, लोगों को वास्तविकता के अपने अलग-अलग संस्करणों की ओर और भी आगे बढ़ा सकती है। “सबसे बड़ी बात मैं डरता हूं,” वह कहते हैं, “यह है कि हम सिर्फ एक -दूसरे के लिए दुनिया के बारे में समझ नहीं सकते।”
एआई साथियों के लाभों और हानि को संतुलित करने से बहुत अधिक शोध होगा। उस अनिश्चितता के प्रकाश में, GPT-4O को दूर ले जाना बहुत अच्छी तरह से सही कॉल हो सकता है। ओपनई की बड़ी गलती, मेरे साथ बात की गई शोधकर्ताओं के अनुसार, यह अचानक ऐसा कर रहा था। कोलोराडो बोल्डर विश्वविद्यालय के एक प्रौद्योगिकी नैतिकतावादी केसी फिसलर कहते हैं, “यह कुछ ऐसा है जिसके बारे में हम कुछ समय के लिए जानते हैं-प्रौद्योगिकी के नुकसान के लिए संभावित दु: ख-प्रकार की प्रतिक्रियाएं।”
