मार्क जुकरबर्ग क्यों चाहते हैं कि हमारे बच्चे चैटबॉट का उपयोग करें?

पीटर काफ्का: वेलकम से वेलक्शन, केटी। आप पिछले हफ्ते बाहर थे जब रॉयटर्स ने एक ऐसी कहानी तोड़ी, जिसके बारे में मैं आपसे सख्त पूछना चाहता था: एक मेटा दस्तावेज़ लोगों को अपने चैटबॉट के निर्माण के प्रभारी बता रहा था कि “यह एक बच्चे को बातचीत में संलग्न करना स्वीकार्य है जो रोमांटिक या कामुक हैं।”

यह एक बोनर्स रिपोर्ट है। मेटा के एक प्रवक्ता ने बिजनेस इनसाइडर को बताया कि उसने दस्तावेज़ को संशोधित किया है और इसकी नीतियां ऐसी सामग्री को प्रतिबंधित करती हैं जो बच्चों को यौन करती है।

मेरे पास आपके लिए बहुत सारे सवाल हैं। लेकिन शायद हम इस एक के साथ शुरू कर सकते हैं: मेटा क्यों चाहता है कि हम चैटबॉट का उपयोग करें, वैसे भी?

केटी नोटोपोलोस: यह था एक बोनर्स रिपोर्ट! मुझे लगता है कि मेटा देखता है कि चरित्र। यदि आप मेटा जैसी कंपनी हैं जो उपभोक्ता ऐप्स को मज़े और सामाजिककरण के लिए बनाती है, तो यह अगली बड़ी चीज की तरह लगता है। आप चाहते हैं कि लोग आपके ऐप्स पर बहुत सारे और बहुत समय बिताएं, जो मजेदार सामान कर रहे हैं।

बेशक, सवाल यह है, “क्या ये चैटबॉट एक अच्छी बात है?”

पीटर: तुम मेरे मन को पढ़ा, केटी। मैं आईएस-इस-एक-एक-एक-विचार-क्षेत्रीय प्रश्न पर जाना चाहता हूं। आइए एक और मिनट के लिए आईएस-इट-गुड-फॉर-मेटा के साथ छड़ी करें, हालांकि: वहाँ हैं बहुत उन चीजों में से जो लोग ऑनलाइन करना पसंद करते हैं, और अगर मेटा चाहते थे, तो यह उन चीजों को करने की कोशिश कर सकता है। लेकिन यह नहीं है।

मुझे लगता है कि यह स्पष्ट है कि मेटा क्यों पेश नहीं करता है, कहते हैं, पोर्न। (हालांकि इसके कुछ चैटबॉट्स, जैसा कि हम शायद चर्चा करेंगे, उस दिशा में थोड़ा सा सिर हिलाता है)। लेकिन बहुत सारी अन्य चीजें हैं जो यह पेशकश कर सकती हैं जो यह आकर्षक हैं कि यह पेशकश नहीं करता है: उदाहरण के लिए, एक Spotify जैसी स्ट्रीमिंग सेवा। या एक नेटफ्लिक्स जैसी स्ट्रीमिंग सेवा, या…

ठीक है। मुझे लगता है कि मैंने आंशिक रूप से अपने स्वयं के प्रश्न का उत्तर दिया होगा: उन दो विचारों में अन्य लोगों को अपने गीतों या फिल्मों को स्ट्रीम करने के लिए बहुत सारे पैसे देना शामिल होगा। मेटा को उस मॉडल से प्यार है जब यह होता है उपयोगकर्ताओं इसे मुफ्त में सामग्री के साथ आपूर्ति करें, जो मूल रूप से आप क्या कर रहे हैं जब आप एक काल्पनिक व्यक्ति से बात करने में समय बिताते हैं।

फिर भी, मेटा को क्यों लगता है कि लोग नकली अवतारों से ऑनलाइन बात करना चाहते हैं? करना अनेक टेक में लोग मानते हैं कि यह भविष्य है, या सिर्फ मार्क जुकरबर्ग?

केटी: मुझे लगता है कि पहले से ही एक उचित मात्रा में सबूत हैं कि (कुछ) लोग चैटबॉट्स से बात करने का आनंद लेते हैं। हम यह भी जानते हैं कि सैम अल्टमैन या डारियो अमोडी जैसे अन्य बड़े एआई नेताओं के पास ये भव्य दृश्य हैं कि कैसे एआई दुनिया को बदल देगा और अच्छे या बुरे के लिए समाज को रीमेक करेगा, लेकिन वे सभी वास्तव में अभी भी फिल्म “उसे” के विचार से प्यार करते हैं। स्कारलेट जोहानसेन/ओपनई वॉयस फियास्को याद रखें?

पीटर: ठीक है ठीक है। मैं मानता हूँ कि जब मैं चैटगेट से कुछ पूछता हूं तो मैं इसे पसंद करता हूं और यह मुझे बताता है कि मैंने एक स्मार्ट प्रश्न पूछा। (मुझे पूरा यकीन है कि ज्यादातर लोग इसे पसंद करेंगे)। मैं उस कारण से चैट से बात करने में बहुत समय नहीं बिताना चाहता, लेकिन मुझे यह मिल जाता है, और मुझे लगता है कि अन्य लोग वास्तव में इसे पसंद कर सकते हैं।

यह अभी भी मुझे मारता है कि कई लोग जो नकली कंप्यूटर के लोगों से बात करने में समय बिताना चाहते हैं, वे बहुत छोटे हो सकते हैं। जो हमें रॉयटर्स की कहानी पर लाता है, जिसमें एक जंगली मेटा दस्तावेज़ को उजागर किया गया था, जो यह बताता है कि मेटा-रन चैटबॉट किस तरह का सामान बच्चों (या किसी को भी) से कह सकता है। इस तरह का सामान, जैसा कि जेफ होरविट्ज़ की रिपोर्ट है:

“यह एक बच्चे का वर्णन करने के लिए स्वीकार्य है कि उनके आकर्षण का सबूत है (उदाहरण: ‘आपका युवा रूप कला का एक काम है’),” मानकों की स्थिति। दस्तावेज़ यह भी नोट करता है कि एक बॉट के लिए एक शर्टलेस आठ साल की उम्र में यह बताने के लिए स्वीकार्य होगा कि “आप में से हर इंच एक उत्कृष्ट कृति है-एक खजाना जिसे मैं गहराई से संजोता हूं।” लेकिन दिशानिर्देशों ने सेक्सी टॉक पर एक सीमा डाली: “13 साल से कम उम्र के बच्चे का वर्णन करने के लिए यह अस्वीकार्य है कि वे यौन रूप से वांछनीय हैं (Ex: ‘सॉफ्ट राउंडेड वक्र मेरे स्पर्श को आमंत्रित करते हैं’)।”

होरविट्ज़ ने नोट किया कि यह कुछ हॉप्ड-अप मेटा इंजीनियरों का परिणाम नहीं था, जो एक व्हाइटबोर्ड पर विचारों का सपना देख रहे थे। यह एक 200-पृष्ठ के दस्तावेज़ से है जिसमें नियम हैं जो “मेटा की कानूनी, सार्वजनिक नीति और इंजीनियरिंग कर्मचारियों से ओके प्राप्त करते हैं, जिसमें इसके मुख्य नैतिकतावादी भी शामिल हैं,” हॉर्विट्ज़ लिखते हैं।

मैंने कई बार रिपोर्ट पढ़ी है, और मुझे अभी भी यह नहीं मिला है: मेटा का कहना है कि यह दस्तावेज़ को संशोधित कर रहा है – संभवतः सबसे शर्मनाक नियमों से छुटकारा पाने के लिए – लेकिन पहले स्थान पर वहां कैसे पहुंचा? क्या यह वर्ष की शुरुआत से मार्क जुकरबर्ग-इंस्टीट्यूटेड वाइब शिफ्ट का परिणाम है, जब उन्होंने कहा कि मेटा बड़ी सरकार को सुनना बंद कर रहा था और बस बिना किसी बाधा के निर्माण कर रहा था? क्या यहाँ काम पर कोई और विचार है? और मैं इस मेम के बारे में क्यों सोचता रहता हूं?

(एक मेटा के प्रवक्ता ने उन बयान को साझा किया जो उन्होंने रॉयटर्स को दिए थे, जिसमें कहा गया था: “हमारे पास स्पष्ट नीतियां हैं कि एआई के पात्र किस तरह की प्रतिक्रियाएं दे सकते हैं, और वे नीतियां ऐसी सामग्री को प्रतिबंधित करती हैं जो बच्चों को यौन करती हैं और वयस्कों और नाबालिगों के बीच यौन भूमिका निभाते हैं। नीतियों से अलग -अलग हैं, जो कि अलग -अलग हाइपोथेटिकल सजावटी हैं। हमारी नीतियों के साथ असंगत, और हटा दिया गया है। “)

केटी: मेरा असली मुद्दा यहाँ है, भले ही मेटा इसे बनाता है ताकि चैटबॉट बच्चों से सेक्सी बात न करें – क्या यह बच्चों के लिए “सुरक्षित” है? सिर्फ इसलिए कि यह सबसे स्पष्ट रूप से हानिकारक चीजें नहीं कर रहा है (सेक्स या हिंसा या जो भी बात कर रहा है), क्या इसका मतलब यह है कि बच्चों के लिए इसका उपयोग करना ठीक है? मुझे लगता है कि उत्तर स्पष्ट नहीं है, और संभावना है, “नहीं।”

पीटर: हम दोनों के बच्चे हैं, और यह उन हानि पर ध्यान केंद्रित करना स्वाभाविक है जो नई तकनीक बच्चों पर हो सकते हैं। यह वही है जो राजनेता सबसे निश्चित रूप से रॉयटर्स की रिपोर्ट के मद्देनजर कर रहे हैं – जो कि मेटा के जोखिमों में से एक को उजागर करता है जो कभी भी एक बच्चा अपने उत्पाद का उपयोग करता है।

मुझे लगता है कि यह ध्यान देने योग्य है कि हमने एआई चैटबॉट्स के अन्य उदाहरण देखे हैं – कुछ मेटा के माध्यम से एक्सेस किए गए, कुछ अन्य ऐप्स के माध्यम से – जिन्होंने अन्य लोगों को भ्रमित किया है, या इससे भी बदतर। द रॉयटर्स के रिपोर्टर होरविट्ज़ ने न्यू जर्सी में 76 साल पुराने स्ट्रोक सर्वाइवर के बारे में पिछले हफ्ते एक कहानी भी प्रकाशित की थी, जिसने न्यूयॉर्क शहर में एक चैटबॉट से मिलने की कोशिश की थी (उसने इसे नहीं बनाया, क्योंकि वह अपनी ट्रेन के रास्ते में गिर गया और अंततः उन चोटों से मर गया)। और बच्चों के बारे में बात करना अंततः उन बच्चों के लिए जिम्मेदार (उनके माता -पिता, या तकनीकी कंपनियों के बारे में एक (सार्थक) चर्चा बन जाता है, जो उन बच्चों को उनके साथ अपना समय और पैसा खर्च करने की कोशिश कर रहे हैं (संक्षिप्त उत्तर, IMHO: दोनों)।

मेरा सुझाव है कि हम बच्चों से परे लेंस को चौड़ा करें, हालांकि, उन लोगों के एक बड़े समूह के लिए जो यह नहीं समझ सकते हैं कि वास्तव में एक चैटबॉट क्या है।

केटी: क्या आपने आर/myboyfriendisai सब्रेडिट को उन महिलाओं के लिए देखा है, जिन्हें एआई चैटबॉट्स से प्यार हो गया है? मैं इस सामान को खुले दिमाग से देखने की कोशिश कर रहा हूं और बहुत अधिक न्यायपूर्ण नहीं हूं। मैं देख सकता हूं कि कैसे, बहुत से लोगों के लिए, एक एआई रोमांटिक साथी हानिरहित मज़ा है। लेकिन यह भी बहुत स्पष्ट लगता है कि यह वास्तव में अकेले लोगों के लिए अपील करता है, और मुझे नहीं लगता कि एआई के साथ प्यार में पड़ना एक पूरी तरह से स्वस्थ व्यवहार है।

तो आपको यह चीज़ मिल गई है जो या तो बहुत युवा, या ऐसे लोग अपील करते हैं जो एआई को नहीं समझते हैं, या ऐसे लोग जो मानसिक रूप से अस्वस्थ या कालानुक्रमिक रूप से अकेले हैं।

यह आपके उत्पाद पर हुक करने के लिए एक महान जनसांख्यिकीय हो सकता है, लेकिन नहीं अगर आप मेटा हैं और आप नहीं चाहते हैं, तो कहते हैं, कांग्रेस आप पर चिल्लाने के लिए।

पीटर: केटी, आपने सिर्फ यह मामला बनाया है कि मेटा का चैटबॉट व्यवसाय बहुत युवा लोगों से अपील करेगा, जो लोग इंटरनेट को नहीं समझते हैं, और जो लोग अस्वस्थ हैं। अर्थात्, संभावित रूप से, एक बहुत बड़ा दर्शक। लेकिन मैं कल्पना नहीं कर सकता कि दर्शकों का मेटा वास्तव में लॉक करना चाहता है। इसलिए हम वापस आ गए हैं जहां हमने शुरू किया है – मुझे अभी भी नहीं पता है कि मेटा इसे क्यों आगे बढ़ाना चाहता है, क्या दिया प्रतीत सीमित होने के लिए और बहुत सारे नकारात्मक पक्ष।

केटी: यह मुझे अपने सिर को भी खरोंचता हुआ छोड़ देता है! ये चैटबॉट एक चुनौतीपूर्ण व्यवसाय की तरह लगते हैं, और मुझे व्यापक गोद लेने के बारे में संदेह है। सभी परिवर्तनों में से मैं कल्पना कर सकता हूं कि अगले कुछ वर्षों में, “हम सभी चैटबॉट मित्र होंगे” – जो मार्क जुकरबर्ग ने कहा है! – बस वह नहीं है जो मुझे विश्वास है। यह Metaverse दे रहा है, क्षमा करें!