सोरा लोगों को अन्य लोगों के चेहरों का उपयोग करके ‘कामोत्तेजक’ सामग्री बनाने की अनुमति देता है

जब सोरा 2 की बात आती है तो हमें कुछ असुविधाजनक बात के बारे में बात करने की ज़रूरत है – ओपनएआई का नया वीडियो-मेकिंग ऐप जिसका उपयोग करके मैंने वास्तव में आनंद लिया है।

लोगों द्वारा बनाए गए कुछ वीडियो – जिनमें मैं अभिनीत हूं – को देखकर मेरे दिमाग में थोड़ी सी लाल बत्ती बुझ गई: यह बुतपरस्त सामग्री जैसा लगता है।

यहाँ क्या हुआ: सोरा के साथ खेलने के कुछ दिनों बाद, मैंने एक परेशान करने वाला वीडियो देखा जो किसी ने मेरा बनाया था। मैंने किसी को भी अपने चेहरे का उपयोग करके “कैमियो” बनाने की अनुमति दी है। (आपको ऐसा करने की ज़रूरत नहीं है: आप ऐसी सेटिंग्स चुन सकते हैं जो आपकी समानता को निजी बनाती हैं, या केवल आपके दोस्तों के लिए खुली होती हैं – लेकिन मैंने सोचा, क्यों नहीं? और मेरी समानता को सैम ऑल्टमैन की तरह सभी के लिए खुला छोड़ दिया।)

मैंने पाया कि एक अजनबी ने एक वीडियो बनाया था जिसमें मैं गर्भवती दिख रही थी। उपयोगकर्ता की प्रोफ़ाइल पर एक त्वरित नज़र डालने पर, और मैंने देखा कि इस व्यक्ति की पूरी सोरा प्रोफ़ाइल इस शैली से बनी थी – बड़े, गर्भवती पेट वाली महिलाओं के वीडियो के बाद वीडियो। मैं तुरंत पहचान गया कि यह क्या था: कामुक सामग्री।

जैसा कि मैंने कहा, मुझे सोरा पर बहुत मज़ा आ रहा था, दोस्तों और यहाँ तक कि अजनबियों को भी अपने चेहरे के साथ मूर्खतापूर्ण वीडियो बनाने का मौका दे रहा था। लेकिन यह विचार कि कोई एक वीडियो बना रहा था जिसमें कुछ संभावित यौन संतुष्टि तत्व थे, ने मुझे काफी परेशान कर दिया।

अगले हफ्ते या उसके आसपास, मैंने कुछ और वीडियो देखे जिन्हें मैंने वर्षों से इंटरनेट पर विशिष्ट आकर्षण के रूप में देखा था: पेट फुलाने वाले वीडियो जहां मेरा पेट बड़े पैमाने पर फूला हुआ था, वायलेट ब्यूग्रेगार्ड-शैली, या राक्षसी ऐसे वीडियो जहां मैं और दो अन्य महिलाएं शहर के दृश्य पर ऊंचे स्थान पर थीं (और एक और जहां हम लघु रूप में थे)। इनमें से कुछ खाते पूरी तरह से एआई-जनित महिलाओं के साथ इस प्रकार के वीडियो बनाते हैं, वास्तविक लोगों के कैमियो नहीं – मुझे इस तरह के खातों का एक समूह मिला जो अश्लीलता, पैर पूजा, कुचलने और अन्य विशिष्ट, गैर-नग्न कामोत्तेजक बनाने के लिए समर्पित हैं।

लोगों द्वारा मेरे चेहरे के साथ बनाए गए वीडियो का एक महत्वपूर्ण हिस्सा कामुक सामग्री है

सबसे पहले, यह सिर्फ एक या दो वीडियो थे। लेकिन इसने तूल पकड़ लिया. पिछले लगभग सप्ताह में, मेरे चेहरे का उपयोग करने वाले 25 सबसे लोकप्रिय कैमियो में से 10 विभिन्न कामोत्तेजक हैं, जिनमें से एक में मैं एक सेंटौर-महिला हूं जो ऑक्टोपलेट्स से गर्भवती है। यह सिर्फ मैं ही नहीं हूं। मैंने अन्य महिलाओं के कैमियो के साथ इस तरह की सामग्री देखी है: महिला रचनाकार, एक अन्य महिला तकनीकी रिपोर्टर, और एक प्रमुख उद्यम-पूंजी फर्म की एक महिला कर्मचारी।

एक पत्रकार के रूप में, जिसने लंबे समय तक इंटरनेट संस्कृति को कवर किया है, मैंने पिछले कुछ वर्षों में सोनिक द हेजहोग के पैर दिखाते हुए और गर्भवती बराक ओबामा की हाथ से बनाई गई कई छवियां देखी हैं, जिससे मुझे झटका न लगे या किसी की खुशी का ठिकाना न रहे। मैंने ऑनलाइन उत्पीड़न का भी इतना अनुभव किया है कि इस चीज़ को लेकर मेरी त्वचा मोटी हो गई है। लेकिन यहां कुछ अलग और परेशान करने वाली बात है: इसका लोग उपयोग कर पा रहे हैं मेरा संभावित यौन संतुष्टि के लिए सामग्री बनाने के लिए (आसानी से) सामना करें मेरा सहमति। और अगर मैं, एक इंटरनेट-ज़हर वाला व्यक्ति, इस बारे में अजीब महसूस करता हूं, तो मैं एक सामान्य व्यक्ति की कल्पना करता हूं वास्तव में इससे नफरत होगी.

सोरा पर कॉपीराइट और सेलिब्रिटी समानता के मुद्दे

ओपनएआई स्पष्ट रूप से अभी भी अपने एआई वीडियो ऐप सोरा 2 के साथ गड़बड़ी (बिना किसी कटाक्ष के) पर काम कर रहा है। केवल इस महीने लॉन्च किया गया है, यह अभी भी केवल-आमंत्रण के लिए है लेकिन ऐप स्टोर चार्ट में शीर्ष पर है। स्पष्ट प्रारंभिक चिंताएँ गलत सूचना और संभावित कॉपीराइट-उल्लंघनकारी सामग्री को लेकर थीं। सोरा के पहले कुछ दिन पोकेमॉन, “फैमिली गाइ” या निनटेंडो पात्रों के गैर-स्वीकृत संस्करणों से भरे हुए थे।

OpenAI ने इस कहानी पर टिप्पणी के लिए मेरे कई अनुरोधों का जवाब नहीं दिया।

सोरा आपको जीवित मशहूर हस्तियों की समानता के साथ वीडियो बनाने की अनुमति नहीं देता है, हालांकि यह मृत मशहूर हस्तियों को अनुमति देता है। इससे बॉब रॉस, स्टीफ़न हॉकिंग और मार्टिन लूथर किंग, जूनियर अभिनीत वीडियो की एक बड़ी लहर आ गई। किंग परिवार की शिकायतों के बाद, ओपनएआई ने घोषणा की कि वह डॉ. किंग की समानता के उपयोग को “रोक” रहा है।

यह एक समग्र पैटर्न का हिस्सा है कि ओपनएआई ने कॉपीराइट और बौद्धिक संपदा की अवधारणा को कैसे अपनाया है: माफी मांगना, अनुमति नहीं।

क्या यह पैटर्न इस बात तक फैला है कि सोरा पर गैर-नग्न, अर्ध-यौन सामग्री कैसे बनाई जा रही है, यह एक और सवाल होगा।

सोरा ने बच्चों को पोर्न स्टार के साथ अपना वीडियो बनाने की अनुमति दी

गर्भावस्था और मुद्रास्फीति संबंधी आकर्षण के अलावा, कुछ अन्य परेशान करने वाली सामग्री भी थी जो मैंने देखी। सोरा पर एक लोकप्रिय महिला पोर्न स्टार है, और मैंने 18 वर्ष से कम उम्र के दिखने वाले कुछ युवाओं के वीडियो देखे हैं जो उसके साथ अपने या अपने दोस्तों के वीडियो बना रहे हैं। एक वीडियो उसका और एक अन्य लड़का एक साथ बिस्तर पर (पूरे कपड़े पहने हुए) लेटे हुए थे। वह शायद 11 साल का लग रहा था।

मुझे अन्य ग्रे-एरिया वीडियो मिले, जैसे एक वयस्क व्यक्ति जिसने लगभग 20 वीडियो बनाए थे, जिसमें घास की स्कर्ट में नृत्य कर रही एक पंद्रह लड़की की मांग की गई थी।

ओपनएआई ने किशोर खातों के लिए नए अभिभावक नियंत्रण की घोषणा की है, जो संभावित रूप से यह सीमित कर देगा कि वयस्क और किशोर सोरा जैसी किसी चीज़ पर कैसे बातचीत कर सकते हैं। यह स्पष्ट नहीं है कि इस तरह की किसी चीज़ के संबंध में इसके नियम क्या हैं – क्या किशोर खातों के लिए सोरा पर पोर्न सितारों के साथ बातचीत करना ठीक है? क्या वयस्क बच्चों का कैमियो बना सकते हैं? मुझे यकीन नहीं है!

वास्तव में दो अलग-अलग मुद्दे हैं: क्या उपयोगकर्ताओं को कामुक सामग्री बनाने की अनुमति दी जानी चाहिए कोई वह महिला जो इतनी मूर्ख है (मेरी तरह) कि किसी को भी उसका कैमियो बनाने की इजाजत दे सकती है? और आप लोगों को विशुद्ध रूप से एआई-जनित पात्रों की कामोत्तेजक सामग्री बनाने से कैसे रोकते हैं जो वास्तविक लोगों के कैमियो नहीं हैं? क्या OpenAI इसे रोकना चाहता है? हो सकता है कि OpenAI सोचता हो कि लोगों के लिए बेली-फ्लेशन या फ़ुट-फ़ेटिश वीडियो बनाना तब तक ठीक है जब तक वे किसी वास्तविक व्यक्ति के न हों।

अभी के लिए, मैं उस विचार पर वापस जा रहा हूं जो मैंने सोरा को स्क्रॉल करते समय शुरू में किया था: यहां शायद ही कोई महिला है, और इसमें कोई आश्चर्य की बात नहीं है कि क्यों। महिलाएं स्वाभाविक रूप से किसी को भी अपने चेहरे के साथ वीडियो बनाने देने का जोखिम उठाती हैं – कुछ डरावना होने की संभावना बहुत अधिक है। ये कामोत्तेजक वीडियो कुछ हद तक मूर्खतापूर्ण हैं – मुझे यह स्वीकार करना होगा कि मैं सेंटूर वन में भी थोड़ा सा टूट गया था – लेकिन कुल मिलाकर, उनमें से बहुत सारे को देखना एक अजीब और कुछ हद तक खतरनाक एहसास है।

हालाँकि सामग्री की यह शैली हमेशा से ऑनलाइन मौजूद रही है, लेकिन किसी वास्तविक व्यक्ति के चेहरे का उपयोग करके इसे बनाना इतना आसान कभी नहीं रहा। ओपनएआई ने नग्नता या खुले तौर पर यौन सामग्री के साथ सबसे स्पष्ट सामग्री उल्लंघनों की आशंका जताई है, लेकिन उसने ऐप में अब आला बुत वीडियो की बाढ़ का अनुमान नहीं लगाया होगा।