और तीसरी विशेषता यह है कि साम्राज्य ज्ञान उत्पादन का एकाधिकार करते हैं। इसलिए, पिछले 10 वर्षों में, हमने देखा है कि एआई उद्योग दुनिया में एआई शोधकर्ताओं के अधिक से अधिक एकाधिकार प्राप्त करता है। इसलिए एआई शोधकर्ता अब विज्ञान को खोलने, विश्वविद्यालयों या स्वतंत्र संस्थानों में काम करने में योगदान नहीं दे रहे हैं, और अनुसंधान पर प्रभाव यह है कि आप क्या कल्पना करेंगे कि अगर दुनिया के अधिकांश जलवायु वैज्ञानिकों को तेल और गैस कंपनियों द्वारा नियंत्रित किया जा रहा था। आपको एक स्पष्ट चित्र नहीं मिल रहा है, और हमें इन तकनीकों की सीमाओं की स्पष्ट तस्वीर नहीं मिल रही है, या यदि इन तकनीकों को विकसित करने के बेहतर तरीके हैं।
और चौथी और अंतिम विशेषता यह है कि साम्राज्य हमेशा इस आक्रामक नस्ल की बयानबाजी में संलग्न होते हैं, जहां अच्छे साम्राज्य और बुरे साम्राज्यों के होते हैं। और वे, अच्छे साम्राज्य, को बुराई साम्राज्य को वापस करने के लिए पर्याप्त मजबूत होना चाहिए, और यही कारण है कि उन्हें इन सभी संसाधनों का उपभोग करने और इस सभी श्रम का फायदा उठाने के लिए अनफिट लाइसेंस होना चाहिए। और अगर बुराई साम्राज्य को पहले तकनीक मिलती है, तो मानवता नरक में जाती है। लेकिन अगर अच्छे साम्राज्य को पहले तकनीक मिलती है, तो वे दुनिया को सभ्य करेंगे, और मानवता को स्वर्ग जाना होगा। इसलिए कई अलग -अलग स्तरों पर, एम्पायर थीम की तरह, मुझे ऐसा लगा कि यह सबसे व्यापक तरीका है कि ये कंपनियां कैसे काम करती हैं, और वास्तव में उनके प्रभाव दुनिया पर क्या हैं।
नियाल फर्थ: हाँ, शानदार। मेरा मतलब है, आप दुष्ट साम्राज्य के बारे में बात करते हैं। अगर बुराई साम्राज्य पहले हो जाता है तो क्या होता है? और मैंने शीर्ष पर जो उल्लेख किया है वह है एजीआई। मेरे लिए, यह लगभग सभी तरह से पुस्तक में अतिरिक्त चरित्र की तरह है। यह हर चीज पर घूमने की तरह है, जैसे कि दावत पर भूत, जैसे कहना, यह वह चीज है जो ओपनई में सब कुछ प्रेरित करती है। यह वह चीज है जो हमें किसी और को प्राप्त करने से पहले मिल गई है।
पुस्तक में थोड़ा सा है कि वे ओपनई में आंतरिक रूप से कैसे बात कर रहे हैं, जैसे, हमें यह सुनिश्चित करने के लिए मिला है कि एजीआई हमारे हाथों में है जहां यह सुरक्षित बनाम कहीं और की तरह है। और कुछ अंतरराष्ट्रीय कर्मचारी खुले तौर पर पसंद करते हैं – यह एक तरह का एक अजीब तरीका है कि इसे फ्रेम करें, है ना? AGI का अमेरिकी संस्करण दूसरों की तुलना में बेहतर क्यों है?
तो हमें थोड़ा बताएं कि यह कैसे चलाता है कि वे क्या करते हैं। और एजीआई एक अपरिहार्य तथ्य नहीं है जो वैसे भी हो रहा है, क्या यह है? यह अभी तक कोई बात नहीं है।
करेन हाओ: वहाँ भी आम सहमति नहीं है कि यह संभव है या नहीं या यह भी क्या है। हाल ही में एक था न्यूयॉर्क टाइम्स कैड मेट्ज़ द्वारा कहानी जो क्षेत्र में लंबे समय से चली आ रही एआई शोधकर्ताओं के एक सर्वेक्षण का हवाला दे रही थी, और उनमें से 75% अभी भी सोचते हैं कि हमारे पास एजीआई तक पहुंचने के लिए अभी तक तकनीक नहीं है, जो भी इसका मतलब है। और एजीआई क्या है, इसकी सबसे क्लासिक परिभाषा या समझ, सॉफ्टवेयर में मानव बुद्धिमत्ता को पूरी तरह से फिर से बनाने में सक्षम है। लेकिन समस्या यह है कि मानव बुद्धिमत्ता क्या है, इसके बारे में हमारे पास वैज्ञानिक सहमति नहीं है। और इसलिए एक पहलू जो मैं पुस्तक में बहुत बात करता हूं, वह यह है कि, जब इस शब्द के आसपास साझा अर्थ का एक वैक्यूम होता है, और यह कैसा दिखता है, तो हम इस पर कब पहुंचे होंगे? हमें यह निर्धारित करने के लिए कि हम वहां प्राप्त करने के लिए इन प्रणालियों का मूल्यांकन करना चाहिए? यह मूल रूप से केवल ओपनई चाहता है।
तो यह सिर्फ इस कभी-मौजूद गोलपोस्ट की तरह है जो कि कंपनी कहाँ जाना चाहती है, इस पर निर्भर करता है कि यह शिफ्टिंग रहता है। आप जानते हैं, उनके पास एक पूर्ण सीमा है, विभिन्न प्रकार की विभिन्न परिभाषाएँ जो उन्होंने वर्षों में उपयोग की हैं। वास्तव में, उनके पास आंतरिक रूप से एक मजाक भी होता है: यदि आप 13 ओपनई शोधकर्ताओं से पूछते हैं कि एजीआई क्या है, तो आपको 15 परिभाषाएँ मिलेंगी। इसलिए वे आत्म-जागरूक हैं कि यह वास्तव में एक वास्तविक शब्द नहीं है और इसका वास्तव में इतना अर्थ नहीं है।
लेकिन यह इस उद्देश्य को पूरा करता है कि वे जो कर रहे हैं, उसके चारों ओर एक प्रकार का अर्ध-धार्मिक उत्साह पैदा करते हैं, जहां लोग सोचते हैं कि उन्हें इस क्षितिज की ओर ड्राइविंग करते रहना पड़ता है, और एक दिन जब वे वहां पहुंचते हैं, तो यह एक सभ्य रूप से परिवर्तनकारी प्रभाव डालने वाला है। और इसलिए, आपको अपने जीवन में और क्या काम करना चाहिए, लेकिन यह? और इस पर और कौन काम करना चाहिए, लेकिन आप?
