एआई से एजीआई तक की यात्रा के दौरान चिंता है कि हम धीरे-धीरे उबल रहे बर्तन में मेंढकों की तरह हो जाएंगे

आज के कॉलम में, मैं एक दिलचस्प पूर्वाभास की जांच कर रहा हूं कि पारंपरिक एआई से एजीआई (कृत्रिम सामान्य बुद्धि) की उपलब्धि तक हमारी यात्रा के दौरान मानव जाति को लौकिक उबलते मेंढक सिद्धांत के अधीन किया जाएगा। सार यह कहा जाता है। हम धीरे-धीरे चरणबद्ध आधार पर एजीआई के और करीब पहुंचते जा रहे हैं और हमें यह एहसास नहीं होगा कि हम अपने अंतिम विनाश की ओर बढ़ रहे हैं। सूक्ष्म वृद्धिशील कदम हमें यह पहचानने में मूर्ख बना देंगे कि हम बहुत परेशानी में हैं और हमें एजीआई मार्ग को छोड़ देना चाहिए।

हम उबलते पानी के बर्तन में बेखबर मेंढक की तरह पक जायेंगे।

चलो इसके बारे में बात करें।

एक अभिनव एआई सफलता का यह विश्लेषण एआई में नवीनतम पर मेरे चल रहे फोर्ब्स कॉलम कवरेज का हिस्सा है, जिसमें विभिन्न प्रभावशाली एआई जटिलताओं की पहचान करना और समझाना शामिल है (यहां लिंक देखें)।

एजीआई और एएसआई की ओर बढ़ रहे हैं

सबसे पहले, इस महत्वपूर्ण चर्चा के लिए मंच तैयार करने के लिए कुछ बुनियादी बातों की आवश्यकता है।

एआई को और आगे बढ़ाने के लिए काफी शोध चल रहा है। सामान्य लक्ष्य या तो कृत्रिम सामान्य बुद्धिमत्ता (एजीआई) तक पहुंचना है या शायद कृत्रिम अधीक्षण (एएसआई) प्राप्त करने की विस्तारित संभावना तक पहुंचना है।

एजीआई वह एआई है जिसे मानव बुद्धि के समकक्ष माना जाता है और यह हमारी बुद्धि से मेल खा सकता है। एएसआई वह एआई है जो मानव बुद्धि से परे है और यदि सभी संभव तरीकों से नहीं तो कई मायनों में बेहतर होगा। विचार यह है कि एएसआई हर मोड़ पर हमें मात देकर मनुष्यों के चारों ओर चक्कर लगाने में सक्षम होगा। पारंपरिक एआई बनाम एजीआई और एएसआई की प्रकृति पर अधिक जानकारी के लिए, यहां लिंक पर मेरा विश्लेषण देखें।

हमने अभी तक एजीआई प्राप्त नहीं किया है।

वास्तव में, यह अज्ञात है कि क्या हम एजीआई तक पहुंचेंगे, या शायद अब से दशकों या शायद सदियों में एजीआई हासिल किया जा सकेगा। एजीआई प्राप्ति की तारीखें जो चारों ओर घूम रही हैं, वे बेतहाशा भिन्न हैं और किसी भी विश्वसनीय सबूत या लौह तर्क से बेतहाशा अप्रमाणित हैं। जब बात आती है कि हम वर्तमान में पारंपरिक एआई के साथ कहां हैं तो एएसआई और भी कमजोर है।

मेंढक को उबालने का सिद्धांत स्पष्ट हुआ

मैं अनुमान लगा रहा हूं कि आपने उबलते हुए मेंढक सिद्धांत के बारे में अस्पष्ट रूप से सुना होगा या किसी तरह से जानते होंगे। यह किसी को ऐसे जाल में फंसने के बारे में आगाह करने का एक लोकप्रिय तरीका है जो आपको फँसा लेता है और आपके लिए यह जानना मुश्किल कर देता है कि आप गहरी मुसीबत में हैं। आमतौर पर इस्तेमाल किए जाने वाले रूपकों की सूची में, उबलता हुआ मेंढक कहीं शीर्ष पर है।

क्या आपको एहसास हुआ कि उबलते मेंढक रूपक की शुरुआत 1800 के दशक के अंत में हुई थी?

पता चला कि 1870 के दशक में वैज्ञानिक यह पता लगाने की कोशिश कर रहे थे कि इंसानों में आत्मा कहाँ रहती है। चूँकि मनुष्यों पर घुसपैठ वाले प्रयोग करना कठिन है, इसलिए अगली सबसे अच्छी बात मेंढकों के साथ ऐसा करना था। जब आप मिडिल स्कूल में थे और जीव विज्ञान की कक्षा ले रहे थे तो शायद आपने मेंढक का विच्छेदन किया था। आजकल, वही प्रयास आम तौर पर एक ऑनलाइन क्षमता के माध्यम से किया जाता है ताकि छात्र वास्तविक मृत मेंढक को काटने के बजाय डिजिटल विच्छेदन करें।

1800 के दशक के उत्तरार्ध में वे वैज्ञानिक एक प्रयोग के साथ आए जिसमें एक मेंढक को पानी के बर्तन में रखना शामिल था। बर्तन अनिवार्य रूप से स्टोव या इसी तरह के हीटिंग डिवाइस पर था। पानी का तापमान पहले सामान्य कमरे के तापमान पर था। स्टोव चालू किया गया और पानी गर्म होने लगा। कभी-कभी, पानी पूरी तरह से उबलने से पहले ही मेंढक बाहर निकल जाता था, जबकि कभी-कभी मेंढक बाहर नहीं निकलता था और उबलती गर्मी से मर जाता था।

सभी प्रकार के प्रयोग किये जाने लगे। मेंढकों को उबालने के प्रयास लोकप्रिय हो गए। कुछ मामलों में, उबालने की प्रक्रिया से पहले मेंढक का मस्तिष्क हटा दिया गया था। ऐसा किस लिए? उद्देश्य यह पता लगाना था कि आत्मा मेंढक के मस्तिष्क में थी या शरीर में कहीं और।

आशा यह थी कि इन विविध प्रयोगों से यह पता चल सकेगा कि मनुष्य में आत्मा कहाँ निवास करती है।

मेंढक विद्या में बदल गए

मेंढक उबालने के प्रयोगों की एक विस्तृत श्रृंखला बार-बार की गई, आमतौर पर 1890 के दशक तक लोकप्रियता कम हो गई। समस्या का एक हिस्सा यह था कि कई कारकों ने प्रयोगात्मक परिणामों को भ्रमित कर दिया था। गर्मी को कितनी तेजी से बढ़ने की अनुमति है? प्रयोग के लिए प्रारंभिक तापमान क्या था? क्या मेंढक को भागने की पर्याप्त आज़ादी थी या वह आंशिक रूप से फँसा हुआ था? क्या मेंढक पूरी तरह से जैविक रूप से बरकरार था या उसका पहले ही ऑपरेशन किया जा चुका था? बर्तन में कितना पानी था? मेंढक कितना बड़ा था? और इसी तरह।

जैसा कि उल्लेख किया गया है, परिणाम आम तौर पर अनिर्णायक थे, अर्थात् कभी-कभी एक मेंढक समय पर बाहर कूद जाता था, जबकि अन्य प्रायोगिक सेटअपों में, ऐसा नहीं होता था। इन परिणामों के विरोधाभास ने अंततः वैज्ञानिक जांच की पूरी लाइन पर पानी फेर दिया (शब्दांश!)।

विरोधाभासी परिणामों के बावजूद, समाज अभी भी इस धारणा पर कायम है कि उबलते पानी में मेंढक को यह एहसास नहीं होगा कि उसे भागने की जरूरत है। अवधि, कहानी का अंत.

ऐसा लगता है कि रूपक विद्या बन गया है। आप देखिए, हम सांस्कृतिक रूप से शक्तिशाली कल्पना का विरोध नहीं कर सकते हैं, साथ ही उन वीर और भाग्यवादी मेंढकों से जुड़े आसानी से व्यक्त किए जाने वाले घोषित सबक का भी विरोध नहीं कर सकते हैं। आप जीवन में जो कुछ भी करें, इस बात का ध्यान रखें कि आप एक ऐसी प्रक्रिया से गुजर रहे हैं जो अंततः आपके लिए बहुत बुरी है, लेकिन रास्ते में आप इस पर ध्यान नहीं देंगे।

सावधान रहें!

एजीआई और उबलता हुआ मेंढक

अब जब हमने उबलते मेंढक सिद्धांत का आधार और अर्थ स्थापित कर लिया है, तो आइए आगे बढ़ें और देखें कि यह एजीआई की खोज पर कैसे लागू होता है।

सारांश सीधा है. सबसे पहले, मान लें कि एजीआई अंततः मानवता को नष्ट करने जा रहा है। हमें इस बात का एहसास नहीं है कि यही हमारी नियति है. एजीआई के बारे में सभी प्रकार की बहस से मामला गंदा हो जाएगा और हम अनिश्चित हो जाएंगे कि एजीआई हासिल करने के बाद क्या होगा।

जो लोग मानते हैं कि एजीआई कैंसर का इलाज करेगा और दुनिया की बड़ी समस्याओं का समाधान करेगा, वे इस बात पर जोर देंगे कि एजीआई एक ईश्वरीय वरदान साबित होने जा रहा है। इस बीच, अन्य लोग चेतावनी दे रहे होंगे कि एजीआई मनुष्यों को गुलाम बनाने जा रहा है। एजीआई इंसानों को मारने जा रहा है। हम एजीआई की गहन खोज के माध्यम से खुद को अंतिम लक्ष्य की ओर धकेल रहे हैं।

एक तरह से, हम सभी जल्द ही उबलने वाले बर्तन में रह रहे हैं। एजीआई की ओर प्रत्येक कदम तापमान में एक इंच वृद्धि है। समस्या यह है कि हमें यह एहसास ही नहीं हो रहा है कि हमने खुद को किस मुसीबत में डाल दिया है। इस मामले पर बहस हमें समय पर कार्रवाई करने से रोकेगी।

मैं असभ्य नहीं दिखना चाहता, लेकिन कृपया ध्यान रखें कि आप, मैं और पृथ्वी पर मौजूद अन्य 8 अरब लोगों में से प्रत्येक, खैर, हम सभी मेंढक हैं।

क्या आपको अभी भी गर्मी महसूस हो रही है?

शायद हमें अधिक गर्मी की आवश्यकता है

कुछ लोग कहेंगे कि जब तक पानी का बर्तन एक निश्चित गर्म तापमान तक नहीं पहुंच जाता, तब तक आप जरूरी नहीं जान सकते कि आपके साथ क्या हो रहा है।

शायद अभी हमारे पास जो पारंपरिक एआई है उसका तापमान बहुत कम है। सामान्य तापमान पर पानी के बर्तन में मेंढक के पास वहां रहने से कतराने का संभवतः कोई विशेष कारण नहीं होगा। ज़रूर, यह एक बर्तन में है और अपने मूल निवास स्थान में नहीं है, लेकिन पानी फिलहाल सुखद है।

इस समय मानवता उसी स्तर पर हो सकती है।

ऐसा प्रतीत होता है कि वर्तमान समय का AI इतना प्रभावशाली नहीं है कि हम क्रोधित हो सकें। हम सामूहिक रूप से तभी परेशान होना शुरू करेंगे जब एजीआई हमारे तटों के करीब होगा। एक बार जब हम सच्चे एजीआई के संकेत देखना शुरू कर देंगे, तो हमारी स्पाइडी-सेंस झुनझुनी पूर्वाभास उत्पन्न हो जाएगी। वोइला, मानवता अपने ट्रैक में एजीआई का पीछा करना बंद कर देगी। हमारे सिर पर ठंडे पानी का छींटा मारने से हमारा दिमाग साफ हो जाएगा और हम उबलते मेंढक के जाल में नहीं फंसेंगे। हम कपटी जाल से बच जायेंगे।

मानवता स्वयं को पूर्ण विनाश से बचाती है।

बूम, माइक गिराओ।

इंसान मेंढकों से बेहतर नहीं हैं

वाह, प्रत्युत्तर आता है, आप यह मान रहे हैं कि एजीआई की निकटता हमें अस्तित्व संबंधी खतरे की ओर ले जाएगी।

मान लीजिए कि हमें वे लक्षण दिखाई नहीं देते। इस बात की ठोस संभावना है कि एजीआई का रास्ता, भले ही हम एजीआई हासिल करने से एक कदम दूर हों, हमें उस भयानक परिणाम का पता नहीं चलेगा जिसका हम सामना करने वाले हैं। मनुष्य उस लगभग उबलते पानी में बैठ सकते हैं और फिर हमें एजीआई के अस्तित्व में आने से पहले निकलने में असमर्थ पाएंगे।

दुख की बात है कि हम उबलने वाले हैं।

दूसरा पहलू यह है कि, मेंढकों के विपरीत, हम अहंकारपूर्वक विश्वास करते हैं कि हम चतुर हैं और इस प्रकार हम उन चीज़ों के बारे में खुद को आश्वस्त कर सकते हैं जिनके बारे में एक मेंढक कभी सोच भी नहीं सकता। उदाहरण के लिए, शायद हमें एहसास है कि एजीआई निराशाजनक होने वाला है, लेकिन हम यह भी मानते हैं कि एआई पर विभिन्न नियंत्रणों की हमारी स्थापना हमारे सिर को खतरे में रखेगी। एजीआई विवश होगा और हमें नुकसान पहुंचाने में असमर्थ होगा।

सार यह है कि हाँ, हम स्वीकार करेंगे कि उबलता हुआ पानी आ रहा है, फिर भी उस स्वीकृति के बावजूद, हम किसी भी तरह इसमें उतरेंगे। वे सभी कथित नियंत्रण एजीआई को भयानक काम करने से रोकने में असमर्थ होंगे। एजीआई को संभावित रूप से नियंत्रित करना समस्याग्रस्त क्यों है, इसके गहन विश्लेषण के लिए, यहां लिंक पर मेरी चर्चा देखें।

जबकि एक मेंढक यह अनुमान नहीं लगा सकता कि पानी उबलने वाला है (विद्या के उस तिरछे पक्ष के अनुसार), मनुष्य इसे एक मील दूर से देख लेंगे। फिर हम निवारक उपाय लेकर आएंगे जो हमें सुरक्षा और सुरक्षा की झूठी भावना देंगे। वे एजीआई पर हावी नहीं होंगे।

दुर्भाग्यवश, अंतत: हमें भी नासमझ मेंढक जैसा ही भाग्य भुगतना पड़ेगा।

सोच के लिए भोजन

आप हमारी क्षमताओं बनाम तुच्छ मेंढक के बारे में क्या सोचते हैं?

1800 के उत्तरार्ध के एक प्रसिद्ध धर्मशास्त्री, विलियम ग्रीनफ थायर शेड ने मेंढकों के बारे में यह महत्वपूर्ण बात कही: “मेंढक चतुर होते हैं; वे वही खाते हैं जो उन्हें परेशान करता है।” शायद हम श्रद्धेय मेंढक को पर्याप्त श्रेय नहीं दे रहे हैं। एजीआई आने के बाद भी मेंढक अभी भी आसपास हो सकते हैं, हालांकि इंसानों की लंबी उम्र सवालों के घेरे में हो सकती है।

आगे बढ़ें और इन एजीआई शंकाओं पर विचार करने के लिए कुछ शांत समय लें, बस भविष्य में क्या होगा, यह तय करते समय अपने दिमाग को उबलने न दें।