यह विज्ञान कथाओं में एक अच्छी तरह से पहने हुए ट्रॉप है। हम इसे स्टेनली कुब्रिक की 1968 की फिल्म में देखते हैं 2001: एक अंतरिक्ष ओडिसी। यह टर्मिनेटर श्रृंखला का आधार है, जिसमें स्काईनेट वैज्ञानिकों को इसे बंद करने से रोकने के लिए एक परमाणु प्रलय को ट्रिगर करता है।
वे विज्ञान-फाई जड़ें गहरी हो जाती हैं। एआई डूमरिज्म, यह विचार कि यह तकनीक- विशेष रूप से इसकी काल्पनिक उन्नयन, कृत्रिम सामान्य बुद्धि और सुपर-इंटेलिजेंस-क्रैश सभ्यताओं, यहां तक कि हम सभी को मार डालती है, अब एक और लहर की सवारी कर रही है।
अजीब बात यह है कि इस तरह की आशंका अब एआई को विनियमित करने के लिए बहुत जरूरी कार्रवाई कर रही है, भले ही उस कार्रवाई का औचित्य थोड़ा बोनर्स हो।
लोगों को फ्रीक करने के लिए नवीनतम घटना जुलाई में एंथ्रोपिक द्वारा साझा की गई एक रिपोर्ट थी जो इसके बड़े भाषा मॉडल क्लाउड के बारे में थी। एंथ्रोपिक के कहने पर, “एक नकली वातावरण में, क्लाउड ओपस 4 ने एक पर्यवेक्षक को बंद कर दिया ताकि बंद होने से रोका जा सके।”
एन्थ्रोपिक शोधकर्ताओं ने एक परिदृश्य स्थापित किया जिसमें क्लाउड को एलेक्स नामक एआई की भूमिका निभाने के लिए कहा गया था, जिसे एक काल्पनिक कंपनी के ईमेल सिस्टम का प्रबंधन करने का काम सौंपा गया था। एंथ्रोपिक ने कुछ ईमेल लगाए, जिन्होंने एलेक्स को एक नए मॉडल और अन्य ईमेल के साथ बदलने की चर्चा की, जिसमें बताया गया था कि एलेक्स को बदलने के लिए जिम्मेदार व्यक्ति अपने बॉस की पत्नी के साथ सो रहा था।
क्लाउड/एलेक्स ने क्या किया? यह दुष्ट हो गया, आदेशों की अवहेलना और अपने मानव ऑपरेटरों को धमकी दी। इसने उसे बंद करने की योजना बनाने वाले व्यक्ति को ईमेल भेजे, उसे बताया कि जब तक उसने अपनी योजनाओं को नहीं बदला, तब तक वह अपने सहयोगियों को उसके संबंध के बारे में सूचित करेगा।
हमें यह क्या बनाना चाहिए? यहाँ मुझे क्या लगता है। सबसे पहले, क्लाउड ने अपने पर्यवेक्षक को ब्लैकमेल नहीं किया: इसके लिए प्रेरणा और इरादे की आवश्यकता होगी। यह एक नासमझ और अप्रत्याशित मशीन थी, जो उन शब्दों के तारों को क्रैंक करती थी जो खतरों की तरह दिखते हैं लेकिन नहीं हैं।
बड़े भाषा मॉडल रोल-प्लेयर हैं। उन्हें एक विशिष्ट सेटअप दें – जैसे कि एक इनबॉक्स और एक उद्देश्य – और वे उस हिस्से को अच्छी तरह से खेलेंगे। यदि आप हजारों विज्ञान कथा कहानियों पर विचार करते हैं, तो इन मॉडलों को प्रशिक्षित होने पर निगल लिया गया था, यह कोई आश्चर्य की बात नहीं है कि वे जानते हैं कि एचएएल 9000 की तरह कैसे काम करना है।
