“एआई के बहुत सारे परिणाम हैं,” उन्होंने कहा। “लेकिन मुझे लगता है कि सबसे अधिक स्वचालित शोध है। जब हम मानव इतिहास को देखते हैं, तो यह बहुत कुछ तकनीकी प्रगति के बारे में है, नई तकनीकों के निर्माण के बारे में मनुष्यों के बारे में। जब कंप्यूटर नई तकनीकों को विकसित कर सकते हैं तो खुद एक बहुत ही महत्वपूर्ण, उम, विभक्ति बिंदु की तरह लगता है।
“हम पहले से ही इन मॉडलों को वैज्ञानिकों की सहायता करते हुए देखते हैं। लेकिन जब वे लंबे समय तक क्षितिज पर काम करने में सक्षम होते हैं – जब वे अपने लिए अनुसंधान कार्यक्रम स्थापित करने में सक्षम होते हैं – तो दुनिया सार्थक रूप से अलग महसूस करेगी।”
चेन के लिए, मॉडल के लिए लंबे समय तक काम करने की क्षमता महत्वपूर्ण है। “मेरा मतलब है, मुझे लगता है कि हर किसी की एजीआई की अपनी परिभाषाएँ हैं,” उन्होंने कहा। “लेकिन स्वायत्त समय की यह अवधारणा – बस उस समय की मात्रा है जो मॉडल एक मृत अंत को मारने के बिना एक कठिन समस्या पर उत्पादक प्रगति करने में खर्च कर सकता है – यह उन बड़ी चीजों में से एक है जो हम बाद में हैं।”
यह एक साहसिक दृष्टि है – और आज के मॉडलों की क्षमताओं से परे है। लेकिन मैं फिर भी इस बात से मारा गया था कि कैसे चेन और पचोकी ने एजीआई ध्वनि को लगभग सांसारिक बनाया। इसकी तुलना इस बात से करें कि जब मैं 18 महीने पहले उनसे बात करता था तो सुत्सकेवर ने कैसे जवाब दिया था। “यह स्मारकीय, पृथ्वी-बिखरने वाला है,” उन्होंने मुझे बताया। “पहले और एक बाद में एक होगा।” वह जो निर्माण कर रहा था, उसकी विशालता का सामना करते हुए, Sutskever ने अपने करियर का ध्यान केंद्रित करने से बेहतर और बेहतर मॉडलों को डिजाइन करने के लिए बदल दिया, यह पता लगाने के लिए कि वह एक तकनीक को कैसे नियंत्रित करता है जो वह मानता था कि जल्द ही खुद से अधिक स्मार्ट होगा।
दो साल पहले Sutskever ने स्थापित किया कि उन्होंने एक सुपरलिग्नमेंट टीम को क्या कहा था कि वह एक और Openai सुरक्षा शोधकर्ता, Jan Leike के साथ सह-नेतृत्व करेंगे। दावा यह था कि यह टीम ओपनई के संसाधनों का एक पूरा पांचवां हिस्सा यह जानने के लिए कि एक काल्पनिक अधीक्षण को कैसे नियंत्रित करें। आज, Sutskever और Leike सहित Superalignment टीम के अधिकांश लोगों ने कंपनी को छोड़ दिया है और टीम अब मौजूद नहीं है।
जब लेइक ने छोड़ दिया, तो उन्होंने कहा कि यह इसलिए था क्योंकि टीम को वह समर्थन नहीं दिया गया था जो उन्हें लगा कि यह योग्य है। उन्होंने इसे एक्स पर पोस्ट किया: “होशियार-से-मानव मशीनों का निर्माण एक स्वाभाविक रूप से खतरनाक प्रयास है। ओपनईई मानवता के सभी की ओर से एक बड़ी जिम्मेदारी ले रहा है। लेकिन पिछले वर्षों में, सुरक्षा संस्कृति और प्रक्रियाओं ने शाइनी उत्पादों के लिए एक बैकसीट लिया है।” अन्य प्रस्थान करने वाले शोधकर्ताओं ने इसी तरह के बयान साझा किए।
मैंने चेन और पचोकी से पूछा कि वे इस तरह की चिंताओं को क्या बनाते हैं। “इनमें से बहुत सी चीजें अत्यधिक व्यक्तिगत निर्णय हैं,” चेन ने कहा। “आप जानते हैं, एक शोधकर्ता इस तरह का हो सकता है, आप जानते हैं-“
वह फिर से शुरू हुआ। “उन्हें यह विश्वास हो सकता है कि यह क्षेत्र एक निश्चित तरीके से विकसित होने जा रहा है और उनका शोध बाहर पैन करने जा रहा है और फल सहन करने जा रहा है। और, आप जानते हैं, हो सकता है कि कंपनी उस तरह से फिर से आकार नहीं लेती है जिस तरह से आप इसे चाहते हैं। यह एक बहुत ही गतिशील क्षेत्र है।”
