हारून लेवी ने बिजनेस इनसाइडर को बताया कि एआई एजेंटों को एक कैच है: यदि आप उन्हें बहुत अधिक जानकारी देते हैं, तो वे भूखंड को खोना शुरू कर देते हैं।
क्लाउड-स्टोरेज दिग्गज बॉक्स के सीईओ इस समस्या को “संदर्भ सड़न” कहते हैं।
लेवी ने मंगलवार को कहा कि आप एआई मॉडल को जितना अधिक डेटा देते हैं, “यह जरूरी नहीं कि बेहतर परिणाम हो।” “मॉडल बस बहुत भ्रमित हो जाएगा और संभावित रूप से जानकारी के गलत हिस्से पर ध्यान केंद्रित करेगा।”
उन्होंने कहा कि टास्क पर गिरावट आती है, मॉडल इस बात का ट्रैक खो सकता है कि वह किस चीज पर ध्यान केंद्रित करने वाला है, जिससे बदतर परिणाम हो सकते हैं।
यह दोष तब होता है जब एजेंटों को उनके “संदर्भ विंडो” में बड़े पैमाने पर डेटा के साथ अतिभारित किया जाता है – प्रक्रिया का वह हिस्सा जहां मॉडल प्रतिक्रिया उत्पन्न करने से पहले जानकारी को संश्लेषित करते हैं।
सब कुछ संभालने के लिए एक सुपर-एजेंट पर भरोसा करने के बजाय, लेवी ने कहा कि होशियार दृष्टिकोण काम को तराशना है और इसे विशेष उप-एजेंटों के बेड़े को सौंपना है।
“आप एजेंटों और उनके पास जो संदर्भ है, उसे अलग करना चाहते हैं,” उन्होंने कहा।
उन्होंने कहा, “आपके पास कई एजेंट होंगे, सभी लक्ष्यों के एक सेट और संदर्भों के एक सेट के साथ जो वर्कफ़्लो के अपने विशेष हिस्से के लिए जर्मन हैं,” उन्होंने कहा।
यह एक ही एजीआई ओवरलॉर्ड के सिलिकॉन वैली ड्रीम के लिए काउंटर-ट्रेंड है। 2005 में बॉक्स को कॉफाउंड करने वाले लेवी ने कहा कि उप-एजेंट मॉडल “निश्चित रूप से बड़े पैमाने पर एजेंट सिस्टम का भविष्य होने जा रहा है।”
सीईओ ने यह भी कहा कि बेहतर एआई प्रदर्शन की कुंजी इन मॉडलों को “सबसे सटीक जानकारी और सिर्फ सबसे सटीक डेटा” देना है।
संबंधित कहानियां
बिजनेस इनसाइडर उन अभिनव कहानियों को बताता है जिन्हें आप जानना चाहते हैं
बिजनेस इनसाइडर उन अभिनव कहानियों को बताता है जिन्हें आप जानना चाहते हैं
उन्होंने कहा, “आपको अपने निर्देशों में दोनों बहुत सटीक होना होगा और फिर आपको मॉडल को संचालित करने के लिए सही संदर्भ की एक अविश्वसनीय मात्रा में देना होगा, लेकिन वास्तव में बहुत अधिक संदर्भ, यह बदतर होगा,” उन्होंने कहा।
एआई एजेंट एकदम सही हैं
सिलिकॉन वैली एआई एजेंटों के बारे में गूंज रही है, कंपनियों ने उन्हें तेजी से विस्तृत, बहु-चरणीय कार्यों के लिए उपयोग करने के लिए दौड़ लगाई है।
रेगी एआई के “ऑटो-पायलट सेल्स एजेंट” संभावना और खरीदारों के साथ अनुवर्ती, एआई के डेविन ने कॉम्प्लेक्स इंजीनियरिंग वर्क से निपटने के लिए, और बिग फोर प्रोफेशनल सर्विसेज फर्म पीडब्ल्यूसी ने “एजेंट ओएस” को एक दूसरे के साथ समन्वय करने में मदद करने के लिए “एजेंट ओएस” पेश किया है।
लेकिन वास्तविकता गन्दा है। सिद्धांत रूप में, एजेंट समस्याओं को हल कर सकते हैं, कार्यों को निष्पादित कर सकते हैं, और वे सीखते ही होशियार हो सकते हैं। व्यवहार में, वे जितने अधिक कदम उठाते हैं, प्रक्रिया उतनी ही नाजुक होती है।
शोधकर्ताओं ने चेतावनी दी है कि एजेंट त्रुटियां प्रचलित हैं और प्रत्येक कदम के साथ यौगिक हैं।
“किसी भी कदम पर एक त्रुटि पूरे कार्य को पटरी से उतार सकती है। जितने अधिक कदम शामिल होते हैं, उतना ही अधिक मौका कुछ गलत हो जाता है,” पैट्रोनस एआई, एक स्टार्टअप जो कंपनियों को एआई तकनीक का मूल्यांकन और अनुकूलन करने में मदद करता है, ने अपने ब्लॉग पर लिखा।
स्टार्टअप ने एक सांख्यिकीय मॉडल का निर्माण किया जिसमें पाया गया कि प्रति चरण 1% त्रुटि दर वाला एक एजेंट 100 वें चरण से त्रुटि के 63% संभावना को कम कर सकता है।
फिर भी, कंपनी ने कहा कि रेलिंग – जैसे कि फ़िल्टर, नियम और उपकरण को पहचानने और हटाने के लिए उपकरण – त्रुटि दरों को कम करने में मदद कर सकते हैं। पैट्रोनस एआई ने कहा, “छोटे सुधार” त्रुटि की संभावना में कटौती कर सकते हैं। “
