सुरक्षा के बारे में इन प्रोटोकॉल को क्या कहना चाहिए?
शोधकर्ताओं और डेवलपर्स को अभी भी वास्तव में समझ में नहीं आता है कि एआई मॉडल कैसे काम करते हैं, और हर समय नई कमजोरियों की खोज की जा रही है। चैटबोट-स्टाइल एआई अनुप्रयोगों के लिए, दुर्भावनापूर्ण हमले मॉडल को सभी प्रकार के बुरे काम करने का कारण बन सकते हैं, जिसमें प्रशिक्षण डेटा को पुनर्जीवित करना और स्लर्स को टोंट करना शामिल है। लेकिन एआई एजेंटों के लिए, जो किसी की ओर से दुनिया के साथ बातचीत करते हैं, संभावनाएं बहुत जोखिम भरी हैं।
उदाहरण के लिए, एक एआई एजेंट, जिसे किसी के लिए ईमेल पढ़ने और भेजने के लिए बनाया गया है, को पहले से ही अप्रत्यक्ष रूप से संकेत इंजेक्शन हमले के रूप में जाना जाता है, के प्रति संवेदनशील दिखाया गया है। अनिवार्य रूप से, एक ईमेल को एक तरह से लिखा जा सकता है जो एआई मॉडल को हाइजैक करता है और इसे खराबी का कारण बनता है। फिर, यदि उस एजेंट के पास उपयोगकर्ता की फ़ाइलों तक पहुंच है, तो यह हमलावर को निजी दस्तावेज भेजने का निर्देश दिया जा सकता है।
कुछ शोधकर्ताओं का मानना है कि एमसीपी जैसे प्रोटोकॉल को एजेंटों को इस तरह के हानिकारक कार्यों को करने से रोकना चाहिए। हालांकि, यह इस समय नहीं है। “मूल रूप से, इसमें कोई सुरक्षा डिज़ाइन नहीं है,” शिकागो पीएचडी छात्र के एक विश्वविद्यालय के झोरुन चेन कहते हैं, जो एआई एजेंट सुरक्षा पर काम करता है और एमसीपी सर्वर का उपयोग करता है।
एक सुरक्षा शोधकर्ता और कार्यकर्ता, ब्रूस श्नेयर को संदेह है कि एमसीपी जैसे प्रोटोकॉल एआई के साथ आने वाले अंतर्निहित जोखिमों को कम करने के लिए बहुत कुछ करने में सक्षम होंगे और चिंतित हैं कि इस तरह की तकनीक को अधिक शक्ति देने से यह वास्तविक, भौतिक दुनिया में नुकसान पहुंचाने की अधिक क्षमता मिलेगी। “हमारे पास इस सामान को सुरक्षित करने के तरीके के बारे में अच्छे जवाब नहीं हैं,” श्नेयर कहते हैं। “यह वास्तव में तेजी से एक सुरक्षा सेसपूल होने जा रहा है।”
अन्य अधिक आशान्वित हैं। सुरक्षा डिजाइन को MCP और A2A में जोड़ा जा सकता है, जिस तरह से यह HTTPS जैसे इंटरनेट प्रोटोकॉल के लिए है (हालांकि AI सिस्टम पर हमलों की प्रकृति बहुत अलग है)। और चेन और एन्थ्रोपिक का मानना है कि एमसीपी और ए 2 ए जैसे प्रोटोकॉल को मानकीकृत करना भी सुरक्षा के मुद्दों को पकड़ने और हल करने में आसान बनाने में मदद कर सकता है। चेन अपने शोध में एमसीपी का उपयोग करता है ताकि विभिन्न कार्यक्रमों को बेहतर समझ में आने के लिए विभिन्न कार्यक्रमों में हमलों में खेल सकते हैं। CHU एट एंथ्रोपिक का मानना है कि ये उपकरण साइबर सुरक्षा कंपनियों को एजेंटों के खिलाफ हमलों से अधिक आसानी से निपटने दे सकते हैं, क्योंकि यह अनपैक करना आसान होगा कि किसने क्या भेजा है।
इन प्रोटोकॉल को कितना खुला होना चाहिए?
हालांकि MCP और A2A आज उपलब्ध सबसे लोकप्रिय एजेंट प्रोटोकॉल में से दो हैं, लेकिन कार्यों में बहुत सारे अन्य हैं। सिस्को और आईबीएम जैसी बड़ी कंपनियां अपने स्वयं के प्रोटोकॉल पर काम कर रही हैं, और अन्य समूहों ने ऑक्सफोर्ड विश्वविद्यालय में शोधकर्ताओं द्वारा डिज़ाइन किए गए अगोरा जैसे विभिन्न डिजाइनों को सामने रखा है, जो वास्तविक समय में मानव भाषा से संरचित डेटा के लिए मानव भाषा से एक एजेंट-सेवा संचार को अपग्रेड करते हैं।
कई डेवलपर्स को उम्मीद है कि अंततः एजेंटों और उपकरणों के प्रसार को नेविगेट करने के लिए सुरक्षित, विश्वसनीय प्रणालियों की रजिस्ट्री हो सकती है। चेन सहित अन्य, चाहते हैं कि उपयोगकर्ता एआई एजेंट टूल के लिए येल्प जैसी किसी चीज़ में विभिन्न सेवाओं को रेट करने में सक्षम हों। कुछ और आला प्रोटोकॉल ने एमसीपी और ए 2 ए के शीर्ष पर ब्लॉकचेन भी बनाए हैं ताकि सर्वर दिखा सकें कि वे सिर्फ स्पैम नहीं हैं।
