स्पष्ट होने के लिए, लाइटशेड के पीछे के शोधकर्ता कलाकारों के काम को चुराने की कोशिश नहीं कर रहे हैं। वे सिर्फ नहीं चाहते कि लोग सुरक्षा की झूठी भावना प्राप्त करें। कैम्ब्रिज विश्वविद्यालय के पीएचडी छात्र और काम पर एक पेपर के प्रमुख लेखक हैना फोस्टर कहते हैं, “आपको यकीन नहीं होगा कि अगर कंपनियों के पास इन जहरों को हटाने के तरीके हैं, लेकिन आपको कभी नहीं बताएंगे,” कैम्ब्रिज विश्वविद्यालय के पीएचडी छात्र और काम पर एक पेपर के प्रमुख लेखक हैना फोस्टर कहते हैं। और अगर वे करते हैं, तो समस्या को ठीक करने में बहुत देर हो सकती है।
एआई मॉडल काम करते हैं, भाग में, छवियों की विभिन्न श्रेणियों के रूप में वे जो कुछ भी देखते हैं, उसके बीच सीमाओं का निर्माण करते हैं। ग्लेज़ और नाइटशेड छवि की गुणवत्ता को प्रभावित किए बिना इस सीमा पर कला के एक दिए गए टुकड़े को धक्का देने के लिए पर्याप्त पिक्सेल को बदलते हैं, जिससे मॉडल इसे कुछ नहीं देख रहा है। इन लगभग अगोचर परिवर्तनों को गड़बड़ी कहा जाता है, और वे कलाकृति को समझने के लिए एआई मॉडल की क्षमता को गड़बड़ करते हैं।
ग्लेज़ मॉडल को गलतफहमी शैली (जैसे, एक कार्टून के रूप में एक फोटोरिअलिस्टिक पेंटिंग की व्याख्या करता है) बनाता है। नाइटशेड इसके बजाय मॉडल को गलत तरीके से विषय बनाता है (जैसे, एक कुत्ते के रूप में एक ड्राइंग में एक बिल्ली की व्याख्या करना)। ग्लेज़ का उपयोग एक कलाकार की व्यक्तिगत शैली की रक्षा के लिए किया जाता है, जबकि नाइटशेड का उपयोग एआई मॉडल पर हमला करने के लिए किया जाता है जो कला के लिए इंटरनेट को क्रॉल करता है।
फ़ॉस्टर ने लाइटशेड को विकसित करने के लिए सैन एंटोनियो में तकनीकी विश्वविद्यालय और टेक्सास विश्वविद्यालय के शोधकर्ताओं की एक टीम के साथ काम किया, जो सीखता है कि कैसे यह देखना है कि ग्लेज़ और नाइटशेड जैसे उपकरण इस तरह के डिजिटल जहर को कला पर कैसे छपाते हैं ताकि यह प्रभावी रूप से इसे साफ कर सके। समूह अगस्त में एक प्रमुख वैश्विक साइबर सुरक्षा सम्मेलन, Usenix सुरक्षा संगोष्ठी में अपने निष्कर्ष प्रस्तुत करेगा।
शोधकर्ताओं ने इसे नाइटशेड, ग्लेज़, और अन्य समान कार्यक्रमों के साथ और बिना कला के टुकड़ों को खिलाकर लाइटशेड को प्रशिक्षित किया। फ़ॉस्टर ने इस प्रक्रिया को “जहर की छवियों पर जहर” के पुनर्निर्माण के लिए लाइटशेड सिखाने के रूप में इस प्रक्रिया का वर्णन किया है। एक कटऑफ की पहचान करना कितना जहर वास्तव में एक एआई को भ्रमित करेगा, बस जहर को “धो” करना आसान बनाता है।
लाइटशेड इस पर अविश्वसनीय रूप से प्रभावी है। जबकि अन्य शोधकर्ताओं ने विषाक्तता को कम करने के लिए सरल तरीके खोजे हैं, लाइटशेड अधिक अनुकूलनीय प्रतीत होता है। यह भी लागू कर सकता है कि यह एक एंटी-एआई टूल से क्या सीखा जाता है-साई, नाइटशेड-जैसे कि मिस्ट या मेटाक्लोक जैसे दूसरों को कभी भी उन्हें समय से पहले देखे बिना। जबकि जहर की छोटी खुराक के खिलाफ प्रदर्शन करने में कुछ परेशानी होती है, उन लोगों को अंतर्निहित कला को समझने के लिए एआई मॉडल की क्षमताओं को मारने की संभावना कम होती है, जिससे यह एआई के लिए जीत-जीत बन जाता है-या इन उपकरणों का उपयोग करने वाले कलाकारों के लिए हार-हार।
लगभग 7.5 मिलियन लोग, उनमें से कई छोटे और मध्यम आकार के अनुवर्ती और कम संसाधनों वाले कलाकारों ने अपनी कला की रक्षा के लिए ग्लेज़ को डाउनलोड किया है। ग्लेज़ जैसे उपकरणों का उपयोग करने वाले इसे रक्षा की एक महत्वपूर्ण तकनीकी रेखा के रूप में देखते हैं, खासकर जब एआई प्रशिक्षण और कॉपीराइट के आसपास विनियमन की स्थिति अभी भी हवा में है। लाइटशेड लेखक अपने काम को एक चेतावनी के रूप में देखते हैं कि ग्लेज़ जैसे उपकरण स्थायी समाधान नहीं हैं। “यह संरक्षण के लिए बेहतर विचारों के साथ आने की कोशिश के कुछ और दौर की आवश्यकता हो सकती है,” फ़ॉस्टर कहते हैं।
ग्लेज़ एंड नाइटशेड के रचनाकार उस भावना से सहमत लगते हैं: नाइटशेड के लिए वेबसाइट ने चेतावनी दी थी कि लाइटशेड पर काम करने से पहले उपकरण भविष्य के प्रूफ नहीं थे। और शान, जिन्होंने दोनों उपकरणों पर शोध का नेतृत्व किया, अभी भी मानते हैं कि उनके जैसे कि उनके आस -पास के तरीके होने का अर्थ है।
