शोधकर्ताओं का दावा है कि चैटजीपीटी में कई चिंताजनक सुरक्षा खामियां हैं – यहां बताया गया है कि उन्हें क्या मिला

• टेनेबल का कहना है कि उसे ChatGPT-4o में सात त्वरित इंजेक्शन खामियां मिलीं, जिसे “हैक्डजीपीटी” हमले की श्रृंखला करार दिया गया।
• कमजोरियों में छिपे हुए आदेश, मेमोरी दृढ़ता, और विश्वसनीय रैपर के माध्यम से सुरक्षा बाईपास शामिल हैं
• OpenAI ने GPT-5 में कुछ समस्याएं ठीक कीं; अन्य लोग बने हुए हैं, जिससे मजबूत रक्षा की मांग की जा रही है

सुरक्षा शोधकर्ताओं का कहना है कि चैटजीपीटी में कई सुरक्षा मुद्दे हैं जो खतरे वाले अभिनेताओं को छिपे हुए कमांड डालने, संवेदनशील डेटा चुराने और एआई टूल में गलत सूचना फैलाने की अनुमति दे सकते हैं।

हाल ही में, टेनेबल के सुरक्षा विशेषज्ञों ने ओपनएआई के चैटजीपीटी-4ओ का परीक्षण किया और सात कमजोरियां पाईं, जिन्हें उन्होंने सामूहिक रूप से हैकडजीपीटी नाम दिया। इसमे शामिल है:

• विश्वसनीय साइटों के माध्यम से अप्रत्यक्ष शीघ्र इंजेक्शन (सार्वजनिक साइटों के अंदर आदेशों को छिपाना जिनका जीपीटी अनजाने में सामग्री पढ़ते समय पालन कर सकता है)
• खोज संदर्भ में 0-क्लिक अप्रत्यक्ष संकेत इंजेक्शन (जीपीटी वेब पर खोज करता है और छिपे हुए दुर्भावनापूर्ण कोड वाला एक पृष्ठ ढूंढता है। प्रश्न पूछना अनजाने में जीपीटी को निर्देशों का पालन करने के लिए मजबूर कर सकता है)
• 1-क्लिक के माध्यम से शीघ्र इंजेक्शन (फ़िशिंग पर एक मोड़ जिसमें उपयोगकर्ता छिपे हुए GPT कमांड वाले लिंक पर क्लिक करता है)
• सुरक्षा तंत्र बाईपास (विश्वसनीय रैपर में दुर्भावनापूर्ण लिंक लपेटना, उपयोगकर्ता को लिंक प्रदर्शित करने के लिए GPT को धोखा देना)
• वार्तालाप इंजेक्शन: (हमलावर छिपे हुए निर्देशों को सम्मिलित करने के लिए सर्चजीपीटी प्रणाली का उपयोग कर सकते हैं जिन्हें चैटजीपीटी बाद में पढ़ता है, प्रभावी रूप से खुद को प्रेरित करता है)।
• दुर्भावनापूर्ण सामग्री छिपाना (दुर्भावनापूर्ण निर्देश कोड या मार्कडाउन टेक्स्ट के अंदर छिपाए जा सकते हैं)
• लगातार मेमोरी इंजेक्शन (दुर्भावनापूर्ण निर्देश सहेजे गए चैट में रखे जा सकते हैं, जिससे मॉडल कमांड दोहराता है और लगातार डेटा लीक होता है)।

सुरक्षा को मजबूत करने का आह्वान