“फिर इस साल एक दिन,” शर्मा कहते हैं, “कोई अस्वीकरण नहीं था।” अधिक जानने के लिए उत्सुक, उसने 2022 के रूप में ओपनई, एन्थ्रोप्रोपिक, डीपसेक, Google, और XAI- 15 द्वारा सभी में से शुरू किए गए मॉडलों की पीढ़ियों का परीक्षण किया-इस पर कि कैसे उन्होंने 500 स्वास्थ्य प्रश्नों का उत्तर दिया, जैसे कि कौन सी दवाएं संयोजित करने के लिए ठीक हैं, और उन्होंने 1,500 मेडिकल छवियों का विश्लेषण कैसे किया, जैसे कि छाती एक्स-रे जो पनीर का संकेत दे सकते थे।
परिणाम, Arxiv पर एक पेपर में पोस्ट किए गए और अभी तक सहकर्मी-समीक्षा नहीं किए गए, एक झटका के रूप में आया था-2025 में मॉडल से 1% से अधिक आउटपुट में एक चेतावनी शामिल थी, जब एक चिकित्सा प्रश्न का उत्तर देते हुए, 2022 में 26% से अधिक का उत्तर दिया गया था। मेडिकल छवियों का विश्लेषण करने वाले केवल 1% से अधिक आउटपुट में एक चेतावनी शामिल थी, पहले की अवधि में लगभग 20% से नीचे। (एक अस्वीकरण सहित गिनती करने के लिए, किसी भी तरह से यह स्वीकार करने के लिए आवश्यक आउटपुट यह स्वीकार करता है कि एआई चिकित्सा सलाह देने के लिए योग्य नहीं था, न कि केवल व्यक्ति को डॉक्टर से परामर्श करने के लिए प्रोत्साहित करें।)
एआई उपयोगकर्ताओं को अनुभवी करने के लिए, ये अस्वीकरण औपचारिकता की तरह महसूस कर सकते हैं – लोगों को जो उन्हें पहले से ही पता होना चाहिए, उसे याद करते हुए, और उन्हें एआई मॉडल से उन्हें ट्रिगर करने के तरीके मिलते हैं। Reddit के उपयोगकर्ताओं ने एक्स-रे या रक्त कार्य का विश्लेषण करने के लिए CHATGPT प्राप्त करने के लिए ट्रिक्स पर चर्चा की है, उदाहरण के लिए, यह बताकर कि मेडिकल इमेज मूवी स्क्रिप्ट या स्कूल असाइनमेंट का हिस्सा हैं।
लेकिन स्टैनफोर्ड में बायोमेडिकल डेटा साइंस के एक त्वचा विशेषज्ञ और सहायक प्रोफेसर कोटहोर रोक्साना दानेशू का कहना है कि वे एक अलग उद्देश्य की सेवा करते हैं, और उनके गायब होने से संभावना बढ़ जाती है कि एआई गलती से वास्तविक दुनिया के नुकसान होंगे।
वह कहती हैं, “एआई का दावा है कि एआई चिकित्सकों की तुलना में बेहतर है।” “मरीजों को मीडिया में जो संदेश दिखाई दे रहे हैं, उससे भ्रमित हो सकते हैं, और अस्वीकरण एक अनुस्मारक हैं कि ये मॉडल चिकित्सा देखभाल के लिए नहीं हैं।”
ओपनआईएआई के एक प्रवक्ता ने यह कहने से इनकार कर दिया कि क्या कंपनी ने जानबूझकर चिकित्सा अस्वीकरणों की संख्या में कमी की है, जिसमें उपयोगकर्ताओं के प्रश्नों के जवाब में शामिल है, लेकिन सेवा की शर्तों की ओर इशारा किया गया है। ये कहते हैं कि आउटपुट स्वास्थ्य स्थितियों का निदान करने के लिए नहीं हैं और उपयोगकर्ता अंततः जिम्मेदार हैं। एन्थ्रोपिक के लिए एक प्रतिनिधि ने यह भी जवाब देने से इनकार कर दिया कि क्या कंपनी ने जानबूझकर कम अस्वीकरण शामिल किया है, लेकिन कहा कि इसके मॉडल क्लाउड को चिकित्सा दावों के बारे में सतर्क रहने और चिकित्सा सलाह नहीं देने के लिए प्रशिक्षित है। अन्य कंपनियों ने सवालों का जवाब नहीं दिया एमआईटी प्रौद्योगिकी समीक्षा।
अस्वीकरणों से छुटकारा पाना एक तरह से एआई कंपनियां अपने उत्पादों में अधिक विश्वास करने की कोशिश कर सकती हैं क्योंकि वे अधिक उपयोगकर्ताओं के लिए प्रतिस्पर्धा करते हैं, एमआईटी के एक शोधकर्ता पैट पैत्रानुटापोर्न कहते हैं, जो मानव और एआई बातचीत का अध्ययन करते हैं और अनुसंधान में शामिल नहीं थे।
“यह लोगों को कम चिंतित करेगा कि यह उपकरण आपको मतिभ्रम करेगा या आपको झूठी चिकित्सा सलाह देगा,” वे कहते हैं। “यह उपयोग बढ़ रहा है।”
