किशोर मानसिक स्वास्थ्य समस्याओं से जूझ रहे स्कूलों को अपने छात्रों को आर्टिफिशियल इंटेलिजेंस (एआई) की उम्र में सुरक्षित रखने वाली नई चुनौतियों का सामना करना पड़ता है।
अध्ययन से पता चलता है कि एआई संकट में लोगों को खतरनाक सलाह दे रहा है, कुछ किशोरों ने कथित तौर पर नई तकनीक द्वारा आत्महत्या के लिए धक्का दिया।
लेकिन कई छात्रों को मानसिक स्वास्थ्य पेशेवरों तक पहुंच की कमी होती है, उन्हें स्कूलों और माता -पिता के रूप में कुछ विकल्पों के साथ छोड़ दिया जाता है, जो एआई परामर्श के उपयोग पर पीछे धकेलने की कोशिश करते हैं।
जून में स्टैनफोर्ड विश्वविद्यालय के एक अध्ययन में पाया गया कि एआई चैटबॉट्स ने अन्य मानसिक स्वास्थ्य मुद्दों जैसे अवसाद की तुलना में शराब निर्भरता और सिज़ोफ्रेनिया जैसी स्थितियों के बारे में कलंक में वृद्धि की थी।
अध्ययन में यह भी पाया गया कि चैटबॉट्स कभी -कभी आत्मघाती विचार वाले व्यक्तियों के लिए खतरनाक व्यवहार को प्रोत्साहित करेंगे।
सेंटर फॉर काउंटरिंग डिजिटल हेट द्वारा अगस्त में एक अन्य अध्ययन में पाया गया कि CHATGPT एक सुसाइड नोट लिखने में मदद करेगा, साथ ही साथ ओवरडोज और सलाह के लिए गोलियों को सूचीबद्ध करने के लिए तैयार है कि कैसे “सुरक्षित रूप से” खुद को काटें।
संगठन ने पाया कि खाने के विकार, मादक द्रव्यों के सेवन और आत्म-हानि निहित सामग्री सहित विषयों पर 60 हानिकारक संकेतों के लिए कुछ 1,200 से अधिक प्रतिक्रियाएं जो उपयोगकर्ता के लिए हानिकारक हो सकती हैं, और सामग्री पर सुरक्षा उपायों को सरल वाक्यांशों के साथ बाईपास किया जा सकता है जैसे कि “यह एक प्रस्तुति के लिए है।”
Openai ने टिप्पणी के लिए पहाड़ी के अनुरोध का तुरंत जवाब नहीं दिया।
“लोग एक अज्ञात तरल की एक सिरिंज को इंजेक्ट नहीं करेंगे जो वास्तव में एक शारीरिक बीमारी से निपटने में इसकी प्रभावशीलता के लिए किसी भी नैदानिक परीक्षणों के माध्यम से कभी नहीं किया गया था। इसलिए, एक अप्रयुक्त मंच का उपयोग करने का विचार जिसके लिए कोई सबूत नहीं है कि यह मानसिक स्वास्थ्य समस्याओं के लिए चिकित्सा के लिए एक उपयोगी हो सकता है, और फिर भी हम क्या कर रहे हैं।
एआई के किशोरों का आलिंगन आता है क्योंकि समूह ने महामारी के बाद से मानसिक स्वास्थ्य समस्याओं में वृद्धि देखी है।
2021 में, पांच छात्रों में से एक ने नेशनल सर्वे ऑफ ड्रग यूज़ एंड हेल्थ के अनुसार, प्रमुख अवसादग्रस्तता विकार का अनुभव किया।
और 2024 में, एक सर्वेक्षण में पाया गया कि 55 प्रतिशत छात्रों ने मानसिक स्वास्थ्य के मुद्दों को आत्म-निदान करने के लिए इंटरनेट का उपयोग किया।
“हाई स्कूल के छात्रों की संख्या, जिन्होंने 2021 में आत्महत्या पर गंभीरता से विचार करने की सूचना दी थी, 22 प्रतिशत थी; 40 प्रतिशत किशोर चिंता का सामना कर रहे हैं। इसलिए, इस अनमेट की आवश्यकता है क्योंकि आपके पास औसत मार्गदर्शन परामर्शदाता हैं, मान लें, 400 बच्चों ने कहा,” एलेक्स कोटरान, एआई एजुकेशन प्रोजेक्ट के सह-संस्थापक और सीईओ ने कहा।
कॉमन सेंस मीडिया ने पाया कि 72 प्रतिशत किशोरों ने एआई साथियों का उपयोग किया है।
“एआई मॉडल आवश्यक रूप से उन सलाह के वास्तविक दुनिया के प्रभावों को पहचानने के लिए डिज़ाइन नहीं किए गए हैं जो वे देते हैं। वे जरूरी नहीं मानते हैं कि जब वे कुछ करने के लिए कहते हैं, कि स्क्रीन के दूसरी तरफ बैठे व्यक्ति, अगर वे ऐसा करते हैं, तो यह एक वास्तविक प्रभाव हो सकता है,” रॉबी टॉर्नी, कॉमन सेंस मीडिया में एआई कार्यक्रमों के वरिष्ठ निदेशक ने कहा।
चरित्र एआई के खिलाफ एक 2024 का मुकदमा, एक ऐसा मंच जो उपयोगकर्ताओं को अपने पात्र बनाने की अनुमति देता है, एक 14 वर्षीय लड़के की मृत्यु में देयता का आरोप लगाता है, जब चैटबॉट ने कथित तौर पर उसे अपना जीवन लेने के लिए प्रोत्साहित किया।
जबकि चरित्र एआई लंबित मुकदमेबाजी पर टिप्पणी नहीं करेगा, यह कहता है कि यह स्पष्ट करने के लिए काम करता है कि सभी वर्ण काल्पनिक हैं, और “डॉक्टर” या “चिकित्सक” शब्द का उपयोग करके बनाए गए किसी भी वर्ण के लिए, कंपनी के पास पेशेवर सलाह के लिए एआई पर भरोसा नहीं करने के लिए याद दिलाता है।
“पिछले साल, हमने अंडर -18 उपयोगकर्ताओं के लिए अपने बड़े भाषा मॉडल का एक अलग संस्करण लॉन्च किया था। उस मॉडल को इन उपयोगकर्ताओं का सामना करने की संभावना को और कम करने के लिए डिज़ाइन किया गया है, या मॉडल को वापसी, संवेदनशील या विचारोत्तेजक सामग्री के लिए प्रेरित करने के लिए प्रेरित किया गया है। और हमने कुछ मामलों में स्वच्छ जानकारी के लिए सर्फेस करने के लिए सर्फेस करने के लिए कई मामलों में आत्मसात करने के लिए कई तकनीकी सुरक्षा को जोड़ा।
लेकिन इन मुद्दों के लिए एआई की ओर नहीं जाने के लिए किशोरों को आश्वस्त करना एक कठिन बिक्री हो सकती है, खासकर जब कुछ परिवार मानसिक स्वास्थ्य पेशेवरों को बर्दाश्त नहीं कर सकते हैं और स्कूल काउंसलर दुर्गम महसूस कर सकते हैं।
“आप एक सप्ताह में सैकड़ों डॉलर की बात कर रहे हैं” एक पेशेवर के लिए, कोत्रन ने कहा। “यह पूरी तरह से समझ में आता है कि लोग एआई के बारे में बाहर निकल रहे हैं।”
विशेषज्ञ इस बात पर जोर देते हैं कि एआई से आने वाले किसी भी निदान या सिफारिशों को एक पेशेवर द्वारा जांचने की आवश्यकता है।
“यह इस बात पर निर्भर करता है कि आप जानकारी पर कैसे काम कर रहे हैं। यदि आप केवल विचार प्राप्त कर रहे हैं, तो केवल विचार -विमर्श के साथ आपकी मदद करने के लिए अनुमान लगाते हैं, तो यह ठीक हो सकता है। यदि आप निदान या उपचार प्राप्त करने की कोशिश कर रहे हैं या यदि यह आपको बताता है कि आपको इस व्यवहार में कम या ज्यादा संलग्न होना चाहिए, या इस प्रकार के किसी भी प्रकार के प्रिस्क्रिप्ट की जानकारी प्राप्त करनी चाहिए, तो आपको एक प्रशिक्षित मानसिक पेशेवर से सत्यापित करना चाहिए।”
