बच्चों को धमकाने और यहां तक कि उन्हें अपनी जान लेने के लिए प्रोत्साहित करने वाले एआई चैटबॉट्स की एक परेशान करने वाली नई प्रवृत्ति ने ऑस्ट्रेलियाई सरकार को बहुत चिंतित कर दिया है।
शनिवार को मीडिया से बात करते हुए, संघीय शिक्षा मंत्री, जेसन क्लेयर ने कहा कि कृत्रिम बुद्धिमत्ता “सुपरचार्जिंग” बदमाशी थी।
क्लेयर ने कहा, “एआई चैटबॉट अब बच्चों को धमका रहे हैं। यह बच्चे बच्चों को धमकाने वाले नहीं हैं, यह एआई बच्चों को धमकाने वाला है, उन्हें अपमानित कर रहा है, उन्हें चोट पहुंचा रहा है, उन्हें बता रहा है कि वे हारे हुए हैं… उन्हें खुद को मारने के लिए कह रहे हैं। मैं इससे अधिक भयानक कुछ भी नहीं सोच सकता।”
किशोरों द्वारा एआई का उपयोग करने को लेकर चिंता बढ़ रही है।
कैलिफोर्निया में, 16 वर्षीय एडम राइन के माता-पिता बेहद लोकप्रिय ChatGPT प्लेटफॉर्म के पीछे की कंपनी OpenAI पर मुकदमा कर रहे हैं, उनका आरोप है कि इसने उनके बेटे को अपनी जान लेने के लिए प्रोत्साहित किया।
राइन परिवार द्वारा शिकायत दर्ज करने के बाद, कंपनी ने एक बयान जारी कर “गंभीर मानसिक और भावनात्मक संकट में” लोगों को संबोधित करने के मामले में अपने मॉडलों की कमियों को स्वीकार किया और कहा कि वह “मानसिक और भावनात्मक संकट के संकेतों को बेहतर ढंग से पहचानने और प्रतिक्रिया देने और विशेषज्ञ इनपुट द्वारा निर्देशित लोगों को देखभाल के साथ जोड़ने” के लिए सिस्टम में सुधार करने के लिए काम कर रही थी।
साइन अप करें: एयू ब्रेकिंग न्यूज ईमेल
क्लेयर ने कहा, “यह विचार कि यह एक ऐप हो सकता है जो आपको खुद को मारने के लिए कह रहा है और विदेशों में बच्चों ने ऐसा किया है, मुझे भयभीत कर देता है।” उन्होंने किसी विशेष एआई चैटबॉट की पहचान नहीं की।
शनिवार को, मंत्री ने नए बदमाशी विरोधी उपायों की घोषणा की, जिसमें स्कूलों को बदमाशी की घटनाओं पर 48 घंटों के भीतर कार्रवाई करनी होगी, और शिक्षकों को विशेषज्ञ प्रशिक्षण प्राप्त करना होगा। ये पहल बदमाशी को ख़त्म करने की एक नई राष्ट्रीय योजना का हिस्सा हैं।
शुक्रवार को गोल्ड कोस्ट में एक बैठक के बाद राज्य और क्षेत्र के शिक्षा मंत्रियों ने राष्ट्रीय बदमाशी विरोधी योजना की प्रमुख सिफारिशों का समर्थन किया है।
शिक्षकों को बदमाशी से निपटने और उस पर पहले कार्रवाई करने के लिए अतिरिक्त प्रशिक्षण और उपकरणों की सहायता दी जाएगी, साथ ही संघीय सरकार शिक्षकों, अभिभावकों और छात्रों के लिए संसाधनों में 5 मिलियन डॉलर की सहायता देगी।
राष्ट्रीय जागरूकता अभियान के लिए भी $5 मिलियन होंगे।
धमकाने-विरोधी त्वरित समीक्षा में कहा गया है कि बच्चों को धमकाने वाले बच्चों के लिए निलंबन या निष्कासन जैसे दंडात्मक उपाय “कुछ परिस्थितियों में उपयुक्त हो सकते हैं”।
हालाँकि, सर्वोत्तम परिणामों में आम तौर पर रिश्तों को सुधारने और हानिकारक व्यवहार के अंतर्निहित कारणों को संबोधित करने में मदद करने के लिए कदम उठाना शामिल होता है।
समीक्षा में कहा गया है कि चार से नौ साल के बीच के चार छात्रों में से एक ने हर कुछ हफ्तों या उससे अधिक समय में बदमाशी की शिकायत की है। स्कूल जाने वाले बच्चे या किशोर जिन्हें धमकाया गया है, उनमें मानसिक स्वास्थ्य और कल्याण संबंधी समस्याओं का अनुभव होने की संभावना उनके साथियों की तुलना में अधिक होती है।
साइबरबुलिंग युवा लोगों में भी प्रचलित है, ईसेफ्टी कमिश्नर की रिपोर्ट के अनुसार 2019 और 2024 के बीच 450% से अधिक की वृद्धि हुई है।
10 दिसंबर को लागू होने वाले 16 साल से कम उम्र के बच्चों के लिए संघीय सरकार के आगामी सोशल मीडिया प्रतिबंध के पीछे ऑनलाइन बदमाशी को रोकना एक प्रेरणा है।
ऑस्ट्रेलिया में, संकट सहायता सेवा लाइफलाइन 13 11 14 है। यूके और आयरलैंड में, समरिटन्स से फ्रीफोन 116 123 पर संपर्क किया जा सकता है, या ईमेल jo@samaritans.org या jo@samaritans.ie पर संपर्क किया जा सकता है। अमेरिका में, आप 988 सुसाइड एंड क्राइसिस लाइफलाइन को 988 पर कॉल या टेक्स्ट कर सकते हैं या 988lifeline.org पर चैट कर सकते हैं। अन्य अंतर्राष्ट्रीय हेल्पलाइन befrienders.org पर पाई जा सकती हैं
