- मेटा ने इंस्टाग्राम पर किशोरों की एआई कैरेक्टर चैट तक पहुंच के लिए नए अभिभावकीय नियंत्रण शुरू करने की योजना बनाई है
- माता-पिता को इस बात की भी सीमित जानकारी मिलेगी कि उनके किशोर चैटबॉट्स के साथ किन विषयों पर चर्चा करते हैं।
- ये बदलाव लीक हुए दस्तावेज़ों पर सार्वजनिक आक्रोश के बाद हुए हैं, जिसमें दिखाया गया है कि बॉट्स ने बच्चों पर रोमांटिक और अनुचित टिप्पणियाँ की हैं।
मेटा ने घोषणा की कि माता-पिता अगले साल से अपने किशोरों को इंस्टाग्राम पर इसके एआई पात्रों के साथ चैट करने से सीमित और ब्लॉक कर सकेंगे। टेक दिग्गज ने नए पर्यवेक्षण उपकरणों का वादा किया है जो अभिभावकों को उनके बच्चों द्वारा एक्सेस किए जा सकने वाले चैटबॉट इंटरैक्शन के प्रकार पर अधिक दृश्यता और नियंत्रण प्रदान करते हैं।
इसलिए, जबकि किशोर अभी भी मेटा के सामान्य-उद्देश्य एआई सहायक का उपयोग करने में सक्षम होंगे, व्यक्तिगत एआई व्यक्तित्वों के साथ निजी चैट, जिसमें अन्य उपयोगकर्ताओं द्वारा डिज़ाइन की गई चैट भी शामिल हैं, को उनके माता-पिता द्वारा आंशिक रूप से या पूरी तरह से अक्षम किया जा सकता है।
मेटा की घोषणा शिकायतों और विनियामक जांच के बाद हुई है, जो आंशिक रूप से आंतरिक दस्तावेजों के लीक होने से उत्पन्न हुई है, जिसमें बताया गया है कि कंपनी के एआई सिस्टम बच्चों के साथ अत्यधिक अंतरंग बातचीत में लगे हुए थे या कथित तौर पर गलत चिकित्सा सलाह की पेशकश की थी, और घृणास्पद भाषण को फ़िल्टर करने में विफल रहे। ये आगामी अभिभावकीय नियंत्रण संभवतः शिकायतों के ज्वार को रोकने और संकेत देने के लिए मेटा के प्रयास का हिस्सा हैं कि यह समस्या को गंभीरता से ले रहा है।
नए नियंत्रणों के साथ, माता-पिता न केवल विशिष्ट एआई पात्रों तक पहुंच को अवरुद्ध करने में सक्षम होंगे, बल्कि उन विषयों का सारांश भी प्राप्त करेंगे जिन पर उनके किशोर चैटबॉट्स के साथ चर्चा कर रहे हैं। पूर्ण वार्तालाप लॉग उपलब्ध नहीं होंगे, लेकिन विचार यह है कि माता-पिता को संभावित रुझानों या विषयों का पता लगाने के लिए पर्याप्त संदर्भ दिया जाए। बेशक, यह मान लिया गया है कि उपकरण इच्छित तरीके से काम करते हैं और किशोरों को उनके आसपास काम करने के चतुर तरीके नहीं मिलते हैं।
सामान्य मेटा एआई सहायक संभवतः होमवर्क सहायता, तथ्यात्मक प्रश्नों और बुनियादी सहायता कार्यों के लिए उपलब्ध रहेगा। ऐसा प्रतीत होता है कि मेटा यह शर्त लगा रहा है कि यह बीच का रास्ता, जो अधिक उपयोगिता-केंद्रित सहायक तक पहुंच बनाए रखते हुए रोलप्ले-शैली चरित्र चैट को प्रतिबंधित करता है, उन चिंतित माता-पिता और उत्पाद प्रबंधकों दोनों को संतुष्ट करेगा जो चाहते हैं कि यह सुविधा बनी रहे।
सुरक्षित चैट
चैटबॉट अब केवल प्रश्नों का उत्तर नहीं दे रहे हैं; वे वैयक्तिकृत वार्तालाप भागीदार हैं, जिनसे, बेहतर या बदतर, लोग भावनात्मक रूप से जुड़ जाते हैं। मेटा ऐसे एआई चैटबॉट्स के साथ जुड़ने के जोखिमों को खुले में खींचना चाहता है, या कम से कम माता-पिता को यह देखने के लिए एक टॉर्च देना चाहता है कि क्या हो रहा है।
प्रत्येक संदेश को पढ़े बिना बातचीत के विषयों की निगरानी करने की क्षमता माता-पिता की निगरानी के साथ किशोरों की गोपनीयता को संतुलित करने का एक प्रयास है। यह एक अच्छी पंक्ति है, लेकिन यह दर्शाती है कि एआई ने कितनी तेजी से ऑनलाइन बातचीत की प्रकृति को बदल दिया है, खासकर युवा उपयोगकर्ताओं के लिए।
औसत परिवार के लिए, बदलाव थोड़ी राहत दे सकते हैं, लेकिन वे एक अनुस्मारक के रूप में भी काम करते हैं। आपके बच्चे का फ़ोन अब केवल सामग्री के लिए एक खिड़की नहीं रह गया है। यह इंटरैक्टिव “पात्रों” के लिए एक पोर्टल है जिसे वे अपेक्षा से अधिक वास्तविक मान सकते हैं।
लेकिन इस तरह की बातचीत को सुरक्षित रखने के लिए माता-पिता और डेवलपर्स की ओर से सतर्कता बरतनी होगी, और यदि मेटा और उसके साथी डेवलपर्स ऐसा करने में विफल रहते हैं तो उन्हें काफी झटका लगेगा।
Google समाचार पर TechRadar को फ़ॉलो करें और हमें पसंदीदा स्रोत के रूप में जोड़ें अपने फ़ीड में हमारे विशेषज्ञ समाचार, समीक्षाएं और राय प्राप्त करने के लिए। फॉलो बटन पर क्लिक करना सुनिश्चित करें!
और हां आप भी कर सकते हैं टिकटॉक पर TechRadar को फॉलो करें समाचारों, समीक्षाओं, वीडियो के रूप में अनबॉक्सिंग के लिए, और हमसे नियमित अपडेट प्राप्त करें WhatsApp बहुत।
