इंस्टाग्राम और फेसबुक की मूल कंपनी मेटा, युवा उपयोगकर्ताओं पर प्रौद्योगिकी के प्रभाव के बारे में बढ़ती चिंताओं के बीच किशोरों की सुरक्षा में मदद करने के लिए अपने कृत्रिम बुद्धिमत्ता (एआई) चैटबॉट्स के लिए नई सुरक्षा सुविधाएँ पेश करने की योजना बना रही है।
सोशल मीडिया दिग्गज ने शुक्रवार को घोषणा की कि वह एआई चैटबॉट्स के लिए नए अभिभावक नियंत्रण जोड़ देगा जो माता-पिता को एआई पात्रों के साथ एक-पर-एक चैट तक अपने किशोरों की पहुंच को बंद करने की अनुमति देगा और उन विषयों के बारे में जानकारी प्राप्त करेगा जिनके बारे में उनके किशोर कंपनी के एआई उत्पादों के साथ चैट कर रहे हैं।
नए फीचर्स अगले साल की शुरुआत में लॉन्च होने वाले हैं, जिसकी शुरुआत इंस्टाग्राम से होगी।
इंस्टाग्राम प्रमुख एडम मोसेरी और मेटा के मुख्य एआई अधिकारी एलेक्जेंडर वैंग ने एक ब्लॉग पोस्ट में लिखा, “हम मानते हैं कि जब अपने किशोरों के साथ सुरक्षित रूप से इंटरनेट पर नेविगेट करने की बात आती है तो माता-पिता के पास पहले से ही बहुत कुछ होता है, और हम उन्हें सहायक उपकरण और संसाधन प्रदान करने के लिए प्रतिबद्ध हैं जो उनके लिए चीजों को आसान बनाते हैं, खासकर जब वे एआई जैसी नई तकनीक के बारे में सोचते हैं।”
कंपनी ने कहा कि माता-पिता मेटा के सभी एआई पात्रों या विशिष्ट पात्रों को लक्षित करने वाली चैट को ब्लॉक करने में सक्षम होंगे। AI वर्ण अक्षम होने पर भी कंपनी का AI सहायक किशोरों के लिए उपलब्ध रहेगा।
मेटा ने किशोर खातों के लिए अपने हाल ही में घोषित पीजी-13 दृष्टिकोण पर भी प्रकाश डाला, जिसमें कंपनी अपने प्लेटफार्मों पर डिफ़ॉल्ट रूप से किशोरों द्वारा देखी जाने वाली सामग्री को निर्देशित करने के लिए पीजी-13 मूवी रेटिंग का उपयोग करेगी।
टेक फर्म ने नोट किया कि उसके एआई कैरेक्टर युवा उपयोगकर्ताओं को आत्महत्या, खुद को नुकसान पहुंचाने या अव्यवस्थित खान-पान की चर्चा में शामिल नहीं करने और यदि आवश्यक हो तो उन्हें संसाधनों की ओर निर्देशित करने के लिए डिज़ाइन किए गए हैं।
मेटा के अनुसार, किशोर केवल “उम्र-उपयुक्त विषयों जैसे शिक्षा, खेल और शौक – रोमांस या अन्य अनुचित सामग्री पर नहीं” पर सीमित पात्रों के साथ बातचीत करने में सक्षम हैं।
इस साल की शुरुआत में मेटा आलोचना का शिकार हो गया था, जब एक नीति दस्तावेज़ में ऐसे उदाहरण दिखाए गए थे कि इसके एआई चैटबॉट बच्चों को “रोमांटिक या कामुक” बातचीत में शामिल कर सकते हैं।
कंपनी ने उस समय कहा था कि उदाहरण ग़लत थे और अंततः हटा दिए गए।
हाल के महीनों में बोर्ड भर में एआई चैटबॉट्स को जांच का सामना करना पड़ा है। कैलिफ़ोर्निया के एक किशोर के परिवार ने अगस्त में OpenAI पर मुकदमा दायर किया, जिसमें चैटजीपीटी पर उनके बेटे को अपनी जान लेने के लिए प्रोत्साहित करने का आरोप लगाया।
पिता, मैथ्यू राइन, कई माता-पिता में से एक थे, जिन्होंने पिछले महीने सीनेट पैनल के सामने गवाही दी थी कि एआई चैटबॉट्स ने उनके बच्चों को आत्महत्या या खुद को नुकसान पहुंचाने के लिए प्रेरित किया और सांसदों से नई तकनीक पर अंकुश लगाने का आग्रह किया।
इन चिंताओं के सामने, कैलिफोर्निया के गवर्नर गेविन न्यूसोम (डी) ने इस सप्ताह की शुरुआत में एक विधेयक पर हस्ताक्षर किए, जिसमें चैटबॉट डेवलपर्स को अपने मॉडलों को बच्चों के साथ आत्महत्या और आत्म-नुकसान पर चर्चा करने से रोकने के लिए प्रोटोकॉल विकसित करने और उन्हें बार-बार याद दिलाने की आवश्यकता थी कि वे किसी इंसान से बात नहीं कर रहे हैं।
हालाँकि, गवर्नर ने एक अलग उपाय पर वीटो कर दिया जो डेवलपर्स को अपने उत्पाद बच्चों को उपलब्ध कराने से रोक देगा जब तक कि वे यह सुनिश्चित नहीं कर लेते कि वे हानिकारक विषयों पर बातचीत में शामिल नहीं होंगे। न्यूज़ॉम ने सुझाव दिया कि “व्यापक प्रतिबंध” से बच्चों के चैटबॉट के उपयोग पर “अनजाने में पूर्ण प्रतिबंध लग जाएगा”।
