युवा उपयोगकर्ता प्रौद्योगिकी के साथ कैसे बातचीत कर रहे हैं, इस पर बढ़ती जांच के बीच, कैरेक्टर.एआई अगले महीने से अपने एआई चैटबॉट्स के साथ बच्चों के बात करने पर प्रतिबंध लगाने की योजना बना रहा है।
कंपनी, जो एआई वर्णों की विशाल श्रृंखला के लिए जानी जाती है, 25 नवंबर तक 18 वर्ष से कम उम्र के उपयोगकर्ताओं के लिए एआई के साथ “ओपन-एंडेड” बातचीत में शामिल होने की क्षमता को हटा देगी। यह आने वाले हफ्तों में पहुंच को कम करना शुरू करने की योजना बना रही है, शुरुआत में बच्चों को प्रति दिन दो घंटे के चैट समय तक सीमित कर देगी।
कैरेक्टर.एआई ने नोट किया कि वह एक “अंडर-18 अनुभव” विकसित करने की योजना बना रहा है जिसमें किशोर इसके एआई पात्रों के साथ वीडियो, कहानियां और स्ट्रीम बना सकते हैं।
कंपनी ने हालिया समाचार रिपोर्टों और नियामकों के सवालों को रेखांकित करते हुए एक ब्लॉग पोस्ट में कहा, “हम एआई और किशोरों के आसपास के विकसित परिदृश्य के मद्देनजर अपने अंडर-18 प्लेटफॉर्म में ये बदलाव कर रहे हैं।”
कंपनी और अन्य चैटबॉट डेवलपर्स हाल ही में प्रौद्योगिकी से जुड़े कई किशोरों की आत्महत्याओं के बाद जांच के दायरे में आ गए हैं। 14 वर्षीय सेवेल सेत्ज़र III की मां ने पिछले नवंबर में कैरेक्टर.एआई पर मुकदमा दायर किया, जिसमें चैटबॉट पर उनके बेटे को आत्महत्या के लिए प्रेरित करने का आरोप लगाया गया।
ओपनएआई को 16 वर्षीय एडम राइन के माता-पिता के मुकदमे का भी सामना करना पड़ रहा है, जिसने चैटजीपीटी से जुड़ने के बाद अपनी जान ले ली। दोनों परिवारों ने पिछले महीने सीनेट पैनल के सामने गवाही दी और सांसदों से चैटबॉट्स पर रेलिंग लगाने का आग्रह किया।
संघीय व्यापार आयोग ने भी सितंबर में एआई चैटबॉट्स की जांच शुरू की, जिसमें कैरेक्टर.एआई, ओपनएआई और कई अन्य प्रमुख तकनीकी फर्मों से जानकारी का अनुरोध किया गया।
कैरेक्टर.एआई ने बुधवार को कहा, “नियामकों, सुरक्षा विशेषज्ञों और अभिभावकों की इन रिपोर्टों और फीडबैक का मूल्यांकन करने के बाद, हमने अपने 18 साल से कम उम्र के समुदाय के लिए एक नया अनुभव बनाने के लिए यह बदलाव करने का फैसला किया है।”
इसमें कहा गया है, “ये हमारी कंपनी के लिए असाधारण कदम हैं और कई मायनों में हमारे साथियों की तुलना में अधिक रूढ़िवादी हैं।” “लेकिन हमारा मानना है कि ऐसा करना सही है।”
अपने चैटबॉट्स तक बच्चों की पहुंच को प्रतिबंधित करने के अलावा, कैरेक्टर.एआई नए युग की आश्वासन तकनीक को शुरू करने और एआई सेफ्टी लैब नामक एक नई गैर-लाभकारी संस्था की स्थापना और वित्तपोषण करने की भी योजना बना रहा है।
चैटबॉट्स के बारे में बढ़ती चिंताओं के बीच, सीनेटरों के एक द्विदलीय समूह ने मंगलवार को कानून पेश किया जो बच्चों के लिए एआई साथियों पर रोक लगाएगा।
सेंसर जोश हॉले (आर-मो.), रिचर्ड ब्लूमेंथल (डी-कॉन.), केटी ब्रिट (आर-अला.), मार्क वार्नर (डी-वा.) और क्रिस मर्फी (डी-कॉन.) के बिल में एआई चैटबॉट्स को बार-बार यह खुलासा करने की आवश्यकता होगी कि वे मानव नहीं हैं, इसके अलावा बच्चों के लिए यौन सामग्री की मांग या उत्पादन करने वाले उत्पादों को विकसित करना अपराध होगा।
कैलिफोर्निया के गवर्नर गेविन न्यूसोम (डी) ने पिछले महीने के अंत में इसी तरह के एक कानून पर हस्ताक्षर किए थे, जिसके तहत गोल्डन स्टेट में चैटबॉट डेवलपर्स को अपने मॉडलों को आत्महत्या या खुद को नुकसान पहुंचाने के बारे में सामग्री तैयार करने से रोकने वाले प्रोटोकॉल बनाने और जरूरत पड़ने पर उपयोगकर्ताओं को संकट सेवाओं के लिए निर्देशित करने की आवश्यकता थी।
उन्होंने एक सख्त उपाय को मंजूरी देने से इनकार कर दिया जो डेवलपर्स को बच्चों के लिए चैटबॉट उपलब्ध कराने से रोक देगा जब तक कि वे यह सुनिश्चित नहीं कर लेते कि वे बच्चों के साथ हानिकारक चर्चाओं में शामिल नहीं होंगे।
