शीर्ष पंक्ति
कंपनी ने बुधवार को एक ब्लॉग पोस्ट में कहा, कैरेक्टर.एआई 18 साल से कम उम्र के बच्चों को अपने चैटबॉट्स के साथ “ओपन-एंडेड चैट” करने से प्रतिबंधित कर देगा, एक बदलाव जो एआई कंपनी को द्विदलीय नियामक दबाव और उन किशोरों के माता-पिता से कई मुकदमों का सामना करना पड़ रहा है जो चैटबॉट का उपयोग करने के बाद मर गए या आत्महत्या का प्रयास किया।
यह बदलाव तब आया है जब कंपनी को उन बच्चों के कई परिवारों के मुकदमों का सामना करना पड़ रहा है जिनकी मृत्यु या आत्महत्या का प्रयास हुआ था।
गेटी इमेजेज के माध्यम से सोपा इमेजेज/लाइटरॉकेट
महत्वपूर्ण तथ्यों
कंपनी ने कहा, प्रतिबंध 25 नवंबर से प्रभावी होगा और प्रतिबंध से पहले के हफ्तों में कम उम्र के उपयोगकर्ताओं को प्लेटफॉर्म पर प्रति दिन दो घंटे तक सीमित कर दिया जाएगा।
कंपनी ने कहा कि वह बच्चों के लिए एक नया अनुभव तैयार कर रही है, जो उन्हें अभी भी प्लेटफ़ॉर्म पर “वीडियो, कहानियां और स्ट्रीम” बनाने के लिए कैरेक्टर.एआई का उपयोग करने की अनुमति देगा, लेकिन ओपन-एंडेड चैट क्षमता में उनके साथ बातचीत नहीं करेगा।
कैरेक्टर.एआई ने कहा कि वह समाचार रिपोर्टों और नियामकों द्वारा उठाए गए सवालों का मूल्यांकन करने के बाद यह कदम उठा रहा है, इस बात पर जोर देते हुए कि “यह करना सही बात है” और अपने 18 वर्ष से कम उम्र के उपयोगकर्ता आधार से माफी भी मांग रहा है।
कैरेक्टर.एआई का कहना है कि इसके 20 मिलियन से अधिक सक्रिय उपयोगकर्ता हैं, लेकिन सीईओ करणदीप आनंद ने सीएनबीसी को बताया कि उनमें से केवल 10% ही 18 वर्ष से कम उम्र के हैं।
कैरेक्टर.एआई क्या है?
कैरेक्टर.एआई एक एआई कंपनी है जो विशिष्ट “वर्णों” के आधार पर व्यक्तिगत चैटबॉट की पेशकश करने के लिए बड़े भाषा मॉडल का उपयोग करती है। कंपनी का कहना है कि वह उपयोगकर्ताओं को ऐतिहासिक शख्सियतों और काल्पनिक पात्रों सहित “लाखों” चैटबॉट प्रदान करती है। इसकी स्थापना दो पूर्व Google इंजीनियरों, नोम शाज़ीर और डैनियल डी फ़्रीटास द्वारा की गई थी, दोनों पिछले साल कैरेक्टर.एआई के बड़े भाषा मॉडल को लाइसेंस देने के लिए एक समझौते पर हस्ताक्षर करने के बाद Google में लौट आए थे।
मुख्य पृष्ठभूमि
कैरेक्टर.एआई को उन बच्चों के परिवारों से कई मुकदमों का सामना करना पड़ रहा है जो अपने चैटबॉट का उपयोग करने के बाद मर गए या आत्महत्या का प्रयास किया। पहला गलत मौत का मुकदमा था जो पिछले साल फ्लोरिडा में मारे गए एक किशोर के माता-पिता द्वारा दायर किया गया था, जिन्होंने अपने 14 वर्षीय बेटे की आत्महत्या के बाद कंपनी पर मुकदमा दायर किया था। न्यूयॉर्क टाइम्स की रिपोर्ट के अनुसार, बच्चा “गेम ऑफ थ्रोन्स” के चरित्र डेनेरीस टार्गैरियन पर आधारित एक चैटबॉट के साथ बातचीत करने के लिए घंटों तक कंपनी के चैटबॉट का उपयोग कर रहा था। कंपनी के वकीलों ने तर्क दिया है कि चैटबॉट के साथ किशोर की बातचीत प्रथम संशोधन द्वारा संरक्षित भाषण है, लेकिन जब कंपनी ने इस साल की शुरुआत में मुकदमे को खारिज करने की कोशिश की तो एक संघीय न्यायाधीश ने शुरुआत में इस तर्क को खारिज कर दिया। मामले की सुनवाई नवंबर में होगी। कैरेक्टर.एआई ने बुधवार के ब्लॉग पोस्ट में मुकदमों का उल्लेख नहीं किया। कैरेक्टर.एआई ने फोर्ब्स से इस मामले पर टिप्पणी के अनुरोध का तुरंत जवाब नहीं दिया।
क्या कानून निर्माता आगे आ रहे हैं?
कैरेक्टर.एआई ने कहा कि नए बदलाव कुछ हद तक नियामकों के सवालों के जवाब में थे और कंपनी वर्तमान में जांच के दायरे में आने वाले कई बदलावों में से एक है। कैरेक्टर टेक्नोलॉजीज, कैरेक्टर.एआई की मूल कंपनी, ओपनएआई, एक्सएआई, मेटा और अल्फाबेट समेत कई एआई कंपनियों में से एक थी, जो संघीय व्यापार आयोग की जांच का सामना कर रही थी कि उनके चैटबॉट बच्चों के साथ कैसे बातचीत करते हैं। मंगलवार को, सीनेटरों के एक समूह ने नए कानून का अनावरण किया जो कम उम्र के नाबालिगों को “एआई साथी” की पेशकश करने वाली कंपनियों पर प्रतिबंध लगाएगा। यह बिल सांसदों के एक द्विदलीय समूह द्वारा लिखा गया था, जिसमें सीनेटर रिचर्ड ब्लूमेंथल, डी-कॉन, क्रिस मर्फी, डी-कॉन, मार्क वार्नर, डी-वीए, जोश हॉले, आर-मो और केटी ब्रिट, आर-अला शामिल हैं, और चैटबॉट्स को उनकी “गैर-मानवीय स्थिति” और उम्र की परवाह किए बिना सभी उपयोगकर्ताओं के लिए पेशेवर साख की कमी को स्वीकार करना भी अनिवार्य होगा।
