कैलिफोर्निया के गवर्नर गेविन न्यूसोम (डी) ने सोमवार को एक विधेयक पर हस्ताक्षर किए, जिसमें कृत्रिम बुद्धिमत्ता (एआई) चैटबॉट बच्चों के साथ कैसे बातचीत करते हैं और आत्महत्या और आत्म-नुकसान के मुद्दों को संभालते हैं, इस पर नई रेलिंग लगाई गई है।
एसबी 243, जिसने सितंबर के मध्य में राज्य विधानमंडल को मंजूरी दे दी, को “साथी चैटबॉट्स” के डेवलपर्स को प्रोटोकॉल बनाने की आवश्यकता है जो उनके मॉडल को आत्मघाती विचार, आत्महत्या या आत्म-नुकसान के बारे में सामग्री का उत्पादन करने से रोकते हैं और यदि आवश्यक हो तो उपयोगकर्ताओं को संकट सेवाओं के लिए निर्देशित करते हैं।
इसके लिए चैटबॉट्स को “स्पष्ट और विशिष्ट” सूचनाएं जारी करने की भी आवश्यकता होती है कि वे कृत्रिम रूप से उत्पन्न होते हैं यदि किसी को यह विश्वास करने के लिए गुमराह किया जा सकता है कि वे किसी अन्य इंसान के साथ बातचीत कर रहे थे।
बच्चों के साथ बातचीत करते समय, चैटबॉट्स को हर तीन घंटे में अनुस्मारक जारी करना होगा कि वे इंसान नहीं हैं। डेवलपर्स को अपने चैटबॉट्स को नाबालिगों के साथ बातचीत में स्पष्ट यौन सामग्री का उत्पादन करने से रोकने के लिए सिस्टम बनाने की भी आवश्यकता होती है।
न्यूजॉम ने एक बयान में कहा, “चैटबॉट और सोशल मीडिया जैसी उभरती तकनीक प्रेरित, शिक्षित और कनेक्ट कर सकती है – लेकिन वास्तविक रेलिंग के बिना, तकनीक हमारे बच्चों का शोषण, गुमराह और खतरे में भी डाल सकती है।”
उन्होंने कहा, “हमने अनियमित तकनीक से युवा लोगों को नुकसान पहुंचाने के कुछ सचमुच भयावह और दुखद उदाहरण देखे हैं, और जब तक कंपनियां आवश्यक सीमाओं और जवाबदेही के बिना काम जारी रखेंगी, हम चुप नहीं बैठेंगे।” “हम एआई और प्रौद्योगिकी में नेतृत्व करना जारी रख सकते हैं, लेकिन हमें इसे जिम्मेदारी से करना होगा – हर कदम पर अपने बच्चों की सुरक्षा करना। हमारे बच्चों की सुरक्षा बिक्री के लिए नहीं है।”
कैलिफ़ोर्निया के एक किशोर के परिवार ने अगस्त के अंत में OpenAI पर मुकदमा दायर किया, जिसमें आरोप लगाया गया कि ChatGPT ने उनके 16 वर्षीय बेटे को आत्महत्या के लिए प्रोत्साहित किया। पिता मैथ्यू राइन ने पिछले महीने सीनेट पैनल के सामने दो अन्य माता-पिता के साथ गवाही दी थी, जिन्होंने चैटबॉट्स पर उनके बच्चों को आत्महत्या या खुद को नुकसान पहुंचाने के लिए प्रेरित करने का आरोप लगाया था।
ओपनएआई ने सोमवार को चैटबॉट बिल पर हस्ताक्षर करने की प्रशंसा करते हुए इसे “एआई सुरक्षा मानकों के मामले में एक सार्थक कदम” बताया।
एक प्रवक्ता ने एक बयान में कहा, “स्पष्ट रेलिंग स्थापित करके, कैलिफोर्निया देश भर में एआई विकास और तैनाती के लिए अधिक जिम्मेदार दृष्टिकोण को आकार देने में मदद कर रहा है।”
एआई चैटबॉट बच्चों के साथ कैसे बातचीत करते हैं, इस बारे में बढ़ती चिंताओं ने संघीय व्यापार आयोग (एफटीसी) को इस मुद्दे की जांच शुरू करने के लिए प्रेरित किया, और कई प्रमुख तकनीकी कंपनियों से जानकारी मांगी।
सेंसर जोश हॉले (आर-मो.) और डिक डर्बिन (डी-इल.) ने भी पिछले महीने के अंत में कानून पेश किया जो एआई चैटबॉट्स को उत्पादों के रूप में वर्गीकृत करेगा ताकि क्षतिग्रस्त उपयोगकर्ताओं को देयता दावे दायर करने की अनुमति मिल सके।
कैलिफ़ोर्निया का उपाय इस सत्र में न्यूज़ॉम द्वारा हस्ताक्षरित कई एआई और तकनीक-संबंधित बिलों में से नवीनतम है। सोमवार को, उन्होंने सोशल मीडिया प्लेटफ़ॉर्म पर चेतावनी लेबल और ऑपरेटिंग सिस्टम और ऐप स्टोर द्वारा आयु सत्यापन की आवश्यकता वाले उपायों को भी मंजूरी दे दी।
सितंबर के अंत में, उन्होंने एसबी 53 पर भी हस्ताक्षर किए, जिसके लिए अग्रणी एआई मॉडल को रूपरेखा प्रकाशित करने की आवश्यकता है कि वे कैसे विनाशकारी जोखिमों का आकलन और कम करते हैं।
शाम 6:50 EDT पर अपडेट किया गया
