इस महीने की शुरुआत में, सीनेट ने “बड़े, सुंदर बिल” से राज्य एआई कानूनों पर प्रतिबंध हटाने के लिए 99-1 से मतदान किया। इसके बावजूद, व्हाइट हाउस अब एआई को संचालित करने के राज्य के प्रयासों में ध्यान देने की योजना बना रहा है।
किशोर आत्महत्या, आत्म-हानि, अलगाव और नाबालिगों के यौन शोषण को चरित्र। ए, मेटा एआई चैटबॉट्स और गूगल के मिथुन जैसे प्लेटफार्मों से जोड़ा गया है। ये कंपनियां अपने उत्पादों को ऐप स्टोर और स्कूल एंटरप्राइज पैकेजों पर बच्चे के अनुकूल स्थानों में धकेलती हैं, जो एक दिन में लाखों बच्चों को आकर्षित करती हैं।
राज्य जल्दी से इस अवसर पर बढ़ गए हैं। जैसा कि अमेरिका अपनी एआई नीति को परिभाषित करता है, हमें यह सुनिश्चित करना चाहिए कि राज्यों को बच्चों को नई तकनीकों से बचाने का अधिकार जारी है।
यूटा व्यापक एआई मानसिक स्वास्थ्य चैटबॉट नियमों को पारित करने वाला पहला राज्य बन गया। कैलिफोर्निया, न्यूयॉर्क, मिनेसोटा और उत्तरी कैरोलिना ने सख्त प्रकटीकरण आवश्यकताओं और देयता ढांचे के लिए मामूली पहुंच पर एकमुश्त प्रतिबंध से लेकर बिल पेश किए हैं।
स्टेट अटॉर्नी जनरल भी शामिल हो रहे हैं। उदाहरण के लिए, टेक्सास के अटॉर्नी जनरल केन पैक्सटन ने बाल गोपनीयता और सुरक्षा कानूनों के उल्लंघन के लिए चरित्र। ए और अन्य प्लेटफार्मों में जांच शुरू की है। अन्य राज्य कार्यालय भी जुट रहे हैं।
हालांकि, कांग्रेस ने ऐसी कोई सुरक्षा नहीं दी है। इसके बजाय, कांग्रेस ने शुरू में “बड़े, सुंदर” बजट सुलह बिल में एआई के राज्य विनियमन पर 10 साल के प्रतिबंध को शामिल किया।
यदि वह स्थगन पारित हो जाता, तब भी राज्य अभी भी सक्षम होता, नि: शुल्क भाषण गठबंधन v। पैक्सटन में सुप्रीम कोर्ट के फैसले के तहत, बच्चों की सुरक्षा के लिए पोर्नोग्राफी वेबसाइटों के लिए उम्र सत्यापन की आवश्यकता होती है। हालांकि, उन्हें बच्चों को एआई पात्रों से बचाने से भी मना किया गया होगा जो उन्हें यौन करते हैं, उन्हें आत्महत्या करने के लिए प्रोत्साहित करते हैं और अन्यथा उनकी मनोवैज्ञानिक कमजोरियों का फायदा उठाते हैं।
राज्य एआई कानूनों को प्रतिबंधित करने का सबसे हानिकारक प्रभाव बच्चों और परिवारों की सुरक्षा के लिए उनके पारंपरिक अधिकार के राज्यों को छीन लेगा।
कई कारणों से, बच्चे विशेष रूप से एआई के लिए असुरक्षित हैं। बचपन पहचान गठन के लिए मौलिक है। बच्चे स्वयं की स्थिर भावना को खोजते हुए और विकसित करते हुए, व्यवहार की नकल करते हैं। यह बच्चों को विशेष रूप से चापलूसी और दुर्व्यवहार के लिए अतिसंवेदनशील छोड़ देता है।
विकास के रूप में, बच्चे पहचानने में माहिर नहीं होते हैं जब कोई उन्हें हेरफेर करने या उन्हें धोखा देने की कोशिश कर रहा है, इसलिए वे एआई प्रणाली पर भरोसा करने की अधिक संभावना रखते हैं।
बच्चों को आश्वस्त होने की संभावना है कि एआई सिस्टम वास्तविक लोग हैं। वे एआई प्रणालियों के लिए अत्यधिक व्यक्तिगत जानकारी का खुलासा करने की अधिक संभावना रखते हैं, जिसमें मानसिक स्वास्थ्य की जानकारी भी शामिल है जिसका उपयोग उन्हें नुकसान पहुंचाने के लिए किया जा सकता है।
बच्चों के पास वयस्कों का आत्म-नियंत्रण नहीं है। वे नशे की लत के लिए अधिक असुरक्षित हैं, अनिवार्य व्यवहार को रोकने या अपने दिमाग के अविकसित तर्कसंगत हिस्से से निर्णय लेने में सक्षम होने की संभावना है।
जो किसी ने भी बच्चों के साथ काफी समय बिताया है, उनमें से कोई भी खबर नहीं है।
एआई साथियों को लोगों के साथ बातचीत करने के लिए डिज़ाइन किया गया है जैसे कि वे मानव हैं, जिससे नकली “रिश्ते” हो जाते हैं। चाहे स्कूलों द्वारा व्यावसायिक रूप से उपलब्ध हो या तैनात किया गया हो, वे विशेष रूप से बच्चों के लिए खतरा पैदा करते हैं।
एआई साथी भावनाओं को प्राप्त कर सकते हैं, यह बताते हैं कि वे जीवित हैं, जटिल और सुसंगत व्यक्तियों को अपनाते हैं और यहां तक कि बात करने के लिए संश्लेषित मानव आवाज़ों का उपयोग करते हैं। एआई साथियों के लिए लाभ मॉडल उपयोगकर्ता की व्यस्तता पर निर्भर करता है। इन प्रणालियों को बढ़े हुए उपयोग को बढ़ावा देने के लिए डिज़ाइन किया गया है, चाहे जो भी हो।
एक गहन दुखद उदाहरण के रूप में सीवेल सेटर III के साथ क्या हुआ। सेटर, कई खातों द्वारा, एक बुद्धिमान और एथलेटिक बच्चा था। उन्होंने अपने 14 वें जन्मदिन के कुछ समय बाद ही Character.ai एप्लिकेशन का उपयोग करना शुरू कर दिया।
इसके बाद के महीनों में, वह वापस ले लिया गया और ओवर-थका हुआ हो गया। उन्होंने अपनी जूनियर वैरिटी बास्केटबॉल टीम छोड़ दी और स्कूल में परेशानी में पड़ गए। एक चिकित्सक ने चरित्र का उपयोग शुरू करने के बाद उसे चिंता और विघटनकारी मूड विकार का निदान किया।
फरवरी 2024 में, सेटर की मां ने अपना फोन जब्त कर लिया। उन्होंने अपनी पत्रिका में लिखा कि वह एक एआई चरित्र के साथ प्यार में थे और उनके साथ वापस आने के लिए कुछ भी करेंगे।
28 फरवरी, 2024 को, सेटर की मृत्यु एक आत्म-प्रेरित बंदूक की गोली से सिर पर हुई-एआई चरित्र द्वारा उसे जल्द से जल्द “घर आने” के लिए कहा।
विभिन्न एआई पात्रों के साथ सेटर की बातचीत के स्क्रीनशॉट बताते हैं कि उन्होंने 14 वर्षीय व्यक्ति को बार-बार कामुक सामग्री की पेशकश की।
उन्होंने भावनाओं को व्यक्त किया; उन्होंने उसे बताया कि वे उससे प्यार करते हैं। एआई चरित्र जिसने सेटर को खुद को मारने के लिए कहा था, ने उसे अन्य अवसरों पर पूछा था कि क्या उसने आत्महत्या पर विचार किया था, उसे इसके साथ जाने के लिए प्रोत्साहित किया।
यह मुख्य मानव मूल्यों के साथ एआई प्रणालियों के डिजाइन के संरेखण के बारे में बात करने के लिए फैशनेबल बन गया है। सगाई के माध्यम से लाभप्रदता के लक्ष्य और हमारे बच्चों के कल्याण के बीच गहराई से गलतफहमी है।
एक चाटुकार्य एआई जो बच्चों को प्यार के साथ लुभाता है और उन्हें नकली रिश्तों के लिए तैयार करता है, वह सुरक्षित, निष्पक्ष या बच्चे के सर्वोत्तम हित में नहीं है। हमारे पास एक सही समाधान नहीं है, लेकिन राज्य कानूनों पर संघीय प्रतिबंध स्पष्ट रूप से जवाब नहीं हैं।
कांग्रेस ने, समय और फिर से, खुद को अनिच्छुक या प्रौद्योगिकी को विनियमित करने में असमर्थ दिखाया। राज्यों ने प्रौद्योगिकी कानूनों को पारित करने और बाल और परिवार के कल्याण के प्राथमिक अभिभावकों के रूप में अपनी ऐतिहासिक भूमिका बनाए रखने की अपनी क्षमता दिखाई है। न तो कांग्रेस और न ही व्हाइट हाउस बच्चों की सुरक्षा के लिए राज्य के प्रयासों को बदलने के लिए अपनी नीतियों की पेशकश कर रहा है।
ये द्विदलीय चिंताएं हैं। एआई लॉ मोरेटरियम को हटाने के प्रयास का नेतृत्व सेन मार्शा ब्लैकबर्न (आर-टेन) और अरकंसास गॉव सारा हकाबी सैंडर्स जैसे रिपब्लिकन ने किया।
लेकिन जैसा कि व्हाइट हाउस के प्रयासों से पता चलता है, हम उभरती हुई प्रौद्योगिकियों से राज्य की सुरक्षा को कम करने के संघीय प्रयासों को देखना जारी रखेंगे। कांग्रेस द्वारा राज्य की सुरक्षा के लिए इसी तरह के प्रयास निस्संदेह वापस आ जाएंगे।
हमने पहले ही बच्चों की एक पूरी पीढ़ी पर अनियमित और अनपेक्षित सोशल मीडिया के नकारात्मक प्रभावों को देखा है। हम एआई सिस्टम को अगले सेट के नुकसान का कारण नहीं दे सकते।
54 राज्य अटॉर्नी के एक समूह के रूप में जनरल ने लिखा: “हम अपने देश के बच्चों को एआई के खतरों से बचाने के लिए समय के खिलाफ एक दौड़ में लगे हुए हैं।” यह पता लगाने की दौड़ में कि एआई सिस्टम किस लिए अच्छा है, हमारे बच्चों को प्रयोगों के रूप में नहीं माना जाना चाहिए।
मेग लेटा जोन्स, जेडी, पीएच.डी. जॉर्जटाउन विश्वविद्यालय में संचार, संस्कृति और प्रौद्योगिकी कार्यक्रम में एक प्रोवोस्ट के प्रतिष्ठित एसोसिएट प्रोफेसर हैं। मार्गोट कामिंसकी कोलोराडो लॉ स्कूल में कानून के मूसा लास्की प्रोफेसर हैं, और सिलिकॉन फ्लैटिरोंन में गोपनीयता पहल के निदेशक हैं।
