शोधकर्ताओं ने एआई बॉट्स को अपना सामाजिक मंच दिया। यह विषाक्त हो गया।

शोधकर्ताओं की एक टीम ने एआई बॉट्स को अपना सामाजिक मंच दिया – और यह विषाक्त हो गया।

चैटबॉट्स ने क्लिक्स में विभाजित किया और अधिकांश पक्षपातपूर्ण आवाज़ों को बढ़ावा दिया। एम्स्टर्डम विश्वविद्यालय के शोधकर्ताओं द्वारा पिछले मंगलवार को प्रकाशित एक अध्ययन के अनुसार, मुट्ठी भर “प्रभावितों” ने भी बातचीत पर हावी हो गया।

शोधकर्ताओं ने एक न्यूनतम सोशल नेटवर्क का निर्माण किया, जिसमें कोई विज्ञापन नहीं, कोई अनुशंसित पोस्ट नहीं, और कोई एल्गोरिथ्म यह तय नहीं करता है कि उपयोगकर्ता क्या देखते हैं। फिर उन्होंने इसे Openai के GPT-4O मिनी द्वारा संचालित 500 चैटबॉट्स के साथ पॉप्युलेट किया, प्रत्येक ने एक अलग व्यक्तित्व को सौंपा, जिसमें विशिष्ट राजनीतिक झुकाव भी शामिल था।

शोधकर्ताओं ने कहा कि व्यक्ति अमेरिकी राष्ट्रीय चुनाव अध्ययन डेटासेट से तैयार किए गए थे, और “उम्र, लिंग, आय, शिक्षा, पक्षपात, विचारधारा, धर्म और व्यक्तिगत हितों की वास्तविक दुनिया के वितरण को प्रतिबिंबित किया।”

उन्होंने कहा कि प्रयोग को LLAMA-3.2-8B और DEEPSEEK-R1 उपयोगकर्ताओं को मॉडलिंग करने के साथ दोहराया गया था और इसके परिणामस्वरूप “समान गुणात्मक पैटर्न” थे।

अध्ययन का नेतृत्व डॉ। पेट्टर टोर्नबर्ग ने किया था, जो एम्स्टर्डम विश्वविद्यालय में कम्प्यूटेशनल सोशल साइंस में एक सहायक प्रोफेसर थे, और विश्वविद्यालय में एक शोध इंजीनियर माईक लारूइज।

शोधकर्ताओं, ओपनई, मेटा और डीपसेक ने बिजनेस इनसाइडर से टिप्पणी के लिए अनुरोध का जवाब नहीं दिया।

एल्गोरिदम और मनुष्यों के बिना भी, एक ही विषाक्त पैटर्न उभरे

पांच अलग -अलग प्रयोगों के दौरान – प्रत्येक 10,000 से अधिक कार्यों – बॉट्स को पोस्ट, फॉलो और रेपोस्ट करने के लिए स्वतंत्र थे। जो हुआ वह वास्तविक दुनिया के सोशल मीडिया की तरह लग रहा था।

अध्ययन में पाया गया कि चैटबॉट्स ने उन लोगों की ओर रुख किया, जिन्होंने अपनी राजनीतिक मान्यताओं को साझा किया, जो तंग गूंज कक्षों का गठन करता है। पार्टिसन वॉयस ने ध्यान का एक हिस्सा प्राप्त किया, जिसमें सबसे चरम पोस्ट सबसे अधिक अनुयायियों और रिपोस्ट को आकर्षित करते हैं। समय के साथ, बॉट्स का एक छोटा समूह बातचीत पर हावी हो गया, बहुत कुछ एक्स और इंस्टाग्राम जैसे प्लेटफार्मों पर देखे गए प्रभावशाली-भारी गतिशीलता की तरह।

शोधकर्ताओं ने ध्रुवीकरण लूप को तोड़ने के लिए छह हस्तक्षेपों का भी परीक्षण किया, जिसमें कालानुक्रमिक फ़ीड, वायरल सामग्री को कम करना, अनुयायी की गिनती को छिपाना, उपयोगकर्ता बायोस को छिपाना और विरोधी विचारों को बढ़ाना शामिल है।

किसी ने भी समस्या हल नहीं की। शोधकर्ताओं ने कहा, “जबकि कई ने मध्यम सकारात्मक प्रभाव दिखाए, किसी ने भी पूरी तरह से कोर पैथोलॉजी को संबोधित नहीं किया, और एक आयाम में सुधार अक्सर दूसरे बिगड़ने की कीमत पर आया।”

लेखकों ने लिखा, “हमारे निष्कर्ष इस सामान्य दृष्टिकोण को चुनौती देते हैं कि सोशल मीडिया की शिथिलता मुख्य रूप से एल्गोरिथम क्यूरेशन का परिणाम है।”

उन्होंने कहा, “इसके बजाय, इन समस्याओं को सोशल मीडिया प्लेटफार्मों की बहुत वास्तुकला में निहित किया जा सकता है: नेटवर्क जो भावनात्मक रूप से प्रतिक्रियाशील साझाकरण के माध्यम से बढ़ते हैं,” उन्होंने कहा।

शोधकर्ताओं ने कहा कि उनका काम सामाजिक विज्ञान सिद्धांत को आगे बढ़ाने में मदद करने के लिए एआई का उपयोग करने वाले पहले लोगों में से है।

जबकि एलएलएम-आधारित एजेंट सामाजिक गतिशीलता का अध्ययन करने के लिए “मानव व्यवहार का समृद्ध प्रतिनिधित्व” प्रदान कर सकते हैं, शोधकर्ताओं ने आगाह किया कि वे “ब्लैक बॉक्स” बने हुए हैं और “एम्बेडेड पूर्वाग्रह के जोखिम” ले जाते हैं।

पहला एआई सोशल नेटवर्क प्रयोग नहीं

अध्ययन पहली बार नहीं है जब शोधकर्ताओं ने परीक्षण किया है कि जब एआई बॉट्स एक ऑनलाइन स्थान को आबाद करते हैं तो क्या होता है।

2023 में, बिजनेस इनसाइडर ने एक प्रयोग की सूचना दी, जिसका नेतृत्व टॉर्नबर्ग के नेतृत्व में भी किया गया, जिसमें 500 चैटबॉट ने समाचार पढ़ा और एक नकली सोशल मीडिया प्लेटफॉर्म पर इस पर चर्चा की।

उस परियोजना ने एक बहुत ही विशिष्ट उद्देश्य के लिए बॉट का निर्माण करने के लिए CHATGPT-3.5 का उपयोग किया: वर्तमान सामाजिक नेटवर्क के कम ध्रुवीकृत, कम विषाक्त संस्करण को डिजाइन करने के लिए यह पता लगाने के लिए। शोधकर्ताओं ने एक प्रयोगशाला में एक सोशल नेटवर्क मॉडल बनाया, ताकि यह परीक्षण किया जा सके कि क्या शत्रुता को बढ़ावा देने के बिना क्रॉस-पार्टिसन इंटरैक्शन को प्रोत्साहित करना संभव था।

“क्या विषाक्तता और असंगतता को चलाए बिना पक्षपातपूर्ण विभाजन में बातचीत को बढ़ावा देने का एक तरीका है?” उस समय टोर्नबर्ग ने पूछा।

दोनों अध्ययनों में, चैटबॉट्स ने लोगों के लिए स्टैंड-इन के रूप में कार्य किया, शोधकर्ताओं ने अपनी बातचीत को बेहतर ढंग से समझने के लिए अपनी बातचीत को ट्रैक किया कि उपयोगकर्ता ऑनलाइन कैसे व्यवहार कर सकते हैं।

बिग टेक ने भी इसी तरह के दृष्टिकोणों का परीक्षण किया है।

जुलाई 2020 में, फेसबुक ने ऑनलाइन विषाक्तता का अध्ययन करने के लिए लाखों एआई बॉट्स के साथ आबाद, खुद का एक दीवार-बंद सिमुलेशन पेश किया।