नैतिक एल्गोरिदम: एक ज्योतिष एआई डिजाइन करना जो भावनाओं का शोषण नहीं करता है

2023 में, वैश्विक ज्योतिष ऐप बाजार 12 बिलियन डॉलर से अधिक हो गया और स्मार्टफोन की पहुंच और व्यक्तिगत सलाह की बढ़ती मांग के आधार पर निकट भविष्य में इसके लगातार बढ़ने की उम्मीद है।

विकास से मानवीय आवश्यकता के बारे में कुछ पता चलता है। मनुष्य आश्वासन, मार्गदर्शन और आराम चाह रहा है। फिर भी, इस तीव्र वृद्धि ने परेशान करने वाली प्रथाओं के द्वार भी खोल दिए हैं जो विश्वास और भावनात्मक कल्याण को कमजोर करने का जोखिम उठाते हैं।

2022 में एक अध्ययन लोकप्रिय मीडिया के मनोविज्ञान जर्नल पाया गया कि भय-आधारित सामग्री चिंता बढ़ाती है और लोगों को दोहराव वाले व्यवहार के लिए प्रेरित करती है। कई ज्योतिष ऐप्स बिल्कुल इसी पर निर्भर हैं। उनका व्यवसाय मॉडल अक्सर सशक्तिकरण के बजाय उपयोगकर्ताओं को अनिश्चितता और भय से जोड़े रखने पर निर्भर करता है।

कैसे डर एक बिजनेस मॉडल बन जाता है

यदि आपने इनमें से कुछ ऐप्स का उपयोग किया है, तो संभवतः आपने पैटर्न देखा होगा: “आपके प्रेम जीवन में खतरों” या “आगामी वित्तीय नुकसान” के बारे में चेतावनी देने वाली दैनिक सूचनाएं। शायद ही कभी ऐसे संदेशों को प्रामाणिक पाठों में शामिल किया जाता है या बारीकियों के साथ समझाया जाता है। इसके बजाय, वे उसी तरह काम करते हैं जिस तरह से क्लिकबेट हेडलाइंस काम करती हैं – छोटी, तीखी और भावनाओं को जगाने के लिए डिज़ाइन की गई।

मनोविज्ञान अच्छी तरह से प्रलेखित है। मनुष्य हानि से बचने के लिए प्रतिबद्ध है, कभी-कभी तो हम लाभ का पीछा करने से भी अधिक दृढ़ता से प्रयास करते हैं। जब कोई ऐप आपको बताता है कि कुछ बुरा हो सकता है, तो आश्वासन के लिए बार-बार वापस आने की प्रवृत्ति होती है। समय के साथ, यह सशक्तिकरण नहीं बल्कि निर्भरता का निर्माण करता है। जो चीज़ प्रतिबिंब के लिए एक उपकरण के रूप में होती है वह चिंता के चक्रीय चक्र में बदल जाती है।

एक अलग रास्ता चुनना

सच्चा नवाचार पारदर्शिता से शुरू होता है। उपयोगकर्ता अपने पूर्वानुमानों के ज्योतिषीय आधार को जानने के पात्र हैं, जैसे कि सम्मानित वैदिक ग्रंथों में निहित ग्रहों की स्थिति। स्वायत्तता दूसरा है. लक्ष्य किसी को यह बताना नहीं है कि “आज यह निर्णय न लें”, बल्कि इसे एक प्रतिबिंब के रूप में प्रस्तुत करना है: “यह संरेखण संचार में घर्षण पैदा कर सकता है; प्रतिक्रिया करने से पहले रुकने पर विचार करें।” और तीसरा सिद्धांत मनोवैज्ञानिक सुरक्षा है।

भविष्यवाणियों को घबराहट या डर पैदा करने वाले शब्दों से बचना चाहिए। यह केवल अच्छे उत्पाद डिज़ाइन का मामला नहीं है; यह एक नैतिक प्रतिबद्धता है.

संहिता में नैतिकता लाना

आदर्शों को वास्तविक उत्पाद में बदलना आसान नहीं है, लेकिन यह आवश्यक है। उदाहरण के लिए, ऐसे फ़िल्टर बनाना जो भावनात्मक रूप से आवेशित शब्दों (“अभिशाप” या “कयामत” जैसे शब्द) को पकड़ते हैं और उन्हें भविष्यवाणियों में सामने आने से रोकते हैं। साथ ही, “मैं यह क्यों देख रहा हूं?” जैसे सरल पारदर्शिता तंत्र भी जोड़ रहा हूं, जो लोगों को तर्क का पता लगाने देता है।

एमआईटी स्लोअन मैनेजमेंट रिव्यू के शोध के अनुसार, इस तरह की पारदर्शिता एल्गोरिदम में उपयोगकर्ता का विश्वास 40% से अधिक बढ़ा सकती है।

लेकिन सबसे सार्थक बदलाव पूर्वानुमानों के स्वर को फिर से डिज़ाइन करने पर आएगा। वे चेतावनियों के बजाय निमंत्रण बन गये। संघर्ष से जुड़ी ग्रह स्थिति को धैर्य, सावधानी या संचार के बारे में सलाह में बदल दिया जाता है।

उपयोगकर्ताओं का कहना है कि इससे उनमें असहायता के बजाय एजेंसी की भावना आती है। मेरे लिए, शोषण और सशक्तिकरण के बीच यही अंतर है।

जिम्मेदारी और सहानुभूति के साथ सिस्टम डिजाइन करना

ज्योतिष हमेशा से ही व्याख्या पर निर्भर रहा है और व्याख्या अक्सर व्यक्तिगत पूर्वाग्रह रखती है। एआई की एक ताकत यह है कि इसे लगातार, गैर-निर्णयात्मक और पूर्वाग्रह से मुक्त मार्गदर्शन देने के लिए प्रशिक्षित किया जा सकता है।

वास्तव में, जब सावधानी से डिज़ाइन किया जाता है, तो एआई डिजिटल सहानुभूति का एक रूप दिखा सकता है, भाषा में भावनात्मक वजन को पहचान सकता है और संवेदनशीलता के साथ प्रतिक्रिया दे सकता है। यह ज्योतिष में विशेष रूप से महत्वपूर्ण है, जहां उपयोगकर्ता अक्सर असुरक्षा और आश्वासन की आवश्यकता के साथ संपर्क करते हैं।

इसलिए नैतिक डिजाइन में मॉडल के भीतर सुरक्षा उपायों को शामिल किया जाना चाहिए जिसमें फिल्टर शामिल हों जो भावनात्मक रूप से आवेशित भाषा को पकड़ते हैं, आंतरिक ऑडिट जो अनपेक्षित नुकसान के लिए आउटपुट का परीक्षण करते हैं, और रूपरेखा जो यह सुनिश्चित करती है कि पूर्वानुमान इस तरह से तैयार किए जाएं जो डर को बढ़ाने के बजाय कम कर दें।

उद्योग के लिए एक दृष्टिकोण

यदि ज्योतिष एआई को जिम्मेदारी से विकसित करना है, तो मेरा मानना ​​है कि हमें उद्योग-व्यापी मानकों की आवश्यकता है। प्लेटफार्मों को पारदर्शिता, मनोवैज्ञानिक सुरक्षा की रक्षा और उपयोगकर्ता की स्वायत्तता का सम्मान करने के लिए प्रतिबद्ध होना चाहिए। जिस प्रकार जवाबदेही ढाँचे का निर्माण महत्वपूर्ण है, उसी प्रकार प्लेटफ़ॉर्म के लिए ऐसे चैनल उपलब्ध कराना भी महत्वपूर्ण है जहाँ उपयोगकर्ता उन भविष्यवाणियों पर सवाल उठा सकते हैं, चुनौती दे सकते हैं या रिपोर्ट कर सकते हैं जो हानिकारक लगती हैं, साथ ही ये चिंताएँ इस बात पर निर्भर करती हैं कि सिस्टम को कैसे परिष्कृत किया जाता है।

ऐसे मानकों से बहुत बड़ा अंतर आएगा। कल्पना करें कि यदि उपयोगकर्ता इस विश्वास के साथ एक ज्योतिष ऐप खोलें कि वे जो पढ़ते हैं वह कभी भी उनकी भावनाओं का शोषण नहीं करेगा। चिंता के बजाय, वे जिज्ञासा और चिंतन से दूर आएंगे। यह बदलाव संभव है यदि हम पैमाने के समान ही गरिमा को भी महत्व दें।

आध्यात्मिक प्रौद्योगिकी में गरिमा के लिए डिजाइनिंग

आध्यात्मिक सहित हमारे जीवन के हर कोने में प्रौद्योगिकी का विस्तार जारी रहेगा। लेकिन जैसा कि मैं देखता हूं, इस क्षेत्र में पैमाना सफलता का अंतिम पैमाना नहीं है। गरिमा है. संस्थापकों, प्रौद्योगिकीविदों और अभ्यासकर्ताओं के रूप में हमारी सामूहिक जिम्मेदारी यह सुनिश्चित करना है कि हम जिस प्रौद्योगिकी का निर्माण करते हैं, वह उन लोगों का उत्थान और सम्मान करे जो इसके माध्यम से मार्गदर्शन चाहते हैं।

ज्योतिष अपने मूल में मानव जीवन को प्रकाशित करने के लिए ब्रह्मांड की व्याख्या करता है। यदि हम उस सार को जीवित रखने के लिए एआई का उपयोग कर सकते हैं, साथ ही डिजिटल प्लेटफॉर्म में घुस आए शोषण को खत्म कर सकते हैं, तो हमने कुछ गहरा सार्थक हासिल किया होगा।

नैतिक एल्गोरिदम सिर्फ अच्छा डिज़ाइन नहीं हैं। वे एक जानबूझकर किया गया विकल्प है, जो यह निर्धारित करता है कि ज्योतिष एआई विकास का एक उपकरण बनेगा या डर का स्रोत बनेगा।

वान्या मिश्रा एस्ट्रोश्योर.एआई की सह-संस्थापक और सीईओ हैं