ट्रम्प चाहते हैं कि एआई तटस्थ हो। यहाँ क्यों यह एक चुनौती है।

वोक पर राष्ट्रपति डोनाल्ड ट्रम्प के युद्ध ने एआई चैट में प्रवेश किया है।

व्हाइट हाउस ने बुधवार को एक कार्यकारी आदेश जारी किया, जिसमें संघीय सरकार द्वारा उपयोग किए जाने वाले किसी भी एआई मॉडल को वैचारिक रूप से तटस्थ, गैर-नॉनपार्टिसन और “सत्य-चाहने” की आवश्यकता होती है।

व्हाइट हाउस की नई एआई एक्शन प्लान का हिस्सा, एआई ने कहा कि एआई को विविधता, इक्विटी और समावेश जैसे वैचारिक हठधर्मिता “वैचारिक हठधर्मिता के पक्ष में” हेरफेर “नहीं होना चाहिए। व्हाइट हाउस ने कहा कि यह 120 दिनों के भीतर मार्गदर्शन जारी करेगा जो कि एआई निर्माताओं को कैसे दिखा सकते हैं कि वे निष्पक्ष हैं।

जैसा कि बिजनेस इनसाइडर के पिछले रिपोर्टिंग से पता चलता है, एआई को पूर्वाग्रह से पूरी तरह से मुक्त करना आसान है।

क्यों यह वास्तव में ‘तटस्थ’ एआई बनाना इतना कठिन है

एआई मॉडल से पूर्वाग्रह को हटाना एक साधारण तकनीकी समायोजन नहीं है – या एक सटीक विज्ञान।

एआई प्रशिक्षण के बाद के चरण ठेकेदारों के व्यक्तिपरक कॉल पर भरोसा करते हैं।

यह प्रक्रिया, जिसे मानव प्रतिक्रिया से सुदृढीकरण सीखने के रूप में जाना जाता है, महत्वपूर्ण है क्योंकि विषय अस्पष्ट, विवादित या कोड में साफ -सफाई को परिभाषित करने के लिए कठिन हो सकते हैं।

संवेदनशील या तटस्थ के रूप में क्या मायने रखता है के निर्देशों का फैसला टेक कंपनियों द्वारा चैटबॉट बनाने के लिए किया जाता है।

“हम परिभाषित नहीं करते हैं कि तटस्थ कैसा दिखता है। यह ग्राहक पर निर्भर है,” डेटा लेबलिंग फर्म सैपियन के सीईओ रोवन स्टोन, जो अमेज़ॅन और मिडजॉर्नी जैसे ग्राहकों के साथ काम करते हैं, ने बीआई को बताया। “हमारा काम यह सुनिश्चित करना है कि वे जानते हैं कि डेटा कहां से आया है और यह उस तरह से क्यों दिखता है।”

कुछ मामलों में, टेक कंपनियों ने अपने चैटबॉट्स को अपने मॉडल को कम, अधिक फ़्लर्टी, या अधिक आकर्षक बनाने के लिए पुनर्गठित किया है।

वे पहले से ही उन्हें अधिक तटस्थ बनाने की कोशिश कर रहे हैं।

बीआई ने पहले बताया था कि मेटा और Google परियोजनाओं के लिए ठेकेदारों को अक्सर ध्वजांकित करने और “उपदेश” चैटबॉट प्रतिक्रियाओं को दंडित करने के लिए कहा जाता था जो नैतिकता या निर्णय लेते थे।

क्या ‘तटस्थ’ सही दृष्टिकोण है?

सारा साब, द विपुल, एआई और डेटा पर उत्पाद का वीपी प्रशिक्षण कंपनी ने बीआई को बताया कि एआई प्रणालियों के बारे में सोचना जो पूरी तरह से तटस्थ हैं “गलत दृष्टिकोण हो सकता है” क्योंकि “मानव आबादी पूरी तरह से तटस्थ नहीं हैं।”

साब ने कहा, “हमें एआई प्रणालियों के बारे में सोचना शुरू करने की आवश्यकता है, हमारे प्रतिनिधित्व के रूप में और इसलिए उन्हें प्रशिक्षण और ठीक-ट्यूनिंग दें, उन्हें यह जानने की आवश्यकता है कि सांस्कृतिक रूप से संवेदनशील, उपयुक्त टोन और पिच एक इंसान के साथ किसी भी बातचीत के लिए क्या है।”

टेक कंपनियों को उन डेटासेट से एआई मॉडल में पूर्वाग्रह रेंगने के जोखिम पर भी विचार करना चाहिए, जिस पर वे प्रशिक्षित हैं।

“पूर्वाग्रह हमेशा मौजूद रहेगा, लेकिन कुंजी यह है कि क्या यह दुर्घटना से है या डिजाइन द्वारा,” सैपियन स्टोन ने कहा। “अधिकांश मॉडलों को डेटा पर प्रशिक्षित किया जाता है, जहां आप नहीं जानते कि इसे किसने बनाया है या यह किस परिप्रेक्ष्य से आया है। इससे प्रबंधन करना मुश्किल हो जाता है, कभी भी ठीक नहीं होता।”

एआई मॉडल के साथ बिग टेक की टिंकरिंग ने कभी -कभी अप्रत्याशित और हानिकारक परिणामों को जन्म दिया है

इस महीने की शुरुआत में, उदाहरण के लिए, एलोन मस्क के XAI ने सोशल मीडिया प्लेटफॉर्म एक्स पर 16-घंटे के एंटीसेमिटिक रेंट पर जाने के बाद ग्रोक के लिए एक कोड अपडेट वापस कर दिया।

बॉट के नए निर्देशों में “यह बताने की तरह है कि यह बताने का निर्देश शामिल है।”