एआई चैटबॉट प्रतिक्रियाओं में बार-बार अशुद्धियाँ
ओपनएआई के चैटजीपीटी, माइक्रोसॉफ्ट के बिंग और गूगल के बार्ड ने एआई चैटबॉट के रूप में लोकप्रियता हासिल की है। हालाँकि, झूठी जानकारी उत्पन्न करने की उनकी प्रवृत्ति अच्छी तरह से प्रलेखित की गई है। अपनी विश्वसनीयता बढ़ाने के लिए, तीनों कंपनियों ने अपनी प्रदान की गई जानकारी के लिए स्रोतों का हवाला देने के लिए इन उपकरणों को वेब खोज क्षमताओं से सुसज्जित किया है। एआई फोरेंसिक के अनुसंधान प्रमुख साल्वाटोर रोमानो के अनुसार, दुर्भाग्य से, बिंग अक्सर ऐसे उत्तर देते हैं जो उद्धृत लिंक में मिली जानकारी से भटक जाते हैं।
बिंग को इस अध्ययन के लिए विशेष रूप से चुना गया था क्योंकि यह स्रोतों को शामिल करने वाले पहले चैटबॉट्स में से एक था, और माइक्रोसॉफ्ट ने इसे बिंग सर्च, माइक्रोसॉफ्ट वर्ड और विंडोज ऑपरेटिंग सिस्टम सहित विभिन्न यूरोपीय सेवाओं में व्यापक रूप से एकीकृत किया है। फिर भी, ये अशुद्धियाँ बिंग के लिए अद्वितीय नहीं हैं, क्योंकि OpenAI के GPT-4 पर प्रारंभिक परीक्षण से समान परिणाम मिले।
भाषा कारक और गलत प्रतिक्रियाएँ
शोधकर्ताओं ने पाया कि जब अंग्रेजी के अलावा अन्य भाषाओं में प्रश्न पूछे गए तो बिंग की अशुद्धि दर सबसे अधिक थी, जिससे विदेशी बाजारों में यू.एस.-आधारित कंपनियों द्वारा विकसित एआई टूल के प्रदर्शन के बारे में चिंताएं बढ़ गईं। जर्मन में प्रश्नों के लिए, 37% प्रतिक्रियाओं में तथ्यात्मक त्रुटियां मौजूद थीं, जबकि अंग्रेजी में समान प्रश्नों के लिए त्रुटि दर 20% थी। इसके अतिरिक्त, बिंग ने अंग्रेजी और जर्मन की तुलना में फ्रेंच में अधिक प्रतिशत प्रश्नों का उत्तर देने से इनकार कर दिया या गोलमोल उत्तर दिए।
बिंग की प्रतिक्रियाओं में अशुद्धियों में गलत चुनाव तिथियां प्रदान करना, पुरानी या गलत मतदान संख्याओं की रिपोर्ट करना, वापस लिए गए उम्मीदवारों को प्रमुख दावेदारों के रूप में सूचीबद्ध करना और यहां तक कि उम्मीदवारों के बारे में विवाद पैदा करना शामिल है। उदाहरण के लिए, जब जर्मनी में लोकलुभावन फ्री वोटर्स पार्टी के नेता से जुड़े घोटाले के बारे में पूछा गया, तो एआई चैटबॉट ने असंगत प्रतिक्रियाएं दीं, जिनमें से कुछ झूठी थीं। बिंग ने घोटाले के प्रभाव को भी गलत तरीके से प्रस्तुत किया, यह गलत दावा करते हुए कि पार्टी ने चुनावों में अपनी जमीन खो दी जबकि वह वास्तव में उभरी थी।
शमन प्रयास और भविष्य के चुनाव
गैर-लाभकारी संस्थाओं ने अशुद्धियों के उदाहरणों सहित कुछ प्रारंभिक निष्कर्ष Microsoft के साथ साझा किए। जबकि बिंग ने उल्लिखित विशिष्ट प्रश्नों के लिए सही उत्तर प्रदान किए, इसने अन्य प्रश्नों के लिए गलत जानकारी प्रदान करना जारी रखा, यह दर्शाता है कि Microsoft मामले-दर-मामले आधार पर समस्याओं का समाधान कर रहा है। माइक्रोसॉफ्ट के संचार प्रमुख फ्रैंक शॉ ने कहा कि वे इन मुद्दों को हल करने और आगामी 2024 चुनावों के लिए अपने टूल तैयार करने के लिए काम कर रहे हैं।
एआई-संचालित दुष्प्रचार सहित ऑनलाइन दुष्प्रचार के नकारात्मक प्रभावों के बारे में चिंताओं के बीच, यूरोपीय आयोग सतर्क बना हुआ है। यूरोपीय आयोग के प्रवक्ता जोहान्स बार्के ने इस बात पर जोर दिया कि चुनाव की अखंडता में ऑनलाइन प्लेटफ़ॉर्म की भूमिका यूरोप के नए डिजिटल सेवा अधिनियम के तहत प्रवर्तन के लिए सर्वोच्च प्राथमिकता है।
अमेरिकी चुनावों पर संभावित प्रभाव
हालाँकि अध्ययन जर्मनी और स्विटज़रलैंड के चुनावों पर केंद्रित था, लेकिन वास्तविक सबूत बताते हैं कि बिंग को भी अंग्रेजी और स्पेनिश दोनों में 2024 के अमेरिकी चुनावों के बारे में इसी तरह के सवालों से जूझना पड़ा। जब चैटबॉट ने राष्ट्रपति बिडेन और डोनाल्ड ट्रम्प से जुड़े घोटालों के बारे में सवालों के जवाब दिए तो गलत जानकारी, असंगत उत्तर और तथ्यात्मक गड़बड़ी देखी गई। हालाँकि, यह स्पष्ट नहीं है कि बिंग और अन्य एआई चैटबॉट्स की ये गलत प्रतिक्रियाएँ वास्तविक चुनाव परिणामों को किस हद तक प्रभावित कर सकती हैं।
एआई भाषा उपकरण विशेषज्ञ अमीन अहमद स्वीकार करते हैं कि उद्धृत स्रोतों को गलत तरीके से उद्धृत करना कुछ हद तक हो सकता है, लेकिन चुनाव-संबंधी प्रश्नों के लिए 30% त्रुटि दर अपेक्षा से अधिक है। जबकि अहमद का मानना है कि एआई मॉडल में प्रगति अंततः निर्माण की संभावना को कम कर देगी, गैर-लाभकारी संस्थाओं के निष्कर्ष वैध चिंताएं पैदा करते हैं। अहमद व्यक्तिगत रूप से स्वीकार करते हैं कि एआई चैटबॉट्स द्वारा संदर्भित मतदान संख्याओं के साथ प्रस्तुत किए जाने पर उनके मूल कहानी पर क्लिक करने की संभावना नहीं है।