एआय चॅटबॉट प्रतिसादांमध्ये वारंवार येणारी अयोग्यता
ओपनएआयचे चॅटजीपीटी, मायक्रोसॉफ्टचे बिंग आणि गुगलच्या बार्डने एआय चॅटबॉट्स म्हणून लोकप्रियता मिळवली आहे. तथापि, खोटी माहिती तयार करण्याच्या त्यांच्या प्रवृत्तीचे चांगले दस्तऐवजीकरण केले गेले आहे. त्यांची विश्वासार्हता वाढवण्यासाठी, तिन्ही कंपन्यांनी ही साधने त्यांच्या प्रदान केलेल्या माहितीसाठी स्त्रोत उद्धृत करण्यासाठी वेब शोध क्षमतांनी सुसज्ज केली आहेत. दुर्दैवाने, एआय फॉरेन्सिक्सचे संशोधन प्रमुख, साल्वाटोर रोमानो यांच्या मते, बिंगने अनेकदा उद्धृत लिंक्समधील माहितीपासून विचलित होणारी उत्तरे दिली.
या अभ्यासासाठी Bing ची विशेषत: निवड करण्यात आली कारण तो स्त्रोतांचा समावेश करणाऱ्या पहिल्या चॅटबॉट्सपैकी एक होता आणि Microsoft ने Bing शोध, Microsoft Word आणि Windows ऑपरेटिंग सिस्टमसह विविध युरोपियन सेवांमध्ये मोठ्या प्रमाणावर एकत्रित केले आहे. तरीसुद्धा, या अशुद्धता Bing साठी अद्वितीय नाहीत, कारण OpenAI च्या GPT-4 वरील प्राथमिक चाचणीने समान परिणाम दिले आहेत.
भाषा घटक आणि चुकीचे प्रतिसाद
संशोधकांना असे आढळून आले की जेव्हा इंग्रजी व्यतिरिक्त इतर भाषांमध्ये प्रश्न विचारले जातात तेव्हा Bing चे चुकीचे दर सर्वाधिक होते, ज्यामुळे यूएस-आधारित कंपन्यांनी परदेशी बाजारपेठांमध्ये विकसित केलेल्या AI साधनांच्या कार्यक्षमतेबद्दल चिंता निर्माण केली. जर्मनमधील प्रश्नांसाठी, 37% प्रतिसादांमध्ये तथ्यात्मक त्रुटी होत्या, तर इंग्रजीमध्ये समान प्रश्नांसाठी त्रुटी दर 20% होता. याव्यतिरिक्त, Bing ने उत्तर देण्यास नकार दिला किंवा इंग्रजी आणि जर्मनच्या तुलनेत फ्रेंच भाषेतील प्रश्नांच्या उच्च टक्केवारीला चुकीचे प्रतिसाद दिले.
Bing च्या प्रतिसादांमधील चुकीच्या गोष्टींमध्ये चुकीच्या निवडणुकीच्या तारखा प्रदान करणे, कालबाह्य किंवा चुकीच्या मतदान क्रमांकाचा अहवाल देणे, माघार घेतलेल्या उमेदवारांना आघाडीचे दावेदार म्हणून सूचीबद्ध करणे आणि उमेदवारांबद्दल वाद निर्माण करणे यांचा समावेश होतो. उदाहरणार्थ, जर्मनीतील पॉप्युलिस्ट फ्री व्होटर्स पार्टीच्या नेत्याच्या घोटाळ्याबद्दल विचारले असता, एआय चॅटबॉटने विसंगत प्रतिसाद दिले, त्यापैकी काही खोटे होते. Bing ने घोटाळ्याच्या प्रभावाचे चुकीचे वर्णन देखील केले आणि चुकीचा दावा केला की जेव्हा पक्षाने निवडणुकीत जागा गमावली तेव्हा ती प्रत्यक्षात आली.
शमन प्रयत्न आणि भविष्यातील निवडणुका
ना-नफा संस्थांनी काही प्राथमिक निष्कर्ष, चुकीच्या उदाहरणांसह, Microsoft सह सामायिक केले. Bing ने नमूद केलेल्या विशिष्ट प्रश्नांसाठी योग्य उत्तरे दिली असताना, इतर प्रश्नांसाठी चुकीची माहिती पुरवणे सुरू ठेवले, हे दर्शविते की Microsoft केस-दर-प्रकरण आधारावर समस्यांचे निराकरण करत आहे. फ्रँक शॉ, मायक्रोसॉफ्टचे संपर्क प्रमुख, म्हणाले की ते या समस्यांचे निराकरण करण्यासाठी आणि आगामी 2024 निवडणुकांसाठी त्यांची साधने तयार करण्यासाठी काम करत आहेत.
एआय-संचालित डिसइन्फॉर्मेशनसह ऑनलाइन डिसइन्फॉर्मेशनच्या नकारात्मक प्रभावांबद्दलच्या चिंतेमध्ये, युरोपियन कमिशन सतर्क आहे. युरोपियन कमिशनचे प्रवक्ते जोहान्स बार्के यांनी भर दिला की, युरोपच्या नवीन डिजिटल सेवा कायद्याच्या अंतर्गत अंमलबजावणीसाठी निवडणुकीच्या अखंडतेमध्ये ऑनलाइन प्लॅटफॉर्मची भूमिका सर्वोच्च प्राधान्य आहे.
यू.एस. निवडणुकांवर संभाव्य प्रभाव
जरी हा अभ्यास जर्मनी आणि स्वित्झर्लंडमधील निवडणुकांवर केंद्रित असला तरी, किस्सा पुरावा असे सूचित करतो की Bing ला 2024 च्या यूएस निवडणुकांबद्दल इंग्रजी आणि स्पॅनिश दोन्हीमध्ये समान प्रश्नांचा सामना करावा लागला. चॅटबॉटने राष्ट्राध्यक्ष बिडेन आणि डोनाल्ड ट्रम्प यांच्यातील घोटाळ्यांबद्दलच्या प्रश्नांना उत्तरे दिली तेव्हा चुकीची माहिती, विसंगत उत्तरे आणि तथ्यात्मक मिश्रणे दिसून आली. तथापि, Bing आणि इतर AI चॅटबॉट्सच्या या चुकीच्या प्रतिसादांचा वास्तविक निवडणूक निकालांवर किती प्रमाणात परिणाम होऊ शकतो हे स्पष्ट नाही.
एआय भाषा टूल तज्ञ अमीन अहमद हे मान्य करतात की उद्धृत स्त्रोतांचा चुकीचा उल्लेख काही प्रमाणात होऊ शकतो, परंतु निवडणुकीशी संबंधित प्रश्नांसाठी 30% त्रुटी दर अपेक्षेपेक्षा जास्त आहे. अहमदचा असा विश्वास आहे की एआय मॉडेल्समधील प्रगती अखेरीस फॅब्रिकेशनची शक्यता कमी करेल, ना-नफा संस्थांचे निष्कर्ष वैध चिंता वाढवतात. अहमद वैयक्तिकरित्या कबूल करतो की AI चॅटबॉट्सद्वारे संदर्भित मतदान क्रमांक सादर केल्यावर तो मूळ कथेवर क्लिक करण्याची शक्यता नाही.