AI 聊天機器人回應經常不準確
OpenAI 的 ChatGPT、微軟的 Bing 和谷歌的 Bard 作為人工智慧聊天機器人而廣受歡迎。然而，他們製造虛假資訊的傾向已被充分記錄。為了提高其可靠性，這三家公司都為這些工具配備了網路搜尋功能，以引用其所提供資訊的來源。 AI Forensics 研究主管 Salvatore Romano 表示，不幸的是，Bing 給出的答案經常與所引用連結中的資訊有偏差。
Bing 被專門選擇用於這項研究，因為它是最早包含來源的聊天機器人之一，而 Microsoft 已將其廣泛整合到各種歐洲服務中，包括 Bing 搜尋、Microsoft Word 和 Windows 作業系統。然而，這些不準確之處並非 Bing 所獨有，因為對 OpenAI 的 GPT-4 的初步測試也得出了類似的結果。
語言因素與不準確的反應
研究人員發現，當用英語以外的語言提問時，Bing 的不準確率最高，這引發了人們對美國公司開發的人工智慧工具在國外市場表現的擔憂。對於德語問題，37% 的回答存在事實錯誤，而英語問題的錯誤率為 20%。此外，與英語和德語相比，必應拒絕回答或迴避回答法語查詢的比例更高。
Bing 回覆中的不準確之處包括提供不正確的選舉日期、報告過時或錯誤的投票數字、將退出的候選人列為主要競爭者，甚至引發有關候選人的爭議。例如，當被問及涉及德國民粹主義自由選民黨領導人的醜聞時，人工智慧聊天機器人給出了不一致的回答，其中一些是錯誤的。 Bing 也歪曲了醜聞的影響，錯誤地聲稱該黨在民調中失利，而實際上該黨的支持率有所上升。
緩解措施和未來的選舉
非營利組織與 Microsoft 分享了一些初步調查結果，包括不準確的範例。雖然必應為所提到的具體問題提供了正確的答案，但它繼續為其他查詢提供不準確的信息，這表明微軟正在根據具體情況解決這些問題。微軟通訊主管 Frank Shaw 表示，他們正在努力解決這些問題，並為即將到來的 2024 年選舉準備工具。
出於對網路假訊息（包括人工智慧驅動的假訊息）負面影響的擔憂，歐盟委員會保持警惕。歐盟委員會發言人約翰內斯·巴克 (Johannes Barke) 強調，線上平台在選舉公正性方面的作用是歐洲新數位服務法案執行的首要任務。
對美國選舉的潛在影響
儘管該研究重點關注德國和瑞士的選舉，但傳聞證據表明，Bing 也很難用英語和西班牙語回答有關 2024 年美國選舉的類似問題。當聊天機器人回答有關拜登總統和唐納德·特朗普醜聞的詢問時，發現了虛假信息、不一致的答案和事實混淆。然而，目前尚不清楚必應和其他人工智慧聊天機器人的這些不準確的反應可能會在多大程度上影響實際的選舉結果。
人工智慧語言工具專家 Amin Ahmad 承認，在某種程度上可能會出現錯誤引用引用來源的情況，但與選舉相關的問題 30% 的錯誤率高於預期。雖然艾哈邁德認為人工智慧模式的進步最終將減少造假的可能性，但非營利組織的調查結果卻引起了合理的擔憂。艾哈邁德個人承認，當看到人工智慧聊天機器人引用的民意調查數字時，他不太可能點擊原始故事。