Часті неточності у відповідях ШІ-чат-бота
ChatGPT від OpenAI, Bing від Microsoft і Bard від Google набули популярності як чат-боти штучного інтелекту. Однак їхня схильність виробляти неправдиву інформацію була добре задокументована. Щоб підвищити їхню надійність, усі три компанії оснастили ці інструменти можливостями веб-пошуку, щоб цитувати джерела наданої ними інформації. На жаль, за словами Сальваторе Романо, керівника дослідження AI Forensics, Bing часто давав відповіді, які відхилялися від інформації, наведеної в цитованих посиланнях.
Bing було обрано спеціально для цього дослідження, оскільки це був один із перших чат-ботів, який включав джерела, і Microsoft широко інтегрувала його в різні європейські служби, зокрема пошук Bing, Microsoft Word і операційну систему Windows. Тим не менш, ці неточності не є унікальними для Bing, оскільки попереднє тестування GPT-4 OpenAI дало подібні результати.
Мовні фактори та неточні відповіді
Дослідники виявили, що рівень неточності Bing був найвищим, коли запитання ставилися не англійською мовою, що викликало занепокоєння щодо продуктивності інструментів ШІ, розроблених американськими компаніями на іноземних ринках. Для запитань німецькою мовою фактичні помилки були присутні в 37% відповідей, тоді як рівень помилок для тих самих запитань англійською мовою становив 20%. Крім того, Bing відмовився відповідати або давав ухильні відповіді на вищий відсоток запитів французькою мовою порівняно з англійською та німецькою.
Неточності у відповідях Bing включали надання неправильних дат виборів, повідомлення застарілих або помилкових номерів голосування, перелік знятих кандидатів як головних претендентів і навіть створення суперечок щодо кандидатів. Наприклад, на запитання про скандал, пов’язаний з лідером популістської партії «Вільні виборці» в Німеччині, чат-бот ШІ дав суперечливі відповіді, деякі з яких були неправдивими. Бінг також неправильно представив вплив скандалу, неточно стверджуючи, що партія втратила позиції в опитуваннях, хоча насправді піднялася.
Зусилля щодо пом’якшення наслідків і майбутні вибори
Некомерційні організації поділилися з Microsoft деякими попередніми висновками, зокрема прикладами неточностей. Хоча Bing надав правильні відповіді на конкретні згадані запитання, він продовжував надавати неточну інформацію щодо інших запитів, що свідчить про те, що Microsoft вирішує проблеми в кожному конкретному випадку. Френк Шоу, керівник комунікацій Microsoft, заявив, що вони працюють над вирішенням цих проблем і готують свої інструменти до майбутніх виборів 2024 року.
На тлі занепокоєння щодо негативних наслідків дезінформації в Інтернеті, включно з дезінформацією за допомогою ШІ, Європейська комісія залишається пильною. Йоханнес Барке, речник Європейської комісії, підкреслив, що роль онлайн-платформ у доброчесності виборів є головним пріоритетом для забезпечення виконання згідно з новим європейським Законом про цифрові послуги.
Потенційний вплив на вибори в США
Хоча дослідження було зосереджено на виборах у Німеччині та Швейцарії, неофіційні дані свідчать про те, що Bing також мав проблеми з подібними запитаннями про вибори в США 2024 року англійською та іспанською мовами. Коли чат-бот відповідав на запити про скандали, пов’язані з президентом Байденом і Дональдом Трампом, спостерігалися неправдива інформація, суперечливі відповіді та фактологічна плутанина. Однак незрозуміло, якою мірою ці неточні відповіді від Bing та інших чат-ботів AI можуть вплинути на фактичні результати виборів.
Експерт із мовних інструментів штучного інтелекту Амін Ахмад визнає, що певною мірою можуть бути неправильні цитати цитованих джерел, але 30% помилок у питаннях, пов’язаних із виборами, є вищим, ніж очікувалося. Хоча Ахмад вважає, що вдосконалення моделей штучного інтелекту з часом зменшить ймовірність фальсифікацій, висновки некомерційних організацій викликають серйозні занепокоєння. Ахмад особисто визнає, що він навряд чи натисне на оригінальну історію, коли йому будуть представлені номери опитувань, на які посилаються чат-боти ШІ.