AI チャットボットの応答で頻繁に起こる不正確
OpenAI の ChatGPT、Microsoft の Bing、Google の Bard は AI チャットボットとして人気を集めています。しかし、彼らが虚偽の情報を生み出す傾向があることは十分に文書化されています。信頼性を高めるために、3 社はすべて、提供された情報の出典を引用するための Web 検索機能をこれらのツールに装備しています。 AI Forensics の研究責任者である Salvatore Romano 氏によると、残念ながら、Bing は引用リンクにある情報から逸脱した回答をすることがよくありました。
Bing がこの調査に特に選ばれたのは、Bing がソースを含む最初のチャットボットの 1 つであり、Microsoft が Bing 検索、Microsoft Word、Windows オペレーティング システムなどのヨーロッパのさまざまなサービスに Bing を広く統合しているためです。ただし、OpenAI の GPT-4 での予備テストでも同様の結果が得られたため、これらの不正確さは Bing に特有のものではありません。
言語要因と不正確な応答
研究者らは、英語以外の言語で質問された場合に Bing の不正確率が最も高くなることが判明し、米国に本拠を置く企業が開発した AI ツールの海外市場でのパフォーマンスについて懸念が生じています。ドイツ語での質問では、回答の 37% に事実誤認があったのに対し、英語での同じ質問の誤答率は 20% でした。さらに、Bing は、英語やドイツ語に比べてフランス語でのクエリの割合が高く、回答を拒否したり、回避的な応答をしたりしました。
Bing の回答の不正確さには、誤った選挙日の提供、古いまたは誤った投票数の報告、撤退した候補者を有力な候補者として挙げること、さらには候補者について物議を醸すことなどが含まれていました。たとえば、ドイツのポピュリスト自由投票者党の党首が関与したスキャンダルについて質問されたとき、AI チャットボットは一貫性のない応答を返し、そのうちのいくつかは虚偽でした。ビング氏はまた、スキャンダルの影響を誤って伝え、実際には党の支持率が上がったのに世論調査での支持率が下がったと不正確に主張した。
緩和努力と将来の選挙
非営利団体は、不正確な例を含むいくつかの暫定的な調査結果を Microsoft と共有しました。 Bing は、言及された特定の質問に対しては正しい回答を提供しましたが、他のクエリに対しては不正確な情報を提供し続けており、Microsoft がケースバイケースで問題に対処していることを示しています。 Microsoft のコミュニケーション責任者である Frank Shaw は、これらの問題を解決し、来る 2024 年の選挙に向けてツールを準備するために取り組んでいると述べました。
AI を活用した偽情報など、オンラインの偽情報による悪影響が懸念される中、欧州委員会は引き続き警戒を続けています。欧州委員会の報道官、ヨハネス・バーク氏は、選挙の健全性におけるオンライン プラットフォームの役割は、欧州の新しいデジタル サービス法に基づく施行の最優先事項であると強調しました。
米国選挙への潜在的な影響
この研究はドイツとスイスの選挙に焦点を当てていましたが、逸話によると、ビング氏は 2024 年の米国選挙に関する同様の質問に英語とスペイン語の両方で苦労したようです。バイデン大統領とドナルド・トランプ大統領が関与したスキャンダルに関する質問にチャットボットが応答した際、虚偽の情報、一貫性のない回答、事実の取り違えが観察された。ただし、Bing やその他の AI チャットボットからのこれらの不正確な応答が実際の選挙結果にどの程度影響を与える可能性があるかは不明です。
AI 言語ツールの専門家であるアミン アーマド氏は、引用元の誤った引用はある程度発生する可能性があることを認めていますが、選挙関連の質問における 30% の誤り率は予想よりも高いです。アーマド氏は、AIモデルの進歩により最終的には捏造の可能性が減ると信じているが、非営利団体の調査結果は正当な懸念を引き起こしている。アーマドは、AI チャットボットによって参照される投票番号が表示された場合、元のストーリーをクリックする可能性は低いと個人的に認めています。