Google、「ピザに接着剤」回答についての対策を説明
ITmedia NEWS / 2024年5月31日 11時52分
「AI Overview」はテスト段階だ
米Googleは5月30日(現地時間)、同社がテスト中の検索機能「AI Overview」(日本では「AIによる概要」)をめぐり、「先週ソーシャルメディア上で奇妙で誤った概要(および大量の偽のスクリーンショット)が共有された」件について公式ブログで説明した。
23日ごろから、X上にAI Overviewが「ピザソースに接着剤を混ぜるといい」など、不正確に回答している複数のスクリーンショットが投稿され、話題になった。
検索担当副社長のエリザベス・リード氏は、「AI Overviewは、他のLLM製品のように「幻覚」を起こしたり、事実を捏造したりすることは通常ない。間違った結果を出すのは、クエリの解釈ミス、Web上の言語のニュアンスの解釈ミス、利用できる有益な情報があまりないことが原因で、こうした問題は他の検索機能でも発生する」と説明する。
Xにポストされた例はごく稀なケースであり、「誤った結果を生成することを目的とした検索も見られた」という。さらに、偽造されたスクリーンショットも大量に共有されたという。実際、元Twitterの未発表機能ハンターで現在は米MetaでThreadsを担当するジェーン・マンチュン・ウォン氏などがAI Overviewの回答スクリーンショットを偽造するためのテンプレートを公開していた。
とはいえ、一般的ではないクエリに関するものでは、実際に奇妙だったり不正確あったりするAI Overviewが表示されることもあり、改善が必要な領域が浮き彫りになったとリード氏は述べた。
「ピザに接着剤」のケースは、「皮肉や荒らしコンテンツを掲載したフォーラム」からの情報を引用してしまったと認めた。
また、Webページ上の言葉を誤って解釈して不正確な情報を提示したケースもあり、これらを受けて、アルゴリズムの改善、ポリシーに準拠していない応答を削除するためのプロセスの確立などを通じて対処したという。
ここ数週間の例に基づいてシステムに12以上の技術的改善を加えた。その一部は以下の通り。
・AI Overviewを表示すべきではないクエリを検出するメカニズムの構築、風刺やユーモアのコンテンツの制限
・誤解を招く回答になりそうな場合、ユーザーが生成したコンテンツの使用を制限するためのシステム更新
・AI Overviewがあまり役に立たないことが判明したクエリに対するトリガー制限の追加
・ニュースやヘルスケアなどのトピックに関する強力なガードレールに加え、鮮度と事実性が重要なニュースについてはAI Overviewを表示しないようにし、ヘルスケアでは追加のトリガー改善を追加
Googleは、「AI Overviewを表示するタイミングと方法を改善し続け、保護を強化していく。今後も継続的なフィードバックに深く感謝する」としている。
本稿筆者はChromeブラウザでSearch Labsを有効にしており、以前はAI Overviewの回答が表示されていた。この騒動後、多様なクエリを入れてみたがAI Overviewが表示されることはなくなっている。
外部リンク
この記事に関連するニュース
-
GPT-4o + 回答コントロール機能で、さらに高度な自動応答を実現。SELFBOT(生成AI+RAG連携)
PR TIMES / 2024年6月17日 13時45分
-
ShirofuneにAmazon広告の改善機能を実装
PR TIMES / 2024年6月12日 16時15分
-
Googleの「Gemini 1.5 Pro」採用メモアプリ「NotebookLM」、日本でも利用可能に
ITmedia NEWS / 2024年6月7日 9時34分
-
SEO対策は「オワコン」か? 検索エンジンへの生成AI実装、予測される未来は
ITmedia ビジネスオンライン / 2024年6月4日 8時5分
-
GoogleのAI検索、「月に猫」「ピザソースに糊」、誤解を招く回答で波紋呼ぶ
マイナビニュース / 2024年5月25日 14時4分
ランキング
-
1LINEの「友だち自動追加」をオフに設定する方法
マイナビニュース / 2024年6月23日 1時2分
-
2Unihertz、次期小型スマホの外観を公表! 画面は4型台で製品名は「Jelly Max」か?
ASCII.jp / 2024年6月21日 8時0分
-
375歳のペルソナ使い!?外伝作品『ペルソナ5X』で「カッコ良すぎるおばあちゃん怪盗」が登場し話題に
インサイド / 2024年6月21日 16時0分
-
4リアルすぎる! 京都市消防局が再現実施した水災害対応訓練の様子に「臨場感すごい」
ねとらぼ / 2024年6月22日 21時15分
-
5静止した時間が動き出す!? 1枚の画像から動画を作る生成AI「Dream Machine」が話題 「すごい時代になった」「記憶が上書きされそう」
ねとらぼ / 2024年6月22日 19時0分
記事ミッション中・・・
記事にリアクションする
記事ミッション中・・・
記事にリアクションする
エラーが発生しました
ページを再読み込みして
ください