AIは世界をどう見ているのか…ChatGPT自身が答えた｢間違った回答｣を克服する納得の方法

※写真はイメージです - 写真＝iStock.com／Maksim Tkachenko

非常に便利なChatGPTをはじめとする生成AIはなぜ間違うのか。この問題について、『ChatGPT「超」勉強法』を上梓した野口悠紀雄さんは「生成AIが間違える原因は、AIと人間の『理解』のプロセスの違いにある」という――。（第4回／全4回）

※本稿は、野口悠紀雄『ChatGPT「超」勉強法』（プレジデント社）の一部を再編集したものです。

■人間とAIはものごとの「理解」の仕方が異なる

AIの理解は、人間の理解とは異なる。

「シンボル・グラウンディング（幻覚）問題」とは、人間やAIがシンボル（言葉、数字、画像など）を実世界の具体的な対象や概念にどのように結びつけて理解しているかという問題だ。

人間は、生まれたときからの様々な実体験や観察を通じて、言葉や概念の意味を理解している。

例えば、「熱い」という言葉は、実際に高温を感じた経験に基づいて理解される。つまり、「熱い」という言葉や概念が、実世界の対象や状況、あるいは体験に「接地」（グラウンディング）している（日本語では、これと逆の状態を、「地に足が着かない」と表現している）。

あるいは、「月」という言葉の意味は、「あれがお月様だよ」と教えられたときに月を見上げた経験によって理解している。抽象的な概念もそうだ。例えば「無限」という概念の意味は、長い海岸線を歩き続けたというような体験と関連づけて理解している。

■AIは「言葉と言葉の関係」を理解する

ところが、AIは身体を持たないため、このような理解をすることができない。

AIの理解は、言葉と言葉の関係を理解するというものだ。

以上で述べたことは、数学や自然科学の法則などの理解という問題の本質に関連している。これは、AI（人工知能）に関する基本問題として以前から議論されてきたものだ。

■ハルシネーションを根絶できない原因

AIがハルシネーション（幻覚）を起こす原因としては、様々なものがある。例えば、学習データが不十分であったり、間違っていたりすることが原因になりうる。だが、それだけではない。

ハルシネーションの大きな原因は、AIによる理解の仕方に基づくものが多いと思われる。つまり、AIがシンボル・グラウンディングできないことが、ハルシネーションの大きな原因の1つと考えられる。

シンボル・グラウンディング問題の解決は、AIが実世界の対象や概念を正確に理解し、それに基づいて適切な情報を生成するために必要だ。この問題が解決されなければ、AIはシンボルの意味を正確に「接地」できず、その結果、不正確な情報やハルシネーションを生じるリスクが高まる。

■ハルシネーションを完全に避けることはできない

このため、シンボル・グラウンディング問題について、様々な研究がなされている。

例えば、「MathQA」という研究がある。しかし、いまのところ満足のいく結果は得られていない。AIがシンボルの意味を完全に理解し、それを実世界の文脈で適切に使用することは、現在の技術では難しい課題だ。

したがって、われわれはChatGPTなどの生成AIを用いるにあたって、AIがシンボル・グラウンディングできないことを前提としなければならない。

つまり、ハルシネーションを完全に避けることはできないという前提で用いる必要がある。

■生成AIの欠点になんとか対処できないか？

ChatGPTを用いて勉強するのは実に楽しいことだ。

野口悠紀雄『ChatGPT「超」勉強法』（プレジデント社）

知りたいことや、それまで疑問に思っていたことなどをピンポイントで尋ねることができ、それに対して簡潔な答えが返ってくる。だから、興味を失わずに勉強を進めることができる。

このような利点は、ぜひとも活かしたい。様々な勉強にChatGPTを使えれば、たいへん効果的だ。

そのような面白さがあるから、様々な科目で、すでにChatGPTを用いて勉強をしている学生や生徒が多数いる。しかし彼らは、そうとは知らずに、誤った知識を学んでいる危険がある。

この問題をなんとか解決できないだろうか？

■「誤り」の可能性を常に意識する

ハルシネーションの存在は、ChatGPTを勉強に使ってはならないことを意味しない。重要なのは、ChatGPTはまったく新しい仕組みであるために、それをこれまでの教科書や参考書、あるいは教師の授業などと同じように考えて使ってはならないということだ。

ChatGPTは時々間違った答えを出すが、他方において、信じられないほど博識だ。間違いを避けつつこれを利用できれば、ChatGPTは非常に優れた家庭教師になる。必要とされるのは、間違いの可能性を十分に理解し、常にそれに気をつけながら使用することだ。

この問題は、それほど簡単なものではない。

正しい方向を見出すために、様々な探究と試行錯誤が必要とされるだろう。ただ、どのような使い方が有効かについて、おおよその方向づけを示すことはできる。それについて、以下に述べよう。

■使い途を限定化①：曖昧なことや忘れたことの確認に用いる

ハルシネーションがあることを前提にした安全な使い方は、ある程度は知っていることについて曖昧な部分を確認したり、大まかに知っていることについて詳細を聞いたりすることだ。あるいは、正確な言葉を忘れてしまった場合に、ChatGPTに確かめることだ。

ある程度は知っていることなら、ChatGPTが間違った答えをしているかどうかは、多くの場合に分かる。忘れてしまった言葉を思い出すのであれば、正しい答えかどうかは確実に分かるだろう。

例えば、歴史上の事実などで大まかには知っているものの、地名や人名の一部がはっきりしない場合がある。この場合、ChatGPTに周囲の状況を説明すれば、知りたいことを詳しく説明してくれるだろう。

こうした必要性は、文章を書いているときにしばしば生じる。そして、検索エンジンでは、すぐに答えが分からないことが多い。この場合に、ChatGPTは有用な手助けになってくれる。

■使い途を限定化②：間違っても問題が生じない用途に使う

ハルシネーションに対処するもう1つの方法は、事実の誤りに影響されない用途に使うことだ。

例えば、文章を書いていて適切な表現が見つからないとき、あるいは、例を示したいが適切なものが思い浮かばないときなどに、ChatGPTに尋ねる。

また、「アイディアを出してもらう」という使い方もある。この場合、事実やデータの誤りという問題は、あまり発生しないだろう。そして、答えが適切かどうかは、簡単に判断できる。

■ChatGPTに直接聞いてみた

ハルシネーションを回避しながら活用するための方法については、『ChatGPT「超」勉強法』で詳しく検証しているが、その1つに、ChatGPT自身に直接聞いたものがある。

当初、ChatGPTにはウェブブラウジングの機能がなかったが、2023年5月に有料のGPT-4で、ウェブブラウジングの機能が追加された。しかし、有料サイトが閲覧できてしまうなどの問題が発生したため、7月に一時利用が中止された。その後、9月に復活した。

それからは不安定な状況もあったが、継続している。これを適切に用いれば、ハルシネーションをかなりの程度避けることが可能かもしれない。

そこで、ChatGPTにウェブブラウジングしてもらったのだ。

写真＝iStock.com／Userba011d64_201

※写真はイメージです - 写真＝iStock.com／Userba011d64_201

■ChatGPTの答えは……

「ハルシネーションを避けるために、提供される情報にウェブでの裏づけを求めることは可能ですか？」という私の質問に対して、〈ハルシネーションを避けるために、複数の信頼できるソースからの情報を参照することも重要です〉とChatGPTは答えた。

なお、現在のChatGPTのウェブブラウジング機能では、有料記事やサブスクリプションが必要なコンテンツにアクセスすることはできない。また、統計などのオンラインデータベースに直接アクセスしてデータを抽出することもできない。

ただし、〈有料ニュースサイトのコンテンツについては、直接アクセスすることはできませんが、公開されている情報をもとにした質問には答えることが可能です〉〈IMFのWEOや他の公開されている経済データに関する質問があれば、2023年4月までの私のトレーニングデータに基づいて答えることが可能です。また、ユーザーがデータベースの特定の部分をアップロードすれば、それに基づいて分析や解釈を行なうこともできます〉というのがChatGPTの答えだった。

----------

野口 悠紀雄（のぐち・ゆきお）
一橋大学名誉教授
1940年東京生まれ。63年東京大学工学部卒業、64年大蔵省入省、72年エール大学Ph.D.（経済学博士号）を取得。一橋大学教授、東京大学教授、スタンフォード大学客員教授、早稲田大学大学院ファイナンス研究科教授、早稲田大学ビジネス・ファイナンス研究センター顧問を歴任。一橋大学名誉教授。専攻はファイナンス理論、日本経済論。著書に『「超」整理法』『「超」文章法』（ともに中公新書）、『財政危機の構造』（東洋経済新報社）、『バブルの経済学』（日本経済新聞社）、『日本が先進国から脱落する日』（プレジデント社）ほか多数。

----------

（一橋大学名誉教授 野口 悠紀雄）