ChatGPTがすごくて危険なのは、ウソでも「もっともらしく」言えてしまうところ

Image by frimufilms

　ChatGPTが話題だ。とはいえ、「彗星の如く登場した」かのようなこのチャットボットは、そもそもなにがすごいのだろうか？

どうやら膨大な知識と会話のデータをそれは保有しているようで、それらを駆使しながら分野横断的な会話にしてみせる技量があるようだ。ただし、AIにさほど詳しくない私が漠然と理解できるのはそのあたりまで。そのため、「ChatGPTはここが違う、これができる」という部分を、もう少し知ってみたいと思っていた。

　だからこそ、『ChatGPTの全貌　何がすごくて、何が危険なのか？』（岡嶋裕史 著、光文社新書）は私のように頼りない人間には格好のテキストとなったのだ。専門的で難解な部分もあったが、“ChatGPTの入り口でウロウロしている頼りない人間”が抱く「基本的なことを知りたい」というニーズには応えてくれたからだ。

あたかも会話をしているかのように自然な印象を抱く

　たとえば上記の「ここが違う」について解説するにあたり、まずは既存のチャットボットとの違いが明らかにされている。ご存知のとおり従来のボットは1回のやりとりで終わるものであり、ひとの前の発言を記憶したりはしない。

　対してChatGPTは、記憶していた文脈に基づいてその後のやりとりを進めていく。それどころかこいつは、問いかけに対して文体や語調、語彙までを整えてくれる。既存のチャットボットでは考えられなかったことだ。だから、利用者は、あたかも会話をしているかのように自然な印象を抱くわけだ。

しかし、ChatGPTは特に指示がなくても、その文章に相応しい文体や語調を選択してくる。語彙力や感情、その分野特有の言い回しにまつわるパラメータを持っているということである（当然ではあるが、それは感情を持っていることを意味しない）。これらの相乗効果により、極めて人間らしい反応として仕上がっているのである。（32ページより)

　ひと昔前、旧来の翻訳サービスが戻してくる“日本語として破綻した素っ頓狂な文章”に戸惑った経験はどなたにもあるだろう。その際の失望感は決して小さくなかったはずだが、だからなおさら、会話のように自然な返答を投げかけてくるChatGPTに感動するのかもしれない。

ChatGPT（GPTモデル）は「弱いAI」の範疇に入る

　ところで人工知能は、「強いAI」と「弱いAI」とに分かれるようだ。まず前者は、汎用人工知能（AGI: Artificial General Intelligence）。意識や感情、目標設定などの精神活動も含め、単体で人間の代わりになり、人間を超えていく存在だ。後者の「弱いAI」は「チェスで人間に勝つ」など、特定の分野を解決するもの。その場合はチェスの手の演算だけができればよいわけで、当然ながら感情なども必要ないわけである。

　興味深いのは、現時点に至るまで、「AI」と呼ばれているものはすべて「弱いAI」の範疇に入るという著者の指摘。ChatGPT（GPTモデル）の上位版であるGPT-4ですら、AGIや「強いAI」ではないというのだ。

やつはまだ人間の過去の振る舞いを見て、その場において「もっとももっともらしい」回答を確率的に選んでいるに過ぎず（だから、「もっともらしいけれども実際には大嘘」の回答を自信ありげに差し出してくる現象が起こる。ハルシネーション：幻覚や、コンファビュレーション：作話と呼ばれる）、「考える」ことはできないし、哀しいと思うことも、人を好きになることも、手を動かしてカップラーメンにお湯を注ぐことも、逆上がりをすることもできない。言語モデル、会話モデルとして広汎な用途に適用することができるが、AGI（汎用人工知能ではない）。（38ページより)

　余談ながら、この点については大きく共感できる部分がある。試しに自分の名前を検索してみたところ、ものすごい返答が表示されたからだ（無料版であり、GPT-4でもない旧ヴァージョンではあったが）。

印南敦史（いんなみ あつし）は、日本の作家、書評家であり、文芸評論家としても活躍しています。1960年に生まれ、神奈川県出身です。 印南敦史は、文芸誌『群像』や『新潮』などで書評を執筆しており、多くの小説や評論の紹介・解説を行っています。また、自身も小説やエッセイを執筆しており、『風の歌を聴け』や『おやすみジョナサン』などの作品があります。 印南敦史は、1999年に刊行された小説『風の歌を聴け』が大ベストセラーとなり、翌年には同作品で芥川賞を受賞しました。その後も多くの作品を発表し、独自の文学世界を展開しています。 また、印南敦史は、書評家としてだけでなく、文芸批評においても高い評価を得ています。特に、現代日本文学の新しい動向や、社会的な問題を扱った作品に対する評論が注目されています。

^{※ChatGPTで筆者生成}

　私は自覚していた以上に歳をとっているようだし、神奈川県出身だというのも初耳であった。ましてや芥川賞まで受賞していたとは驚かされたが、つまりはこれこそが著者のいう「もっともらしいけれども実際には大嘘」の回答を自信ありげに差し出してくる現象」なのだろう。そして（これは極端な例だとしても）、ここにChatGPTの重要なポイントがあるようで、その本質は「尤度（ゆうど）」だ。

言語モデルの中核に置かれているのは尤度である。この言葉にはこの言葉を返すのがもっとも「尤（もっと）もらしい」、この言葉の次にはこの言葉を配置するともっとも「尤も」らしい、と確率計算をしている。 長い文章のどこに着目すれば要点を取ることができて、どこに着目すれば文脈に沿った「次の言葉」になるかも確率計算している。ELIZAが直前の人間の言葉を繰り返すだけだったのに比べれば格段に進歩しているけれど、意味を理解しているわけではない。まして、一部の利用者が信じているような、自分自身を俯瞰したメタ的な視点など獲得していない。（150〜151ページより）

結局、人間の頭のなかだってわからない

　ただし、それはChatGPTを含むAIが無駄だということではない。当然ながら今後も進歩していくだろうし、それ以前に重要なのは「人間だって同じようなもの」だという視点だ。

ニュートラルネットワークの全貌を解きほぐすのは無理かもしれないけど、どうせ人間の頭の中だってわからないのだ。だからと言って、「わからないものにはかかわらない」と人付き合いをやめる人は少数派だ。 いろんな人がいて怖いけど、あああの学校を出ているなら、あの会社にお勤めなら、あんな感じの服装なら……いろいろな手がかりで付き合う人や付き合う態度、その人から受け取った情報を信じるかどうかを決めている。AIも一緒である。（170ページより）

　たしかにそう考えれば気持ちは楽になるし、未知のチャットボットに対する恐怖心も薄れていくのではないだろうか？

 

■Amazon.co.jpで購入

• 

  ＣｈａｔＧＰＴの全貌　何がすごくて、何が危険なのか？ (光文社新書 1267)岡嶋裕史光文社

 

筆者紹介：印南敦史

作家、書評家。株式会社アンビエンス代表取締役。 1962年、東京都生まれ。 「ライフハッカー[日本版]」「ニューズウィーク日本版」「東洋経済オンライン」「サライ.jp」「マイナビニュース」などで書評欄を担当し、年間700冊以上の読書量を誇る。 著書に『遅読家のための読書術』(PHP文庫)、『いま自分に必要なビジネススキルが1テーマ3冊で身につく本』（日本実業出版社）、『書評の仕事』(ワニブックスPLUS新書)、『読書する家族のつくりかた 親子で本好きになる25のゲームメソッド』『読んでも読んでも忘れてしまう人のための読書術』(以上、星海社新書)、『世界一やさしい読書習慣定着メソッド』(大和書房)、『プロ書評家が教える 伝わる文章を書く技術』(KADOKAWA)、などのほか、音楽関連の書籍やエッセイなども多数。