文系人間ほどAIを恐れ､ChatGPTを信じてしまう…経済学者が指摘する｢AIの本当の実力｣

※写真はイメージです - 写真＝iStock.com／Vertigo3d

AIはわれわれの世界をどのように変えるのか。嘉悦大学教授で経済学者の髙橋洋一さんは「AIは人間がつくったプログラムにすぎず、世界を乗っ取るかどうかも人間次第だ。プログラミングの知識がある人であれば、いたずらに騒ぐことはないだろう」という――。

※本稿は、髙橋洋一『数字で話せ！ 「世界標準」のニュースの読み方』（MdN）の一部を再編集したものです。

■AIが「知恵」を持つなんてありえない

AI（Artificial Intelligence）は、「人工知能」と訳されていますが、この「人工知能」という言葉が特に数字に弱い人たちに大きな誤解を与えているようです。知能という言葉から想像を働かせて、機械が「知恵」を持って判断したり勝手に動き出すのがAIだと思っている人が少なくありません。

だからAIに世界が乗っ取られるというストーリーのSF映画がすでに定番となって流行ったりするわけですが、AIが実際に「知恵」を持つことなどありません。AIは人間がつくったプログラム通りに動くだけです。

AIが人間より優れているのは、大量かつ高速にデータ処理ができること、に尽きます。

AIは人間がつくったプログラムにすぎません。したがって、「AI化で実現可能なことは何か」という疑問に対する答えはすべて、「それを人間がプログラム化できるかどうか」に還元することができます。

つまり、プログラム化できることはAI化が起こりえます。プログラム化できないことは、いくらそこにAIなるものがあってもAI化は起こりえません。

■すべてはプログラムを書く人間次第

もちろん人間または人間社会に被害をもたらすようなAIは存在可能です。プログラムのなかにそういう命令を入れておけばいいのですから。しかしこれは、そのAIが破壊的な意志を持っているということではありません。

AIはプログラムを書いた人間の意図によって動くだけです。破壊的な意志を持っているのはAIではなくプログラムを書いた人間の方です。

ロシアによるウクライナ侵攻において無人ドローンによる攻撃は、2022年内はほとんどウクライナ側だけでしたが、2023年に入ってロシア側もそれを使うケースが数として10倍程度の規模で増えてきました。

ドローンはターゲットに対してピンポイントで攻撃することができますが、それはそのようにプログラムしてあるからです。プログラムの記述にミスがあれば、また、プログラムが改竄されればドローンは最初に意図したようには働きません。

■「世界を乗っ取れるプログラム」とは？

「AIに世界が乗っ取られる」といった類の話をまことしやかにする人に対しては、ぜひ次のように問いかけてみてください。

「どういうプログラムを書けば世界を乗っ取ることができるのですか？」

ここで重要なのは、世界を乗っ取ることができるブログラムを書くことができるのであれば、それは同時に、世界が乗っ取られないようにするプログラムを書くことができるということを意味するということです。

プログラムのなかには、プログラムがプログラムを書く「進化型プロクラム」と呼ばれるものもあります。しかしそれも、どこまで書かせるかを決めるのは人間です。

アメリカのAI開発企業・OpenAIが2022年11月に公開したChatGPT（チャットジーピーティー）はたいへんな人気で、日本からOpenAIのサービスサイトにアクセスして利用実行した回数は2023年の5月中旬に過去最高の1日767万回に達したそうです。以降は横ばいの数字となっているとのことですが、日本からのアクセスはアメリカ、インドに次ぐ世界第3位ということです。

■プログラミングを知っている人は慌てない

ビジネス企画書や大学のレポートが自動的に書けてしまうなど、盛んにその能力が宣伝されましたが、文章の生成機能は別として、ChatGPTは使用するデータベースを広げに広げることができているだけの話です。

たとえば料理のレシピなどはネット上に大量にあります。それを高速で読み込んで平均的なレシピをつくることは難しいことではありません。できあがったそれを、凡庸なレシピか画期的な改良レシピか判断するのは人間の方です。

こうしたことにいちいち驚くのは、コンピュータ・プログラムになじみがないからです。技術者でなくても、プログラムに少しでも触れたことがあってその原理を知っている人は、コンピュータの世界は実はどれも似たりよったりで、事情を知らない世間が針小棒大に言うだけであることがわかっていますから、いたずらに騒いだりはしません。

2020年に小学校、2021年に中学校でプログラミング教育が必修化されましたが、いいことだと思います。現代人は、スマートフォンをはじめ、大量のコンピュータ機器に取り囲まれる生活を送っています。

プログラミングを知っているということは、そうした機器の原理を知っているということです。何かしらの問題が生じたときにも、これはこういうことだなと推測ができます。少なくとも慌てふためくようなことはなくなるでしょう。

写真＝iStock.com／ferrantraite

※写真はイメージです - 写真＝iStock.com／ferrantraite

■ChatGPTにも弱点はたくさんある

先に挙げたChatGPTは「Chat Generative Pre-trained Transformer」の略で、事前に集めておいた情報で学習しておき対話の方法を通して自動的に回答を生成していく仕組み、といったほどの意味です。

開発したのはOpenAIというアメリカのAI開発企業で、OpenAIは、一般的にはツイッターの買収やそのXへの改名でよく知られる起業家イーロン・マスクらが2015年に非営利法人として設立したOpenAI Inc.が母体になっています。イーロン・マスクはすでに運営から離れていて、OpenAIは現在、マイクロソフト社が筆頭株主（持株49％）に立つ企業となっています。

2022年11月のサービス開始以来、テレビのワイドショーや情報番組などで、とにかく凄いものができた、AIは驚異的に進化している、などともてはやされ続けています。

「どんな質問にも答えてくれる、新しいアイデアが生まれる感覚がある」など、特にビジネスの現場での活用メリットに期待が集まっているようですが、企業のなかには明文化するかたちで、ChatGPTは、「正確とは限らないから、最終的な判断は人が行う必要がある」「最近のことは回答不可能」「扱っているのは公開情報のみ」「英語で質問する方が詳細・正確な答えが返ってくる」「未来のことはわからない」といった注意を喚起しているところもあります。

■回答に満足しているような人は平均以下

この注意喚起はおおむね正しいといえるでしょう。ChatGPTは、従来のネット検索システムと変わりはありません。検索とコピー＆ペーストを自動的にやってくれるというだけの話で、検索機能と文章構成機能でできているのがChatGPTであって、いわれているほど高レベルのシステムというわけではありません。

ChatGPTは、簡単にいうと世の中に転がっている話を集めてきて回答しているだけですから、その答えは当然、平均的なものになります。そういう意味ではChatGPTが返してきた回答に満足しているような人は平均以下のレベルにあるといえるでしょう。トップレベルの教養からすれば、まず話になりません。

私をはじめ、評論や解説を仕事のひとつとしている人にとっては、専門家として十分期待に応えられているか、つまりChatGPTの返答より上の情報を発信しているかどうかを確認するという作業においては、ChatGPTは使えるかもしれません。

■質問する言語が変われば、答えが変わる

「英語で質問する方が詳細・正確な答えが返ってくる」というのはおもしろい指摘で、ChatGPTは、各国ないし各言語環境におけるそれぞれの情報レベルがよくわかるサービスでもあります。

たとえば、高度な数学の証明問題は日々研究され続け、解かれ続けているわけですが、問題が解けた段階で、まず英語で成果が発表されます。ということは、事前学習が時間的に間に合っていれば、ChatGPTは、英語で質問された場合にはその証明問題および解を完璧に探し出してきて答えてくれます。

ただし、その証明問題が日本であまり有名ではなく、日本語のサイトがその証明問題および解の紹介に十分に対応していない場合には、日本語でChatGPTに質問した場合、ネット上の、日本語によるさして重要ではない情報が要約されて答えとして出てくるに留まるということになります。

■「人間による付加価値」が大切なのは変わらない

髙橋洋一『数字で話せ！ 「世界標準」のニュースの読み方』（MdN）

私は現在、嘉悦大学の大学院で教授を務めているので大学の事情については詳しいのですが、レポートについては昔から、ネットで検索してコピー＆ペーストして書くということが行われていました。ChatGPTは文章まで生成してくれるのが問題だということですが、別にそれは今に始まったことではなくて、大切なのは、方法はともかく自ら調べてきたものにどれだけの付加価値をつけられるかということです。

意地悪ととられるかもしれませんが、レポート課題を出すときに、「ちなみにChatGPTはこう答えているが」と釘を刺し、これにどう付加価値をつけることができるかで採点することを伝えるということにもなるでしょう。これは時代の変化ということかもしれません。

----------

髙橋 洋一（たかはし・よういち）
嘉悦大学大学院教授
1955年東京都生まれ。東京大学理学部数学科・経済学部経済学科卒業。博士（政策研究）。数量政策学者。嘉悦大学大学院ビジネス創造研究学科教授、株式会社政策工房代表取締役会長。1980年、大蔵省（現財務省）入省。大蔵省理財局資金企画室長、プリンストン大学客員研究員を経て、内閣府参事官、内閣参事官等などを歴任。小泉内閣・安倍内閣で経済政策の中心を担い、2008年に退官。主な著書に、第17回山本七平賞を受賞した『さらば財務省! 官僚すべてを敵にした男の告白』（講談社）などがある。

----------

（嘉悦大学大学院教授 髙橋 洋一）