賢すぎる天才はバカと見分けがつかない…イーロン･マスクが｢TwitterをXに変えた理由｣が不明な理由

実業家の堀江貴文さん（出所＝『ChatGPT vs. 未来のない仕事をする人たち』）

AIが発達すると、私たちの生活はどう変わるのか。実業家の堀江貴文さんは「人間の脳機能をAIに代替させる研究が進んでおり、実現すれば不老不死も夢ではない」と指摘する。新著『ChatGPT vs. 未来のない仕事をする人たち』（サンマーク出版）より、脳科学者・茂木健一郎さんとの対談を紹介する――。

※本稿は、堀江貴文『ChatGPT vs. 未来のない仕事をする人たち』（サンマーク出版）の第4章「人とAIの違いってどこにありますか？――脳科学者　茂木健一郎さんと考える」の一部を再編集したものです。

■「ヴィンジの不確実性」とは

【茂木健一郎】AIをめぐる議論が世界中で行なわれているなか、日本語圏ではほとんど語られていない面白い概念に「Vingean uncertainty（ヴィンジアン・アンサートゥンティー：ヴィンジの不確実性）」があります。

これはヒューゴー賞の受賞歴もあるSF作家で数学者のヴァーナー・ヴィンジに由来する概念で、SF作品『2001年宇宙の旅』の中に出てくる石柱状の謎の物体「モノリス」に由来しています。高度な知性を持った文明が何を意図して人類にモノリスを持ってきたのか誰もわかりません。「ヴィンジの不確実性」とは要するに「全知全能に近づいた賢い人やモノの振る舞いは、予測ができない」ことを意味します。

具体的な人物を思い浮かべるとわかりやすいのですが、イーロン・マスクがいい例です。ツイッターを買収してからいきなりサービスに閲覧制限をかけてみたり、サービス名を変えてみたりと突飛な動きをしています。

彼は以前にもポッドキャストの生放送中にマリファナを吸い出したり、最近ではジョークとして作られた暗号資産「ドージコイン」を支持するかのようにXのアイコンを変えてみたり、予想外の振る舞いを見せ続けています。

■人工知能の動きを人間が理解できない日が来る

意味不明な行動を見せる一方、起業家としての彼の卓抜ぶりはご存じの通りです。つまり賢すぎるがゆえに、一般人からは予想もつかない行動を繰り出すわけです。

日本でいえば、ホリエモンも近しい存在かもしれません。彼の行動自体が時代を先取りしていることが多いですが、時に「何でこんなことで炎上しているんだろう」と思わせる話題を振りまいています。数年経ってようやく、「ああ、そういうことだったのか」と伏線が回収されるのです。一方、子どもの行動は意外と意図がわかりやすい。自分と同等か、それ以下の知性を持つ人の行動は理解しやすいわけです。

この概念が重要なのは、今後AIが人間をはるかに超えた高度な知能を持つようになると、人工知能が何をやっているのか人間が理解できなくなる問題があるからです。

対になる概念として「XAI（Explainable AI：説明可能なAI）」についても触れておきましょう。XAIはアルゴリズムが生み出す結果とアウトプットを、人間が理解できるように説明してくれます。たとえば自動運転であれば、AIが急にハンドルを切った時に「なぜ急にハンドルを切ったのか」の理由を説明してくれるのです。

■すでに囲碁の世界で起きている

人間とAIがどのように共存していくべきかを研究するこの手の分野は「AIアラインメント」と呼ばれます。AIアラインメントの前提になるのは、人間が人工知能の振る舞いを理解できることです。

脳科学者の茂木健一郎さん（出所＝『ChatGPT vs. 未来のない仕事をする人たち』）

たとえば、人生のアドバイスをしてくれるAIがいたとして、「なぜ、そうしたほうがいいのですか？」と理由を尋ねた時に、AIが「こうこう、こうだから」と理由を教えてくれないと人間は困惑します。

ただ人間の知能をはるかに超えた知能は、理由や過程をすっ飛ばして、最終的な結論や結果だけを指し示すかもしれません。そうなると、人間からすると荒唐無稽だったり、数年経たなければ伏線が理解できない場面が次々に出てくるはずです。

考えてみれば、私たちはすでにそうした状況に置かれています。アルファ碁が人間のチャンピオンを破った時、人間の囲碁棋士であれば考えもつかない手を次々と指していたことを思い出してください。今後のAIはますます知能を高めていくので、私たちは社会のあらゆるところでAIの出した答えに戸惑うような場面に遭遇していくはずです。「ヴィンジの不確実性」はそうした社会問題を予言しているのです。

■AIは3段階で発展していく

ここまでの話を、哲学者のニック・ボストロムが提唱した人工知能の三つの発展段階に照らしてみましょう。ボストロムは人工知能を発展段階によって、オラクル（Oracle）、ジーニー（Genie）、ソヴァリン（Sovereign）と三類型に分けました。

第1段階　オラクル型→何かを質問すると答えが返ってくる
第2段階　ジーニー型→ある課題を与えると手段を選び実行する
第3段階　ソヴァリン型→人工知能自体が目的を定めて遂行していく

「ヴィンジの不確実性」は三つの類型すべてにおいてかかわってくる問題です。

たとえば、オラクルに「僕にぴったりの服を教えて」と尋ねると、自分の発想からは想像もできないスタイリングを提案されたとしましょう。とりあえず言う通りに着てみると、3カ月後に流行の先端だったと気づくなど、時間が経つにつれてオラクルが勧めてくる理由がわかるかもしれません。

ジーニーはどうでしょうか。「お昼ご飯を買ってきて」と頼んだのに、ジーニーがご飯を買ってこないでパズルを買ってきたとしましょう。一瞬、自分が頼んだ通りにタスクが遂行されないことにイラつくかもしれませんが、もしかしたらジーニーは依頼者が肥満であることを気にして、お昼ご飯を抜いてもイライラせずにランチタイムを過ごせるようパズルを買ってきたのかもしれない。

■日本料理の名人が包丁さばきを見せなかった理由

ソヴァリンについては私自身が経験した面白いエピソードがあります。

昔、新橋に西健一郎さんが店主を務める「京味」というお料理屋がありました。このお店に通っては西さんとの談笑を楽しんでいたのですが、ある時西さんがお父さんの下で修業していた時の話を聞かせてくれました。

西さんのお父さんは一番大事な包丁さばきのタイミングになると、いつも西さんに何かしらの用事を言いつけてその姿を見せてくれなかったそうです。「何で教えてくれないのか」と不満に思った西さんは、お父さんが何を言いつけてきてもいいように、ある日すべての素材や道具を事前に用意しました。その甲斐もあり、結局お父さんは諦めて、包丁さばきの技術を教えてくれたそうです。

こうしたエピソードはどこか昔の剣豪小説に出てくる教訓にも似ています。一見不親切に見える師範の行動には実は裏の狙いがあったりする。西さんの話でいえば、技術を身につける前に、身の回りの整理や準備を習慣として身につけさせたい、というお父さんの考えがあったのでしょう。

この程度であれば私たちでも話の前後を理解することができますが、人工知能自体が目的を定めるソヴァリンにまで到達すれば、人間が理解できることのほうが少なくなる可能性があります。今後、次々にAIが人間に伏線を張ってくるかもしれません。

■AIの性能は不老不死に近づきつつある

【堀江貴文】先日対談した東京大学大学院工学系研究科准教授の渡辺正峰さんが「人の意識を機械に移植する可能性」に関して興味深い話を聞かせてくれた。渡辺さんは、意識のアップロードともいえるような研究をしている。

渡辺さんの話を簡単に要約すると、右脳と左脳を分けたうえで、あらためて左右の脳を連結させる脳梁(のうりょう)にBMI（ブレイン・マシン・インタフェース）を入れる。そこで左右の脳が一つの意識を持つことを確認する。

その後、片方の脳を機械の脳半球に変え、BMIで左右をつなぎ、時間をかけて意識を一体化させていく。記憶についても、長くつないでおけば、もともとの脳半球から機械の脳半球に記憶が移動していくと考えることができるそうだ。

これが実現できれば、いずれ自身の脳が死亡した時にも、機械の脳は意識を持って存在している可能性があり、不老不死の初期モデルができるかもしれない。不老不死とまではいわなくても、脳梗塞で脳に障がいを負ったような人の治療法の一つとなるかもしれない。

渡辺さんは、そもそも「意識を持っているかどうか」を検証する方法を見つけるためにこのような研究をはじめたそうだ。あと10年もすれば猿で実験する目途も立つそうだが、今後が楽しみである。

出所＝『ChatGPT vs. 未来のない仕事をする人たち』

■データさえ取得できれば脳は不要なのか？

【堀江】ここまで語ってきたAIの進化の様子から、私はすでにシンギュラリティが訪れていると考えている。今の物理学の限界といわれる「不確定性原理」の限界まで一瞬で到達するのではないだろうか。人間には想像できないレベルの知能を獲得したAIに残る興味は、宇宙の謎を解き明かすくらいしかないのかもしれない。もしくは、まだ証明されていない問題を解決してしまうのかもしれない。

堀江貴文『ChatGPT vs. 未来のない仕事をする人たち』（サンマーク出版）

【茂木】マインドアップローディングの可能性を探っているのはエンジニアリング界隈の人たちに多く、脳科学者のほとんどは懐疑的な姿勢です。かつて、「データさえ取得できれば、脳は不要だ」と言ったMITの研究者がいました。被験者の脳を切り刻み、データからパターンをコンピュータの中で再現すれば、意識が永遠に生きると主張したわけです（もちろん倫理的な問題からその研究者は大学から縁を切られたそうですが）。

しかし、そもそも脳のシナプス結合のパターンを再現したとしても、神経と神経の間のメッセージをやりとりしている神経伝達物質は、現時点で知られているだけで、少なく見積もっても100種類あります。皆さんが知っているものではドーパミン、グルタミン酸、GABA、セロトニンなどがあるかもしれません。

ただ、これらはごく一部であり、コンピュータでどこまですべてをシミュレーションできるのかが問題になります。加えて、そもそも意識や心と呼ばれるものが何によって生み出されているのかは不明です。

----------

堀江 貴文（ほりえ・たかふみ）
実業家
1972年、福岡県生まれ。ロケットエンジンの開発や、スマホアプリのプロデュース、また予防医療普及協会理事として予防医療を啓蒙するなど、幅広い分野で活動中。また、会員制サロン「堀江貴文イノベーション大学校（HIU）」では、1500名近い会員とともに多彩なプロジェクトを展開。『ゼロ』『本音で生きる』『多動力』『東京改造計画』『将来の夢なんか、いま叶えろ。』など著書多数。

----------

（実業家 堀江 貴文）