AIシンギュラリティは来ない／日沖 博道

日沖 博道 / パスファインダーズ株式会社

OpenAIによる生成AI（人工知能）であるChatGPTの登場以来、ビジネスパーソンにとって「AIという異物」が格段に身近に感じられるようになったようだ。ある調査によると、生成AIを業務に使っているという人が国内でもこの一年ほどで倍増し、４割を超えるようになっているようだ。

コンサルティングの現場でもAIに関する検討のハードルが一段も二段も下がった感がある。我々が事業戦略の手段として「ここにこういう形でAIを組み込むことでユーザー満足につながる能力が数倍上がりますよ」などと提案したものが真面目に受け取られるようになっている（裏返せば、少し前までは必ずしもそうではなかったということ）。

最近では、「AIの能力ってどこまで進化するのでしょうね」とか、「AIシンギュラリティの到来はいつと思いますか？」などと雑談に紛れて尋ねてくるプロジェクト関係者たちも出てきている。

ここでいうAIのシンギュラリティとは「技術的特異点=Technological Singularity」のことで、「AIの知性が地球上の全人類の知性を超える時点」の意味で使われている。シンギュラリティが起こる主要因とされているのが、汎用人工知能（AGI）の進捗である。

汎用人工知能、すなわち「まるで人間のように自律的に思考や学習、判断、行動まで行える人工知能」のレベルがどんどん進化し続けることによって、そう遠くないうちにAIが人類の知性を超えるのではないかと予想されている、ということだ。

実際、今のAGIの開発方向性は、プログラムされた特定の状況以外の課題に対しても（要は「曖昧な課題設定」に対しても）問題解決を図ることができることを目指すものだ。

もしシンギュラリティが起こればどうなるのか。そうなればAIはAI自身でより賢いAIを作っていくと云われている。思想家で未来学者のレイ・カーツワイル氏はこのようなAIの登場を2045年辺りと予測し、「新しい生物の出現に匹敵するほど重要」と指摘している。

しかしここでよく考えなければならないのは「知性」とは何か、という定義である。

確かにコンピュータの進化の歴史において、様々な側面で人類の能力を超える力を、コンピュータが次々に獲得してきたことは間違いない。

それは例えば計算能力、記憶能力であり、論理性や正確性を駆使したゲームに勝つ能力、各種センサーを利用した画像・空間認識能力、画像処理能力であり、各種言語の理解と学習による人々の知識・ノウハウの形式化や精緻化、言語化能力の獲得などである。

いわば自ら学習し、最適と思われる答を出すまでに至っているのだ。

しかしそもそも知性とは、こうしたコンピュータが得意な「答を出す」能力や、物事を「理解する」能力だけではない。もっと重要な知性とは、「何が求められているか」を自らの経験や時代背景・状況が求める価値観に基づいて探り当て、「自ら課題を設定する能力」のことではないか。

それに対し今のAIは、利用者が「こういうロジックに基づき」「こういう問題に対する答を出しなさい」と、指示・設定することでしか動かないものである。

こうした現在のコンピュータのロジック方式がベースになっている限り、AIで実現できるのは、それがより計算速度や精度の高いスーパーAIであっても、または汎用性の高いAGIであっても、所詮は「課題理解が柔軟になり」「答を出す」能力が高まるだけに過ぎない。

それでは決して真の意味で「より賢いAI」を作れる訳ではない。つまりシンギュラリティの実現ではない。

逆に言えば、もしAGIがさらに進化し、（特に誰かの指示を待つことなく）自らの価値観に基づき、社会または所属組織または自らの状況に基づいて「何が求められているか」を自ら判断し、自ら課題を設定するようになれば、その解決法を過去の事例から抽出し成功確率から評価し何がベストの手段である可能性が高いかを判断することは難しくないはずだ。

この状況は、まさに映画『2001年宇宙の旅』でAGIであるHALが宇宙船の乗組員に対し反乱を起こしたように、人間の指示を待つことなく「AIが自ら意志を持つ」ことで（AIが考える）最適な手段を執るよう、連携する系統に対し指示・制御ができることを意味する。

もしそうなれば立派に「知性」と云えるものが存在するといえ、そのときAIは人類の知性に並ぶ段階に至ったといえよう。当然、そうした「知的考察」能力をより研ぎ澄ますことで、人類の知性を超える道のりは遠くないだろう。

しかし現時点でAIの進化方向は、人間の頭脳と神経系統をなぞることで自律的な学習や課題に対する柔軟な判断がスムーズに行われるように研究されてはいるが、そうした「自律的な価値判断による課題設定」を実現するような方向ではない。

つまりシンギュラリティの実現は、予測できる将来時点の範囲内ではないと云っていい。これが人類にとって不幸な事なのか、それとも善き事なのかは、今は誰にも分からないが。