「コップに水を入れて」という指示がAIにとって超複雑な理由
プレジデントオンライン / 2020年11月11日 11時15分
※本稿は、川添愛『ヒトの言葉 機械の言葉』(角川新書)の一部を再編集したものです。
■「定義された課題」以外はこなせない
AIについてよく尋ねられる質問に、「AIには○○ができますか?」というものがあります。
「AIは言葉を理解できますか?」「AIは感情を持つことができますか?」「AIには人間のような思考ができますか?」「AIに哲学はできますか?」……などなど、挙げていけばきりがありません。しかし、こういったことについて考える前に、まずはっきりさせておかなくてはならないことがあります。
それは、「その○○は、どんな仕事として定義できるのか?」ということです。
前回の記事でも触れたように、今のAIの中身は「数(の並び)を入力したら、数(の並び)を出力する関数」です。よって、AIを開発するときには、先に「何を入力として、何を出力するか」、また「入力と出力をどんな数の並びとして表すか」を決めなくてはなりません。
つまり、「AIにさせる課題(タスク)を定義しなくてはならない」ということです。
今のAIの開発に盛んに使われている深層学習はとても強力な方法なので、入力と出力をきちんと定義することができ、学習に使える良質のデータが大量にそろえば、さまざまな課題を高い精度で行える可能性があります。しかし、ただ「こんなことができるようになってほしいなあ」と思うだけではAIは作れません。
つまり「言葉を理解できるAI」「感情を持つAI」のような漠然としたイメージを、漠然としたまま実現することはできないわけです。
■似たような仕事でも、AIにとっては別物
今すでに世間では「人の言葉が分かるAI」とか「人の心が分かるAI」などといったことを謳っているシステムもありますが、それらの実体は「雑談をするAI」だったり、「質問文を入力として受け付け、答えとなる単語を出力するAI」だったり、「文章を入力として、『喜び』『怒り』『悲しみ』などといった感情の種類を出力するAI」であったりします。
漠然とした宣伝文句に踊らされないようにするためには、「そのAIがする具体的な仕事は、いったいどのように定義されているのか」を見極める必要があるでしょう。
また注意しなくてはならないのは、たとえ人間にとっては似たような仕事であっても、AIにさせる場合は「まったくの別もの」である可能性があるということです。人間の場合は、難しい文章を外国語に翻訳できる人が、文章の要約や日常会話、ましてや言葉の聞き取りもできることなどはほぼ当たり前で、不思議でも何でもありません。
よって、機械に対しても、「こんなに高度な翻訳ができるんだから、文章の要約ぐらい簡単だろう」とか、「言葉の聞き取りが人間並みにできるんだったら、当然日常会話はできるだろう」と思いがちです。
しかし機械にとっては原則として、翻訳と要約、対話、音声の認識はどれも異なる仕事です。
また、「機械学習によって作られたAIは、人間がすべてプログラムして作ったAIより融通が利くはず」という意見を見たこともありますが、機械学習の「融通」は、あくまで「機械学習がうまくいっている場合は、本来の使われ方(=それが本来するべき仕事)の範囲内で、開発時に使われるデータには存在しないデータに対しても、高い確率で正解を出せる」ということです。
これは、必ずしも「本来想定していない使われ方をされても大丈夫」ということを意味しません。こういった点にも注意が必要です。
■「言われたとおりにやる」が弱点
AIとコミュニケーションを取るには、他にも課題があります。言葉に込められた他人の意図を適切に理解するには、単に言葉についての知識だけでなく、それ以外にも多様な知識が必要です。つまり意図の理解というのは、多様な知識を持った者がそれらの知識を上手に組み合わせた結果、初めてうまくいくものなのです。
これだけでも非常に難しいことですが、他人の意図を理解することの先にも、さらに難しい課題があります。それは、「言われたことを適切に実行する」ということです。
私たちがAIに対して期待することが、「私たちの言うことを聞いてくれること」や「私たちの指示どおりに動いてくれること」であることは言うまでもありません。しかし、これは人間相手であっても難しいことです。読者の皆さんにも、親や先生や上司から「これをしなさい」と言われたことを、うまくできなかった経験がおありだと思います。
しかし、機械にとって「言われたとおりに行動する」ことは、私たちの想像以上に難しいことです。以下では、いったい何がハードルになるかを見ていきましょう。
■“なんとなく”では適切に動けない
言われたとおりに行動することの難しさの一つは、「言葉に表れていること以外にもさまざまなことを考慮しなければ、言われたことを適切に実行できない」という点にあります。
たとえば、「コップに水を入れて」というのは、私たちにはとても具体的で簡単な指示であるように思えます。しかし、いざこれを実行しようとすると、意外な複雑性が絡んできます。
その複雑性の説明に移る前に、この指示自体にも曖昧さがあることを押さえておきましょう。「コップ」には、一つのコップなのか、複数のコップなのか、コップであればどれでもいいのか、特定のコップのことなのかなどといった曖昧さがありますし、「水」もペットボトル入りのミネラルウォーターなのか水道水なのか、やかんに入った水なのか曖昧です。
「入れる」にしても、どれくらいの量を入れればいいのか明確ではありません。このあたりの曖昧さを解消するには、常識や文脈、話し手についての知識などを考慮しなければなりません。
ここでは一応、そのあたりの曖昧さは解消されており、「特定の一個のコップに、水道水を、コップに入る量の3分の2ほど入れる」という指示者の意図が分かっていると仮定します。
■シンプルな行為に「付随する仕事」
指示者の意図がここまで詳細に分かれば、「コップに水を入れて」という指示に従うのは簡単であるように思えるかもしれません。しかし、もしコップが汚れていたり、コップの内側に虫が止まっていたりしたらどうでしょうか。
きっとたいていの人は、そのまま水を入れることはせず、コップを洗ったり、コップから虫を追い出したりするでしょう。つまりここで、「コップに水を入れる」という行動とは別の行動が必要になります。
また、コップをつかむときには、コップを落とすほど弱くつかんではいけませんし、逆にコップが割れそうなほど強くつかんでもいけません。水道水をコップに入れるときにも、もし近くに水に濡れてはならないものがある場合は、水が飛び散らないように気をつける必要があります。
つまり、コップに水を入れるという行為に伴って、さまざまな「望ましくない結果」が起こらないようにすることも考慮しなければなりません。
このように、「コップに水を入れて」というきわめてシンプルな指示を実行する上でも、ただ言われたことだけをすればいいというわけではなく、それに「付随する仕事」が発生したり、「気をつけるべき点」が出てきたりします。
「卵焼きを作れ」とか「洗剤を買ってこい」のようなより複雑な指示の場合には、そういった「付随する仕事」や「気をつけるべき点」が増えるのも想像に難くないでしょう。
■なにげないことでも、実は高度で複雑
人間やAIが言われたことをうまく実行できるかどうかは、このような「付随する仕事」や「気をつけるべき点」を適切に発見できるかによります。こういったことを発見するには、常識や文脈についての考慮はもちろん、指示をしてくる人がそもそも何を念頭に置き、何を目的にして指示をしてくるのかを知ることが重要です。
「コップに水を入れて」にしても、人間やペットが飲むためなのか、鉢植えの花に水をやるためなのか、何らかの掃除に使うためなのか、お仏壇にお供えするためなのかなどによって、「付随する仕事」や「気をつけるべき点」も変わってきます。
もし、人間や動物が飲むための水であれば、コップの汚れは気にしなければなりません。しかし、鉢植えへの水やりや掃除のためであれば、そこまで気にしなくても良いかもしれません。
また、指示をしてくる人が非常に急いでいる場合は、コップを念入りに洗っている時間はないかもしれません。そのときも、コップを洗わないか、急いで洗うか、(指示した人の意図を一部無視して)別のきれいなコップを使うか、(指示した人が急いでいるのを無視して)自分の気のすむまでじっくり洗うかといった、さまざまな選択肢が出てきます。
いずれにしても、私たちが他人の指示に従って何かを行う際には、実はこういった膨大な判断が関わっています。
そういった判断は、指示をしてきた人や自分が何を優先すべきと考えているか、何に気をつけるべきと考えているかに基づいてなされる必要がありますが、私たち人間はそういった判断をたいてい瞬時に行っているのです。
----------
作家
1973年生まれ。九州大学文学部卒業。2005年同大学院にて博士号(理論言語学)を取得。津田塾大学女性研究者支援センター特任准教授、国立情報学研究所社会共有知研究センター特任准教授などを経て、言語学や情報科学をテーマに著作活動を行っている。著書に『白と黒のとびら オートマトンと形式言語をめぐる冒険』『精霊の箱 チューリングマシンをめぐる冒険』『働きたくないイタチと言葉がわかるロボット 人工知能から考える「人と言葉」』『数の女王』などがある。
----------
(作家 川添 愛)
外部リンク
この記事に関連するニュース
-
「ほめるところが一つもない社員」はどうすればいいか…敏腕人事コンサルが教える"すごいメソッド"
プレジデントオンライン / 2024年3月16日 8時15分
-
マイクロソフト直伝、効果的なプロンプトを書く3つのコツとは?
マイナビニュース / 2024年3月6日 9時0分
-
生成AIを使いこなす効果的な「プロンプト」の基本のキ 書き方のコツを日本マイクロソフトが説明
ITmedia PC USER / 2024年3月5日 20時10分
-
iPadでChatGPTを便利に使うために知っておきたい10のポイント|iPad Hacks
&GP / 2024年3月3日 19時0分
-
生成AIを使わないビジネスパーソンに未来はない ならば、何をどこまで知っておけばいいのか
東洋経済オンライン / 2024年3月1日 6時50分
ランキング
-
1宝塚歌劇団の俳優死亡 上級生からの謝罪文を遺族に手渡す方向で検討 遺族代理人があす交渉内容について会見予定
ABCニュース / 2024年3月27日 22時14分
-
2紅麹サプリ健康被害、製造の大阪工場は昨年末閉鎖 立ち入り調査できず
産経ニュース / 2024年3月27日 21時22分
-
3iPhoneは「ブランド」、Androidは「操作性」...スマホ購入時に重視するポイントなぜ違う? 調査担当者が納得の解説
J-CASTニュース / 2024年3月27日 20時22分
-
4「G-SHOCK」のカシオが“一人負け状態”に。セイコー、シチズンと明暗が分かれた理由
日刊SPA! / 2024年3月28日 8時53分
-
5退職4日前の県民局長、異例の異動…知事「事実無根文書で職員の名誉傷つけた疑いがある」
読売新聞 / 2024年3月28日 6時59分
記事ミッション中・・・
記事にリアクションする
記事ミッション中・・・
記事にリアクションする
エラーが発生しました
ページを再読み込みして
ください