「コップに水を入れて」という指示がAIにとって超複雑な理由
プレジデントオンライン / 2020年11月11日 11時15分
※本稿は、川添愛『ヒトの言葉 機械の言葉』(角川新書)の一部を再編集したものです。
■「定義された課題」以外はこなせない
AIについてよく尋ねられる質問に、「AIには○○ができますか?」というものがあります。
「AIは言葉を理解できますか?」「AIは感情を持つことができますか?」「AIには人間のような思考ができますか?」「AIに哲学はできますか?」……などなど、挙げていけばきりがありません。しかし、こういったことについて考える前に、まずはっきりさせておかなくてはならないことがあります。
それは、「その○○は、どんな仕事として定義できるのか?」ということです。
前回の記事でも触れたように、今のAIの中身は「数(の並び)を入力したら、数(の並び)を出力する関数」です。よって、AIを開発するときには、先に「何を入力として、何を出力するか」、また「入力と出力をどんな数の並びとして表すか」を決めなくてはなりません。
つまり、「AIにさせる課題(タスク)を定義しなくてはならない」ということです。
今のAIの開発に盛んに使われている深層学習はとても強力な方法なので、入力と出力をきちんと定義することができ、学習に使える良質のデータが大量にそろえば、さまざまな課題を高い精度で行える可能性があります。しかし、ただ「こんなことができるようになってほしいなあ」と思うだけではAIは作れません。
つまり「言葉を理解できるAI」「感情を持つAI」のような漠然としたイメージを、漠然としたまま実現することはできないわけです。
■似たような仕事でも、AIにとっては別物
今すでに世間では「人の言葉が分かるAI」とか「人の心が分かるAI」などといったことを謳っているシステムもありますが、それらの実体は「雑談をするAI」だったり、「質問文を入力として受け付け、答えとなる単語を出力するAI」だったり、「文章を入力として、『喜び』『怒り』『悲しみ』などといった感情の種類を出力するAI」であったりします。
漠然とした宣伝文句に踊らされないようにするためには、「そのAIがする具体的な仕事は、いったいどのように定義されているのか」を見極める必要があるでしょう。
また注意しなくてはならないのは、たとえ人間にとっては似たような仕事であっても、AIにさせる場合は「まったくの別もの」である可能性があるということです。人間の場合は、難しい文章を外国語に翻訳できる人が、文章の要約や日常会話、ましてや言葉の聞き取りもできることなどはほぼ当たり前で、不思議でも何でもありません。
よって、機械に対しても、「こんなに高度な翻訳ができるんだから、文章の要約ぐらい簡単だろう」とか、「言葉の聞き取りが人間並みにできるんだったら、当然日常会話はできるだろう」と思いがちです。
しかし機械にとっては原則として、翻訳と要約、対話、音声の認識はどれも異なる仕事です。
また、「機械学習によって作られたAIは、人間がすべてプログラムして作ったAIより融通が利くはず」という意見を見たこともありますが、機械学習の「融通」は、あくまで「機械学習がうまくいっている場合は、本来の使われ方(=それが本来するべき仕事)の範囲内で、開発時に使われるデータには存在しないデータに対しても、高い確率で正解を出せる」ということです。
これは、必ずしも「本来想定していない使われ方をされても大丈夫」ということを意味しません。こういった点にも注意が必要です。
■「言われたとおりにやる」が弱点
AIとコミュニケーションを取るには、他にも課題があります。言葉に込められた他人の意図を適切に理解するには、単に言葉についての知識だけでなく、それ以外にも多様な知識が必要です。つまり意図の理解というのは、多様な知識を持った者がそれらの知識を上手に組み合わせた結果、初めてうまくいくものなのです。
これだけでも非常に難しいことですが、他人の意図を理解することの先にも、さらに難しい課題があります。それは、「言われたことを適切に実行する」ということです。
私たちがAIに対して期待することが、「私たちの言うことを聞いてくれること」や「私たちの指示どおりに動いてくれること」であることは言うまでもありません。しかし、これは人間相手であっても難しいことです。読者の皆さんにも、親や先生や上司から「これをしなさい」と言われたことを、うまくできなかった経験がおありだと思います。
しかし、機械にとって「言われたとおりに行動する」ことは、私たちの想像以上に難しいことです。以下では、いったい何がハードルになるかを見ていきましょう。
■“なんとなく”では適切に動けない
言われたとおりに行動することの難しさの一つは、「言葉に表れていること以外にもさまざまなことを考慮しなければ、言われたことを適切に実行できない」という点にあります。
たとえば、「コップに水を入れて」というのは、私たちにはとても具体的で簡単な指示であるように思えます。しかし、いざこれを実行しようとすると、意外な複雑性が絡んできます。
その複雑性の説明に移る前に、この指示自体にも曖昧さがあることを押さえておきましょう。「コップ」には、一つのコップなのか、複数のコップなのか、コップであればどれでもいいのか、特定のコップのことなのかなどといった曖昧さがありますし、「水」もペットボトル入りのミネラルウォーターなのか水道水なのか、やかんに入った水なのか曖昧です。
「入れる」にしても、どれくらいの量を入れればいいのか明確ではありません。このあたりの曖昧さを解消するには、常識や文脈、話し手についての知識などを考慮しなければなりません。
ここでは一応、そのあたりの曖昧さは解消されており、「特定の一個のコップに、水道水を、コップに入る量の3分の2ほど入れる」という指示者の意図が分かっていると仮定します。
■シンプルな行為に「付随する仕事」
指示者の意図がここまで詳細に分かれば、「コップに水を入れて」という指示に従うのは簡単であるように思えるかもしれません。しかし、もしコップが汚れていたり、コップの内側に虫が止まっていたりしたらどうでしょうか。
きっとたいていの人は、そのまま水を入れることはせず、コップを洗ったり、コップから虫を追い出したりするでしょう。つまりここで、「コップに水を入れる」という行動とは別の行動が必要になります。
また、コップをつかむときには、コップを落とすほど弱くつかんではいけませんし、逆にコップが割れそうなほど強くつかんでもいけません。水道水をコップに入れるときにも、もし近くに水に濡れてはならないものがある場合は、水が飛び散らないように気をつける必要があります。
つまり、コップに水を入れるという行為に伴って、さまざまな「望ましくない結果」が起こらないようにすることも考慮しなければなりません。
このように、「コップに水を入れて」というきわめてシンプルな指示を実行する上でも、ただ言われたことだけをすればいいというわけではなく、それに「付随する仕事」が発生したり、「気をつけるべき点」が出てきたりします。
「卵焼きを作れ」とか「洗剤を買ってこい」のようなより複雑な指示の場合には、そういった「付随する仕事」や「気をつけるべき点」が増えるのも想像に難くないでしょう。
■なにげないことでも、実は高度で複雑
人間やAIが言われたことをうまく実行できるかどうかは、このような「付随する仕事」や「気をつけるべき点」を適切に発見できるかによります。こういったことを発見するには、常識や文脈についての考慮はもちろん、指示をしてくる人がそもそも何を念頭に置き、何を目的にして指示をしてくるのかを知ることが重要です。
「コップに水を入れて」にしても、人間やペットが飲むためなのか、鉢植えの花に水をやるためなのか、何らかの掃除に使うためなのか、お仏壇にお供えするためなのかなどによって、「付随する仕事」や「気をつけるべき点」も変わってきます。
もし、人間や動物が飲むための水であれば、コップの汚れは気にしなければなりません。しかし、鉢植えへの水やりや掃除のためであれば、そこまで気にしなくても良いかもしれません。
また、指示をしてくる人が非常に急いでいる場合は、コップを念入りに洗っている時間はないかもしれません。そのときも、コップを洗わないか、急いで洗うか、(指示した人の意図を一部無視して)別のきれいなコップを使うか、(指示した人が急いでいるのを無視して)自分の気のすむまでじっくり洗うかといった、さまざまな選択肢が出てきます。
いずれにしても、私たちが他人の指示に従って何かを行う際には、実はこういった膨大な判断が関わっています。
そういった判断は、指示をしてきた人や自分が何を優先すべきと考えているか、何に気をつけるべきと考えているかに基づいてなされる必要がありますが、私たち人間はそういった判断をたいてい瞬時に行っているのです。
----------
作家
1973年生まれ。九州大学文学部卒業。2005年同大学院にて博士号(理論言語学)を取得。津田塾大学女性研究者支援センター特任准教授、国立情報学研究所社会共有知研究センター特任准教授などを経て、言語学や情報科学をテーマに著作活動を行っている。著書に『白と黒のとびら オートマトンと形式言語をめぐる冒険』『精霊の箱 チューリングマシンをめぐる冒険』『働きたくないイタチと言葉がわかるロボット 人工知能から考える「人と言葉」』『数の女王』などがある。
----------
(作家 川添 愛)
外部リンク
この記事に関連するニュース
-
「英語はAI翻訳に任せればいい」は大間違い…ChatGPTを使いこなす堀江貴文が「英語だけは自分で学べ」と言う理由
プレジデントオンライン / 2024年7月25日 9時15分
-
「加齢による物忘れ」と認知症をどうやって見分けるか…認知症専門医が診察室で問いかける"3つの質問"
プレジデントオンライン / 2024年7月20日 7時15分
-
上司から「100個のアイデアを出して」と言われたらどうするか…仕事が異常に早い人が無茶ぶりに応えられるワケ
プレジデントオンライン / 2024年7月18日 10時15分
-
同じ見た目の「感情をもたないゾンビ」と「人」を見分けられる? あなたの思考力を問う2問
PHPオンライン衆知 / 2024年7月16日 11時50分
-
数字に強くても「人望ゼロ」残念上司に欠けた視点 血の通わない数字をただ伝えても人は動かない
東洋経済オンライン / 2024年7月11日 14時0分
ランキング
-
1駐車場経営の男が大激怒、ナタ振り回し高校教諭を脅迫…きっかけは“部活のボール” 旭川市
STVニュース北海道 / 2024年8月1日 6時20分
-
2K2の救助打ち切り「心痛」 クライマー2人の関係者ら
共同通信 / 2024年7月31日 21時33分
-
3広瀬めぐみ議員、秘書給与を毎月受領か…現金やりとり確認する音声記録を特捜部入手
読売新聞 / 2024年8月1日 5時0分
-
4先進レーダー衛星「だいち4号」初の観測画像を公開 詳細な色分けで地表の状況容易に把握
産経ニュース / 2024年7月31日 16時25分
-
5東京・武蔵野市の小学校で行事参加の男子中学生、校舎3階ベランダから転落し重体
読売新聞 / 2024年8月1日 16時17分
記事ミッション中・・・
記事にリアクションする
記事ミッション中・・・
記事にリアクションする
エラーが発生しました
ページを再読み込みして
ください