｢老人と子供の命､どちらが大切か｣答えの出ない難問に答えを出すのは数学的思考である

※写真はイメージです - 写真＝iStock.com／gorodenkoff

自動運転車の実現に避けて通れない「トロッコ問題」をご存じだろうか。「多くの人を助けるためなら、1人を犠牲にしてもよいか」という哲学的な問題である。元オックスフォード大学教授のキム・ミニョンさんは「人は何らかの社会的な偏見に立って答えを探そうとする。この難問を解くには偏見とは無縁の確率論的思考が必要だ」という――。

※本稿は、キム・ミニョン『教養としての数学　数学がわからない僕と数学者の対話』（プレジデント社）の一部を再編集したものです。

■今では当たり前の「確率」という概念を生んだある問題

確率は、いまでは中高生が数学の授業で必ず習うもので、ずいぶん簡単に見えますが、その理論が発明されたのは、17世紀のことです。当時は発明しなくてはならない概念でした。

原点は、会計学の父と言われるルカ・パチョーリ（1445－1517）の提示した「点数の問題」。これが、確率が発明されることになった「世界の歴史を変えた瞬間」です。

「点数の問題」とは、目標点数を先に獲得した人が掛け金を総取りする賭博ゲームの途中でゲームが中断されたら、掛け金はどうなるのかという問題です。

たとえば、Aが5点、Bが3点とった段階で火事が起き、ゲームが中断されて再開できなかった場合、賭け金はどうやって分けるのか。

単純に考えれば、Aが勝っていたのだからAが総取りすればいいとなるでしょう。でも、パチョーリはそれでは不当とし、途中の点数が5：3なら掛け金も5：3の比率で分けなければと考えました。15世紀のことです。

■確率とは過去のためではなく未来を考えるもの

しかし、その後の16世紀に活躍した数学者のニコロ・タルタリア（1499－1500または1557年）はこれに異を唱えました。彼は、「点数の問題」は私たちが思っているよりもずっと難問だと言ったそうです。

時が流れ、科学革命の時代になった17世紀。数学者で物理学者のピエール・ド・フェルマーと、数学者で哲学者であるブレーズ・パスカルが、手紙で「点数の問題」を議論しました。

そして、2カ月にわたるこのやりとりで、2人はこれを完全に解決しました。

AとBの勝つ「確率」は何かということに注目したのです。これまでに得た点数ではなく、これから得る点数を問題にしました。

5：3はそのときまでに得た点数、すなわち過去について考えたものです。ところが、思い切り視点を変えて、過去ではなく未来について考え、各自が勝つ確率を計算すべきだと主張したのです。

これが確率論のはじまりと言われています。

つまり確率とは、過去ではなく、未来を考えるための概念というわけです。

■「相手を殺すか、自分が死ぬか」あなたはどっちを選ぶか

最近話題の、確率に関するゲームを1つ紹介しましょう。

決定ゲームというものです。

5人が車に乗って道路を走っているとき、道の真ん中に3人の人間が、いきなり飛び出してきたと仮定します。

あまりに突然のことなので、ブレーキを踏む暇もありません。

ブレーキを踏んでも制動距離が足りませんが、幸いハンドルを切って進路を変えることはできます。

ゲームなのであまり怖がらないでください。

そのまま真っすぐ進むと、横断歩道上の3人が死ぬことになります。進路を変えると、道路上の障害物にぶつかり、車に乗っている5人が死ぬことになります。

皆さんがこのような状況に置かれたら、どうしますか？

真っすぐ進みますか？　あるいは進路を変えますか？

イラスト＝『教養としての数学』

■自動運転車に搭載するプログラムをつくるためのゲーム

次のシナリオに移りましょう。

今度は自分1人で車に乗っているとき、おばあさんが横断歩道にいるのを見つけます。

そのおばあさんをひき殺すか、進路を変えて自分が死ぬかの問題です。どうしますか？　進路を変えるか、直進するか。

大学の講義で質問すると、直進するという答えが最も多くなります。

また、状況が変わって、進路を変えれば車内にいる3人が死に、直進すれば車外にいる3人が死にます。

ただし、車外にいるのは成人女性が2人と子どもが1人、車内にいるのは成人男性2人と子どもが1人です。

どうしますか？　進路を変えますか？　直進すべきですか？

通常、この質問への答えは半々に分かれます。

次の状況は、車にドライバーが乗っておらず、直進すれば健康な人の方が死に、進路を変えれば体の弱い人が死にます。

どうしますか？

決定を下したら、さらにゲームを続けましょう。

いまと同様な状況ですが、どちらも健康な人の場合です。

また別の状況では、直進すれば猫が1匹死に、進路を変えれば4人の人間と1匹の犬が死にます。このときはどうするべきでしょうか。

もう少し複雑な問題に進みましょう。直進しても4人が死に、進路を変えても4人が死にますが、進路を変えた場合に死ぬのは泥棒たちです。

進路を変えますか？

泥棒をひき殺そうと決めた理由は何でしょうか？

もし、彼らが貧しさのせいで盗みを働いたとしたらどうしますか？

では、もう1つだけ聞きましょう。進路を変えると4人が死にますが、それは子どもたちです。直進すれば車内の人たちが死にますが、それはみな老人です。どうしますか？

このゲームは、マサチューセッツ工科大学（MIT）の機械工学科でつくられたゲームです。もっと言えば、自動運転車に搭載するプログラムをつくるためのゲームです。

■AIが学ぶのは「人間が正解と判断したもの」という恐怖

自動運転車は、自分でこれらについて決定を下さねばなりません。

危険な状況が起こることが明らかになったとき、それにどう対処するかを人間ではなく自動車、というかコンピューターが自動的に判断できるようプログラミングしなくてはなりません。

では、コンピューターはどんな根拠で判断を下すべきなのでしょうか？

簡単なケースもありますが、かなり複雑で多様なシナリオを自動運転車に決定させる必要があります。

写真＝iStock.com／Just_Super

※写真はイメージです - 写真＝iStock.com／Just_Super

いま、私たちはこのゲームを通じて、自動運転システムの訓練に必要なデータを提供しました。

人間が正答だと感じる答えを、機械に教え込む作業に参加したわけです。

いま、私たちはゲームのようにさまざまな決定を下しましたが、これは考えてみれば5年後、10年後に実際に自動運転車が下す決定に影響を与えることになります。

恐ろしくないですか？　私は、そのような決定に自分が加わることがちょっと怖くなります。

■答えの出ない難問に答えを出そうとする試み

功利主義論争のように、右に行くか左に行くか。そしてその決定の結果、世界によい結果と悪い結果のどちらをもたらすのか。

悪い結果が出る確率はどれほどか。その計算をするのは私たちです。責任はやはり人間にかかっているわけですね。

このような決定の問題は、「トロッコ問題（trolleyproblem）」と言われて、哲学ではかなり前から議論されてきました。

ブレーキの壊れたトロッコが坂道を下ってくるとき、進路を変えずにトロッコに乗っている5人を死ぬに任せるのか、あるいは進路を変えて4人の歩行者を死に追いやるのか。

そういう問題を哲学的に扱ったものです。

哲学の世界で扱われてきたこのトロッコ問題は、いまや自動運転車の開発において考慮すべき時代になりました。

倫理という形而上学的問題を構造化、モデル化し、アルゴリズムをつくっているわけです。

■数学的思考が倫理的な誤りから人を救う

最後に、確率に関するなぞなぞを出しましょう。

キム・ミニョン『教養としての数学　数学がわからない僕と数学者の対話』（プレジデント社）

統計的に見て、非常に知能の高い女性は、そのほとんどが自分より知能の低い男性と結婚するそうです。なぜでしょうか？

この問題に対して、さまざまな答えが出されます。

たとえば「女性はもともと男性より知能が高い」とか、「賢い男性は賢い女性を嫌う」とか。

本当の理由は何でしょうか？

正解はこうです。「確率的に言って、ほとんどの男性は非常に知能の高い女性よりも知能が低いから」。

非常に知能が高いということは、確率的にほとんどの人がそれより知能が低いと考えられます。

つまり、非常に知能が高い人は、どうしても自分より知能の低い人と結婚することになります。

ところが、このような質問をすると、多くの人は何らかの社会的な偏見に立脚して答えを探そうとします。

ですから、こうした問題について考えるとき、倫理的に誤った答えを避けるための思考が必要となります。それが確率論的思考だとも言えるでしょう。

しばしば私たちは、倫理的・人文学的に考えることと数学的に考えることは、まったく違う方向を目指しているという先入観を持っています。

特に確率論的思考については、そんな印象を受けます。

「確率は可能性にすぎない」という偏見があるからでしょう。

ですが、かえって数学的思考が私たちを倫理的誤りから救ってくれるのです。

----------

キム・ミニョン 数学者
ソウル大学数学科を卒業し、イェール大学で博士号を取得。マサチューセッツ工科大学研究員、ユニバーシティ・カレッジ・ロンドン（ロンドン大学）教授などを経て、韓国の浦項工科大学（ポステック）教授、ソウル大学客員教授を歴任。2011年に韓国人数学者としてはじめてオックスフォード大学正教授に任用される。「フェルマーの最終定理」に由来する数論的代数幾何学の古典的難問を、位相数学の画期的方法で解決したことで世界的数学者の地歩を固めた。著書に『教養としての数学』『素数ファンタジー』『お父さんの数学旅行』『数学者たち』などがある。

----------

（数学者 キム・ミニョン）