中国の「監視社会化」を考える（3）──市民社会とテクノロジー

この知見を現実社会における様々な倫理問題に当てはめ、詳細な議論を行っているのが、哲学者ジョシュア・グリーンによる『モラル・トライブズ』という本です。グリーンは、上述のシステム1を乗り物の運転における「オートモード」、そしてシステム２を「マニュアルモード」になぞらえます。その上で、私たちが行う道徳的な善悪を判断する際にも、オートモードによって駆動する「道徳感情」と、マニュアルモードに基づいて冷静に特質を判断する「功利主義」の二つのシステムが働くのだ、と主張します（グリーン、2015）。



グリーンによれば、前者の道徳感情は、共同体内の裏切り者やフリーライダーにサンクション（制裁）をあたえ、「共有地の悲劇」を解決するために不可欠な性質として人類に受け継がれてきました。しかし、それは同時に、異なる道徳感情の基準を持つ「部族（tribe)」同士の、激しい抗争をももたらしてしまう（「常識的感情の悲劇」）ものでもあります。そこで、冷静かつ合理的にお互いの損得に基づいて道徳的な正しさを決めようと主張する功利主義こそが、このような部族間の道徳感情の対立を調停し、「常識的感情の悲劇」を回避するのに有用な思考として、一種の公共財（「共通通貨」）の役割を果たす、とグリーンは主張します。

グリーンは、オートモードの「道徳感情」と、マニュアルモードの「功利主義」とがしばしば対立することの根拠として、「トロッコ問題」といわれる思考実験について詳しい考察を行っています。これは、行動経済学や二重過程論を解説した本の中には必ず出てくるもので、様々なバージョンのものがありますが、大略は次のようなものです。

すなわち、ブレーキのついていないトロッコが勢いよく線路を走っていく。その先には5人の作業員がいて、そのままだと確実にひき殺してしまう。その時、たまたま歩道橋の上でその様子を見ていたあなたと、リュックを背負ったもう一人の人物がいたとして、あなたがその人を突き落として無理矢理トロッコを止めてしまい、5人の命を救うことは正当化されるか、という問題です。

あるいはもう一つのバージョンとして、あなたがトロッコの転轍機のそばにいて、その方向を切り替えることによって5人の作業員を助けることはできるけれども、切り替えた先にいる1人の作業員をひき殺してしまうという選択をしなければいけない、というものもあります。特に最初のケースの場合は、明らかに現行の法律では殺人に当たってしまうわけですが、結果として犠牲になる人数は少なくて済みます。果たしてこういった行為を「罪」とみなす法律に合理的な根拠があるのか？　こういったいわば直感的な道徳感情と合理的な判断に基づく功利主義とのジレンマを、上述のグリーンの本は議論しています。