中国の「監視社会化」を考える（3）──市民社会とテクノロジー

道具的合理性とメタ合理性

さて、以上みてきたような流れ、すなわち功利主義に基づいて道徳的判断の根拠が人間によるものから次第にAIによるものに置き換わっていく、という動きはもう止めようがないのでしょうか。そこにより深刻な問題が生じる可能性はないのでしょうか。この点に関して重要な問題提起を行っているものとして、やはり「心の二重過程理論」をリードしてきた研究者の一人である、キース・Ｅ．スタノヴィッチによる「道具的合理性とメタ合理性」に関する議論を紹介しましょう。



この「道具的合理性」とは、あるあらかじめ決められた目的を達成しようとする場合に発揮される合理性のことです。これは、必ずしも人間のみに備わった能力ではありません。例えば、チンパンジーに手の届かないところにバナナがおいてあることを認識させた上で箱と棒を与えると、そのチンパンジーは箱の上に載って棒を使い、バナナを手の届くところまで落とすことができる、ということが報告されています。スタノヴィッチは、エルスターによる＜薄い理論＞と＜広い理論＞の区分を援用しながら、このような道具的合理性を＜薄い合理性理論＞として理解し、それが「人間としてのわたしたちが切実に求める全てだとしたら、人間の合理性は実際にチンパンジーの合理性と全く同列のものになるだろう」と述べています（スタノヴィッチ2017：256ページ）。

しかし、スタノヴィッチも言うように、私たちの多くはそういった＜薄い合理性理論＞の水準で立ち止まることを望んでいないでしょう。そのような道具的合理性というのは、ある行為の目的自体が正しいものかどうか、たとえば、目の前にいる人の命を奪ってまで他の複数の人々の命を救うことが本当に正しいのか、ということを決して問わないものです。しかし、通常私たちは、自分が行う選択や行為の目的についても、ある一定の基準や価値観に基づいて一定の判断を下しています。

そういった＜薄い理論＞よりも一歩高い地点から、目的自体の妥当性への判断を下す広い意味での合理性理論のことを、スタノヴィッチは「メタ合理性」と呼んでいます。「メタ合理性」は私たちに、（薄い合理性の理論で考えられているように）合理的にふるまうことは、どんな場合に合理的であり、どんな場合に合理的ではないかを問いかけよ、と求めるものです。スタノヴィッチに言わせれば、こういった、常に自分の（合理的な）選択を、その選択と自分の価値観との整合性に基づいて批判的に吟味するメタ合理性を持つことができるかどうかが、チンパンジーと人間（ヒューマン）を分かつものだ、ということになります。