中国の「監視社会化」を考える（4）──市民社会とテクノロジー

三つめは、公正さと透明性の要請（13条第2項）。自動決定の存在および決定のロジックに関する意味のある情報、その処理の重大性及びデータ主体に及ぼす想定される帰結を、主体に対して告知しなければならない、というのがその内容です。これは市民がアルゴリズムの示す「道具的合理性」に盲目的に従うことを拒否し、「メタ合理性」からの「有意味な決定」のみに従う、つまり「わけのわからない理由」によって自分の行動が決められてしまう事態を回避するために定められたものとして理解できます。
　
これらの動きは、この連載で繰り返し述べてきた市民による「監視の徹底化」「監視するものを監視する」という動きと同じ問題意識から生まれてきたものだと言えるでしょう。そこで重要なのは、そのような市民によるアルゴリズムの監視・制御を訴える主張が、「社会にとってどのような目的を優先させるか」を熟議によって決めていく、市民的公共性の存在を前提としている点です。

儒教的道徳と「民の声」──陳情から社会信用システムまで

ただし、そういう市民的公共性によるアルゴリズムの制御、という理想が現実にどの程度機能していくのか、となると、決して楽観はできない、というのが正直なところです。特に、市民的公共性の基盤が弱い社会では、図２のようにメタ合理性の上に立つシステムが形式的には残っているけれども、実際はほとんど機能せず、ほぼアルゴリズム／アーキテクチャ的な統治システムによって人々の行動が律せられてしまう、という未来図が描けるかもしれません。



世界的なベストセラーになり、昨年邦訳も出版されたユヴァル・ハラリの『ホモ・デウス』という本が描く、現在の「人間至上主義」の世界が終わった後に続くとされる「データ至上主義」の世界像（どんな現象やものの価値もデータ処理にどれだけ寄与するかで決まるような世界）も、図２のアルゴリズムによる統治が肥大化した社会のイメージに近いものだと言えそうです（ハラリ、2018）。
　
ただし、ここで一つの疑問が出てきます。近代的な議会・政府や裁判所、あるいはNGO以外に、アルゴリズムによる人間行動の支配を制御してくれるメカニズムは存在しないのでしょうか？　例えば連載第1回目に出てきたような儒教的な『天』の観念、すなわち、国家も市民社会も必ず「天理に適う」ことによりその正当性が担保される、といったときの「天理」なるものは、アルゴリズムによる統治が肥大化する社会の中でどう位置づけられるのでしょうか？