第4回 アルゴリズム的公共性と市民的公共性
◇◇◇
＊第1回： 現代中国と「市民社会」
＊第２回： テクノロジーが変える中国社会
＊第3回： 「道具的合理性」に基づく統治をどう制御するか
「市民社会」の新たな役割？
連載第3回の最後で見た図を再掲しましょう（図１）。この図では、意思決定や判断において「ヒューリスティック」（直感的ですばやいが間違いも多い、「人間臭い」やり方）にとらわれがちな一人ひとりの市民と、それらのバイアスをも踏まえた「広い」合理性の実現を追求するシステム（具体的には民主的な議会や政府、NGOなど）との間におけるインタラクションの在り方を、「市民的公共性」に当たるものとしてとらえています。その一方で、必ずしもそういった「メタ合理性」に裏付けられない統治システムが力を持ち始めていることに注意を向けました。それが図の右に仮に「アルゴリズム的公共性」と名付けている部分です。
「アルゴリズム的公共性」によって実現される統治とは、まさに「道具的」に、人々の日常の購買行動やSNSの書き込みなどをデータとして収集し、そのデータをある特定の目的に沿った手順によって処理することで、人々を社会的により望ましい方向へと動機付けるようなルールやアーキテクチャが形成される、という統治のあり方を示したものです。そのような道具的合理性のみに支えられた統治を、メタ合理性をベースにした市民的公共性によって制御していく、これが、これまでの近代的な社会のあり方と、テクノロジーが生み出す「新しい統治のあり方」をなんとか調和させる道なのではないか、と述べました。
ここで浮かび上がってくるのは、いわば「アルゴリズムによる人間の支配」を批判する根拠としての市民社会という、「市民社会」の新たな（第４の？）役割だといえるかもしれません。
そのような「市民社会によるアルゴリズムの制御」という問題意識が具体化されたものが、長い時間をかけて個人主義的な価値観と市民的公共性を調和させてきた伝統を持つEUにおけるGDPR（一般データ保護規則）制定の動き（2016年に制定、18年施行）だといえるでしょう。
GDPRは、いくつかの側面から理解する必要があります。まず抑えておくべきなのは、その根本に「私的財産としての個人情報」という考え方がある点です。これは、近代的な財産権の概念を、オンラインまたはオフラインを通じて収集されるさまざまな個人情報に対しても適用しよう、というものです。この立場から理論的な考察を行っているフランスの経済学者、ジャン・ティロールの議論を紹介しておきましょう（ティロール、2018）。ティロールは、データの処理や加工から付加価値が生まれる機会がどんどん増えている現代社会では、「データは誰のものか」という点に関する議論が特に重要になる、として以下のように指摘します。
インターネット企業は、分野を問わず顧客に関する多くのデータを活用している。たとえば、顧客の好みに合う商品を推奨する、興味を持ちそうな関連商品を提案する、などだ。（中略）競合する企業がデータを持ち合わせていないために同様の提案をできないとすれば、データを所有している企業は支配的な地位を確立し、利幅を引き上げて消費者に不利益をもたらすことが可能になる。となれば、こんな疑問が思い浮かぶ。顧客情報を握っている企業は、それによって他を圧するほどの大きな利益を得るに値するのだろうか。（中略）常識的に考えれば、データ収集が独自のイノベーションや巨額の投資の結果であれば、その企業はデータを保有し活用して利益を得る資格があるといえるだろう。しかし逆に、ほとんどコストをかけずに用意に収集できるデータは、企業が独占すべきではあるまい。むしろその情報は、提供した本人の所有権にすると考えられる（ティロール、2018：449ページ）。
そしてティロールは、いわゆるプラットフォームビジネスによって一般的なものとなった事業者と利用者が相互を評価するシステムについて、利用者による個々の業者に対する評価がUberやトリップアドバイザーのようなプラットフォーム企業に所有されている現状について異議を唱えます。つまり、個々の業者が受けたよい評価は、その業者が個人的な努力によって獲得したものなのだから、その業者が別のプラットフォーム企業に登録する（例えばメルカリに出店していた業者がタオバオにも出店する）際に、個人の「財産」として持ち運べるようなものであるべきだ、というわけです。
ティロールは、こういったプラットフォームの利用者が提供した情報そのものと、その情報の処理や加工は明確に区別されるべきであり、前者は提供した本人にポータビリティ（持ち運ぶこと）を含めた所有権が認められるべきだと主張します。現実的に、アメリカなどでは医療機関で患者が自らのカルテなどの医療情報を所有する権利を認め、患者はその情報を持って自分で医療機関を選択し、情報を共有できるような仕組みが整えられています。こういった主張や社会の動きは、いずれも近代的な排他的財産権の概念を、インターネットを通じて行き来する「個人情報」にまで拡張しようとするものだといえるでしょう。
一方、個人のデータ保護を、財産権にとどまらないより幅広い概念からとらえ、データ社会における新しい人権の在り方を規定したもの、ととらえる動きも、法学者を中心に広がっています。例えば、憲法学者の山本龍彦さんは、ＡＩによる認証技術やデータ蓄積が進んだことによる「セグメント化」が、日本国憲法によって保障されている「個人の尊厳」の原理と真っ向から対立する、と警鐘を鳴らします。ＡＩの性能が高まり、一定のアルゴリズムを用いて個人の行動の「予測可能性」が高まっていったときに、以下のような人権保護の観点から検討すべき問題が生じる懸念があるからです（山本、2018）。
第一は、ＡＩのもつデータあるいは判断がもつ「バイアス」に関するものです。たとえば、2015年にGoogleの画像認識サービス（Google Photo）が白人に偏った認識システムを構築したために、アフリカ系アメリカ人の画像を「ゴリラ」とラベル付けしてしまった、という有名な事例があります。このようなバイアスの存在は、マイノリティへの差別を再生産ないし助長してしまう恐れがあります。
第二は、ＡＩによるデータの蓄積及び判断が、「セグメント化」、すなわち個々の人間をまず「20代の男性」や「後期高齢者」といったいくつかの「セグメント（共通の属性を持った集団）」として認識することを前提としている──自動運転における犠牲者の回避判断が、「高齢者」「信号を無視した人」「子ども」といったセグメントを前提として行われたように──という点に関わります。このことは、ＡＩの行う「予測」が、セグメントに回収されない個人の特性や潜在能力が十分考慮されないまま行われてしまう、という点で「個人の尊厳」を脅かす可能性があります。
第三は、ＡＩが意思決定を行う際のアルゴリズムがブラックボックス化して、「自分でもわけのわからない理由」によってスコア付けをされたり、行動が制限されたりする、という問題です。これは、これまでもディストピア小説で繰り返し描かれてきたような問題ですが、それだけ、私たちは「わけのわからない理由」にとって自分の行動が決められてしまうことに本能的な警戒感を持っている、と言えそうです。
その上で山本さんは、GDRPのような個人データ保護の動きを、AIネットワーク社会と個人の尊重原理との関係を考える上で重要な示唆を含んだ、21世紀の「人権宣言」だとして評価します。彼によればGDPRに関して、個人の尊重原理の観点から特に重要なのは以下の三つの条文になります。
一つは、データ主体がプロファイリングに対して異議を唱える権利（21条）。これは、権利が行使された場合、データ管理者は主体の利益などを超える「やむにやまれぬ正当な根拠」を示す必要がある、というものです。これは、ＡＩが示すバイアスによって不当なプロファイリングを受けた個人が、そのことに対して異議申し立てを行う権利だと言えるでしょう。
二つ目は、プロファイリングなどの自動処理のみに基づき、データ主体に関する重要な決定を下されない権利（22条）。これは、個人の特性を軽視しがちなAIによる統計的・確率的なセグメント化に基づく判断からの自由を保障し、個人一人一人の評価に時間とコストをかけることを要請する権利です。
三つめは、公正さと透明性の要請（13条第2項）。自動決定の存在および決定のロジックに関する意味のある情報、その処理の重大性及びデータ主体に及ぼす想定される帰結を、主体に対して告知しなければならない、というのがその内容です。これは市民がアルゴリズムの示す「道具的合理性」に盲目的に従うことを拒否し、「メタ合理性」からの「有意味な決定」のみに従う、つまり「わけのわからない理由」によって自分の行動が決められてしまう事態を回避するために定められたものとして理解できます。
これらの動きは、この連載で繰り返し述べてきた市民による「監視の徹底化」「監視するものを監視する」という動きと同じ問題意識から生まれてきたものだと言えるでしょう。そこで重要なのは、そのような市民によるアルゴリズムの監視・制御を訴える主張が、「社会にとってどのような目的を優先させるか」を熟議によって決めていく、市民的公共性の存在を前提としている点です。
儒教的道徳と「民の声」──陳情から社会信用システムまで
ただし、そういう市民的公共性によるアルゴリズムの制御、という理想が現実にどの程度機能していくのか、となると、決して楽観はできない、というのが正直なところです。特に、市民的公共性の基盤が弱い社会では、図２のようにメタ合理性の上に立つシステムが形式的には残っているけれども、実際はほとんど機能せず、ほぼアルゴリズム／アーキテクチャ的な統治システムによって人々の行動が律せられてしまう、という未来図が描けるかもしれません。
世界的なベストセラーになり、昨年邦訳も出版されたユヴァル・ハラリの『ホモ・デウス』という本が描く、現在の「人間至上主義」の世界が終わった後に続くとされる「データ至上主義」の世界像（どんな現象やものの価値もデータ処理にどれだけ寄与するかで決まるような世界）も、図２のアルゴリズムによる統治が肥大化した社会のイメージに近いものだと言えそうです（ハラリ、2018）。
ただし、ここで一つの疑問が出てきます。近代的な議会・政府や裁判所、あるいはNGO以外に、アルゴリズムによる人間行動の支配を制御してくれるメカニズムは存在しないのでしょうか？ 例えば連載第1回目に出てきたような儒教的な『天』の観念、すなわち、国家も市民社会も必ず「天理に適う」ことによりその正当性が担保される、といったときの「天理」なるものは、アルゴリズムによる統治が肥大化する社会の中でどう位置づけられるのでしょうか？
結論から先に言うと、こうした儒教的な「天理」による公共性の追求は、アルゴリズムによる人間行動の支配への対抗軸になるというよりは、むしろそれと結びついて一体化する、あるいはそれに倫理的なお墨付きを与える可能性が高い、というのが私の理解です。だからこそ中国は、世界に先駆けてこのような未来社会のイメージに近い社会を実現してしまう可能性があるのではないか、と考えています。
例えば、前回の連載でも紹介した、堀内進之助さんの社会信用システムに関する論考（堀内、2018）では、中国政府は社会信用システムの導入を通じて「政府の政策決定への国民参加のチャンネルを広げること」や、「権力の行使に対する社会的監督と制約の強化」を目指すとともに、むしろ伝統的な儒教の道徳的美徳を受け入れることを求めている、という指摘があります。同記事で紹介されているロジャー・クリーマーズの論考も、社会信用システムを中国の伝統的な「徳」による統治に整合的なものだと述べています（Creemers, 2018）。
このことをどう考えればよいでしょうか。まず、中国社会における法に対する道徳の優位性についてみておきましょう。連載第1回の第1回で、寺田浩明さんの著作を援用しながら、伝統的な中国社会の法秩序を、西洋的な「ルールとしての法」に対比される「公論としての法」という概念で理解できる、ということを述べました。繰り返しになりますが、「公論としての法」では、個々の案件において個別の事情や社会情勢を考慮した「公平な裁き」を実現していくということが重視されます。そして、そういった「公平な裁き」を実現できるのは教養を積んで人格的にも優れている、つまり一部の「徳」のある人だけだ、と考えられていました。ここに、個人の人格と分かち結びついた「徳」によって社会の秩序を保ち、公共性を実現する、という伝統的中国社会の倫理観のエッセンスを見ることができるでしょう。
現在でも、伝統中国における「公論としての法」の名残は社会のさまざまな局面で垣間見られます。しばしば指導者の意向を反映した政治キャンペーンが法律よりも効力を発揮したり、「公正」さを求める民衆の直接行動が法廷への提訴ではなく、上級官庁・中央官庁への陳情（「信訪」「上訪」）という形をとったりすることはその一例です。
特にこの「陳情」という現象は本稿のテーマにとっても興味深い事例だといえます。現在中国では、民事・行政を含む様々な案件の解決を求めて、数十万といった規模の「陳情」が生じているといいます。このように「陳情」が多発する背景には、特に地方レベルにおける民衆の司法システムへの拭いがたい不信感があると言えます（毛里＝松戸、2012）。
たとえば地方の役人の腐敗で地元民が苦しめられている場合、裁判所に訴えても裁判官が役人と結託しているのであれば、まともな裁判は期待できません。そのためより「公」に近い上級の政府、究極には北京まで陳情を繰り返す庶民が後を絶たないわけです。
このような「陳情」による個人の権利救済への期待は、立憲主義に立つ中国の法学者のあいだでは否定的に受け止められているようです。それは、三権分立に基づく司法権の独立を揺るがしかねないものだからです（石塚、2012）。そこで、もし「陳情」行為として表れている庶民の不満や地方役人への告発が、インターネットという簡便な方法で表明され、中央の権力者にも可視化されるようになったとしたらどうでしょうか。もちろんその場合でも、共産党の指導部がそのような「可視化された人民の意志」を、「本来の人民の意志」とは無縁のものとして一方的に無視する、あるいは「五毛」と呼ばれるネット工作員をつかってコントロールしようとし続ける可能性もあるでしょう。しかし、指導部がより賢明であれば、むしろ「可視化された人民の意志」を根拠に、地方の腐敗を正したり、反対者を抑えたりすることによって、より望ましい改革を実施しようとするのではないでしょうか。
こういった、「高い徳を備えた統治者」が直接民衆（市民）の声を吸い取り、その意思を反映した（と称する）政治を行う反面、言論の自由や人権を求める運動は厳しく弾圧される、という状況は、ちょうど図２に示されたような、市民の「欲望」を吸い上げたアルゴリズムによる統治が肥大化し、それを「法」によって縛るはずの市民的公共性がやせ細っていく、という構図と非常に似通っていると言えるでしょう。先ほど、儒教的な道徳システムはアルゴリズム的な公共性を制限するものとはならず、むしろそれを強化する方向に働く、と述べたのは、この意味においてです。
先ほど取り上げたGDPRとの関連で言えば、中国でも2017年6月から「インターネット安全法（網絡安全法）」が施行されました。インターネット安全法は、ＩＴ企業に対して個人情報の保護を定める点ではGDPRと同じ性格を持ちますが、データの海外持ち出しや海外企業による使用を厳しく規制する反面、企業に対し国の安全及び犯罪捜査の活動のために、技術的サポート及び協力を義務づけるなど、「企業のデータ収集活動に対する国家介入の正当化」という性格が強い、という指摘がなされています。
また、2018年５月から「個人情報安全規範」も施行され、企業が個人データを扱う場合の規則には一層の制限がかけられることになりました。一般消費者のプライバシー意識の高まりが、個人情報保護の名を借りた政府による民間企業の活動制限につながるのではないか、という指摘もあります（山谷、2018）。つまり、そこにあるのは民間企業による個人情報の取得やそれを用いたアルゴリズムの提供を国家が規制する、という姿勢であり、GDPRのような政府が提供するアーキテクチャも含めた統治システムを市民が監視する、という発想は基本的にありません。
このように、情報技術の進展を背景とした個人情報の保護をめぐる法規制のあり方には、欧州と中国との間に鮮やかな対比がみられます。すなわち、市民的公共性の伝統を持つ前者で制定されたGDPRでは市民自らが定めた「ルールとしての法」によって個人の尊厳を脅かすものを縛ろう、という発想が濃厚です。それに対し、儒教的な「天理」を通じた公共性の実現、あるいは有徳な権威者によって導かれる「公論としての法」の伝統を持つ後者では、個人情報をめぐる法規制もあくまで「民意（＝天の意思）」を代弁した共産党政権が市民の代わりに民間IT企業の暴走を止める、という姿勢が前面に出ているように思います。
（続く）
参考文献
石塚迅（2012）「政治的権利論からみた陳情」（毛里和子・松戸庸子編（2012）『陳情：中国社会の底辺から』東方書店）
ティロール、ジャン（2018）『良き社会のための経済学』村井章子訳、日本経済新聞出版社
徳山豪（2018）「アルゴリズムが社会を動かす」"α-Synodos" vol.256（2018/11/15）
ハラリ、ユヴァル（2018）『ホモ・デウス（上、下）』柴田裕之訳、河出書房新社
堀内進之介（2019）「情報技術と規律権力の交差点―中国の「社会信用システム」を紐解く」『SYNODOS』2019年1月1日（https://synodos.jp/international/22353/2）
毛里和子・松戸庸子編（2012）『陳情：中国社会の底辺から』東方書店
山本龍彦（2018）「AIと個人の尊重、プライバシー」（山本龍彦編『AIと憲法』日本経済新聞出版社）
山谷剛史（2018）「中国の個人情報保護の動きと行き過ぎへの不安」『ZDNet JAPAN』2018年12月12日、（https://japan.zdnet.com/article/35129999/?fbclid=IwAR1Ek-g7a4pUJH_p4_CdFtHm_Tbo9wjNuXQT-SImhuGt1PPJXgckfvNHwOM、2019年1月30日アクセス）
Creemers, Rogier(2018）, China's Social Credit System: An Evolving Practice of Control: An Evolving Practice of Control, SSRN Electronic Journal.
[執筆者]梶谷懐
神戸大学大学院経済学研究科教授。専門は現代中国経済論。1970年大阪府出身。神戸大学大学院経済学研究科博士後期課程修了。最新刊の『中国経済講義-統計の信頼性から成長のゆくえまで』(中公新書)、『日本と中国経済』、『日本と中国、「脱近代」の誘惑』ほか、著書多数
ウェブサイト：http://www2.kobe-u.ac.jp/~kaikaji/
ブログ「梶ピエールの備忘録。」http://d.hatena.ne.jp/kaikaji/
梶谷懐（神戸大学大学院経済学研究科教授=中国経済論）
◇◇◇
＊第1回： 現代中国と「市民社会」
＊第２回： テクノロジーが変える中国社会
＊第3回： 「道具的合理性」に基づく統治をどう制御するか
「市民社会」の新たな役割？
連載第3回の最後で見た図を再掲しましょう（図１）。この図では、意思決定や判断において「ヒューリスティック」（直感的ですばやいが間違いも多い、「人間臭い」やり方）にとらわれがちな一人ひとりの市民と、それらのバイアスをも踏まえた「広い」合理性の実現を追求するシステム（具体的には民主的な議会や政府、NGOなど）との間におけるインタラクションの在り方を、「市民的公共性」に当たるものとしてとらえています。その一方で、必ずしもそういった「メタ合理性」に裏付けられない統治システムが力を持ち始めていることに注意を向けました。それが図の右に仮に「アルゴリズム的公共性」と名付けている部分です。
「アルゴリズム的公共性」によって実現される統治とは、まさに「道具的」に、人々の日常の購買行動やSNSの書き込みなどをデータとして収集し、そのデータをある特定の目的に沿った手順によって処理することで、人々を社会的により望ましい方向へと動機付けるようなルールやアーキテクチャが形成される、という統治のあり方を示したものです。そのような道具的合理性のみに支えられた統治を、メタ合理性をベースにした市民的公共性によって制御していく、これが、これまでの近代的な社会のあり方と、テクノロジーが生み出す「新しい統治のあり方」をなんとか調和させる道なのではないか、と述べました。
ここで浮かび上がってくるのは、いわば「アルゴリズムによる人間の支配」を批判する根拠としての市民社会という、「市民社会」の新たな（第４の？）役割だといえるかもしれません。
そのような「市民社会によるアルゴリズムの制御」という問題意識が具体化されたものが、長い時間をかけて個人主義的な価値観と市民的公共性を調和させてきた伝統を持つEUにおけるGDPR（一般データ保護規則）制定の動き（2016年に制定、18年施行）だといえるでしょう。
GDPRは、いくつかの側面から理解する必要があります。まず抑えておくべきなのは、その根本に「私的財産としての個人情報」という考え方がある点です。これは、近代的な財産権の概念を、オンラインまたはオフラインを通じて収集されるさまざまな個人情報に対しても適用しよう、というものです。この立場から理論的な考察を行っているフランスの経済学者、ジャン・ティロールの議論を紹介しておきましょう（ティロール、2018）。ティロールは、データの処理や加工から付加価値が生まれる機会がどんどん増えている現代社会では、「データは誰のものか」という点に関する議論が特に重要になる、として以下のように指摘します。
インターネット企業は、分野を問わず顧客に関する多くのデータを活用している。たとえば、顧客の好みに合う商品を推奨する、興味を持ちそうな関連商品を提案する、などだ。（中略）競合する企業がデータを持ち合わせていないために同様の提案をできないとすれば、データを所有している企業は支配的な地位を確立し、利幅を引き上げて消費者に不利益をもたらすことが可能になる。となれば、こんな疑問が思い浮かぶ。顧客情報を握っている企業は、それによって他を圧するほどの大きな利益を得るに値するのだろうか。（中略）常識的に考えれば、データ収集が独自のイノベーションや巨額の投資の結果であれば、その企業はデータを保有し活用して利益を得る資格があるといえるだろう。しかし逆に、ほとんどコストをかけずに用意に収集できるデータは、企業が独占すべきではあるまい。むしろその情報は、提供した本人の所有権にすると考えられる（ティロール、2018：449ページ）。
そしてティロールは、いわゆるプラットフォームビジネスによって一般的なものとなった事業者と利用者が相互を評価するシステムについて、利用者による個々の業者に対する評価がUberやトリップアドバイザーのようなプラットフォーム企業に所有されている現状について異議を唱えます。つまり、個々の業者が受けたよい評価は、その業者が個人的な努力によって獲得したものなのだから、その業者が別のプラットフォーム企業に登録する（例えばメルカリに出店していた業者がタオバオにも出店する）際に、個人の「財産」として持ち運べるようなものであるべきだ、というわけです。
ティロールは、こういったプラットフォームの利用者が提供した情報そのものと、その情報の処理や加工は明確に区別されるべきであり、前者は提供した本人にポータビリティ（持ち運ぶこと）を含めた所有権が認められるべきだと主張します。現実的に、アメリカなどでは医療機関で患者が自らのカルテなどの医療情報を所有する権利を認め、患者はその情報を持って自分で医療機関を選択し、情報を共有できるような仕組みが整えられています。こういった主張や社会の動きは、いずれも近代的な排他的財産権の概念を、インターネットを通じて行き来する「個人情報」にまで拡張しようとするものだといえるでしょう。
一方、個人のデータ保護を、財産権にとどまらないより幅広い概念からとらえ、データ社会における新しい人権の在り方を規定したもの、ととらえる動きも、法学者を中心に広がっています。例えば、憲法学者の山本龍彦さんは、ＡＩによる認証技術やデータ蓄積が進んだことによる「セグメント化」が、日本国憲法によって保障されている「個人の尊厳」の原理と真っ向から対立する、と警鐘を鳴らします。ＡＩの性能が高まり、一定のアルゴリズムを用いて個人の行動の「予測可能性」が高まっていったときに、以下のような人権保護の観点から検討すべき問題が生じる懸念があるからです（山本、2018）。
第一は、ＡＩのもつデータあるいは判断がもつ「バイアス」に関するものです。たとえば、2015年にGoogleの画像認識サービス（Google Photo）が白人に偏った認識システムを構築したために、アフリカ系アメリカ人の画像を「ゴリラ」とラベル付けしてしまった、という有名な事例があります。このようなバイアスの存在は、マイノリティへの差別を再生産ないし助長してしまう恐れがあります。
第二は、ＡＩによるデータの蓄積及び判断が、「セグメント化」、すなわち個々の人間をまず「20代の男性」や「後期高齢者」といったいくつかの「セグメント（共通の属性を持った集団）」として認識することを前提としている──自動運転における犠牲者の回避判断が、「高齢者」「信号を無視した人」「子ども」といったセグメントを前提として行われたように──という点に関わります。このことは、ＡＩの行う「予測」が、セグメントに回収されない個人の特性や潜在能力が十分考慮されないまま行われてしまう、という点で「個人の尊厳」を脅かす可能性があります。
第三は、ＡＩが意思決定を行う際のアルゴリズムがブラックボックス化して、「自分でもわけのわからない理由」によってスコア付けをされたり、行動が制限されたりする、という問題です。これは、これまでもディストピア小説で繰り返し描かれてきたような問題ですが、それだけ、私たちは「わけのわからない理由」にとって自分の行動が決められてしまうことに本能的な警戒感を持っている、と言えそうです。
その上で山本さんは、GDRPのような個人データ保護の動きを、AIネットワーク社会と個人の尊重原理との関係を考える上で重要な示唆を含んだ、21世紀の「人権宣言」だとして評価します。彼によればGDPRに関して、個人の尊重原理の観点から特に重要なのは以下の三つの条文になります。
一つは、データ主体がプロファイリングに対して異議を唱える権利（21条）。これは、権利が行使された場合、データ管理者は主体の利益などを超える「やむにやまれぬ正当な根拠」を示す必要がある、というものです。これは、ＡＩが示すバイアスによって不当なプロファイリングを受けた個人が、そのことに対して異議申し立てを行う権利だと言えるでしょう。
二つ目は、プロファイリングなどの自動処理のみに基づき、データ主体に関する重要な決定を下されない権利（22条）。これは、個人の特性を軽視しがちなAIによる統計的・確率的なセグメント化に基づく判断からの自由を保障し、個人一人一人の評価に時間とコストをかけることを要請する権利です。
三つめは、公正さと透明性の要請（13条第2項）。自動決定の存在および決定のロジックに関する意味のある情報、その処理の重大性及びデータ主体に及ぼす想定される帰結を、主体に対して告知しなければならない、というのがその内容です。これは市民がアルゴリズムの示す「道具的合理性」に盲目的に従うことを拒否し、「メタ合理性」からの「有意味な決定」のみに従う、つまり「わけのわからない理由」によって自分の行動が決められてしまう事態を回避するために定められたものとして理解できます。
これらの動きは、この連載で繰り返し述べてきた市民による「監視の徹底化」「監視するものを監視する」という動きと同じ問題意識から生まれてきたものだと言えるでしょう。そこで重要なのは、そのような市民によるアルゴリズムの監視・制御を訴える主張が、「社会にとってどのような目的を優先させるか」を熟議によって決めていく、市民的公共性の存在を前提としている点です。
儒教的道徳と「民の声」──陳情から社会信用システムまで
ただし、そういう市民的公共性によるアルゴリズムの制御、という理想が現実にどの程度機能していくのか、となると、決して楽観はできない、というのが正直なところです。特に、市民的公共性の基盤が弱い社会では、図２のようにメタ合理性の上に立つシステムが形式的には残っているけれども、実際はほとんど機能せず、ほぼアルゴリズム／アーキテクチャ的な統治システムによって人々の行動が律せられてしまう、という未来図が描けるかもしれません。
世界的なベストセラーになり、昨年邦訳も出版されたユヴァル・ハラリの『ホモ・デウス』という本が描く、現在の「人間至上主義」の世界が終わった後に続くとされる「データ至上主義」の世界像（どんな現象やものの価値もデータ処理にどれだけ寄与するかで決まるような世界）も、図２のアルゴリズムによる統治が肥大化した社会のイメージに近いものだと言えそうです（ハラリ、2018）。
ただし、ここで一つの疑問が出てきます。近代的な議会・政府や裁判所、あるいはNGO以外に、アルゴリズムによる人間行動の支配を制御してくれるメカニズムは存在しないのでしょうか？ 例えば連載第1回目に出てきたような儒教的な『天』の観念、すなわち、国家も市民社会も必ず「天理に適う」ことによりその正当性が担保される、といったときの「天理」なるものは、アルゴリズムによる統治が肥大化する社会の中でどう位置づけられるのでしょうか？
結論から先に言うと、こうした儒教的な「天理」による公共性の追求は、アルゴリズムによる人間行動の支配への対抗軸になるというよりは、むしろそれと結びついて一体化する、あるいはそれに倫理的なお墨付きを与える可能性が高い、というのが私の理解です。だからこそ中国は、世界に先駆けてこのような未来社会のイメージに近い社会を実現してしまう可能性があるのではないか、と考えています。
例えば、前回の連載でも紹介した、堀内進之助さんの社会信用システムに関する論考（堀内、2018）では、中国政府は社会信用システムの導入を通じて「政府の政策決定への国民参加のチャンネルを広げること」や、「権力の行使に対する社会的監督と制約の強化」を目指すとともに、むしろ伝統的な儒教の道徳的美徳を受け入れることを求めている、という指摘があります。同記事で紹介されているロジャー・クリーマーズの論考も、社会信用システムを中国の伝統的な「徳」による統治に整合的なものだと述べています（Creemers, 2018）。
このことをどう考えればよいでしょうか。まず、中国社会における法に対する道徳の優位性についてみておきましょう。連載第1回の第1回で、寺田浩明さんの著作を援用しながら、伝統的な中国社会の法秩序を、西洋的な「ルールとしての法」に対比される「公論としての法」という概念で理解できる、ということを述べました。繰り返しになりますが、「公論としての法」では、個々の案件において個別の事情や社会情勢を考慮した「公平な裁き」を実現していくということが重視されます。そして、そういった「公平な裁き」を実現できるのは教養を積んで人格的にも優れている、つまり一部の「徳」のある人だけだ、と考えられていました。ここに、個人の人格と分かち結びついた「徳」によって社会の秩序を保ち、公共性を実現する、という伝統的中国社会の倫理観のエッセンスを見ることができるでしょう。
現在でも、伝統中国における「公論としての法」の名残は社会のさまざまな局面で垣間見られます。しばしば指導者の意向を反映した政治キャンペーンが法律よりも効力を発揮したり、「公正」さを求める民衆の直接行動が法廷への提訴ではなく、上級官庁・中央官庁への陳情（「信訪」「上訪」）という形をとったりすることはその一例です。
特にこの「陳情」という現象は本稿のテーマにとっても興味深い事例だといえます。現在中国では、民事・行政を含む様々な案件の解決を求めて、数十万といった規模の「陳情」が生じているといいます。このように「陳情」が多発する背景には、特に地方レベルにおける民衆の司法システムへの拭いがたい不信感があると言えます（毛里＝松戸、2012）。
たとえば地方の役人の腐敗で地元民が苦しめられている場合、裁判所に訴えても裁判官が役人と結託しているのであれば、まともな裁判は期待できません。そのためより「公」に近い上級の政府、究極には北京まで陳情を繰り返す庶民が後を絶たないわけです。
このような「陳情」による個人の権利救済への期待は、立憲主義に立つ中国の法学者のあいだでは否定的に受け止められているようです。それは、三権分立に基づく司法権の独立を揺るがしかねないものだからです（石塚、2012）。そこで、もし「陳情」行為として表れている庶民の不満や地方役人への告発が、インターネットという簡便な方法で表明され、中央の権力者にも可視化されるようになったとしたらどうでしょうか。もちろんその場合でも、共産党の指導部がそのような「可視化された人民の意志」を、「本来の人民の意志」とは無縁のものとして一方的に無視する、あるいは「五毛」と呼ばれるネット工作員をつかってコントロールしようとし続ける可能性もあるでしょう。しかし、指導部がより賢明であれば、むしろ「可視化された人民の意志」を根拠に、地方の腐敗を正したり、反対者を抑えたりすることによって、より望ましい改革を実施しようとするのではないでしょうか。
こういった、「高い徳を備えた統治者」が直接民衆（市民）の声を吸い取り、その意思を反映した（と称する）政治を行う反面、言論の自由や人権を求める運動は厳しく弾圧される、という状況は、ちょうど図２に示されたような、市民の「欲望」を吸い上げたアルゴリズムによる統治が肥大化し、それを「法」によって縛るはずの市民的公共性がやせ細っていく、という構図と非常に似通っていると言えるでしょう。先ほど、儒教的な道徳システムはアルゴリズム的な公共性を制限するものとはならず、むしろそれを強化する方向に働く、と述べたのは、この意味においてです。
先ほど取り上げたGDPRとの関連で言えば、中国でも2017年6月から「インターネット安全法（網絡安全法）」が施行されました。インターネット安全法は、ＩＴ企業に対して個人情報の保護を定める点ではGDPRと同じ性格を持ちますが、データの海外持ち出しや海外企業による使用を厳しく規制する反面、企業に対し国の安全及び犯罪捜査の活動のために、技術的サポート及び協力を義務づけるなど、「企業のデータ収集活動に対する国家介入の正当化」という性格が強い、という指摘がなされています。
また、2018年５月から「個人情報安全規範」も施行され、企業が個人データを扱う場合の規則には一層の制限がかけられることになりました。一般消費者のプライバシー意識の高まりが、個人情報保護の名を借りた政府による民間企業の活動制限につながるのではないか、という指摘もあります（山谷、2018）。つまり、そこにあるのは民間企業による個人情報の取得やそれを用いたアルゴリズムの提供を国家が規制する、という姿勢であり、GDPRのような政府が提供するアーキテクチャも含めた統治システムを市民が監視する、という発想は基本的にありません。
このように、情報技術の進展を背景とした個人情報の保護をめぐる法規制のあり方には、欧州と中国との間に鮮やかな対比がみられます。すなわち、市民的公共性の伝統を持つ前者で制定されたGDPRでは市民自らが定めた「ルールとしての法」によって個人の尊厳を脅かすものを縛ろう、という発想が濃厚です。それに対し、儒教的な「天理」を通じた公共性の実現、あるいは有徳な権威者によって導かれる「公論としての法」の伝統を持つ後者では、個人情報をめぐる法規制もあくまで「民意（＝天の意思）」を代弁した共産党政権が市民の代わりに民間IT企業の暴走を止める、という姿勢が前面に出ているように思います。
（続く）
参考文献
石塚迅（2012）「政治的権利論からみた陳情」（毛里和子・松戸庸子編（2012）『陳情：中国社会の底辺から』東方書店）
ティロール、ジャン（2018）『良き社会のための経済学』村井章子訳、日本経済新聞出版社
徳山豪（2018）「アルゴリズムが社会を動かす」"α-Synodos" vol.256（2018/11/15）
ハラリ、ユヴァル（2018）『ホモ・デウス（上、下）』柴田裕之訳、河出書房新社
堀内進之介（2019）「情報技術と規律権力の交差点―中国の「社会信用システム」を紐解く」『SYNODOS』2019年1月1日（https://synodos.jp/international/22353/2）
毛里和子・松戸庸子編（2012）『陳情：中国社会の底辺から』東方書店
山本龍彦（2018）「AIと個人の尊重、プライバシー」（山本龍彦編『AIと憲法』日本経済新聞出版社）
山谷剛史（2018）「中国の個人情報保護の動きと行き過ぎへの不安」『ZDNet JAPAN』2018年12月12日、（https://japan.zdnet.com/article/35129999/?fbclid=IwAR1Ek-g7a4pUJH_p4_CdFtHm_Tbo9wjNuXQT-SImhuGt1PPJXgckfvNHwOM、2019年1月30日アクセス）
Creemers, Rogier(2018）, China's Social Credit System: An Evolving Practice of Control: An Evolving Practice of Control, SSRN Electronic Journal.
[執筆者]梶谷懐
神戸大学大学院経済学研究科教授。専門は現代中国経済論。1970年大阪府出身。神戸大学大学院経済学研究科博士後期課程修了。最新刊の『中国経済講義-統計の信頼性から成長のゆくえまで』(中公新書)、『日本と中国経済』、『日本と中国、「脱近代」の誘惑』ほか、著書多数
ウェブサイト：http://www2.kobe-u.ac.jp/~kaikaji/
ブログ「梶ピエールの備忘録。」http://d.hatena.ne.jp/kaikaji/
梶谷懐（神戸大学大学院経済学研究科教授=中国経済論）