人類とAIは共栄できるのか！？（前編）ポスト・ディープラーニング時代の社会創りとは

人が想像できることは、人が必ず実現できる

「今、生まれた子どもはきっと免許を取る必要はない」

　次世代の自動運転車の普及を念頭にこのような話が、ダボス会議における議論で語られ、世界中で技術革新による未来が語られるようになりました。

　サイエンス・フィクション（SF）の父とも呼ばれるジュール・ヴェルヌは、「人が想像できることは、人が必ず実現できる」という言葉を残されており、実際に私たちの現在の生活においても、数十年前に描いていたこんな未来が来るかもなと想像していた多くの出来事や技術が実現されております。

　例えば、ドラえもんというアニメは、私たちの近未来を想像するのにとてもイメージがしやすい物語かと思いますが、そのSFであった秘密の道具からも現実世界において、それらに近いかたちで実装されているものは多々あります。

　例えば、『ほんやくコンニャク』というどんな言葉でも操れるようになる道具は、ウェアラブル翻訳端末というかたちで実装され、個人で空を飛べるアイテムである『タケコプター』は、ジェットエンジン搭載のフライボードというかたちでそれらに近いものが実現されております。

　このような社会の変化に、私は大変ワクワク致しますが、それと同時に、こうした科学技術の進化による社会構造の変化にしっかりと対応し、国民生活を豊かにするといった使命を与えられている国会のメンバーの一人として、その非常に重たい責任を与えられていることに対して緊張感を持っております。

　そうした想いから、私は、テクノロジーの発展を通じて人々の生活を持続的に豊かにさせることを目標とした第4次産業革命を、この日本で牽引していくことによって、豊かな社会の発展と夢のある未来の創造に貢献していきたいと考えております。

中谷一馬 衆院議員

「デジタル・オア・ダイ」時代の岐路

　技術革新に対応できなかった国や組織は、いつの時代も新興勢力に打ち負かされて衰退してしまうという現実は、歴史を振り返っても明らかです。

　最強と言われた武田の騎馬隊が、織田勢が導入した新兵器である鉄砲を用いた戦略の前に大敗した歴史は、日本人にも馴染みの深いところです。

　こうした教訓から学べることは、テクノロジーの進化を止めることは時代の潮流を考えても不可能であるため、進化をあえて止めるような動きをするのではなく、健全に発展させて、その恩恵を公平公正に分配していく知恵が求められているということだと考えます。

　そうした中、現在の日本は、世界のリーダーとして第4次産業革命を牽引し、社会のデジタル化、スマート化を進めるか、あるいは現状のルートをただそのまま進み、自らもう先がないというジリ貧状態に追い込まれるかという岐路に立たされていると私は考えます。

　日本の経済が成長していかないのは、教育や若者に対する支出を渋り続けた結果、少子高齢化が大きく進み、あらゆる格差が拡がるなど、人への投資ができていないことと、生産性、効率性を高めるデジタル化が地方や中小企業の隅々まで行き渡っていないことが大きな要因であると考えております。

　私は、未来の“スタンダード”を創るべく、日本全体のありとあらゆるものを積極的にデジタル化し、アナログなモデルからの脱却を図り、社会のスマート化を進め、豊かな日本を再興したいと考えております。

　こうした観点から近未来を想定し、その未来からムーンショット型で必要な政策を逆算して推進する必要があります。

AI（人工知能）への期待と懸念

　社会のスマート化を進めるにあたっては、AIの健全な発展が必要不可欠です。

　AI（人工知能）の発展は、理想を突き詰めれば、人類が労働することなく、自動的にあらゆる物の生産とサービスの提供がなされる社会が実現されるという可能性に繋がります。

　少子高齢化が進む日本においては、ビジネス、教育、医療、福祉、介護、防災、農林、水産、ものづくりなど生活に関わるあらゆる分野においてその発展が期待されます。

出典：次世代人工知能推進戦略 （総務省）

　その一方で進化のさせ方を間違えた時には、AIやAIを活用することのできる一部の特権階級者に支配される社会が構成される恐れもあります。

　例えば、現在中国では、信用スコアが普及し、国の枠を超えて世界へ展開を始めています。これは中国が2014年に社会信用システム構築計画綱要を発表したことを受けてのことです。支払い履歴などの決済情報をデータ連携し、利用者の与信管理などを行い、導き出されたスコアは進学、就職、結婚などにも影響を与えるというものです。

　政府主導で組織的に社会信用システムの構築をするために民間企業とともに政策を進めている中国では、人々の行動をビックデータに集め、AIによって解析されたその人の信用度が簡単に算出される仕組みとなっております。

※中国 深センにてAIを用いた監視カメラの視察時における画像

出典：ICT先端技術に関する調査研究（総務省）

　この仕組みは、人々の信用度が可視化されることで、業務の効率化、取引の安全、犯罪や不正の抑制にもつながる可能性がある一方で、格差や偏見を助長したり、国民の自由を強く抑制する可能性もあります。

AIは製作者の意向が強く反映される

　まず前提としてAIは、科学的・客観的・中立的なものではありません。このことは、慶應義塾大学大学院法務研究科（法科大学院）の山本龍彦教授からご教授を頂き、私自身も学ばせて頂きました。

　物事を判断するアルゴリズム（計算方法＝ある特定の目的をより効率的に達成するために定式化された処理手順）は、製作者の考え方によって解が大きく異なります。

　アルゴリズムは、その調整段階において一定の政策的判断（さじ加減の設定）を含み込まざるを得ないものであり、決して中立的なものではありません。

　例えば、AIに個人の再犯リスクを予測させる場合、「社会の安全」を守るために更生した者を誤って拘禁するリスクをとるべきか、「更生した者の自由」を守るために再犯し得る者を社会に解き放ち、「社会の安全が脅かされるリスク」をとるべきかという判断を迫られた時、「社会の安全」と「個人の自由」をどのようなバランスで調整するかという政策的判断が製作者には求められます。

AIのバイアス（偏り）

　そしてAIは、少数派に対する偏見・差別の固定化・助長を進め、政治行政における公正性を危うくする可能性を含みます。例を挙げれば、AIは、学習するデータセットにより、特定のコミュニティからのデータが抽出されてしまうことがあり、現実には多数派である意見が、データ上適切に現れず、存在しないものとみなしてしまうことがあります。

　具体例としては、アメリカ・ボストンでは、要補修区域に関する道路状況の調査のために市民のスマートフォンから得られるGPS位置情報を利用しています。その過程で、高所得者の居住区域に市の道路補修サービスが集中してしまう問題が発生しました。この予測の偏りは、低所得者のスマートフォンの所持率が低かったために、低所得者居住区域からのデータが適切に集まらず、データセットそのものが偏ってしまったことが原因でした。

　データセットの偏りは日本においても存在しています。例えば、総務省の平成30年版情報通信白書によれば、スマートフォンを所持している者は、2017年は全体で60.9%ですが、年代別で考察すると、20代は94.5%所持している一方で、70代の所持率は18.1%、80代以上の所持率に関しては6.1%となっており、70代は80%以上、80代以上は90%以上の方がスマートフォンを何かしらの理由で所持しておらずデータが偏ることが想定されます。

※出典：平成30年版 情報通信白書 スマートフォンの個人保有率の推移（総務省）

　こうした傾向を見るとプライバシーへの配慮から個人情報の収集を拒絶する者などのデータや情報弱者の情報が、AIの学習するデータセットには適切に組み入れられず、AIの意思決定がそうした方に不利なかたちで歪んでしまう可能性を含みます。

　また、将来の犯罪者を予測するために米国全土で使われているソフトウェアが、黒人に対して偏見を持ったアルゴリズムが組まれていたことが問題となっております。米国の非営利・独立系報道機関であるプロパブリカ（ProPublica）によれば、Correctional Offender Management Profiling for Alternative Sanctions【略称：COMPAS（被告人の再犯可能性のリスクを予測するシステム）】では、

再犯率が高いと予測されたが、実際には再犯しなかった率：白人23.5%／黒人44.9%
再犯率が低いと予測されたが、実際に再犯した率：白人47.7%／黒人28.0%

という結果が出ており、黒人の再犯リスクが高いと認定する確率は、白人の場合よりも2倍以上も高く、白人は再犯リスクが低いという誤ったレッテルを貼ったことが大きな社会問題となりました。

　これは、人種的要素が再犯率と相関することをAIが過去のデータから学習したために起きた問題であります。相関自体が、黒人が置かれてきた過去の劣位的境遇や差別的状況に由来したものだと考えられます。この結果が示す答えとしては残念ながら、これまで現実に存在してきた構造的・社会的差別をAIが学習し、アルゴリズムの中に無意識に埋め込まれてしまい、バイアス（偏り）が承継されてしまったという事実でした。

　このように、住所・居住地・出生地・人種・遺伝情報（DNA）・身分特質・社会的ステイタス・支払い履行能力・クレジット履歴・交友関係の社会信用（SNSの友達やメッセージのやりとり）・消費行動・行動マナーなどが個人の社会的信用力と相関しているとされた場合、仮にこの相関が正しいとしても、AIがこれを読み込むことによって、自分の努力では変えることのできない属性による偏見や差別が固定化ないし助長されてしまう恐れがありますし、行動もその時に権力を持つ者がこれが正しいと決めた指針に従わざるを得なくなり、自由が抑制される懸念を拭えません。

求められるのは、民主化されたAIの発展

　上記に縷々記載した、人の振る舞いが法や規則によってではなく、コードやアルゴリズムによって規律される組織体系を呼ぶ名称として「アルゴクラシー（algocracy）」という言葉が誕生しました。

　アルゴクラシーの問題点としては、プロファイリングやスコアリングを行う際に、その過程がブラックボックス化してしまう点が挙げられます。

　企業や組織であれば当然そのアルゴリズムの設計が強みになることがありますので、公開を拒むことが想定できますし、ディープラーニングで組成されたアルゴリズムがなぜその判断をしたのか、ロジックに対する解析は複雑すぎて困難な状況になることが考えられます。

　その結果として起こり得るのは、低いスコアをつけられた人が、なぜそのようなスコアになったのか、具体的にわからないまま低いスコアで社会的な不遇を受ける可能性が生じるという問題です。

　これらの問題を解決するためには、一部の技術的なエリートやその時の権力者だけが、AIに設定された仕組みを理解できるような状態から、アルゴリズムの設計を透明化し、民主化を進めることで、その意思決定の正統性を高めることができる制度設計が必要であると考えます。

（後編へつづく）

著者プロフィール

中谷 一馬　なかたに かずま / Kazuma Nakatani　［ホームページ］

立憲民主党 衆議院議員 神奈川7区（横浜市港北区・都筑区の一部）

1983年8月30日生。貧しい母子家庭で育つ。厳しい経済環境で育ったことから、経済的な自立に焦り、中学卒業後、高校には進学せず、社会に出る。だがうまく行かず、同じような思いを持った仲間たちとグループを形成し、代表格となる。

しかし「何か違う」と思い直し、働きながら横浜平沼高校に復学。卒業後、呉竹鍼灸柔整専門学校を経て、慶應義塾大学、DHU大学院に進学。その傍ら、飲食店経営や東証一部に上場したIT企業の創業に役員として参画する中で、人の役に立つ人生を歩みたいと政界進出を決意。

元総理大臣の秘書を務めた後に、27歳で神奈川県議会における県政史上最年少議員として当選。県議会議員時代には、World Economic Forum（通称：ダボス会議）のGlobal Shapers2011に地方議員として史上初選出され、33歳以下の日本代表メンバーとして活動。また第7回マニフェスト大賞にて、その年に一番優れた政策を提言した議員に贈られる最優秀政策提言賞を受賞。

現在は、立憲民主党 青年局長（初代）、科学技術・イノベーション議員連盟 事務局長として多方面で活動中。

著書：「だから政治家になった」幻冬舎