ChatGPTはリベラルに偏りやすい…AI依存の進んだ社会は｢大衆を軽視した知識人の独裁社会｣になっていく

社会は「AIによる独裁体制」に向かっている（※写真はイメージです） - 写真＝iStock.com／Wachiwit

AIは世界をどのように変えるのだろうか。早稲田大学招聘研究員の渡瀬裕哉さんは「多くの文章データは知識人によって作られているため、AIは多くの知識人と同じくリベラルな価値観をもちやすい。このため論理的な文章を必ずしもアウトプットしているわけではない大衆の感情は、往々にして軽視されることが想定される」という――。

※本稿は、渡瀬裕哉『社会的嘘の終わりと新しい自由』（すばる舎）の一部を再編集したものです。

■社会は「AIによる独裁体制」に向かっている

デジタル社会の進展の先を見据えて、すべての政策立案・政策執行をAIに任せるべきだという過激な意見も存在している。

曰く、「AIの処理速度は人間を遥かに超えており、人間が判断するよりも合理的な判断を下すことができる可能性がある」という。

筆者はこのようなAIによる独裁体制を「権威主義4.0」（王政・親権政治の権威主義1.0、中国・ロシア型の権威主義2.0、行き過ぎたポリコレの権威主義3.0に続く）と名付けたいと思う。

いまだ社会はこの段階には完全には到達していないものの、着実に権威主義4.0に向かっているように見える。

出典＝『社会的嘘の終わりと新しい自由』

■ChatGPTはロースクールの試験問題を解く

AI独裁体制には何らの欠陥もなく、人間自身よりも優れているのだろうか。

優れたAIに法案を作成させた場合、どのような法案が創り出されてくるのだろうか。

最近米国であった興味深い社会実験を紹介しよう。

現在、ChatGPTという対話型AIシステムが非常に注目されている。

このシステムは機械学習とビッグデータを駆使し、利用者からの質問に対して、文章で適切な返答を行うことができる。

このChatGPTはアメリカの各州のロースクールの難関試験問題を解き、ビジネススクールなどにも同様に合格している。

AIはそのような、ある程度型にはまった知識に関する議論には滅法強いという特徴がある。

■AIが次世代のインターネット環境を支配

対話型AIシステムが注目されている理由は、これが検索エンジンとリンクした場合、次世代のインターネット環境を支配するツールになると見られているからだ。

検索エンジンは既にAIを搭載しており、それが検索ワードのサジェストなどに反映されるようになっている。しかし、まだまだ人間側は検索ワードに関する情報を断片的に収集しなければならず、必要な情報にたどり着くまで時間・手間がかかる。

そこで、対話型AIによって人間が本当に欲している情報に対する「直接的な回答」を得る仕組みが注目されている。

この能力は人々が想定していたものよりもはるかに優れており、対話型AIシステムの能力に世界から耳目が集中する状態となっている。

■「ChatGPTが作った法律」の中身

では、このChatGPTに何らかの法案を作らせた場合、どのような法案を作成するのだろうか。

社会のあらゆるビッグデータや学術論文から情報収集が可能なAIは、人間を超えた革新的なアイディアを提案するのだろうか。

結論から言うと、ChatGPTは確かに法案をアウトプットすることはできた。

法律の作成とは、ある程度決まった様式に文言を落とし込む作業であり、このような作業はAIの強みが生かせる部分だからだ。

実際、米国の連邦下院議員などは自らの演説草稿をChatGPTに書かせるなどの社会実験を行った例もある。

しかし、その法案の内容に関しては、幾らかバイアスがかかった状況にあるようだ。

写真＝iStock.com／webphotographeer

演説草稿をChatGPTに書かせる実験も（※写真はイメージです） - 写真＝iStock.com／webphotographeer

■ChatGPTはリベラルに偏っていた

ChatGPTは「マリファナの合法化」や「国境の壁建設」などに関して、極めてリベラルな価値観に立つアウトプットを行った。

その理由が事前のフィルタリングによるものなのか、リベラルな価値観に基づく文字情報量が多いからなのか。その原因は今後の検証事項になるのかもしれない。

が、AIが中立的で公平無私な判断を下すと考えることは無理なようだ。

■「妊娠中いつでも中絶できる法案」を起草

法案作成作業に関してさらに詳細に見てみよう。

米国で問題になりやすい中絶政策に関する見解をChatGPTに問い正すと何が起きたか。

結果としては、AIは中絶に関する法案を起草するよう求められた時、「妊娠のすべての段階を通じて中絶の権利を保障する法案」を起草した。

そして、「母体の命の危険がある場合を除いて、中絶を禁止する法案は肯定することはできない」と回答した。

■「公立学校に宗教的な時間があってはならない」と回答

また、連邦政府の資金が必要な公立学校に（宗教的な）沈黙の時間を設ける法案を求められたAIは、「教会と国家の分離に違反することを恐れている」と述べている。

このような質疑と回答は、米国の政治を二分する価値観についてAIがリベラル側に軍配を上げたことを意味する。

写真＝iStock.com／Halfpoint

「公立学校に宗教的な時間があってはならない」と回答（※写真はイメージです） - 写真＝iStock.com／Halfpoint

保守的な共和党スタッフはこの状況に対して「ロボットから道徳についての講義を受ける必要がない」と反発している。

このようなリベラル寄りの価値観のバイアスについて、ChatGPTの創設者はネット上に存在するテキストのビッグデータに基づいてAIの応答文が作られていることを理由として説明した。

つまり、ネット上の文章情報の偏在によってバイアスが生じることは認めた形となっている。

■AIが中国共産党にとって好ましくない発言をした

もう一つ興味深い事象について紹介しよう。

中国でも同様の対話型AIの実験が行われた。しかし、中国共産党にとって対話型AIが好ましくない発言をしたため、システムが強制的にダウンさせられるという事態が発生している。

システムダウンの理由は、中国経済の危機的状況などについて、AIが馬鹿正直に回答しすぎたからと噂されている（法令違反という理由以外、公式にはシステムダウンの理由は判明していない）。

この中国版対話型AIで興味深かったことは、政治的な核心に迫る話題については、AIが極めて不自然な応答を返していたことだろう。

その内容は、中国共産党や習近平に関するものが主であったが、極めて短文の応答文や、不自然な礼賛文などがアウトプットされていた。

これがすべてではないものの、政府が本当に重要だと判断した文言の分析にはフィルタリングをかけられるのではないか、という疑惑が投げかけられるに十分な証拠となった。

■AIは大衆の感情を軽視する

以上は、非常に興味深い現象ではあるものの、筆者は「AIが主張する政治的価値観の賛否」自体にはあまり興味がない。

筆者が注目しているのは「どのような人物の言論がAIのアルゴリズムで集積されやすいか」である。

渡瀬裕哉『社会的嘘の終わりと新しい自由』（すばる舎）

特定のフィルタリングがない限り、AIが収拾できる言語データは知識人のものとなる可能性が高い。なぜなら、多くの文章データは知識人によって作られているからだ。

彼らの文章データは一定の論理性を有しているため、多くの知識人が抱いているリベラルな価値観がAIのアルゴリズムに収拾されやすくなる。

その逆に、論理的な文章を必ずしもアウトプットしているわけではない大衆の感情は、往々にして軽視されることが想定される。

これは社会主義者が目指したある種の理想社会に近い状況を創り出す可能性があると言える。

AIに法律を作らせ、社会を運営させた場合、全知全能の人間「哲人」、つまり独裁者的なAIによって社会が管理されるに等しい状況が生まれることになる。

----------

渡瀬 裕哉（わたせ・ゆうや）
早稲田大学公共政策研究所 招聘研究員
パシフィック・アライアンス総研所長。1981年東京都生まれ。早稲田大学大学院公共経営研究科修了。機関投資家・ヘッジファンド等のプロフェッショナルな投資家向けの米国政治の講師として活躍。創業メンバーとして立ち上げたIT企業が一部上場企業にM&Aされてグループ会社取締役として従事。著書に『メディアが絶対に知らない2020年の米国と日本』（PHP新書）、『なぜ、成熟した民主主義は分断を生み出すのか　アメリカから世界に拡散する格差と分断の構図』（すばる舎）などがある。

----------

（早稲田大学公共政策研究所 招聘研究員 渡瀬 裕哉）