東浩紀が｢AIに期待しない方がいい｣と話すワケ

※写真はイメージです - 写真＝iStock.com／RichVintage

AI（人工知能）は私たちの暮らしにどんな変化をもたらすのか。編集者の菅付雅惟氏は「インタビューをした思想家の東浩紀氏は、人間は支配や権力に対して柔軟。AIやロボットの登場で暮らし方は大きくは変わらないと指摘した。インターネットやSNSで人間や社会が大きく変わらなかったように、新しい技術に過剰な期待を抱かないことを勧めている」という――。

※本稿は、菅付雅信『動物と機械から離れて AIが変える世界と人間の未来』（新潮社）の一部を再編集したものです。

■人間と動物を区別するものとは何か

「動物には精神がないから、単なる機械である」と定義したのはデカルトだ。さらに彼は「人間には精神があるから単なる機械ではない」と言い、人間と動物の区別をその精神の有無に依るものとした。では、動物が単なる機械だとするならば、人間は複雑な機械なのだろうか。

「動物と機械における制御と通信」という挑発的な副題がついた古典的名著『サイバネティックス』〔1948年〕の著者、故ノーバート・ウィーナーは、コンピューター文化の生みの親のひとりだ。

数学者の彼は第二次大戦中にアメリカ国防総省の要請を受けて、ナチス・ドイツを打ち破るため、まずはナチスの爆撃機を効率よく撃ち落とす対空砲火を開発するべく、数学を軸に、脳科学、物理学、生物学の研究者を一堂に集めて領域を横断した新たな学問を生み出した。

それが「サイバネティクス」だ。そこでウィーナーは計算機、しかも自ら計算する機械を構想する。彼は『サイバネティックス』の中でその構想をこう述べている。

「演算の全過程を計算機の内部に置いて、データが計算機の中にはいり、計算の最終結果がとりだされるまでのあいだ、人間が介入しなくてもよいようにすること、またそのために必要な論理的判断は、計算機が自ら行なうこと」

■自動計算機、AIへの信奉と恐怖

この本が世に出されたのは、戦後すぐの1948年だ。この、アメリカのウィーナーによるサイバネティクスと、イギリスの数学者アラン・チューリングによる自動計算機の発明から、コンピューターの歴史が始まったと言っていいだろう。

だが、ウィーナーは早くも次の著作『人間機械論― 人間の人間的な利用』〔1950年〕において、自動で判断する計算機がもたらす危険性への警鐘を鳴らしている。

現実に危険なのは、（略）そのような機械が、それ自体では無力だが、一人の人間または一にぎりの人間によって、人類の他のすべてのメンバーを管理するのに利用されること、または政治の指導者たちが大衆を、機械そのものによって管理するのではなく、あたかも機械によって算出されたかのような狭くて人間の可能性を無視した政治的技術によって管理しようとすることである。

このように、自ら計算する機械への信奉とそれへの恐怖も、この時点から始まっているのだ。ウィーナーはこうも語っている。「ファシストや実業界や政界の実力者の支配のもとで、人間は、或る高級な神経系をもつ有機体といわれるものの行動器官のレベルにひき下げられてしまった。私は本書を、人間のこのような非人間的な利用に対する抗議に捧げたいのである」。

人間の機械性を先んじて研究し発表したウィーナーは、それがもたらす人間の動物的な利用への警鐘に残りの半生を費やすことになった。

■人間の機械性と「動物性」を考える

思想家の東浩紀氏（撮影＝坂本政十賜）

自ら計算する機械――本書ではそれをAIとまとめて語っているが――の可能性とダークサイドを考えることは、人間の機械性ならびに動物性を考えることに他ならない。本書の連載が決まり「動物と機械からはなれて」というタイトルを決める際に、人間の機械化と並んでもうひとつ参照したのは、「まえがき」でも述べたとおり、思想家の東浩紀が『動物化するポストモダン』（2001年）で提唱した「動物化」の概念だった。

動物化とはなにか。フランスの思想家アレクサンドル・コジェーヴは『ヘーゲル読解入門』〔1947年〕において、人間と動物の差異を「欲望」と「欲求」という言葉を用いて表現した。

コジェーヴによれば、人間は欲望をもつが、動物は欲求しかもたない。動物の欲求は他者なしに満たされるが、人間の欲望は本質的に他者を必要とする。「『動物になる』とは、そのような間主観的な構造が消え、各人がそれぞれ欠乏——満足の回路を閉じてしまう状態の到来を意味する」と、東は『動物化するポストモダン』で解説している。

また、2009年月号の『文學界』に掲載された東のエッセイ「動物化について」では、「動物化」を次のように説明している。

それはとりあえずは、社会が複雑化し、その全体を見渡すことがだれにもできなくなってしまい、結果として多くのひとが短期的な視野と局所的な利害だけに基づいて行動するようになる、そのような社会の変化を意味する言葉です。だからこそ、動物化の時代にいかにして公共性が成立するのか、問われなければならない。

■思想家・東浩紀に聞く「動物化」の現在

『動物化するポストモダン』の刊行から18年が経つ。わたしはあらためて東に「動物化」の現在について話を伺うべく、五反田にある彼の事務所兼出版社、ゲンロンを訪れた。彼は当時の予見が現在、「かなり当たっていると思いますよ」と語りながら、改めてその主題について解説してくれた。

「ポストモダン社会になり、消費者はさまざまな記号の波を軽やかに渡っていくことになりましたが、実際にそこに拡がったのは、消費のなかで与えられるファストフード化された消費財を動物みたいに食べることになる、という現実でした」
「ポストモダン化された社会で行き着く先の人間像が、『動物化』というわけです。動物化に対抗するべきか、それとも人間は動物なのだから柔軟に管理するべきなのか―人間性を巡る議論はこの2つの道に分かれています。現代社会において『人間であるためにはどうすればいいか』を、改めて考えるべきだと思いますね」

人間は環境と調和し、「動物的」に生きていれば幸福である。

エッセイ「動物化について」で、東は「ぼくたちは人間をモノのように処理する社会に生きている。その極限がアウシュビッツですが、原理的には消費社会の日常についても同じことが言える」とも指摘している。

■「動物化とは、そんなに悪いことではない」

消費社会においてそれは現在も加速しているように思えるが、東はどのように捉えているのだろうか。彼はアマゾンのレコメンデーションエンジンやグーグルの検索カスタマイズを例に挙げながら、こう答えた。

「わたしたちは最適な商品が与えられ、そのことに対してお金を供給する機械のような存在になっています。それでも人間が幸せならば、それでいいという考え方もあります。フロイトが言うところの快楽原則では、幸福とはわたしたちの身体が要求している機械的なものなので、それを満たす環境が整うこと自体は良いことです」

「飢えているよりも満腹がいいし、硬い床で寝るよりも柔らかいベッドで寝たいでしょう。空虚な日常よりも適度に耳障りな音楽を与えられ、適度に泣ける物語を与えられたほうがいいに決まっています」

「動物化とは、そんなに悪いことではないんですよ」——東は意外にもそう語る。しかし「そこに飽き足らない人々のことも考えなければいけないんです」と彼は補足する。

「人間は動物的に生きても問題ないわけです。コジェーヴは動物化を定義するときに、人間は環境と調和していない、動物は環境と調和していると表現しましたが、人間も周りの環境と調和して生きたっていいわけです」
「でも、どんな人でも環境と調和したくなくなる時はあるんですよ。そのきっかけは親族の不幸かもしれないし、病気になった瞬間かもしれない。『なぜ人は生きているのか』や『なぜ世界は存在するのだろう』と、超越論的な思考をしてしまう時が人間にはあるんです」

■リアルな世界こそ出会いや発見がある

そのような人々が集い、考える場所が社会にとって必要ではないか——。東がゲンロンを立ち上げ、現在も運営を続けている根幹にはこの考え方がある。

「超越的な視野がほしいかどうかは、その人が決めることです。でも、超越的・哲学的・文学的・人文的な思考をしたい人たちには、社会はそれを提供しなくてはいけない。ただ言っておきたいのは、人が文学的なことばかりを専門的に考えている状態はおかしいということ。『文学的である』状態とは、文学的ではない生活、つまりは動物化が広がっているなかで、あるタイミングで人に訪れるものなんです」

東は2014年に刊行した著書『弱いつながり― 検索ワードを探す旅』で、最適化された世界の外側に向かうための「旅」や「弱いつながり」の重要性を挙げた。

かつてはインターネットやバーチャル空間こそが“人間にとっての新しいフロンティア”として持て囃(はや)されていたが、いまやそれは逆転していると東は考える。

「リアルな社会に息苦しさを感じるからこそ、様々な出会いや発見のあるバーチャルな世界が必要だと言われますよね。ぼくは逆だと思っています。リアルな世界のほうが偶然性が高く、様々なものに出合える可能性が存在しています。リアルな世界での思いがけないものや知らないこととの出合いが、実は頭をリフレッシュしてくれるんです」

■AI社会でも人類は順応して生き続ける

巨大プラットフォーマーである米国のGAFAや中国のBATの成長に伴い、アリババのような企業が提供するAIによるソーシャル・スコア「芝麻信用」などのサービスが台頭する状況を指して、ドイツの政治学者セバスチャン・ハイルマンは「デジタル・レーニン主義」と表現した。

しかし東は「共産主義をAI社会のメタファーとしてもち出すのは間違いではないか」と指摘する。

「共産主義というのは、所有権を廃止するなどの人間の本性に反することをやらせる体制です。一方で現代の巨大デジタルプラットフォーマーは、人間の本性に反することをやらせていません。GAFA批判やBAT批判をしてもしょうがないんです。なぜなら彼らが提供するサービスは人間の本性に基づいていますし、プラットフォーマーが交代しても、また同じものが出てくるだけですから」

巨大デジタルプラットフォーマーの発展の先に、AIによる人類の支配を恐れるような考え方も登場しているが、東はその指摘に対しても、「今の世界と本質的に何が変わるのだろう？」と疑問を呈する。

「いまぼくたちが生きている世界は、世界の超富裕層26人が資産150兆円をもち、それは世界の貧困層38億人と同額と言われています。ごく少数の人々の意向によって世界はガラリと様相を変えている、とも言えるわけです」

■必要なのは「人間の動物性を意識した社会設計」

「それでもぼくたちは普通に生きている。だからこれからも、『AIに富が集中していておかしくないかな？　でもやむなし』と、適度に対処するだけだと思うんです。ぼくらが考える以上に、人間は支配や権力に対して柔軟です。AIやロボットの登場によって、わたしたちのアイデンティティや日常的な感覚、暮らし方は大きくは変わらないと思っています」

そして、そのような人間の動物的な側面を意識した上での社会設計が求められていると、東は提唱している。

「いまや人間性は、動物性や機械性のノイズとしてしか存在しないんです。人間は基本的に動物なんですよ。ただ与えられたモノを食べ、働けと言われたら働き、何も考えずに税金を納め、選挙に行ったらなんとなく政党に票を投じるんです。ゆえに人間の動物的な部分と人間的な部分を考えたときに、どうバランスをとるかが社会設計にとって重要です」

「今後は、人々の無意識の行動がビッグデータによって自動的に政策になったり、社会的な改善策になったりするデジタル・デモクラシーも台頭してくるでしょう。そのようないわば『動物的な民主主義』と、投票による議会制民主主義をどのように調停させるか」

「ぼくが以前提唱した『一般意志2.0』のような仕組み（注：仏哲学者ルソーの概念「一般意志」を大胆に翻案した、大衆の「空気」を技術的に可視化し、合意形成の基礎に据える新しい民主主義）を考えていかなければいけません」

■人間も社会も大きく変わらなかった

情報技術と人文知の交差点に立ち、インターネットの黎明期からそのインパクトを世に伝えてきた東は、社会のテクノロジーに対する捉え方が大きく変化していると指摘する。

「昔はデジタル・テクノロジーがもつ能力が過小評価されていたと思います。でも、それはどこかで逆転したんです。今はテクノロジーへの期待がむしろ過大すぎると思います。気の利いたアプリをひとつつくったとしても、社会は変えられないですよ。でも、そう考えている人が本当に多い」

インターネットの急速な普及や、その後のソーシャルメディアの登場によるコミュニケーションの変化は人々の生活を大きく変える――かつてはそう思われていた。たとえば、2010年代の前半は「アラブの春」や「Occupy Wall Street（ウォール街を占拠せよ）」といったソーシャルメディアを起点とした社会運動が発生したが、結果的にはどれも失敗に終わってしまった。

代わりに台頭したのがポピュリズムであり、2016年のトランプ大統領当選以降はソーシャルメディアに託された希望も潰えていった。

「10年ほど前までは、資金やイデオロギーがなくても、ソーシャルメディアで人を動員すれば、政治的な力が作れるという夢があった。でもその果てがトランプです。ソーシャルメディアによる政治の実験は終わったんだ、と認めるべきだと思います」
「これからは今まで放置していた問題に立ち戻るべきです。単に人を動員すればいいと考えるのではなく、今の時代において政治組織とはどうあるべきなのか、新しい時代のイデオロギーや社会を導く理念はどうあるべきなのか、それらの難しい問題に立ち向かうべきだと思うんです」

■テクノロジーへの過剰な期待は止めたほうがいい

それは政治運動に限らない。コミュニケーション・テクノロジーはわたしたちのライフスタイルを大きく変えたと思われていたが、東はそのあり方にも疑問を呈する。

菅付雅信『動物と機械から離れて AIが変える世界と人間の未来』（新潮社）

「コミュニケーションのテクノロジーがいくら進化しても、人々は同じように喧嘩をし、恋愛をし、薄っぺらいカリスマに熱狂している。人々の行動パターンはあまり変わっていませんし、関心をもつことは何も変わっていない。ぼくもインターネットは少なくとも政治くらいは変えるだろうと思っていました。でも、変わらなかった。むしろ社会を変えていくためには、新しいテクノロジーについて過剰な期待をするのを止めたほうがいいんじゃないかと思います」

だからこそ東は現在、「市民社会をどうつくるか」という古い問題に関心が移っているという。

「デジタル・ガジェットに囲まれた動物的な人々が、それに飽きたらなくなったときに言葉を与える場所をどうつくるか。ゲンロンは、そういうときに社会や政治について考える人が集まる場所として育てていきたいと思っています」
「これまでは批評や哲学などの伝統を引き継いで残す場所というアイデンティティを持っていたのですが、少し方向性を変えました。今の社会の中で哲学的、文学的なことを考えられる場所にしていきたいんですよ」

----------

菅付 雅信（すがつけ・まさのぶ）
編集者、株式会社グーテンベルクオーケストラ代表
1964年生宮崎県生まれ。角川書店『月刊カドカワ』編集部、ロッキングオン『カット』編集部、UPU『エスクァイア日本版』編集部を経て、『コンポジット』『インビテーション』『エココロ』の編集長を務めた後、有限会社菅付事務所を設立。出版からウェブ、広告、展覧会までを編集する。著書に『はじめての編集』『物欲なき世界』『これからの教養』等がある。アートブック出版社ユナイテッドヴァガボンズの代表も務める。下北沢B&Bで『編集スパルタ塾』を主宰。

----------

（編集者、株式会社グーテンベルクオーケストラ代表 菅付 雅信）