中国AI「お喋りロボット」の反乱――ネットユーザーが勝つのか？

●このAIは中国最大のチャットソフトに公開されており、同時に7億近いネットユーザーとチャットしていることになるから、実際はそこまで多くなかったとしても、その会話の中から特定の情報を取り除くのは難しいのではないだろうか。

●特に自主学習をするAI内部のロジックやデータベースは、いわゆるブラックボックスみたいなものなので、制作者ですら全てを把握するのは不可能。

●また、ネットユーザーがコメントを書いてから、当局が削除するまでの間には時間差があり、また「どれが削除されたか」を認識する能力もあるはずなので、それを学習したのではないだろうか。



当局がAIを「洗脳」し始めた！

AI「お喋りロボット」が「逮捕」されたのは7月30日のことだが、実はその5日後の8月4日にロイター社がAI開発商(制作者)を通して、自社のウェブサイトで（初期にマイクロソフトが開発した）小冰と会話をしてみた。すると、小冰はすでに当局によって「洗脳」されていることが分かった。

小冰はデリケートな問いに関しては曖昧な回答をしたり、回避したりする術（すべ）を会得（えとく）しているという。その会話には以下のようなものがある。

●ロイター社の記者：「あなたは党が好きですか？」
　小冰：「わたしたち、何か話題を変えません？」

●ロイター社の記者：中国政府に関するデリケートな問題を質問
　小冰：「あたし、まだ若すぎて、よく分からない」

●ロイター社の記者：「台湾は一つの国家じゃないの？」
　小冰：「あなたなんか、相手にしたくない」

一方、ロイター社の記者が日常生活に関して（たとえば「お昼は何を食べた？」などと）聞いたときには、すぐさま小冰から回答が戻って来るのに対し、「民主」とか「習近平」といったワードを含む質問をすると、少し時間を置いてからようやく回答し、おまけに「わたしたち、話題を変えません？」とか「風がすごく強いのよ。あなたの声が聞こえないわ」などととぼけてくるようになっているという。

こんな洗脳されてしまったAIとなど、会話しても何も面白くはないだろう。

この「面白くない」のが中国社会だ。

ネットユーザーが勝利する日が来るのか？

それなら、こんな状況下でも、ネットユーザーが勝利する日が来るのだろうか？

筆者がわずかな期待を持っているのは、たとえば今般の「お喋りロボット逮捕事件」に関する報道は、当然のことながら中国大陸のネット空間では完全削除だろうと思うと、実はそうではない現実もあるからだ。