それらしい記事をスラスラ書くAIの恐怖

フェイクニュースは、インターネットを主戦場として発信・拡散されている。（PIXTA＝写真）

■人間が書いたものと勘違いしてしまうクオリティ

人工知能（AI）が世界を変えるという認識はかなり広がっているが、具体的にどうなるのかはまだイメージしにくい。

論理的に考えれば、こうなると予想できそうなものだけれども、私たちは案外、身体的にものを考えるようにできている。実際にある技術ができて、具体的な状況にならないと、本気になってそのことを考えようとしないのである。

徐々に水の温度が上がっているのに気づかずに、やがてやられてしまう「茹でガエル」の喩えがしばしば用いられる。人工知能について、私たちは茹でガエルになってしまってはいけないだろう。

イーロン・マスク氏らが中心となって設立された、人類にとって有益な人工知能を開発するための組織、OpenAIが、このほど、自然言語処理の研究プロジェクトの成果についてブログ上に論文を発表した。技術的説明を与えると同時に、その成果である人工知能を、一般には当面公開しないと表明したのである。

OpenAIの研究者たちによれば、今回開発されたGPT-2と呼ばれる人工知能は、書き出しの文章を与えられればそれに合った続きの文章を自動生成してしまう。

人間にはとても扱えないほどの大量の文章データを取り込んで学習した結果、このような高度な能力を獲得することが可能になった。

ニュースや小説の出だしをインプットとして与えると、GPT-2は「それらしい」続きの文章を自動生成してしまう。かなり見事なもので、下手をすれば人間が書いたものと勘違いしてしまうクオリティである。

なぜ、OpenAIの関係者たちはGPT-2が危険だと判断したのだろうか？

まずは、フェイクニュースの懸念がある。前回の米大統領選挙においてもフェイクニュースが問題になったが、それは人間が書いたものであった。もし、人工知能が大量のフェイクニュースを生成したら、どうなるか？　ネット上に溢れる情報のうち、どれが真のものなのか、ますますわからなくなってしまう。

しかも、読み手の属性に合わせて、その考えや行動を変えるために最適化されたフェイクニュースを生み出す研究も行われているという。つまり、1万人いたら1万通りの文章をつくることも可能になってしまうのである。

生身の人間ならば、1万人の相手に1万通りのニュースを書きわけるのは不可能である。疲れを知らない人工知能ならばそれはもちろん可能だ。

さらに、ネット上に商品やサービスに関する大量のレビューを書くことも可能になる。褒める場合もけなす場合も、人間ではとても太刀打ちできない量の文章を撒き散らされたら、どうすることもできないだろう。

■「文化」や「文明」を破壊する可能性

方向さえ与えられれば「それらしい」文章を大量生成できる。そんなシンプルな人工知能の能力が、よく考えれば私たちがネットで築き上げた「文化」や「文明」を破壊する可能性を持つ。

OpenAIはGPT-2の公開を中止したが、同じようなことをやろうとする人たちはこれからも出てくるに違いない。

ネット上に大量に溢れる文章が、人間によるものか人工知能によるものか判別できなくなったらどうなるか？　自然言語を処理する人工知能を人類にとって有益な方向で活用するために必要なことを、今すぐ考え始めるべきだ。

（脳科学者 茂木 健一郎 写真＝PIXTA）