それらしい記事をスラスラ書くAIの恐怖
プレジデントオンライン / 2019年7月18日 9時15分
■人間が書いたものと勘違いしてしまうクオリティ
人工知能(AI)が世界を変えるという認識はかなり広がっているが、具体的にどうなるのかはまだイメージしにくい。
論理的に考えれば、こうなると予想できそうなものだけれども、私たちは案外、身体的にものを考えるようにできている。実際にある技術ができて、具体的な状況にならないと、本気になってそのことを考えようとしないのである。
徐々に水の温度が上がっているのに気づかずに、やがてやられてしまう「茹でガエル」の喩えがしばしば用いられる。人工知能について、私たちは茹でガエルになってしまってはいけないだろう。
イーロン・マスク氏らが中心となって設立された、人類にとって有益な人工知能を開発するための組織、OpenAIが、このほど、自然言語処理の研究プロジェクトの成果についてブログ上に論文を発表した。技術的説明を与えると同時に、その成果である人工知能を、一般には当面公開しないと表明したのである。
OpenAIの研究者たちによれば、今回開発されたGPT-2と呼ばれる人工知能は、書き出しの文章を与えられればそれに合った続きの文章を自動生成してしまう。
人間にはとても扱えないほどの大量の文章データを取り込んで学習した結果、このような高度な能力を獲得することが可能になった。
ニュースや小説の出だしをインプットとして与えると、GPT-2は「それらしい」続きの文章を自動生成してしまう。かなり見事なもので、下手をすれば人間が書いたものと勘違いしてしまうクオリティである。
なぜ、OpenAIの関係者たちはGPT-2が危険だと判断したのだろうか?
まずは、フェイクニュースの懸念がある。前回の米大統領選挙においてもフェイクニュースが問題になったが、それは人間が書いたものであった。もし、人工知能が大量のフェイクニュースを生成したら、どうなるか? ネット上に溢れる情報のうち、どれが真のものなのか、ますますわからなくなってしまう。
しかも、読み手の属性に合わせて、その考えや行動を変えるために最適化されたフェイクニュースを生み出す研究も行われているという。つまり、1万人いたら1万通りの文章をつくることも可能になってしまうのである。
生身の人間ならば、1万人の相手に1万通りのニュースを書きわけるのは不可能である。疲れを知らない人工知能ならばそれはもちろん可能だ。
さらに、ネット上に商品やサービスに関する大量のレビューを書くことも可能になる。褒める場合もけなす場合も、人間ではとても太刀打ちできない量の文章を撒き散らされたら、どうすることもできないだろう。
■「文化」や「文明」を破壊する可能性
方向さえ与えられれば「それらしい」文章を大量生成できる。そんなシンプルな人工知能の能力が、よく考えれば私たちがネットで築き上げた「文化」や「文明」を破壊する可能性を持つ。
OpenAIはGPT-2の公開を中止したが、同じようなことをやろうとする人たちはこれからも出てくるに違いない。
ネット上に大量に溢れる文章が、人間によるものか人工知能によるものか判別できなくなったらどうなるか? 自然言語を処理する人工知能を人類にとって有益な方向で活用するために必要なことを、今すぐ考え始めるべきだ。
(脳科学者 茂木 健一郎 写真=PIXTA)
外部リンク
この記事に関連するニュース
-
「GPT-4o」の正しい読み方は「~○ムニ」って知ってる? 概要や使い勝手をおさらい
ITmedia Mobile / 2024年9月19日 19時37分
-
AIシンギュラリティは来ない/日沖 博道
INSIGHT NOW! / 2024年9月18日 7時7分
-
【日本初】Topaz「ビジネスAI」OpenAI o1・OpenAI o1-miniの新規モデルを提供開始
PR TIMES / 2024年9月13日 10時45分
-
生成AI「リートン」、webおよびアプリにて「GPT-4o mini」実装開始
PR TIMES / 2024年8月26日 16時15分
-
「中国AI」はChatGPTを超えるか?驚く実態(前編) 【現場報告】「未来のBAT」はどこから生まれる?
東洋経済オンライン / 2024年8月26日 9時30分
ランキング
-
1「コンビニは高い」払拭目指すセブン-イレブン 松竹梅の“梅”重点強化
食品新聞 / 2024年9月20日 9時57分
-
2漁業関係者、「ぬか喜びにならなければ」=歓迎も中国側の手のひら返し警戒
時事通信 / 2024年9月20日 20時55分
-
3ほっかほっか亭「コラボ依頼して賛否」への違和感 日清食品「10分どん兵衛」の成功例に倣えるか
東洋経済オンライン / 2024年9月20日 15時20分
-
4ミニストップ、外国籍の利用客に“不適切な張り紙” 「問題を重く受け止め」謝罪
ORICON NEWS / 2024年9月20日 15時53分
-
5為替相場 21日(日本時間 5時56分)
共同通信 / 2024年9月21日 6時0分
記事ミッション中・・・
記事にリアクションする
記事ミッション中・・・
記事にリアクションする
エラーが発生しました
ページを再読み込みして
ください