それらしい記事をスラスラ書くAIの恐怖
プレジデントオンライン / 2019年7月18日 9時15分
■人間が書いたものと勘違いしてしまうクオリティ
人工知能(AI)が世界を変えるという認識はかなり広がっているが、具体的にどうなるのかはまだイメージしにくい。
論理的に考えれば、こうなると予想できそうなものだけれども、私たちは案外、身体的にものを考えるようにできている。実際にある技術ができて、具体的な状況にならないと、本気になってそのことを考えようとしないのである。
徐々に水の温度が上がっているのに気づかずに、やがてやられてしまう「茹でガエル」の喩えがしばしば用いられる。人工知能について、私たちは茹でガエルになってしまってはいけないだろう。
イーロン・マスク氏らが中心となって設立された、人類にとって有益な人工知能を開発するための組織、OpenAIが、このほど、自然言語処理の研究プロジェクトの成果についてブログ上に論文を発表した。技術的説明を与えると同時に、その成果である人工知能を、一般には当面公開しないと表明したのである。
OpenAIの研究者たちによれば、今回開発されたGPT-2と呼ばれる人工知能は、書き出しの文章を与えられればそれに合った続きの文章を自動生成してしまう。
人間にはとても扱えないほどの大量の文章データを取り込んで学習した結果、このような高度な能力を獲得することが可能になった。
ニュースや小説の出だしをインプットとして与えると、GPT-2は「それらしい」続きの文章を自動生成してしまう。かなり見事なもので、下手をすれば人間が書いたものと勘違いしてしまうクオリティである。
なぜ、OpenAIの関係者たちはGPT-2が危険だと判断したのだろうか?
まずは、フェイクニュースの懸念がある。前回の米大統領選挙においてもフェイクニュースが問題になったが、それは人間が書いたものであった。もし、人工知能が大量のフェイクニュースを生成したら、どうなるか? ネット上に溢れる情報のうち、どれが真のものなのか、ますますわからなくなってしまう。
しかも、読み手の属性に合わせて、その考えや行動を変えるために最適化されたフェイクニュースを生み出す研究も行われているという。つまり、1万人いたら1万通りの文章をつくることも可能になってしまうのである。
生身の人間ならば、1万人の相手に1万通りのニュースを書きわけるのは不可能である。疲れを知らない人工知能ならばそれはもちろん可能だ。
さらに、ネット上に商品やサービスに関する大量のレビューを書くことも可能になる。褒める場合もけなす場合も、人間ではとても太刀打ちできない量の文章を撒き散らされたら、どうすることもできないだろう。
■「文化」や「文明」を破壊する可能性
方向さえ与えられれば「それらしい」文章を大量生成できる。そんなシンプルな人工知能の能力が、よく考えれば私たちがネットで築き上げた「文化」や「文明」を破壊する可能性を持つ。
OpenAIはGPT-2の公開を中止したが、同じようなことをやろうとする人たちはこれからも出てくるに違いない。
ネット上に大量に溢れる文章が、人間によるものか人工知能によるものか判別できなくなったらどうなるか? 自然言語を処理する人工知能を人類にとって有益な方向で活用するために必要なことを、今すぐ考え始めるべきだ。
(脳科学者 茂木 健一郎 写真=PIXTA)
外部リンク
この記事に関連するニュース
-
上司から「100個のアイデアを出して」と言われたらどうするか…仕事が異常に早い人が無茶ぶりに応えられるワケ
プレジデントオンライン / 2024年7月18日 10時15分
-
生成AIやLLMにより高度化するフィッシング、どう対抗するか 第1回 企業の生成AI活用におけるメリットとリスクとは
マイナビニュース / 2024年7月16日 9時52分
-
もはや「ChatGPT」で騒いでいる場合ではない? 深みある日本語を生成するAI「Claude」の凄さ
東洋経済オンライン / 2024年7月15日 8時20分
-
AI生成文章の検出モデルを開発 GPTシリーズで生成された日本語の文章を高精度に検出
PR TIMES / 2024年7月2日 10時0分
-
「最新の生成AI」はすでに人類の半数以上よりアタマが良い…落合陽一「今後、人類の働き方は大きく変わる」
プレジデントオンライン / 2024年6月21日 9時15分
ランキング
-
1マクドナルドが「ストローなしで飲めるフタ」試行 紙ストローの行方は...?広報「未定でございます」
J-CASTニュース / 2024年7月17日 12時55分
-
2永谷園、MBO成立=今秋にも上場廃止
時事通信 / 2024年7月17日 20時36分
-
3「レイバン」メーカー、人気ブランド「シュプリーム」を15億ドルで買収
ロイター / 2024年7月18日 8時34分
-
4申請を忘れると年金200万円の損…荻原博子「もらえるものはとことんもらう」ための賢者の知恵
プレジデントオンライン / 2024年7月17日 8時15分
-
5「7%だったら仕方ない」牛丼チェーン松屋が“深夜料金”を本格的に導入 人件費を価格に転嫁【Nスタ解説】
TBS NEWS DIG Powered by JNN / 2024年7月17日 20時37分
記事ミッション中・・・
記事にリアクションする
![](/pc/img/mission/mission_close_icon.png)
記事ミッション中・・・
記事にリアクションする
![](/pc/img/mission/point-loading.png)
エラーが発生しました
ページを再読み込みして
ください
![](/pc/img/mission/mission_close_icon.png)