良いことばかりではない？ 生成AIが普及することによる長期的な負の影響。デジタル空間の全てを疑いの目で見る世界と、人間の関係が希薄化する懸念

「AIに聞けばなんでも解決する」ということは、裏を返せばAI以外のものに一切頼らなくなるということである。そしてそれはともすれば個人個人の人や組織との関係が希薄になるということでも……そう指摘するのは書籍『生成AIで世界はこう変わる』の著者、今井翔太氏だ。規制や我々の知識が追いつかないまま成長を続けるAI生成のディープフェイクの危険性ついて、書籍より一部抜粋して紹介する。

#1
#3

デジタルコンテンツは本物と
偽物の区別がつかなくなる？

突然ですが、「トランプ大統領逮捕」などのワードでGoogle検索して、関連画像を見てください。いくつかの画像が出てくると思いますが、そのなかにトランプ元アメリカ大統領が複数の警官に取り押さえられている写真があると思います。

見かけ上は本物の写真のようですが、これはMidjourneyによってつくられたフェイク画像で、ディープラーニングを用いて生み出されるフェイクコンテンツ、いわゆる「ディープフェイク」です。

トランプ大統領

トランプ元大統領はこのフェイク画像が出回ったあと、逮捕ではないものの本当に起訴されてしまい、本物の警察記録写真（マグショット）が出回ることになるのですが、現在のインターネット上では、フェイクと本物の逮捕・起訴写真が混在しており、あたかも両者に関連性があるように見える状況になっています。

ディープフェイク自体は、生成AIブーム以前から問題視されていました。しかし、当時のものは技術的に未成熟であり、不自然な部分が多く存在したり、動画像以外の部分についてはフェイクが難しかったりしました。

しかし、生成AIの発展によって、デジタル化できるコンテンツについてはほとんどすべてにおいて、本物と見分けがつかないものを生成できてしまう世界が近づいています。現在では、実在しない人間の画像を生成し、それを違和感なく動かした動画をつくることが可能であり、個人の声についても30分、高品質なものを求めなければ3秒程度のサンプルがあれば、本人のものと聞き分けることができない声を生成することができます。

すでに何度か触れたように、イラストについても、特定のイラストレーターが描いたものと見分けがつかないものを第三者が生み出すことができます。言語生成AIによる文章は、個人の属性に対するフェイクとして機能することはほとんどありませんが、偽情報を流す目的で利用される可能性があります。

また、使用者本人が意図しない形で誤った情報を含む文章が生成され、拡散される可能性もあります。このような世界では、デジタル空間で目にするあらゆるコンテンツを疑わざるをえません。おまけに、自分に関連したフェイクコンテンツがどこかで作成され、拡散される可能性に怯えながら生きることになります。

このような事態は回避すべきです。また、フェイクではなくても、第4章でも述べたように、AIが用いられた作品がどの程度人間から受け入れられるかは、まだ議論の余地があります。生成AIで誰もが生産者になれるとしても、人が本質的には人によってつくられた作品を好むという事実を考えると、既存の作品と同じ場で無制限に公開されることには慎重になる必要があります。

すでに、生成AIによって生成されるコンテンツに対して、透かしを入れたり、生成される過程を記録・開示したりするなど、さまざまな対策が検討されていますが、対策しようとする検知側とそれを回避しようとする生成側とのイタチごっこが続いているというのが実情です。

高度な生成AIによって生み出されたものを発見できるのは、同じく高度なAIを置いてほかにはありません。私の意見としては、生成AIのサービスを提供する側が、検知のための機能も同時に提供する、という形になっていくことが妥当だと思われます。

情報の送り手と受け手の
つながりが希薄化する？

本章の冒頭で、「AIに聞けばなんでも解決する」世界がやってくると述べました。単純な質問の解決だけでなく、創作などもAIによって生成されたものを参考にすることが多くなってくるかもしれません。ユーザー視点では、得られる情報が検索よりも質が高いものになる、探しやすくなるなどの利点があるでしょう。

しかし、「AIに聞けばなんでも解決する」ということは、裏を返せばAI以外のものに一切頼らなくなるということです。今までは、自分だけでは解決できない問題に遭遇した場合、身近な人に聞く、検索によってたどり着いた記事を参考にする、他の人によって作成されたコンテンツを参考にするといった手段で解決を試みていました。

この過程で、アドバイスを求めて話を聞いた人、参考となる資料やコンテンツを作成した人、あるいは認知した企業などの存在を、なんらかの形で意識することになります。その結果、人や組織との関係が生まれる、個人や企業のプロモーションにつながる、参考にした相手への敬意が生じるといったつながりが生まれていました。

ところが、AIによって解決される範囲が増えすぎると、これらが希薄化する懸念があります。

情報発信やコンテンツの作成を生業としている側の視点では、この事態は致命的です。プロモーションの機会が失われることで、利益の減少にも直結します。特に、活字媒体の利用には大きく影響するでしょう。

この事態を軽減するためには、生成AIの生成結果に出力の根拠の引用を含めるといった処置が考えられますが、現在の生成AIのモデルそのものには、出力から学習に使用したデータの出典を特定する機能は存在しません。今後は出力結果から類似度検索を実行し、できる限り出典を開示するようなシステムの需要が出てくるでしょう。

写真／shutterstock

#1 すでに見抜けないAI技術 人かAIかは背景情報にしかなりえない
#3 日本のAIに関する法律と、規制が困難な現状

生成AIで世界はこう変わる(SBI新書)

今井翔太

2024年1月7日

990円

256ページ

ISBN：

978-4815622978

新進気鋭のAI研究者が大予測！ 生成AIで変わる私たちの仕事・くらし・文化

話題の生成AI、どこまでなにができる？AIって結局、どんなしくみで動いているの？
最新テクノロジーで私たちの仕事は奪われる？AIで働き方や生活がどう変わるのか知りたい…

ChatGPT、Bing、Claude、Midjourney、Stable Diffusion、Adobe Firefly、Google Bard…今世紀最大ともいえる変革を全世界にもたらした、生成AI。

この時代を生きるわたしたちにとって、人工知能をはじめとする最新テクノロジー、そしてそれに伴う技術革新は、ビジネス、社会生活、娯楽など、多様な側面で個々人の人生に影響を及ぼす存在となっています。

ただでさえ変化スピードが速く、情報のキャッチアップに苦戦するテクノロジー領域。数か月後には今の状況ががらりと変わってる可能性が非常に高い…そのような状況下で、今私たちは生きています。

ホットな話題でいえば、「クリエイターはみなAIに取って代わられるのでは？」「人間にしかできない価値創造ってなに？」など、これまで当たり前だと信じて疑わなかった「労働」「お金」「日常生活」などのパラダイムシフトが起こっています。

そんな今、まさにみなさんに手に取っていただきたいのがこの１冊です。この時代を生きる多くの方が抱いているであろう不安や疑問、そして未来への興味関心に、本書はお応えします。本書では、AI研究の第一人者である東京大学教授・内閣府AI戦略会議座長を務める松尾豊氏の研究室所属の今井翔太氏が、生成AIで激変する世界を大予測！