美術コンテストに｢AIが自動生成した画像｣とは名乗らずに出品…あっさり優勝したクリエイターが語ったこと

※写真はイメージです - 写真＝iStock.com／ArtemisDiana

人工知能（AI）の発達により、本物と見分けがつかないほどリアルな「ディープフェイク」と呼ばれる画像、音声、映像が流通し始めている。東京工業大学の笹原和俊教授は「ディープフェイクは何を可能にし、それが普及した社会では何が起こるのか。私たちはそのことを真剣に考える時期に来ている」という――。

※本稿は、笹原和俊『ディープフェイクの衝撃』（PHP新書）の一部を再編集したものです。

■「ポルノ動画」も「大統領演説」も自由自在に作れる

想像してみてほしい。自分が出演しているとしか思えないリアルなポルノ動画がインターネット上に拡散し、二度と消せない世界を。スマートフォンのアプリで、彼(か)の国の大統領の発言を自在に捏造(ねつぞう)することができ、誤認から核のボタンが押されかねない世界を。

これらの事態が起こる確率はゼロではない。そこに深く関わる技術が「ディープフェイク（Deepfake）」だ。

ディープフェイクとは、人工知能（AI）の技術を用いて合成された、本物と見分けがつかないほどリアルな人物などの画像、音声、映像やそれらを作る技術のことである。この技術を用いると、どんな人物に対しても、実際には言っていないことを言ったように加工したり、やっていないことをやったかのように捏造したりすることができる。

■だれでも「捏造」や「創造」ができるようになった

ディープラーニング（深層学習）という機械学習の手法の発展と、利用できるデータが爆発的に増大したことによって、本物か偽物かの見分けがつかないメディアを合成することが可能になった。「合成」というと中立的な響きだが、その行為の背後に悪意があれば「捏造」だし、アートやものづくりの新しい表現方法として使えば「創造」ということになる。

数年前まで、ディープフェイクは専門的な知識と技術、大量のデータと高性能なコンピュータがなければ作ることは困難だった。しかし、簡便なツールやサービスが誕生し、誰もがたやすく安価に作成できるような時代に突入した。

ディープフェイクは何を可能にし、それが普及した社会では何が起こるのだろうか。私たちはそのことを真剣に考える時期に来ている。2017年に登場したディープフェイクの技術は、その後の数年で飛躍的な発展を遂げ、想像もしなかったような使用例が次々と登場している。それによって新たな社会問題も起きている。

■ウクライナ侵攻下の「SNS戦争」

ディープフェイクの技術はポルノや詐欺など様々な用途に悪用されうるが、想定される中で最悪なものが戦争への利用だろう。つまり、情報戦において「リアルな視覚的デマ」を作る武器として使われるということである。そして、そのような事態は起こってしまった。

写真＝iStock.com／Tero Vesalainen

※写真はイメージです - 写真＝iStock.com／Tero Vesalainen

2022年2月24日、ロシアによるウクライナへの軍事侵攻が始まった。これはSNS時代初の戦争である。

SNSは現地の様子を伝え、遠隔の人々をつなぎ、支援の輪を広げる役割を果たしているが、フェイクニュースやプロパガンダを増幅する役割も担ってしまっている。実際、「ウクライナの戦争はでっちあげで、民間人の犠牲者は俳優たちが演じているのだ」というデマも広がった。その証拠として拡散された男性と女性が顔に血糊を塗る動画は、2020年のウクライナのテレビドラマで撮影されたものだった。

2022年3月上旬、ロシアはフェイスブック、インスタグラム、ツイッターなどの主要なSNSへのロシア国内からのアクセスを遮断した。ただし、ユーチューブだけは例外で、いまだにロシア国内では欧米の動画が視聴できる状態が続いている。この理由についてウォール・ストリート・ジャーナルは、ユーチューブに匹敵するロシア系の動画サイトがないため、ブロックすると国民の反発を招くからだと推測している。偽動画でプロパガンダを仕掛けているロシアにとって、ユーチューブが情報統制の穴になっている。

■「武器を置いて降伏せよ」とゼレンスキーが呼びかける偽動画

同年3月16日、先述の懸念が現実のものとなった。ウクライナのウォロディミル・ゼレンスキー大統領が、国民に武器を置いて降伏するように呼びかける偽動画が、何者かによるハッキングによって、ウクライナのニュースチャンネルのサイトで公開された。しかし、この動画のゼレンスキーは、不自然に体の動きが少なく、声が本人よりも低いなど、すぐに偽物と見破られる程度のものだった。

それでも、この偽動画は、ユーチューブやフェイスブックに投稿され、インターネット上に広まり、ロシア発のチャットツールの「テレグラム（Telegram）」やロシア最大級のSNSである「フコンタクテ（VKontakte）」にも広まった。

この事態を受けてゼレンスキーは、自らのインスタグラムの投稿で、速やかにこのディープフェイク動画の内容を否定し、これは子供じみた挑発であると断じた。いつもは後手に回りがちなプラットフォームも、誤解を招く恐れのある操作されたメディアに対するポリシーに違反したとして、直ちに投稿された動画を削除した。

■的確な対処で大惨事は防げたが

この事件はディープフェイクが戦争に用いられた最初の例だが、それを見事に火消した好例でもある。テクノロジーメディア「ワイアード」の記事によると、ウクライナ政府の戦略的コミュニケーションセンターは、ゼレンスキーがロシアへの降伏を発表しているように見せかけた偽動画をロシアが作成している可能性に早くから気づき、備えていたようである。

ゼレンスキーは、事件が起きた後、SNSで速やかに訂正情報を自ら発信した。そのため、偽ゼレンスキー動画にだまされて投降するウクライナ人が出ることを防いだ。そして、その迅速な対応は、プラットフォーム事業者の速やかな対応を促した。

人類史上初のディープフェイクの戦争利用は、幸いにして大惨事を防ぐことができたのだが、これがもっと精度が高いディープフェイクだったらと思うと背筋が凍る。政治指導者のディープフェイクは、今後ますます高度化することが懸念される。

■AIが描いた絵画が品評会で優勝

2022年は、生成AIのブームが巻き起こった年として記憶されるだろう。「生成AI（Generative AI）」とは、入力データから新たに別のデータを作り出すAIのことで、画像、音声、自然言語などの分野で盛り上がりを見せている。文章で指示を与えると、プロの画家が描いたようなクオリティの絵画、歌手のような自然な歌声、新聞記者が書いたような記事が自動で生成される。

笹原和俊『ディープフェイクの衝撃』（PHP新書）

特に画像分野では、「ダリ（DALL・E）2」や「ミッドジャーニー（Midjourney）」などの高性能のAI画像生成サービスが次々と発表され、話題となり、生成した作品をSNSに投稿するユーザが激増した。例えば、「an astronaut riding a horse（乗馬する宇宙飛行士）」というテキストを画像生成AIに入力すると、リアルな絵が1分もかからずに生成される。AIの想像力を感じるような絵である。

特に印象的な出来事は、2022年8月に米国コロラド州で開催された美術品評会で、画像生成AIが生成した絵画が優勝したことである。この作品を提出したのは、米国のボードゲームメーカーのCEOを務めるジェイソン・アレンである。

彼は、画像生成AIの1つであるミッドジャーニーを使って、100枚以上の絵を自動生成し、その中から3枚の絵を選んで、さらに、画像編集ソフトのフォトショップ（Photoshop）を使って微調整を繰り返して、作品を完成させた。そして、提出した3つの作品のうちの1つ「Theatre D'opera Spatial（宇宙のオペラ座）」が優勝を勝ち取った（提出の際、アレンは作品の制作にミッドジャーニーを使用したことを開示していたが、2人の審査員はミッドジャーニーがAIプログラムであることを知らなかった）。

■日常に浸透し始めた画像生成AI

この作品には、ドレス姿の婦人たちがいる大舞台に、神々しい光が差し込んでいる様子が描かれている。著者のような素人でも高い芸術性を感じる絵だし、AIが描いた絵だと言われても、にわかには信じられないクオリティである。

写真＝Jason M. Allen／SWNS／アフロ

2022年8月、米国コロラド州で開催された美術品評会で優勝した、画像生成AIが生成した絵画「Theatre D'opera Spatial（宇宙のオペラ座）」。 - 写真＝Jason M. Allen／SWNS／アフロ

優勝が決まった後、アレンはSNSへの投稿で、この作品がミッドジャーニーで生成したものであることを改めて明かした。AIが描いた絵画が優勝したことに対して、その創作力を褒め称える声もあれば、芸術に対する侮辱だと批判する声もあり、SNS上で賛否両論の議論が巻き起こった。中には、「これがAIの作品だと審査員が知っていたら、優勝することはありえなかっただろう」と指摘する者もいた。

後のインタビューでアレンは、「この行為が物議を醸(かも)すことはわかっていた」と発言している。そして、「いずれは、AIが制作した芸術を『AIアート』として、独自のカテゴリーを作ることになるだろう」と述べている。

チェスや将棋で人間を打ち負かしたAIが、とうとう絵画でも人間を超えてしまった。この一件は、「創造性こそが人間に唯一の特徴」だと思い込んでいた私たちに疑問を突きつけ、AIの想像力や、AIと人間の望ましい関係性について再考を迫られる出来事である。そして、ディープフェイクのツールとして、画像生成AIが日常に浸透し始めたことを暗示している。

私たちは、ディープフェイクの危険性と可能性を、もっと広い社会的文脈で捉える必要があるといえるだろう。

----------

笹原 和俊（ささはら・かずとし）
東京工業大学環境・社会理工学院准教授
1976年福島県生まれ。2005年東京大学大学院総合文化研究科博士課程修了。博士（学術）。専門は計算社会科学。理化学研究所BSI研究員、日本学術振興会特別研究員PD、名古屋大学大学院情報学研究科講師等を経て現職。主著に『フェイクニュースを科学する　拡散するデマ、陰謀論、プロパガンダのしくみ』（化学同人）。

----------

（東京工業大学環境・社会理工学院准教授 笹原 和俊）