生成AIのメリットだけに注目する局面は終わった 進化の速さに制度が追いついてこない現実
東洋経済オンライン / 2024年3月22日 8時30分
もちろんDiffusion Transformerを基盤技術として採用しているモデルはSoraだけではない。2024年2月にスタビリティAIによって発表された最新のモデルである「Stable Diffusion 3」でも採用されている。
「Sora」が一般公開されない理由
モデルサイズの巨大化やさまざまなデータソースを用いた効率的な学習基盤技術に関する研究は、急速に進化していくであろう。しかし、生成AIの能力が向上するにつれ、悪意ある使用が大きな問題となっている。実際の画像と見分けがつかないクオリティの生成が可能であるため、有名人に関するフェイク画像がSNS上で拡散されるなどの問題が生じている。
このような問題への関心が高まる中、OpenAIは発表から1カ月が経過してもSoraの一般公開を行っていない。現在、安全な利用に向けてレッドチームと呼ばれる専門家チームを構成し、倫理的に問題のある使い方が可能かどうかを検証しているフェーズである。特に、生成AIの悪用に関して関心度が高いのは選挙である。2024年11月にはアメリカ大統領選挙を控えているため、生成AIの悪用リスクへの懸念が高まっている。この点に対応するため、グーグルは自社の生成AIであるGeminiに対し、選挙関連の質問には答えないよう制御すると発表している。
すでに生成AIの活用は進んでおり、扱えるモダリティが増えるにしたがって今まで利用していなかった業界にも波及していくだろう。しかし、生成AIの利便性などのポジティブな面のみにフォーカスしていた局面は転回点を迎えている。今後は生成AIの開発者、ユーザーに対して倫理面に配慮したガイドラインの設計が不可欠となるだろう。
阿部 将大:NRIデジタル エキスパートデータサイエンティスト
外部リンク
この記事に関連するニュース
-
医師とのタッグで挑む、医療用マルチモーダルAIの先駆け的研究
ASCII.jp / 2024年7月2日 10時0分
-
生成AIの動作原理を基礎から学ぶ【 Transformer講座 】複数社合同講座 iLect Academy 開催決定
PR TIMES / 2024年6月27日 12時15分
-
スマホ上でも高速動作可能な21言語の高品質ニューラル音声合成技術を開発
共同通信PRワイヤー / 2024年6月25日 14時0分
-
<2024 AIトレンド通信 5月>OpenAIがSpring Updateにて「GPT-4o」発表
PR TIMES / 2024年6月18日 13時45分
-
AIに難しい「時間的な動き」の理解、動画-自然言語モデルで目指す突破口
ASCII.jp / 2024年6月13日 10時0分
ランキング
-
1FRBの利下げ開始「9月」の見方強まる…6月の米雇用統計、人手不足の緩和傾向で
読売新聞 / 2024年7月6日 22時30分
-
2サクランボ王国・山形県に異変 6月の暑さで収穫減、対策急務
共同通信 / 2024年7月6日 16時15分
-
3最悪、〈和式トイレ〉で助けを求める事態にも…老後の健康維持のために取り入れておきたい「超簡単な習慣」【60代の人気エッセイストが助言】
THE GOLD ONLINE(ゴールドオンライン) / 2024年7月7日 10時0分
-
4日本の中古車相場が「ロシア」の影響で下落!? 厳しい「輸出規制」のなかで「売れている」クルマも? 意外な“ロシア行き日本車”とは
くるまのニュース / 2024年7月6日 12時10分
-
5ミニストップ“大量閉店”でもスイーツ人気は底なし!? 「ソフトクリーム」や「ハロハロ」がいつの間にか遂げた進化
集英社オンライン / 2024年7月6日 19時0分
記事ミッション中・・・
記事にリアクションする
![](/pc/img/mission/mission_close_icon.png)
記事ミッション中・・・
記事にリアクションする
![](/pc/img/mission/point-loading.png)
エラーが発生しました
ページを再読み込みして
ください
![](/pc/img/mission/mission_close_icon.png)