生成AIのメリットだけに注目する局面は終わった 進化の速さに制度が追いついてこない現実
東洋経済オンライン / 2024年3月22日 8時30分
もちろんDiffusion Transformerを基盤技術として採用しているモデルはSoraだけではない。2024年2月にスタビリティAIによって発表された最新のモデルである「Stable Diffusion 3」でも採用されている。
「Sora」が一般公開されない理由
モデルサイズの巨大化やさまざまなデータソースを用いた効率的な学習基盤技術に関する研究は、急速に進化していくであろう。しかし、生成AIの能力が向上するにつれ、悪意ある使用が大きな問題となっている。実際の画像と見分けがつかないクオリティの生成が可能であるため、有名人に関するフェイク画像がSNS上で拡散されるなどの問題が生じている。
このような問題への関心が高まる中、OpenAIは発表から1カ月が経過してもSoraの一般公開を行っていない。現在、安全な利用に向けてレッドチームと呼ばれる専門家チームを構成し、倫理的に問題のある使い方が可能かどうかを検証しているフェーズである。特に、生成AIの悪用に関して関心度が高いのは選挙である。2024年11月にはアメリカ大統領選挙を控えているため、生成AIの悪用リスクへの懸念が高まっている。この点に対応するため、グーグルは自社の生成AIであるGeminiに対し、選挙関連の質問には答えないよう制御すると発表している。
すでに生成AIの活用は進んでおり、扱えるモダリティが増えるにしたがって今まで利用していなかった業界にも波及していくだろう。しかし、生成AIの利便性などのポジティブな面のみにフォーカスしていた局面は転回点を迎えている。今後は生成AIの開発者、ユーザーに対して倫理面に配慮したガイドラインの設計が不可欠となるだろう。
阿部 将大:NRIデジタル エキスパートデータサイエンティスト
外部リンク
この記事に関連するニュース
-
rinna、Llama 3の日本語継続事前学習モデル「Llama 3 Youko 8B」を公開
PR TIMES / 2024年5月7日 13時45分
-
Spiral.AI、Transformerの限界を克服した次世代LLMアーキテクチャ「RetNet」の学習済みモデルを公開
PR TIMES / 2024年5月1日 15時15分
-
【新刊】データサイエンティスト、AIの研究者・開発者必読の書 ChatGPTの原理から適用技術/応用の仕方、さらにはその限界まで、技術情報を完全網羅!
PR TIMES / 2024年4月25日 12時45分
-
OpenAIが日本法人を設立 日本語に最適化したGPT-4カスタムで3倍速く/Microsoft Edgeの更新で「Microsoft Copilot」アプリが導入される不具合
ITmedia PC USER / 2024年4月21日 6時5分
-
Stability AI、「Stable Diffusion 3」とチャットbot「Stable Assistant」発表
ITmedia NEWS / 2024年4月18日 8時2分
ランキング
-
1キャベツ高騰 1玉1000円!? スーパーからキャベツ消えた、春キャベツ一体どこへ?【Nスタ解説】
TBS NEWS DIG Powered by JNN / 2024年5月16日 21時20分
-
2インドネシアで3億円過大計上か トヨタ系部品メーカー
共同通信 / 2024年5月16日 22時32分
-
3クルマの価格はまだまだ上がる? 下がる要素がとても少ないワケ
ITmedia ビジネスオンライン / 2024年5月17日 6時5分
-
4NYダウ、初の4万ドルの大台突破…インフレ長期化懸念和らぎ歴史的な高値水準に
読売新聞 / 2024年5月17日 1時0分
-
5大阪名物「551蓬莱」不正転売に注意促す「責任を負いかねます」 公式ショップや目印を案内【全文】
ORICON NEWS / 2024年5月16日 18時52分
記事ミッション中・・・
記事にリアクションする
記事ミッション中・・・
記事にリアクションする
エラーが発生しました
ページを再読み込みして
ください