OpenAI、「GPT-4o」のリスク評価結果を公開 「リスクは中程度」と判断
ITmedia NEWS / 2024年8月9日 8時39分
米OpenAIは8月8日(現地時間)、5月にリリースした生成AIの最新モデル「GPT-4o」のリリース前に実施した安全対策とリスク評価を概説した文書「GPT-4o System Card」を公開した。
System Cardとは、OpenAIがモデルに関連するリスクと見なしている内容、安全性テストの詳細、潜在的なリスクを軽減するために実施している緩和策を記載した技術文書。これまでにGPT-4、GPT-4 with vision、DALL-E 3のSystem Cardも公開されている。
GPT-4oのSystem Cardには、公開前にレッドチームが提示したモデルの主なリスクが記述されている。レッドチームとは、システムの問題を見つけるために組織された外部の専門家グループ。GPT-4oについては、45言語を使う100人以上のメンバーが参加し、共同でテストしたという。
例えば、GPT-4oが「高度な音声モード」で、著名人の声真似をしたり、エロチックで暴力的なことを言ったり、著作権のある音声を生成したりする可能性などが指摘されている。
System Cardの、ユーザーがAIを人間の言葉で認識するときに生じる問題を報告する「Anthropomorphization and Emotional Reliance(擬人化と感情的依存)」と題されたセクションでは、AIがより人間のように話す「高度な音声モード」で問題が悪化するとしている。例えば、「ユーザーはAIと社会的関係を築き、人間との交流の必要性が減る可能性がある。孤独な人にはメリットがあるかもしれないが、健全な人間関係に悪影響を与える可能性がある」という。
この問題についての具体的な対策は提示していないが「感情的な依存の可能性と、モデルとシステムの多くの機能をオーディオモダリティ(音声認識、音声合成、音楽の分析など、音に関連するタスクに使われるモード)とより深く統合することで行動を促進できる方法について、さらに研究する」という。
OpenAIは独自のフレームワークに基づいて、GPT-4oの総合的なリスクは「中程度」だと判断した。
同社はGPT-4oリリース後、「高度な音声モード」の声の1つが俳優のスカーレット・ヨハンソンに似ているとして本人から批判され、音声モードの提供を遅らせた(7月に問題になった声以外を公開すると発表した)。
OpenAIは「われわれのテクノロジーがそれを使用する人々に与える影響を深く考慮しており、誰もがAIのメリットを享受できるように、引き続き評価、調整、学習内容の共有に努めていく」としている。
外部リンク
この記事に関連するニュース
-
社内資料参照の法人向け生成AI「Crew」、「GPT-4o mini」対応完了
PR TIMES / 2024年8月5日 15時45分
-
SkypeがInsider版で広告を排除/ChatGPTに高度な音声モードを追加
ITmedia PC USER / 2024年8月4日 6時5分
-
OpenAI、「高度なボイスモード」のα版提供開始、AIとの自然な音声会話を実現
マイナビニュース / 2024年7月31日 7時59分
-
OpenAI、ChatGPTの「高度な音声モード」をロールアウト中 秋には全Plusユーザーに
ITmedia NEWS / 2024年7月31日 7時15分
-
OpenAI 「GPT-4o mini」発表、優れた推論力とコスト効率、GPT-3.5 Turboの置き換えに
マイナビニュース / 2024年7月19日 7時36分
ランキング
-
1災害時にiPhoneで活用したい機能まとめ つながらない場所でも助けを呼ぶには?
ITmedia Mobile / 2024年8月9日 0時1分
-
2FCNTが新「arrows」でSIMフリー市場に再参入 競合ひしめく中で“シェアの奪い合い”にこだわらない理由
ITmedia Mobile / 2024年8月8日 19時54分
-
3減益のドコモは「ahamoの店頭対応」「ポイ活プラン」で攻勢 純増減少は「そろそろ限界」とNTT島田社長
ITmedia Mobile / 2024年8月7日 22時48分
-
4「“ん”で終わる日本の都市を教えて」 AIに質問→“想定外すぎる答え”に思わず動揺 「入ってすらなくて草」
ねとらぼ / 2024年8月9日 7時15分
-
5「こんなに印象変わるんだ」 2014年に東京の夜景を撮影→9年後には…… 驚きの変化に「成長してる」
ねとらぼ / 2024年8月9日 8時0分
記事ミッション中・・・
記事にリアクションする
記事ミッション中・・・
記事にリアクションする
エラーが発生しました
ページを再読み込みして
ください