OpenAI、安全およびセキュリティ委員会を設立 トップはアルトマンCEO
ITmedia NEWS / 2024年5月29日 6時52分
米OpenAIは5月28日(現地時間)、安全およびセキュリティ委員会の設立を発表した。AGI開発を含む同社のプロジェクトと運営に関する安全とセキュリティの決定について、理事会全体に勧告する責任を担うとしている。委員会を率いるのは、理事会のサム・アルトマンCEO、ブレット・テイラー会長、アダム・ダンジェロ氏、ニコール・セリグマン氏。
これまで同社でAIの安全と制御に取り組んできたSuperalignmentチームは、リーダーのイリヤ・サツケバー氏とヤン・ライケ氏の退社によって消滅した。
ライケ氏は退社の際、OpenAIは「安全性が輝かしい製品の開発より後回しになっている」と警鐘を鳴らした。
OpenAIは13日、生成AIの新たなモデル「GPT-4o」を発表した際、ChatGPTの新しい音声「Sky」を紹介し、アルトマン氏はこれが映画「Her」の声に似ていることをXのポストでほのめかした。その後、Herの声を担当したスカーレット・ヨハンソンが怒りの声明文を発表し、これを受けてアルトマン氏は「Skyの声をヨハンソンさんに似せようとしたことはない」と語った。
新委員会はまず、向こう90日間でOpenAIのプロセスと安全対策を評価し、それに基づいて理事会全体に推奨事項を共有する計画。この推奨事項は理事会全体のレビュー後、公開するとしている。
委員会には理事の他、サツケバー氏の後任のチーフサイエンティスト、ヤコブ・パチョキ氏なども参加し、社外の専門家も雇用するという。
同社はまた、「最近、次世代モデルのトレーニングを開始した」ことも明らかにした。
外部リンク
この記事に関連するニュース
-
OpenAI退社のサツケバー氏ら、「安全な超知能」目指すAI企業SSI立ち上げ
ITmedia NEWS / 2024年6月20日 7時1分
-
OpenAI、「安全およびセキュリティ委員会」に元NSA長官のポール・ナカソネ氏
ITmedia NEWS / 2024年6月14日 9時42分
-
OpenAIを「限界点に達した」と退社したライケ氏、競合Anthropicで安全チーム結成へ
ITmedia NEWS / 2024年5月29日 8時57分
-
OpenAI、「最近、次世代モデルのトレーニングを開始した」
ITmedia NEWS / 2024年5月29日 7時16分
-
人工知能の安全性評価 オープンAIが委員会設置
共同通信 / 2024年5月29日 5時14分
ランキング
-
1Amazon、10回目の「プライムデー」を7月16日から2日間開催 100万点以上が“特別価格“に
ITmedia NEWS / 2024年6月25日 21時15分
-
2「昔のミスド良すぎる」「復活してほしい!」 30年以上前の“ミスドのドーナツ”に復活求める声相次ぐ
ねとらぼ / 2024年6月26日 12時30分
-
3「フォレストページ」閉鎖、データは削除 平成の「ケータイHP」サービス、22年の歴史に幕
ITmedia NEWS / 2024年6月26日 15時20分
-
4「GTO」出演後、消息をたった“幻の男”が登場 菊池風磨&小芝風花が再会し「変わってない!」と喜び
ねとらぼ / 2024年6月24日 20時8分
-
5いつでもどこでもSFCを美麗画面で!携帯型SFC互換機「IPS 16ビットポケットHD」発表―2024年9月下旬発売予定
Game*Spark / 2024年6月26日 11時36分
記事ミッション中・・・
記事にリアクションする
記事ミッション中・・・
記事にリアクションする
エラーが発生しました
ページを再読み込みして
ください