OpenAIの現・元従業員ら、AIシステム構築の無謀さと秘密主義を告発
ITmedia NEWS / 2024年6月5日 10時22分
![OpenAIの現・元従業員ら、AIシステム構築の無謀さと秘密主義を告発](https://media.image.infoseek.co.jp/isnews/photos/itmedia_news/itmedia_news_20240605100_0-small.jpg)
米OpenAIの現従業員、元従業員のグループは6月4日(現地時間)、Google DeepMindの2人の従業員とともに、OpenAIを含むAI企業に対し、AIに関する安全性対策の改善と、危険性を報告した従業員の保護を求める書簡を公開した。
署名した13人中4人はOpenAIの現従業員として匿名で記載されている。
研究者が報復を恐れることなくAIの危険性について「警告する権利」を持てるよう、AI関連企業に強力な内部告発者保護を確立するよう求めている。
「私たちは最先端のAI企業の現従業員および元従業員であり、AIが人類に前例のない利益をもたらす可能性を信じている」が、「AI企業には効果的な監督を回避する強い経済的インセンティブがあり、企業統治の特注構造ではこれを変えるのに十分ではないと考えている」という。
グループは、「AI企業はAIの危険に関する膨大な非公開情報を保有しているが、こうした情報を政府機関に開示する義務はほとんどなく、ましてや社会に公開する義務はまったくない。(中略)この現状では、企業に責任を問えるのはほぼ現・元従業員のみだが、広範な秘密保持契約などにより、懸念を表明できない」とし、AI企業に求める“原則”を提示した。
その中には、懸念を表明した現・元従業員に報復措置をとらないよう求める項目もある。
OpenAIは自社の退職合意書に生涯にわたって元雇用主を批判することが禁じられており、この合意書への署名を拒否した場合、在職中に獲得したストックオプションなどのすべての既得権を失うという条項があると報じられた。サム・アルトマンCEOはこうした条項があったとは「知らなかった」とXにポストした。
告発者グループの1人で4月にOpenAIを退社したダニエル・ココタジロ氏は、2022年にガバナンス研究者としてOpenAIに入社したが、「AGI時代に責任ある行動をとるという自信がなくなったため、OpenAIを辞めた」とオンラインコミュニティLessWrong上の自身のプロフィールに記している。
同氏は15日、LessWrongに「AGIはおそらく2029年までには登場すると思う」と投稿した。
この公開書簡には、2018年度のチューリング賞を共同で受賞したAI科学者、ヨシュア・ベンジオ氏とジェフリー・ヒントン氏、安全性について研究する非営利の研究組織Future of Life Institute(FLI)の顧問を務めるスチュアート・ラッセル氏が推奨者として名を連ねた。
OpenAIの広報担当者は米New York Timesに対し「われわれは最も有能で安全なAIシステムを提供してきた実績を誇りに思っており、リスクに対処するための科学的アプローチを信じている。この技術の重要性を考えると、厳密な議論が不可欠であることには同意しており、今後も世界中の政府、市民社会、その他のコミュニティと連携していくつもりだ」という声明文を送った。
外部リンク
この記事に関連するニュース
-
米ボーイング、品質巡りまた内部告発 公聴会でCEOに批判噴出
ロイター / 2024年6月19日 12時14分
-
OpenAI、元SquareのCFOを新CFOに、XやMetaの幹部経験者を新CPOに迎える
ITmedia NEWS / 2024年6月11日 10時14分
-
内部通報における「忠誠と反逆」/危機管理の切り口から見る近時の裁判例(その3)
THE GOLD ONLINE(ゴールドオンライン) / 2024年6月7日 8時10分
-
「「GPT-4o」と「Gemini Flash」の衝撃」と題して、米国 VentureClef社 代表/アナリスト 宮本 和明氏によるセミナーを2024年7月18日(木)に開催!!
PR TIMES / 2024年6月6日 14時15分
-
AIで「人類絶滅」も、オープンAIなどの現・元従業員が警鐘
ロイター / 2024年6月5日 9時14分
ランキング
-
1老後の趣味で気軽に“塗り絵”を始めて1年後…… めきめき上達した70代女性の美麗な水彩画に「本当にすごい…」「感動です」
ねとらぼ / 2024年6月29日 22時0分
-
2藤本美貴&庄司智春、真っ昼間に変装ゼロで“腕絡め”デート 大勢の注目浴びるも“モザイク9割”の結果で「笑った」
ねとらぼ / 2024年7月2日 15時1分
-
3中小企業の社内Wi-Fi接続、約半数が「つながりにくさ」を実感‐対処法は?
マイナビニュース / 2024年7月3日 11時50分
-
4新紙幣「一万円札と千円札の1の字が違う」SNSに違和感覚えるという声も…… 「1」のデザインが違う理由は?
ねとらぼ / 2024年7月3日 18時15分
-
5シャオミ、ペンを発売 「書き心地は良いが、タブレットとペアリングはできません」と公式
ITmedia NEWS / 2024年7月3日 8時30分
記事ミッション中・・・
記事にリアクションする
![](/pc/img/mission/mission_close_icon.png)
記事ミッション中・・・
記事にリアクションする
![](/pc/img/mission/point-loading.png)
エラーが発生しました
ページを再読み込みして
ください
![](/pc/img/mission/mission_close_icon.png)