OpenAIの現・元従業員ら、AIシステム構築の無謀さと秘密主義を告発
ITmedia NEWS / 2024年6月5日 10時22分
![OpenAIの現・元従業員ら、AIシステム構築の無謀さと秘密主義を告発](https://media.image.infoseek.co.jp/isnews/photos/itmedia_news/itmedia_news_20240605100_0-small.jpg)
米OpenAIの現従業員、元従業員のグループは6月4日(現地時間)、Google DeepMindの2人の従業員とともに、OpenAIを含むAI企業に対し、AIに関する安全性対策の改善と、危険性を報告した従業員の保護を求める書簡を公開した。
署名した13人中4人はOpenAIの現従業員として匿名で記載されている。
研究者が報復を恐れることなくAIの危険性について「警告する権利」を持てるよう、AI関連企業に強力な内部告発者保護を確立するよう求めている。
「私たちは最先端のAI企業の現従業員および元従業員であり、AIが人類に前例のない利益をもたらす可能性を信じている」が、「AI企業には効果的な監督を回避する強い経済的インセンティブがあり、企業統治の特注構造ではこれを変えるのに十分ではないと考えている」という。
グループは、「AI企業はAIの危険に関する膨大な非公開情報を保有しているが、こうした情報を政府機関に開示する義務はほとんどなく、ましてや社会に公開する義務はまったくない。(中略)この現状では、企業に責任を問えるのはほぼ現・元従業員のみだが、広範な秘密保持契約などにより、懸念を表明できない」とし、AI企業に求める“原則”を提示した。
その中には、懸念を表明した現・元従業員に報復措置をとらないよう求める項目もある。
OpenAIは自社の退職合意書に生涯にわたって元雇用主を批判することが禁じられており、この合意書への署名を拒否した場合、在職中に獲得したストックオプションなどのすべての既得権を失うという条項があると報じられた。サム・アルトマンCEOはこうした条項があったとは「知らなかった」とXにポストした。
告発者グループの1人で4月にOpenAIを退社したダニエル・ココタジロ氏は、2022年にガバナンス研究者としてOpenAIに入社したが、「AGI時代に責任ある行動をとるという自信がなくなったため、OpenAIを辞めた」とオンラインコミュニティLessWrong上の自身のプロフィールに記している。
同氏は15日、LessWrongに「AGIはおそらく2029年までには登場すると思う」と投稿した。
この公開書簡には、2018年度のチューリング賞を共同で受賞したAI科学者、ヨシュア・ベンジオ氏とジェフリー・ヒントン氏、安全性について研究する非営利の研究組織Future of Life Institute(FLI)の顧問を務めるスチュアート・ラッセル氏が推奨者として名を連ねた。
OpenAIの広報担当者は米New York Timesに対し「われわれは最も有能で安全なAIシステムを提供してきた実績を誇りに思っており、リスクに対処するための科学的アプローチを信じている。この技術の重要性を考えると、厳密な議論が不可欠であることには同意しており、今後も世界中の政府、市民社会、その他のコミュニティと連携していくつもりだ」という声明文を送った。
外部リンク
この記事に関連するニュース
-
米ボーイング、品質巡りまた内部告発 公聴会でCEOに批判噴出
ロイター / 2024年6月19日 12時14分
-
OpenAI、元SquareのCFOを新CFOに、XやMetaの幹部経験者を新CPOに迎える
ITmedia NEWS / 2024年6月11日 10時14分
-
内部通報における「忠誠と反逆」/危機管理の切り口から見る近時の裁判例(その3)
THE GOLD ONLINE(ゴールドオンライン) / 2024年6月7日 8時10分
-
「「GPT-4o」と「Gemini Flash」の衝撃」と題して、米国 VentureClef社 代表/アナリスト 宮本 和明氏によるセミナーを2024年7月18日(木)に開催!!
PR TIMES / 2024年6月6日 14時15分
-
AIで「人類絶滅」も、オープンAIなどの現・元従業員が警鐘
ロイター / 2024年6月5日 9時14分
ランキング
-
1Amazon、10回目の「プライムデー」を7月16日から2日間開催 100万点以上が“特別価格“に
ITmedia NEWS / 2024年6月25日 21時15分
-
2「昔のミスド良すぎる」「復活してほしい!」 30年以上前の“ミスドのドーナツ”に復活求める声相次ぐ
ねとらぼ / 2024年6月26日 12時30分
-
3「フォレストページ」閉鎖、データは削除 平成の「ケータイHP」サービス、22年の歴史に幕
ITmedia NEWS / 2024年6月26日 15時20分
-
4「GTO」出演後、消息をたった“幻の男”が登場 菊池風磨&小芝風花が再会し「変わってない!」と喜び
ねとらぼ / 2024年6月24日 20時8分
-
5いつでもどこでもSFCを美麗画面で!携帯型SFC互換機「IPS 16ビットポケットHD」発表―2024年9月下旬発売予定
Game*Spark / 2024年6月26日 11時36分
記事ミッション中・・・
記事にリアクションする
![](/pc/img/mission/mission_close_icon.png)
記事ミッション中・・・
記事にリアクションする
![](/pc/img/mission/point-loading.png)
エラーが発生しました
ページを再読み込みして
ください
![](/pc/img/mission/mission_close_icon.png)