米AI大手、生成AIによる児童性的虐待コンテンツ作成を阻止する原則に署名
ITmedia NEWS / 2024年4月24日 11時19分
児童性的虐待資料の拡散阻止に尽力している米非営利団体Thornと責任あるテクノロジーに焦点を当てた非営利団体All Tech Is Humanは4月23日(現地時間)、主要なAI大手と協力し、生成AIの悪用による児童性的虐待コンテンツ(Child Sexual Abuse Material、CSAM)の作成と拡散を防ぐ「Safety by Design」原則を発表した。
Amazon、Anthropic、Civitai、Google、Meta、Metaphysic、Microsoft、Mistral AI、OpenAIStability AIがこの原則に賛同し、署名した。
これらの企業は、トレーニングデータセットにCSAMが含まれないことを保証し、CSAMを含む高リスクなデータセットを回避し、CSAM画像やCSAMへのリンクをデータソースから削除することを約束する。
また、AIモデルの「ストレステスト」を実施してCSAM画像が生成されないことを確認し、子供の安全性が評価された場合にのみモデルをリリースすることを約束する。
Thornは、生成AIにより、1人の児童性的搾取者が大量のCSAMを簡単に作成できるようになると主張。オリジナルの画像や動画をAIで改変し、新たなCSAMを生成する可能性があると警告する。
Googleは公式ブログで、この原則を順守することに加え、2006年から加盟している米児童保護団体National Center for Missing & Exploited Children(NCMEC)の取り組みのために広告助成金を増額したことも発表した。
外部リンク
この記事に関連するニュース
-
IEEEが提言を発表 責任あるAIの使い方
@Press / 2024年4月30日 11時0分
-
詐欺や法外な転売価格の防止を!ビリー・アイリッシュら コンサートチケットのシステム改正求める書簡に署名
よろず~ニュース / 2024年4月28日 7時40分
-
生成AI関連企業が児童の性的危害の作成と拡散を防ぐ取り組みを発表/Google ChromeのサードパーティーCookie廃止を延期に
ITmedia PC USER / 2024年4月28日 6時5分
-
Meta、無料で商用可の新LLM「Llama 3」、ほぼすべてのクラウドでアクセス可能に
ITmedia NEWS / 2024年4月19日 9時31分
-
ビリー・アイリッシュら業界200人超が集結 生成AIの「略奪的」利用の中止を呼びかけ 大きな脅威を警戒
よろず~ニュース / 2024年4月6日 7時30分
ランキング
-
1「そっち使うの?!」「これは天才」 さびだらけの鉄くぎをぐつぐつ煮込むと……? DIYに役立つ“まさかの使い道”が200万再生
ねとらぼ / 2024年5月2日 12時15分
-
2Xの生成AI「Grok」で話題を要約、「Stories on X」提供開始
マイナビニュース / 2024年5月4日 9時45分
-
3『ポケモンGO』普段、日本じゃゲットできないポケモンに会える!48時間の“激レア色違い”が熱い「ライバルイベント」ポイントまとめ
インサイド / 2024年5月4日 0時0分
-
4「PSVR2」を自腹で買って1年2ヶ月……プレイ感や不満、足りない点を忖度抜きで語る! 現状を変える“2つのポイント”にも注目
インサイド / 2024年5月4日 12時0分
-
5『ディアブロ IV』5月15日開幕のシーズン4「武装再錬」を紹介する映像公開―アイテムに史上最大の変更が加わる
Game*Spark / 2024年5月4日 17時30分
記事ミッション中・・・
記事にリアクションする
記事ミッション中・・・
記事にリアクションする
エラーが発生しました
ページを再読み込みして
ください