米AI大手、生成AIによる児童性的虐待コンテンツ作成を阻止する原則に署名
ITmedia NEWS / 2024年4月24日 11時19分
児童性的虐待資料の拡散阻止に尽力している米非営利団体Thornと責任あるテクノロジーに焦点を当てた非営利団体All Tech Is Humanは4月23日(現地時間)、主要なAI大手と協力し、生成AIの悪用による児童性的虐待コンテンツ(Child Sexual Abuse Material、CSAM)の作成と拡散を防ぐ「Safety by Design」原則を発表した。
Amazon、Anthropic、Civitai、Google、Meta、Metaphysic、Microsoft、Mistral AI、OpenAIStability AIがこの原則に賛同し、署名した。
これらの企業は、トレーニングデータセットにCSAMが含まれないことを保証し、CSAMを含む高リスクなデータセットを回避し、CSAM画像やCSAMへのリンクをデータソースから削除することを約束する。
また、AIモデルの「ストレステスト」を実施してCSAM画像が生成されないことを確認し、子供の安全性が評価された場合にのみモデルをリリースすることを約束する。
Thornは、生成AIにより、1人の児童性的搾取者が大量のCSAMを簡単に作成できるようになると主張。オリジナルの画像や動画をAIで改変し、新たなCSAMを生成する可能性があると警告する。
Googleは公式ブログで、この原則を順守することに加え、2006年から加盟している米児童保護団体National Center for Missing & Exploited Children(NCMEC)の取り組みのために広告助成金を増額したことも発表した。
外部リンク
この記事に関連するニュース
-
IEEEが提言を発表 責任あるAIの使い方
@Press / 2024年4月30日 11時0分
-
詐欺や法外な転売価格の防止を!ビリー・アイリッシュら コンサートチケットのシステム改正求める書簡に署名
よろず~ニュース / 2024年4月28日 7時40分
-
生成AI関連企業が児童の性的危害の作成と拡散を防ぐ取り組みを発表/Google ChromeのサードパーティーCookie廃止を延期に
ITmedia PC USER / 2024年4月28日 6時5分
-
AWS、安全な生成 AI アプリケーションを構築、拡張する基盤として数万のお客様が活用する Amazon Bedrock の新機能を発表
PR TIMES / 2024年4月24日 17時45分
-
Meta、無料で商用可の新LLM「Llama 3」、ほぼすべてのクラウドでアクセス可能に
ITmedia NEWS / 2024年4月19日 9時31分
ランキング
-
1GWのUターンラッシュでスマホを活用する技 道路の渋滞情報と、電車の混雑状況を確認しやすいアプリはどれ?
ITmedia Mobile / 2024年5月5日 19時25分
-
2「広告の女の子誰!?」「かわいいな」 ポカリの新CMに出演、ファッション誌で活躍する2人が注目集める
ねとらぼ / 2024年5月3日 8時15分
-
3『ポケモンGO』普段、日本じゃゲットできないポケモンに会える!48時間の“激レア色違い”が熱い「ライバルイベント」ポイントまとめ
インサイド / 2024年5月4日 0時0分
-
4「意味不明な満足度」「ビビリます」 サイゼリヤで1万円分食べてみたら……? コスパ良すぎてもはや恐怖
ねとらぼ / 2024年5月5日 17時0分
-
5「そっち使うの?!」「これは天才」 さびだらけの鉄くぎをぐつぐつ煮込むと……? DIYに役立つ“まさかの使い道”が200万再生
ねとらぼ / 2024年5月2日 12時15分
記事ミッション中・・・
記事にリアクションする
記事ミッション中・・・
記事にリアクションする
エラーが発生しました
ページを再読み込みして
ください