OpenAI、ロシアや中国によるChatGPTなどのAIツール不正利用について報告 5件を阻止
ITmedia NEWS / 2024年5月31日 10時40分
![OpenAI、ロシアや中国によるChatGPTなどのAIツール不正利用について報告 5件を阻止](https://media.image.infoseek.co.jp/isnews/photos/itmedia_news/itmedia_news_20240531108_0-small.jpg)
米OpenAIは5月30日(現地時間)、「AI and Covert Influence Operations:Latest Trends」(AIと隠された影響工作:最新動向)と題した報告書(PDF)を公開した。この報告書によると、ロシア、中国、イラン、イスラエルを拠点とする複数の組織が、国民を操作するために同社のAIを利用している。
同社は、こうしたオンラインキャンペーンを5件特定し、阻止したという。
これらの組織は、ChatGPTを含むOpenAIのツールを使用して、複数の言語でSNSのコメントを生成したり、偽のアカウントの名前や経歴をでっち上げたり、画像を作成したり、コードをデバッグしたりしていたという。
たとえばロシアのDoppelgangerは、OpenAIのツールを使ってロシア語の投稿を英語やフランスなどに翻訳し、SNSに投稿していた。OpenAIはその例として、コメントはウクライナについてのものなのに、画像はガザ地区についてのものというちぐはぐな投稿を紹介した。
OpenAIは、「脅威アクターはコンテンツを改善し、より効率的に作業するためにわれわれのプラットフォームを使っているが、これまでのところ、彼らはまだ本物のオーディエンスにリーチして関与できていない」と主張した。同社は「責任あるAI導入へのアプローチを反映した安全システムを通じて」脅威アクターに対抗しているという。「われわれのモデルが、攻撃者が要求したテキストや画像の生成を拒否するケースが繰り返し観察された」。
OpenAIは、世間は攻撃者によるAIの悪用に注目しがちだが、「防御側にAIがもたらす利点を忘れてはならない」と主張する。
「われわれは生成AIの力を活用し、こうした不正行為を大規模に発見し、軽減することに尽力している」。
外部リンク
この記事に関連するニュース
-
サイバー攻撃者がT-Mobileを侵害したと主張、T-Mobileは否定
マイナビニュース / 2024年6月21日 9時21分
-
AppleとOpenAIの提携は何を意味するのか
ニューズウィーク日本版 / 2024年6月13日 9時50分
-
Vectra AI、生成AIを悪用するサイバー攻撃に対応するため、AIプラットフォームの機能拡充ならびにCrowdStrikeとのハイブリッド検知防御機能アップデートを発表
PR TIMES / 2024年6月11日 14時15分
-
イーロン・マスク「OSにOpenAI組み込むなら、自社ではAppleデバイス禁止に」 iPhoneなどとChatGPTの統合に反発
ITmedia NEWS / 2024年6月11日 12時38分
-
Microsoftが生成AI悪用を可能にするAIジェイルブレイクを指摘、回避策も提示
マイナビニュース / 2024年6月5日 19時2分
ランキング
-
1Amazon、10回目の「プライムデー」を7月16日から2日間開催 100万点以上が“特別価格“に
ITmedia NEWS / 2024年6月25日 21時15分
-
2「虎に翼」、髪の毛ボサボサな新キャラに驚きの声 「化けてるよ凄っ」「どこかで見たお顔? と思ったら」
ねとらぼ / 2024年6月25日 18時22分
-
3「GTO」出演後、消息をたった“幻の男”が登場 菊池風磨&小芝風花が再会し「変わってない!」と喜び
ねとらぼ / 2024年6月24日 20時8分
-
4「昔のミスド良すぎる」「復活してほしい!」 30年以上前の“ミスドのドーナツ”に復活求める声相次ぐ
ねとらぼ / 2024年6月26日 12時30分
-
5いつでもどこでもSFCを美麗画面で!携帯型SFC互換機「IPS 16ビットポケットHD」発表―2024年9月下旬発売予定
Game*Spark / 2024年6月26日 11時36分
記事ミッション中・・・
記事にリアクションする
![](/pc/img/mission/mission_close_icon.png)
記事ミッション中・・・
記事にリアクションする
![](/pc/img/mission/point-loading.png)
エラーが発生しました
ページを再読み込みして
ください
![](/pc/img/mission/mission_close_icon.png)