Microsoftが生成AI悪用を可能にするAIジェイルブレイクを指摘、回避策も提示
マイナビニュース / 2024年6月5日 19時2分
Microsoftは6月4日(米国時間)、「AI jailbreaks: What they are and how they can be mitigated|Microsoft Security Blog」において、生成AIの悪用を可能にするAIジェイルブレイクについて解説した。
○「AIジェイルブレイク」とは
2022年にOpenAIがChatGPTを公開してから、生成AIは急激な発展と普及を続けている。現在ではテキスト生成以外にも音声、画像、動画などを簡単に生成できるようになり、広告やコンテンツ制作などにも活用されている。生成AIは無の状態から情報を生み出しているわけではなく、膨大な学習データとディープラーニング(深層学習)によりさまざまな形の機械学習モデル(AIモデル)を作成し、その能力の範囲内で出力を得る。
この膨大な学習データには悪用可能な情報が含まれており、多くの大規模言語モデル(LLM: Large Language Model)の学習データにも含まれている。ChatGPTやGeminiのような有名な生成AIも悪用可能な回答を生成する能力があり、積極的に悪用しようとするユーザーが存在する。
多くのAI(Artificial Intelligence)開発企業は悪用を防ぐためにさまざまな防衛策を講じており、近年は悪用可能な情報を簡単に出力できないようになっている。しかしながら、この防衛策を突破するプロンプトインジェクションなどの試みがあり、この防衛策を突破する行為がAIジェイルブレイクと呼ばれている。
○生成AIを攻撃可能な理由
Microsoftは生成AIの機械学習モデルを次のように例えている。
本質的に、機械学習モデルは熱心で知識豊富だが、ビジネス環境における経験と成熟に伴う判断力、状況理解、境界線の遵守が欠けた従業員に例えることができる。
つまり、人間のような出力は可能だが、人格者のような行動ができるわけではなく、適切な保護が施されていない場合は有害なコンテンツを生成し、場合によっては問題のある行動を実行して機密情報を漏洩する可能性がある。
そこでMicrosoftはこのような問題を軽減するために、AIの実装に対してゼロトラストアプローチの採用を推奨している。すべての機械学習モデルはAIジェイルブレイクの影響を受けると想定し、攻撃を受けた場合の潜在的な損害を抑制できるように実装する。
○保護のガイダンス
-
-
- 1
- 2
-
この記事に関連するニュース
-
情報戦略テクノロジーとの協業強化に関するお知らせ
PR TIMES / 2024年6月20日 17時45分
-
ソフトバンク、「生成AIパッケージ」に新機能追加とChatUI刷新
マイナビニュース / 2024年6月19日 9時18分
-
GaiXerが外務省の「生成AI活用のための環境構築及び運用」案件で採用
PR TIMES / 2024年6月5日 18時40分
-
電通総研、企業向けChatGPTソリューション「Know Narrator(ノウナレーター)」で最新LLMモデル「GPT-4o」の適用を開始
PR TIMES / 2024年6月5日 14時15分
-
JR西日本の生成AI「Copilot for 駅員」に対する開発支援を行っています
PR TIMES / 2024年5月30日 17時45分
ランキング
-
1Amazon、10回目の「プライムデー」を7月16日から2日間開催 100万点以上が“特別価格“に
ITmedia NEWS / 2024年6月25日 21時15分
-
2「昔のミスド良すぎる」「復活してほしい!」 30年以上前の“ミスドのドーナツ”に復活求める声相次ぐ
ねとらぼ / 2024年6月26日 12時30分
-
3「虎に翼」、髪の毛ボサボサな新キャラに驚きの声 「化けてるよ凄っ」「どこかで見たお顔? と思ったら」
ねとらぼ / 2024年6月25日 18時22分
-
4「GTO」出演後、消息をたった“幻の男”が登場 菊池風磨&小芝風花が再会し「変わってない!」と喜び
ねとらぼ / 2024年6月24日 20時8分
-
5いつでもどこでもSFCを美麗画面で!携帯型SFC互換機「IPS 16ビットポケットHD」発表―2024年9月下旬発売予定
Game*Spark / 2024年6月26日 11時36分
複数ページをまたぐ記事です
記事の最終ページでミッション達成してください
![](/pc/img/mission/mission_close_icon.png)