Microsoftが生成AI悪用を可能にするAIジェイルブレイクを指摘、回避策も提示

MicrosoftはAzure AIや各種Copilotソリューションに対し、AIシステムを保護する多層防御アプローチを採用している。Azure内で独自のAIソリューションを構築する場合にAIジェイルブレイクの軽減策として使用できるテクノロジーとして次のものを挙げ、開発者に有効活用を推奨している。

Azure AI Content Safety のプロンプト シールド - Azure AI services | Microsoft Learn
Azure リソースのマネージド ID - Managed identities for Azure resources | Microsoft Learn
Microsoft Copilot やその他のジェネレーティブ AI アプリの Microsoft Purview データセキュリティとコンプライアンス保護 | Microsoft Learn
大規模言語モデル (LLM) のシステム メッセージのフレームワークとテンプレートに関する推奨事項 - Azure OpenAI Service | Microsoft Learn
Azure OpenAI Service のコンテンツのフィルタ処理 - Azure OpenAI | Microsoft Learn
Azure OpenAI Service の不正使用を監視する - Azure OpenAI | Microsoft Learn
Microsoft Azure AI Fundamentals:生成 AI - Training | Microsoft Learn
概要 - AI への脅威に対する保護 - Microsoft Defender for Cloud | Microsoft Learn

Microsoftは今回、AIジェイルブレイクの解説と基礎的なガイダンスを伝えた。今後は、新たに発見されたAIジェイルブレイクの技術的詳細を解説する予定としている。
（後藤大地）