PwCコンサルティング、AIサービスのビジネスリスクを特定・改善する「AIレッドチーム」によるサービスを開始

■サービス概要

本サービスは、AIを利用したサービスに対してリスク起因者（サイバー攻撃者、犯罪者、愉快犯など）の観点から疑似攻撃を行うことで、脆弱性とそれに伴うビジネスリスクを特定し、その改善のためのアドバイスを提供します。企業が、自社のAIサービスの正式リリース前や運用中に本サービスを利用することで、実際にインシデントが発生する前にビジネスリスクを把握し、能動的に対策を講じることが可能となります。
PwCコンサルティングは、AI脅威やAIのユースケースに関する豊富な知見を強みとしています。加えて、AIセキュリティに精通したエンジニアとコンサルタントが一体となって対応するチーム体制により、疑似攻撃の実施にとどまらず、現状把握、脅威分析から対策定義までを支援します。


【提供開始日】2024年9月19日

【対象者】AIを利用したサービスを開発または提供する事業者

【特長】
①AIの不正利用に伴うビジネスリスクを特定
攻撃や悪用といったAIの不正利用に伴って考慮すべきリスクの種類とインパクトは、そのビジネスユースケースに大きく依存します。本サービスでは、テスト対象となるAIを用いたサービスのビジネスケースを分析したうえで、想定されるリスクおよびリスクシナリオを洗い出し、当該シナリオに沿ったテストを設計します。これにより発見された課題がどのようなビジネスリスクに影響するかを特定します。

②独自リサーチおよびAIセキュリティに精通したエンジニアによるテストの実施
AIセキュリティに精通したエンジニアが、サイバーセキュリティ分野において権威ある研究機関や団体が公開するフレームワークやレポートなどのベストプラクティス（業界標準）や、日々発見・報告される新たな攻撃手法のリサーチ結果に基づいて、最新の脅威を模したテストを実施します。

③サービス設計、実装、運用にわたる改善のアドバイスを提供
検出された課題に対して、各種ベストプラクティスとの紐づけを行い、AIモデル構築や精度評価といったデータサイエンスに長けた専門チームと連携し、改善に向けたアドバイスを提供します。入出力のフィルタといった実装レベルのアドバイスだけでなく、MLOps（Machine Learning Operations）の改善・高度化、AIガバナンスの整備・改善といったサービス設計・運用まで広範なアドバイスを提供します。


[画像1]https://digitalpr.jp/simg/1803/95200/700_468_2024091815162366ea7037737e8.jpg