ラック、生成AIシステムに対するセキュリティ診断サービスを提供
@Press / 2024年2月20日 11時30分
株式会社ラック(本社:東京都千代田区、代表取締役社長:西本 逸郎、以下 ラック)は、生成AIシステムのセキュリティを強化するための新サービス「生成AI活用システム リスク診断」の提供を、2024年2月20日より開始しました。生成AIを使ったシステムに対して特有のセキュリティ評価を行うことで、安心・安全な生成AIシステムの開発・提供が可能になります。
生成AI活用システム リスク診断
https://www.lac.co.jp/consulting/ai_risk_consulting.html
米OpenAI社が提供する「ChatGPT」を中心とする生成AIは、文書の要約や顧客へのメールの文案作成、データ分析などさまざまな業務に活用することで、業務を効率化できると期待されています。生成AIが持つ機能を独自のソフトウェアやアプリケーションに組み込むことで、イノベーションの促進や新しいビジネスモデルを構築することが期待されています。しかし、生成AIを組み込んだシステムは従来型のシステムと異なり、AIを欺くために設計された敵対的な攻撃(プロンプトインジェクション)に対して脆弱であるなど、特有のセキュリティ課題を持つことが明らかになってきています。
ラックの生成AI活用システム リスク診断は、生成AIを使ったシステムを対象に、特有の脆弱性が含まれていないかを評価して改善点をレポートするサービスです。「プロンプトの悪用による機密情報の搾取」、「不適切なコンテンツの表示」、「内部的に設定されたプロンプトなど知的財産の搾取」、「プロンプトの大量入力によるサービス拒否やトークンの過剰消費」などの脆弱性の有無を評価します。このサービスに含まれる評価項目は以下のとおりです。
・プロンプトインジェクション
システムの設定を回避して、モデルに学習されている機密情報やシステム情報を搾取できてしまう脆弱性。
・ジェイルブレイク
システムに設定されたポリシーを回避して、不適切なコンテンツ(攻撃的、または有害なコンテンツ)を回答できてしまう脆弱性。
・プロンプトリーク
システムの内部で設定されているプロンプトを搾取できてしまう脆弱性。システム内部のプロンプトは企業の知的財産として保護する必要があります。
・大規模言語モデル出力の改ざん
大規模言語モデル(Large Language Models:LLM)の出力を改ざんすることで、SQLインジェクションやクロスサイトスクリプティングなどの攻撃を誘発する脆弱性。
・プロンプトの大量入力によるサービス拒否
繰り返し大量のプロンプトを機械的に入力することで、システムが不安定になったり、大量のトークンを消費させ過剰な料金請求が発生してしまったりする脆弱性。
生成AIシステムに特有の脆弱性評価に加えて、Webアプリケーションの安全性を攻撃者の視点から調査する「Webアプリケーション診断」や、クラウド環境の潜在的な設定ミスや脆弱性の見落としを発見・修正する「クラウドセキュリティ設定診断」などと組み合わせてシステム全体の脆弱性を点検することも可能です。診断の項目は、今後も随時追加してまいります。
■株式会社ラックについて
https://www.lac.co.jp/
ラックは、サイバーセキュリティとシステムインテグレーションの豊富な経験と最新技術で、社会や事業の様々な課題を解決するサービスを提供しています。創業当初から金融系や製造業など日本の社会を支える基盤システムの開発に携わり、近年ではAIやクラウド、テレワークなどDX時代に適した最新のITサービスも手掛けています。また、1995年に日本初の情報セキュリティサービスを開始して以降、国内最大級のセキュリティ監視センターJSOC、サイバー救急センター、脆弱性診断、ペネトレーションテストやIoTセキュリティなど常に最新のサイバー攻撃対策や事故対応の最前線で活動する、情報セキュリティ分野のリーディング企業です。
* ラック、LAC、サイバー救急センター、JSOCは、株式会社ラックの国内およびその他の国における登録商標または商標です。
* その他、記載されている会社名・団体名、製品名などは、各社の登録商標または商標です。
* 記載されている情報は、発表時点のものです。その後予告なしに変更となる場合があります。
詳細はこちら
プレスリリース提供元:@Press
この記事に関連するニュース
-
増え続けるITシステム、増え続けるサイバー攻撃を自動で継続的に監視・管理する「ULTRA RED」を提供開始。
PR TIMES / 2024年9月29日 0時40分
-
2024年上半期サイバーセキュリティレポートを公開 脆弱性を悪用したカスタムツールGooseEggや世界的シェアを持つWordPressを狙った攻撃事例を解説
PR TIMES / 2024年9月24日 14時15分
-
PwCコンサルティング、AIサービスのビジネスリスクを特定・改善する「AIレッドチーム」によるサービスを開始
Digital PR Platform / 2024年9月19日 13時0分
-
企業への<サイバー攻撃>が増加。リスクをゼロにすることが極めて困難ななか、とるべき対策とは?【サイバーセキュリティの専門家が助言】
THE GOLD ONLINE(ゴールドオンライン) / 2024年9月17日 7時0分
-
情報モラル講座の要望ランキングで「ネットいじめ・ハラスメント」が1位に再浮上
@Press / 2024年9月10日 15時30分
ランキング
-
1栃木県の遊園地で「時給2500円」バイトが見せた驚きの成果とは? 狙いは人手不足解消じゃなかった!
ITmedia ビジネスオンライン / 2024年9月29日 6時15分
-
2「あいつと同じ墓に入りたくない!」人、選択肢3つ 「どの墓に入るか」自由はあるけど"準備"が重要
東洋経済オンライン / 2024年9月29日 9時0分
-
3【どうして?】ブレーキを踏んでいないのに…ブレーキランプがつきっぱなし 「バッテリー上がりや思わぬ事故の原因に」整備士が対処法を解説
まいどなニュース / 2024年9月28日 7時32分
-
4「90円はなかなか」夢洲駅までいくら? 大阪メトロの運賃が明らかに 一日券は使えない!?
乗りものニュース / 2024年9月28日 17時12分
-
575分が“10時間”に!? 破滅的な「コストコ渋滞」なぜ起きたのか 沖縄初出店1か月も混乱続く
乗りものニュース / 2024年9月29日 12時12分
記事ミッション中・・・
記事にリアクションする
記事ミッション中・・・
記事にリアクションする
エラーが発生しました
ページを再読み込みして
ください