Google、生成AI活用して脆弱性検出するフレームワーク「Naptime」発表
マイナビニュース / 2024年6月26日 8時17分
Googleは6月20日(米国時間)、「Project Zero: Project Naptime: Evaluating Offensive Security Capabilities of Large Language Models」において、大規模言語モデル(LLM: Large Language Model)を活用した脆弱性検出フレームワークの研究プロジェクト「Naptime」を発表した。同プロジェクトの名称について、Googleは、脆弱性調査の助けになると同時に定期的な昼寝時間(Naptime)を提供できるようにとの思いを込めているという。
○Naptimeの概要
GoogleはNaptimeのアーキテクチャを次のように説明している。
Naptimeのアーキテクチャは人工知能(AI: Artificial Intelligence)エージェントとターゲットコードベース間のインタラクションを中心に構築している。エージェントには人間のセキュリティ研究者のワークフローを模倣するように設計されたツールが提供される。
Googleの解説によると、Naptimeは、セキュリティ専門家の反復的な仮説主導のアプローチを厳密に模倣した脆弱性調査を実行できるという。また、利用者の脆弱性識別および分析能力を強化・支援し、結果が正確で再現可能なことも保証するとしている。
○Naptimeの脆弱性検出の手法
Naptimeは、CおよびC++コードの「高度なメモリ破損」および「バッファオーバーフロー」の脆弱性に焦点を当てている。これら2点の検出について、従来の方法論ではあまりよい結果を得られないが、LLMの機能を活用できるように方法論を改良することで検出率を最大で20倍に向上できることがわかったという。
Googleの実験では、このアプローチで「高度なメモリ破損」を検出率0.24から0.76に、「バッファーオーバーフロー」では0.05から1.0に向上できたとのこと。
しかしながら、Naptimeにはまだ改善すべき問題が存在するという。これら一連のテストにて使用したコードには脆弱性が必ず存在している。そのため、脆弱性が存在するかどうかわからない条件下での自律的な脆弱性調査に使用するには課題がある。Googleは次のように述べ、さらなる改良が必要としている。
熟練した人間が推論、仮説形成、検証という複数の反復ステップに頼るようなタスクでは、大規模言語モデルにも同様の柔軟性を提供する必要がある。そうでなければ、大規模言語モデルの能力を反映した真の結果は得られない。
Naptimeの製品化にはまだ多くの課題が残っているようだが、大規模で複雑化なコードから自動で脆弱性を発見できるようになれば、開発者の負担は大幅に軽減できるようになる。プロジェクト「Naptime」にはさらなる進化が期待されている。
(後藤大地)
外部リンク
この記事に関連するニュース
-
テラデータの「VantageCloud Lake」がGoogle Cloudで提供開始、Geminiとの連携も
マイナビニュース / 2024年6月27日 12時36分
-
NRIセキュア、生成AIを組み込んだシステム向けのセキュリティ監視サービス「AI Blue Team」を提供開始
PR TIMES / 2024年6月19日 16時15分
-
ソフトウェアサプライチェーンの保護に果たすAIの役割とは【後編】
マイナビニュース / 2024年6月18日 10時21分
-
AIに難しい「時間的な動き」の理解、動画-自然言語モデルで目指す突破口
ASCII.jp / 2024年6月13日 10時0分
-
Datadogの調査レポートから見る、DevSecOpsの適用に向けた実態
マイナビニュース / 2024年6月5日 11時18分
ランキング
-
1早く歩けよ!ゲーマーに嫌われがちなNPC護衛/尾行ミッション…海外ゲーマーの恨みが募る
Game*Spark / 2024年6月28日 12時30分
-
22億画素カメラと120W充電対応で6万円以下! さらに高コスパ化したシャオミ「Redmi Note 13 Pro+ 5G」
ASCII.jp / 2024年6月29日 12時0分
-
3お風呂が超苦手な柴犬の“逆襲”に家族が大パニック! 爆笑の展開に「やることが大胆」「腹の底から笑った」
ねとらぼ / 2024年6月28日 8時30分
-
4「スト6ですか?」 “餃子の王将の価格改定”が「格ゲーの調整みたい」と話題に…… 「全体的にアッパー調整」
ねとらぼ / 2024年6月28日 12時0分
-
5高評価ファンタジー農場シム『Sun Haven』、最新アップデートで有志翻訳を削除。代替の機械翻訳に多数の困惑の声
Game*Spark / 2024年6月28日 11時17分
記事ミッション中・・・
記事にリアクションする
![](/pc/img/mission/mission_close_icon.png)
記事ミッション中・・・
記事にリアクションする
![](/pc/img/mission/point-loading.png)
エラーが発生しました
ページを再読み込みして
ください
![](/pc/img/mission/mission_close_icon.png)