ダートマス大は偽文書を大量に生成する「カナリアトラップ」でセキュリティを強化!
Techable / 2021年3月9日 9時0分
スパイ活動では、「カナリアトラップ」と呼ばれる偽文書によるかく乱手法が用いられる。ダートマス大学の研究チームによって開発されたデータ保護システム「WE-FORGE」は、 人工知能を使用してカナリアトラップの概念を構築。医薬品設計や軍事技術などの知的財産を保護するために、偽の文書を自動的に生成する。
もっともらしいが実際には正しくない文書が多数存在すれば、万が一システムがハッキングされても、多くの類似した文書のどれが本物か把握するのが困難だ。
文書に含まれる概念のもっともらしい置き換えを検討WE-FORGEは、自然言語処理を使用して、正しいものと正しくないものを織り交ぜた文書を自動生成。ランダム性の要素を組み込むことで、攻撃者が実際の文書を簡単に識別できないようにする。
研究チームによれば、偽の文書を作成することはそれほどむつかしくないようだ。
WE-FORGEは、文書の中の置き換え可能な概念すべてで代替を検討する。概念間の類似性を計算し、各単語が文書にどの程度関連しているかを分析することで機能する。特許文書1本には1000を超える概念が含まれ、最大20バージョンの偽文書が生成できるとのこと。
人間とAIのコラボレーションもWE-FORGEは、文書の作成者からの入力も利用可能。人間とAIのコラボレーションによって、攻撃のコストをさらに増加させる可能性がある。
研究の一環として、チームはコンピューターサイエンスと化学の特許文書を偽造。有識者パネルにどの文書が本物かを判断するよう依頼した。
結果として、WE-FORGEはタスクごとに一貫して、信頼性の高い偽文書を生成できたようだ。同システムは政府機関や知的財産を扱う業界で利用され、サイバーセキュリティの強化に役立てられる可能性がある。
参照元:Cybersecurity Researchers Build a Better 'Canary Trap'/ Dartmouth News
外部リンク
この記事に関連するニュース
-
「AIサービス提供者・利用者向けサイバーセキュリティ対策支援サービス」の提供を開始
PR TIMES / 2024年7月12日 12時45分
-
イスラエルのAIサイバーセキュリティ企業Clarity、独自技術でフェイク動画見破る
Techable / 2024年7月10日 12時30分
-
豪首相が謝罪「AIの不祥事」に学ぶリスク管理 迫るEU法規制、日本企業も制裁の対象になる
東洋経済オンライン / 2024年7月5日 9時0分
-
AIモデルの使用者を標的とした3つの攻撃方法の例
マイナビニュース / 2024年6月26日 11時45分
-
【7月3日開催】生成AIの法的リスクと企業対応を徹底解説。DXHRセミナー開催
PR TIMES / 2024年6月24日 14時45分
ランキング
-
1「マジかw」「すごいことなってる」 お笑い芸人が米オーディション番組で日本人初快挙を遂げる
ねとらぼ / 2024年7月17日 16時9分
-
2「酔っていました」 MLBオールスターの国歌斉唱に「ひどい」と批判 歌手が謝罪
ねとらぼ / 2024年7月17日 10時5分
-
3グーグル「Chrome」深刻度“高”の脆弱性10件に対応するアップデート
ASCII.jp / 2024年7月17日 13時0分
-
4Xの動画「勝手に次も再生される」を防ぐ裏ワザ
ITmedia NEWS / 2024年7月17日 8時30分
-
5iPhoneが海に落下...どうすれば? - いまさら聞けないiPhoneのなぜ
マイナビニュース / 2024年7月17日 11時15分
記事ミッション中・・・
記事にリアクションする
![](/pc/img/mission/mission_close_icon.png)
記事ミッション中・・・
記事にリアクションする
![](/pc/img/mission/point-loading.png)
エラーが発生しました
ページを再読み込みして
ください
![](/pc/img/mission/mission_close_icon.png)