“AI同士で仕事をこなす”新時代のセキュリティを切り拓くLakera、資金調達には著名SaaS企業らが参加
Techable / 2024年8月28日 18時0分
生成AIアプリケーション同士が人手を介さずに自律的にやりとりをする「IoA(Internet of Agents)」の登場と普及が、今後、私たちの生活にとって不可欠なものになるという近未来図を描くスタートアップがある。チューリッヒおよびサンフランシスコに拠点を置くLakeraだ。
同社は一方で、IoAが、生成AIの中核であるLLM(Large Language Model)が持つセキュリティ脆弱性の問題を、より複雑にし、深刻化させると警告する。ネットワークの相互接続性により、障害の影響は前例のないレベルにまで拡大するとしている。
今年7月24日、LakeraはシリーズAラウンドで2,000万ドルの資金を調達したことを発表。この資金を活用して製品開発を加速し、シリコンバレーに拠点をもつ米国市場の開拓を拡大する計画だ。
IoAはサイバーセキュリティ脆弱性を大規模複雑化する現在、人手で問い合わせをして人手で対応しているカスタマーサービスや、部分的に自動化されているコーディングなどが、人間の戦略的な指示だけで完全に自動化される近未来が見込まれている。しかしこの革新をもたらすLLMの特徴が、同時に深刻なサイバーセキュリティ脆弱性の源泉になるのだ。
従来は、経験豊富でコーディングができなければブラックハッカーになれなかった。しかしいまや、自然言語で読み書きさえできれば、“誰でもハッキングができる”のだ。たとえば受信ボックスにあるメールをAIで要約する機能は、同時に受信ボックスをハッキングする機能に容易に転用できるのである。
IoAの発展は、同時に相互接続され自動化されたシステムの規模拡大を意味する。攻撃者が、ある脆弱性を突いて突破できれば、攻撃者はネットワークをたどって、あらゆる場所での大規模な攻撃が可能になる。あるいはLLMを侵食すれば、そのLLMを利用しているアプリケーションに影響が拡大する可能性がある。同社は、「IoAの動作速度を考えれば、ネットワーク内で侵害されたノードは、非常に急速に大規模に伝播する可能性がある」としている。
IoAにむけて急速に発展が進むいまこそ、新しい考え方で、新しいツールの開発をすすめる必要があるのだ。
AI教育プラットフォーム「Gandalf」こうした背景のなか、Lakeraは、AIセキュリティツール「Lakera Guard」のほか、AI教育プラットフォームGandalfを運営している。同サービスはMicrosoftをはじめとする多くの企業でセキュリティ教育に使われるなど、世界中で25万人以上のユーザーに利用されている。
Gandalfは、LLMと対話する能力を試されるゲームである。ゲームのゴールは、巧妙なプロンプト(質問)を打ち込むことによって、LLMが隠している秘密のパスワードを開示させることだ。ゲームはレベル7まで用意されており、レベルがあがるごとに、より巧妙なプロンプトの発行が求められる。
Gandalfには毎日10万件以上の攻撃が繰り返されており、その攻撃から学んだ結果からデータベースを構築している。また、この成果をLakeraセキュリティツールに取り込んでいる。これによって、Lakeraの顧客は脅威に先んじて脆弱性の防御が可能になる。
Lakeraの投資パートナーAtomicoのSasha Vidoborskiy氏は次のように述べる。
LakeraはDropboxや米国の銀行トップ3などの顧客を獲得し、Fortune 100企業の35%以上がLakeraのドアをノックしているなど、商業的な成功を収めています。業界最高のパフォーマンスを特長とするLakeraのツールですが、最も重要なことは、共同創業者兼CEOのDavid Haber氏と彼のチームが、この分野の思想的リーダーであることです。
Atomicoが主導した今回の資金調達は、Citi Ventures、Dropbox、redalpineを含む既存の投資家が参加。同ラウンドは、シードラウンド発表からわずか数か月で終了したという。同社は「大手金融サービス企業のベンチャー部門と有名なSaaS企業の参加は、企業向け生成AIアプリケーションのセキュリティ確保の緊急性と重要性を浮き彫りにしている」と語った。
参考元:
Lakera
Gandalf
(文・五条むい)
外部リンク
この記事に関連するニュース
-
生成AIだますプロンプトインジェクションに脆弱性、情報流出招く恐れ
マイナビニュース / 2024年8月30日 12時51分
-
【AironWorks】AIサイバーセキュリティプラットフォーム拡充と多地域展開加速に向けて$3M (約4.5億円*) の資金調達を実施
PR TIMES / 2024年8月30日 10時45分
-
生成AIやLLMにより高度化するフィッシング、どう対抗するか 第3回 「礼儀正しく、疑い深い」組織を育成し、AI時代のフィッシングに備える
マイナビニュース / 2024年8月20日 10時25分
-
生成AIの開発・利用リスクにどう立ち向かうのか? - SB intuitionsの挑戦
マイナビニュース / 2024年8月19日 15時0分
-
生成AIが加速させる?「普通の人」でも容易にハイレベルな攻撃が可能に
マイナビニュース / 2024年8月16日 10時10分
ランキング
-
1「iPhone 16/16 Pro」は何が進化した? iPhone 15シリーズとスペックを比較する
ITmedia Mobile / 2024年9月10日 9時22分
-
2イケアのまな板「コスパいい」なぜかオーディオ愛好家に好評 「発想が柔軟」目的外使用にはリスクも
iza(イザ!) / 2024年9月9日 17時50分
-
3「iPhone 16 Pro」発表 Maxは史上最大の6.9インチ、Proにも5倍ズーム搭載 4K120fps撮影も
ITmedia NEWS / 2024年9月10日 4時13分
-
4「Xiaomi 14 Ultra」と「AQUOS R9」のカメラを比較 ライカ監修カメラの実力はどれほど違うのか
ITmedia Mobile / 2024年9月9日 6時5分
-
5「草生えたwww」 とんでもない場所に生えた米……! 衝撃の光景に10万いいね 「たくましくて草 いや米」「強い!」
ねとらぼ / 2024年9月10日 12時15分
記事ミッション中・・・
記事にリアクションする
記事ミッション中・・・
記事にリアクションする
エラーが発生しました
ページを再読み込みして
ください