“AI同士で仕事をこなす”新時代のセキュリティを切り拓くLakera、資金調達には著名SaaS企業らが参加
Techable / 2024年8月28日 18時0分
生成AIアプリケーション同士が人手を介さずに自律的にやりとりをする「IoA(Internet of Agents)」の登場と普及が、今後、私たちの生活にとって不可欠なものになるという近未来図を描くスタートアップがある。チューリッヒおよびサンフランシスコに拠点を置くLakeraだ。
同社は一方で、IoAが、生成AIの中核であるLLM(Large Language Model)が持つセキュリティ脆弱性の問題を、より複雑にし、深刻化させると警告する。ネットワークの相互接続性により、障害の影響は前例のないレベルにまで拡大するとしている。
今年7月24日、LakeraはシリーズAラウンドで2,000万ドルの資金を調達したことを発表。この資金を活用して製品開発を加速し、シリコンバレーに拠点をもつ米国市場の開拓を拡大する計画だ。
IoAはサイバーセキュリティ脆弱性を大規模複雑化する現在、人手で問い合わせをして人手で対応しているカスタマーサービスや、部分的に自動化されているコーディングなどが、人間の戦略的な指示だけで完全に自動化される近未来が見込まれている。しかしこの革新をもたらすLLMの特徴が、同時に深刻なサイバーセキュリティ脆弱性の源泉になるのだ。
従来は、経験豊富でコーディングができなければブラックハッカーになれなかった。しかしいまや、自然言語で読み書きさえできれば、“誰でもハッキングができる”のだ。たとえば受信ボックスにあるメールをAIで要約する機能は、同時に受信ボックスをハッキングする機能に容易に転用できるのである。
IoAの発展は、同時に相互接続され自動化されたシステムの規模拡大を意味する。攻撃者が、ある脆弱性を突いて突破できれば、攻撃者はネットワークをたどって、あらゆる場所での大規模な攻撃が可能になる。あるいはLLMを侵食すれば、そのLLMを利用しているアプリケーションに影響が拡大する可能性がある。同社は、「IoAの動作速度を考えれば、ネットワーク内で侵害されたノードは、非常に急速に大規模に伝播する可能性がある」としている。
IoAにむけて急速に発展が進むいまこそ、新しい考え方で、新しいツールの開発をすすめる必要があるのだ。
AI教育プラットフォーム「Gandalf」こうした背景のなか、Lakeraは、AIセキュリティツール「Lakera Guard」のほか、AI教育プラットフォームGandalfを運営している。同サービスはMicrosoftをはじめとする多くの企業でセキュリティ教育に使われるなど、世界中で25万人以上のユーザーに利用されている。
Gandalfは、LLMと対話する能力を試されるゲームである。ゲームのゴールは、巧妙なプロンプト(質問)を打ち込むことによって、LLMが隠している秘密のパスワードを開示させることだ。ゲームはレベル7まで用意されており、レベルがあがるごとに、より巧妙なプロンプトの発行が求められる。
Gandalfには毎日10万件以上の攻撃が繰り返されており、その攻撃から学んだ結果からデータベースを構築している。また、この成果をLakeraセキュリティツールに取り込んでいる。これによって、Lakeraの顧客は脅威に先んじて脆弱性の防御が可能になる。
Lakeraの投資パートナーAtomicoのSasha Vidoborskiy氏は次のように述べる。
LakeraはDropboxや米国の銀行トップ3などの顧客を獲得し、Fortune 100企業の35%以上がLakeraのドアをノックしているなど、商業的な成功を収めています。業界最高のパフォーマンスを特長とするLakeraのツールですが、最も重要なことは、共同創業者兼CEOのDavid Haber氏と彼のチームが、この分野の思想的リーダーであることです。
Atomicoが主導した今回の資金調達は、Citi Ventures、Dropbox、redalpineを含む既存の投資家が参加。同ラウンドは、シードラウンド発表からわずか数か月で終了したという。同社は「大手金融サービス企業のベンチャー部門と有名なSaaS企業の参加は、企業向け生成AIアプリケーションのセキュリティ確保の緊急性と重要性を浮き彫りにしている」と語った。
参考元:
Lakera
Gandalf
(文・五条むい)
外部リンク
この記事に関連するニュース
-
年末商戦を前に、小売業者を標的とする AI 駆動型攻撃が増加傾向に
PR TIMES / 2024年10月31日 16時40分
-
Filigran、シリーズBの資金調達で3500万ドルを調達し、グローバルな事業拡大と製品イノベーションを推進
共同通信PRワイヤー / 2024年10月28日 14時19分
-
バグクラウド・レポート:AI技術がハッキングの価値を高めると考えているハッカーが2023年の21%から2024年には71%に上昇
PR TIMES / 2024年10月17日 13時45分
-
主要生成AIモデル、欧州AI法違反の恐れ 評価テストで低スコア
ロイター / 2024年10月16日 17時44分
-
Snyk、企業のAppSecおよびDevSecOpsの取り組みを支援するAI駆動のセキュリティ機能を発表
PR TIMES / 2024年10月11日 15時40分
ランキング
-
1Windowsの「ペイント」と「メモ帳」がAI対応!? もう高価な編集アプリ要らないかも
ASCII.jp / 2024年11月7日 17時30分
-
2「直視できないほどひどい」顔などを大火傷 “元国民的美少女”が現状や経過を報告→「傷跡が残りませんように」心配の声続々
ねとらぼ / 2024年11月7日 11時54分
-
3お花をたくさん編んでいくと…… 出来上がったかわいすぎるアイテムに「かわいい! 絶対作ります」
ねとらぼ / 2024年11月4日 9時30分
-
4電気代が安い「暖房器具」って何ですか? FPが主な暖房器具の電気代を比較して回答
Fav-Log by ITmedia / 2024年11月7日 9時50分
-
5M4チップ搭載の新型「MacBook Pro」は堅実な選択肢へと進化した1台だった 試して分かった違い
ITmedia PC USER / 2024年11月7日 23時10分
記事ミッション中・・・
記事にリアクションする
記事ミッション中・・・
記事にリアクションする
エラーが発生しました
ページを再読み込みして
ください