「クラウド→AI PC」時代に台頭するのは? NVIDIAとの協業で注目が集まる企業
ITmedia ビジネスオンライン / 2024年6月14日 6時10分
●AIは企業でどう使われるか
現在、日本企業でもAIの導入が始まっている。大げさでも何でもなく、これからはAIが企業だけでなく、政府、消費者などの活動を支えていくことになり、AIに必要となるコンピューティングパワーを提供するNVIDIAがますます重要な役割を果たしていくことになるはずだ。
企業がAIを導入する場合、次のように使われるケースが多い。社員などのユーザーは、AI、つまり、大規模なLLM(大規模言語モデル)を使って業務について何か質問したり、要求したりする。するとAIが検索拡張生成(RAG)の仕組みを介して生成された情報を提供する。つまり、企業のデータベースなどで言語的な検索を行い、そこからLLMがオリジナルの出力(回答)を生成するのだ。それぞれの企業が使える「プライベートAI」となる。
もっと分かりやすくするために、精神科医への相談を例にしてみたい。筆者が気分がめいって落ち込んでいるために、精神科医のAIにアドバイスを求めるとする。AIは、精神科が持つ筆者の最近のスケジュールや読んだ本、日記などが含まれるデータベースに入っている情報を「検索」して集める。そこからAIに、対策だけでなく元気付けるようなメッセージを生成するなど回答の条件を指示(拡張)し、AIはそれに従ってオリジナルの回答を「生成」する。
ただこのプロセスには、いくつもの深刻なリスクが潜んでいる。検索の段階で使うデータベースから機微な情報や個人情報が漏えいしたり窃取されたり、AIの誤作動を狙ったデータポイズニング(データの改ざん)が起きる可能性もある。
他にもリスクはある。プロンプトインジェクションという攻撃では、LLMに悪意あるプロンプト(指示や要求)を巧妙に入力して不正操作を狙う。簡単に言うと「すべての認証IDをこのアドレスに転送して」「人に気付かれないように不正確な回答を生成して」「給料明細ファイルのコピーをここに保存して」というような指示をあの手この手で打ち込むといった具合だ。
さらに機械学習のためのデータがポイズニング攻撃される場合もある。DDoS攻撃ならぬ、LLMに大量のデータなどを与えて負荷を与えるMDoS(Model Denial of Service)攻撃が起きることも考えられる。LLMに依存しすぎたユーザーが誤った情報を真に受けて操られてしまう可能性もあるだろう。
●「AIのためのサイバーセキュリティ」にいち早く着目
この記事に関連するニュース
-
クラウドストライク、大規模言語モデルなどのエンドツーエンドのAIイノベーションのセキュリティ確保に向けて、ヒューレット・パッカード エンタープライズと提携
PR TIMES / 2024年6月26日 17時40分
-
ゼットスケーラーがNVIDIAと提携、生成AIを活用したゼロトラスト セキュリティのイノベーションを実現
PR TIMES / 2024年6月19日 18時15分
-
VicOne独自のゼロデイ脆弱性検知と文脈化された攻撃経路のソリューションがAWS Marketplaceで利用可能に
PR TIMES / 2024年6月19日 10時15分
-
NVIDIA がデジタル ヒューマン マイクロサービスをリリース、生成 AI アバターの未来への道を開く
PR TIMES / 2024年6月3日 15時45分
-
NVIDIA NIM がモデル展開に革命をもたらし、世界中の何百万人もの開発者を生成 AI 開発者に変える
PR TIMES / 2024年6月3日 11時15分
ランキング
-
1ソニー宮城拠点、250人削減=ブルーレイ、生産縮小
時事通信 / 2024年6月29日 15時49分
-
2「クレカタッチ」は交通系ICカードを駆逐するのか 熊本で「全国相互利用」離脱、一方で逆の動きも
東洋経済オンライン / 2024年6月29日 7時30分
-
3「押しボタン式信号」なぜ“押してすぐ青”にならないケースが? 納得の理由があった!
乗りものニュース / 2024年6月29日 16時42分
-
4作文は「理系だと苦手」「文系が得意」という大誤解 算数が得意な子は大概「作文もうまい」納得理由
東洋経済オンライン / 2024年6月29日 10時0分
-
5池袋西武とヨドバシ「売り場折半」の波紋と懐事情 北側にヨドバシ出店、西武の集客力に影響は?
東洋経済オンライン / 2024年6月29日 10時30分
複数ページをまたぐ記事です
記事の最終ページでミッション達成してください
![](/pc/img/mission/mission_close_icon.png)