アドバンテック、エッジ生成AIシステムをリリース、生成AI開発を大幅に加速
PR TIMES / 2024年3月29日 10時45分
生成AIをエッジで実現
[動画: https://www.youtube.com/watch?v=3EQQIhK5oaE ]
アドバンテック株式会社(TWSE:2395 東京都台東区、以下、アドバンテック)は、NVIDIA(R) Jetson AGX Orin(TM)を搭載したMIC-733-AOによる生成AIデモの実施に成功いたしました。こちらのデモは、クラウドベースの生成AIと比較して、より即時性が高く、セキュリティが強化され、インターネットコストが削減されるという利点があります。MIC-733-AO エッジ生成AIシステムでは、Jetson AIラボのジェネレーティブAIモデルが無償で基礎となるAIモデルを提供するため、カスタマイズが可能になり、開発時間が大幅に短縮されます。
MIC-733-AOへの生成AI実装
MIC-733-AO エッジ生成AIシステムは、Jetson AI labのNVIDIA 生成AIモデルと互換性があり、NVIDIA(R) Jetson AGX Orin(TM)によって効率的に大規模言語モデル(LLM)、ビジョン言語モデル(VLM)、ビジョン・トランスフォーマー(ViT)、および画像生成とLlamaspeakをエッジで実行することができます。このプラットフォームは、加速計算、重要なAIソフトウェア、および事前トレーニング済みモデルを含む複数のレイヤーにわたる独自の提供を行い、さまざまなアプリケーションや場所に適した生成型AIモデルの作成、カスタマイズ、展開を容易にします。
Jetson AI labの生成AIモデルを使用することで、開発者はリトリーバル拡張生成(RAG)技術を活用し、LLMとVLMを企業の知識ベースに接続することができます。この手法により、従来のAIモデルのトレーニングが不要となり、シンプルな対話形式でシステムとやり取りするだけでAIの推論が得られるため、開発時間が大幅に短縮されます。
アドバンテックのMIC-733-AOは、高いAI性能とIPカメラ、USB/gigE産業用カメラ、GMSLカメラ、LiDARなど複数のビデオインターフェースを備えており、エッジベースの生成型AIモデルの動作を可能にしています。その優れた熱設計により、NVIDIA(R) Jetson AGX Orin(TM)がフル稼働していてもホットクラッシュを防ぎます。
即答性アプリケーション向けのエッジでの生成AI
生成AIは、テキストや画像などさまざまな入力と出力から新しいコンテンツを作成することで、人間とコンピュータの相互作用に革新的な変化をもたらしています。クラウドからエッジへの需要のシフトにより、生成AIは高応答性と低レイテンシの環境に最適化しつつあります。
エッジベースの生成AIは、クラウドベースに比べていくつかの利点があります。
- 即応性: カメラやセンサーなどのデータソースを統合したエッジコンピューティングシステムは、クラウドへのデータアップロードなどがなく、遅延なしに迅速な生成AIの応答を可能にします。
- 情報セキュリティ: データはエッジシステム内に残るため、クラウドデータの送信に関連するサイバーセキュリティリスクを回避します。
- 安定したネットワーク接続: 無線ネットワークなしでも動作可能で、エッジシステムはネットワークの復旧までデータをローカルに保存します。クラウドベースのAIと異なり、ネットワークなしで機能停止する事はありません。
- 送信コストの低減: エッジAIは、バックエンド通信が不要な場合には送信コストがかかりません。クラウドのアップロードに比べて低帯域幅の送信のみが必要であり、非常に低コストです。
エッジでの生成AIは、AI時代の未来を象徴しています。Jetson AIラボのNVIDIA Generative AIモデルと統合されたMIC-733-AO Edge Generative AIシステムは、AI開発者にとって直感的なソリューションを提供し、現在市場で利用可能です。GTC 2024においてもデモ展示を実施させて頂きました。MIC-733-AO Live LLaVAデモアプリケーションノートのダウンロードはこちらから行えますので、今日からエッジベースの生成型AIアプリケーションの構築を始めてみてください。
企業プレスリリース詳細へ
PR TIMESトップへ
この記事に関連するニュース
-
Innodiskが強化されたAIビジョンアプリケーション向けの画期的なMIPI over Type-Cソリューションを発表
共同通信PRワイヤー / 2024年4月23日 17時3分
-
安川電機のAI機能を搭載し、自律性を備えた次世代産業用ロボットにWind River Linuxが採用
PR TIMES / 2024年4月18日 14時15分
-
インテル、エンタープライズAIを拡大する、インテル Gaudi 3 AI アクセラレーター、オープンなAIシステム戦略、顧客企業での新たな採用を発表
PR TIMES / 2024年4月10日 18時45分
-
レノボ、NVIDIAを搭載した生成AIワークフロー向けのワークステーションを発表
PR TIMES / 2024年4月9日 15時15分
-
Orbbec社、NVIDIA GTC 2024にて3Dビジョンカメラ「Femto Bolt」および「Femto Mega」を展示
PR TIMES / 2024年4月5日 11時45分
ランキング
-
1一時1ドル=160円台突破も一転154円台 “為替介入”の見方広がる 神田財務官「いつでも対応できる準備をしている」と市場けん制
日テレNEWS NNN / 2024年4月29日 20時16分
-
2中国、日本の輸出規制案は通常貿易に悪影響 「企業の正当な権利守る」
ロイター / 2024年4月29日 16時6分
-
3失業率3月は2.6%で横ばい、有効求人倍率1.28倍で0.02ポイント上昇
ロイター / 2024年4月30日 9時31分
-
4円急騰、市場に介入観測=財務官、実施明言せず―「投機による変動、看過し難い」
時事通信 / 2024年4月29日 19時33分
-
5セーラー万年筆「TUZU」 ペン先が回転、様々な書き方に対応
J-CASTトレンド / 2024年4月29日 20時0分
記事ミッション中・・・
記事にリアクションする
記事ミッション中・・・
記事にリアクションする
エラーが発生しました
ページを再読み込みして
ください