自動運転EV開発のチューリング、日英言語対応のマルチモーダル学習ライブラリ「Heron」と最大700億パラメータの大規模モデル群を公開
PR TIMES / 2023年9月7日 19時45分
~日本語で対話可能な画像-言語複合モデルを実現~
完全自動運転車両の開発・販売に取り組むTuring株式会社(千葉県柏市、代表取締役:山本 一成、以下「チューリング」)は、日本語を含む複数言語対応の大規模マルチモーダル学習ライブラリ「Heron(ヘロン)」と、それにより学習した最大700億パラメータのモデル群を公開したことをお知らせします。
チューリングでは高度な自動運転を実現するため、視覚情報によって得られた情報を、人間のように言語化して高度な文脈を理解できるAIモデルを開発しています。今回公開したマルチモーダルモデルの学習技術と知見を活かし、完全自動運転にむけた開発を進めてまいります。
[画像1: https://prtimes.jp/i/98132/34/resize/d98132-34-5f52500759bf05e23c5f-0.png ]
マルチモーダルについて
近年注目されている大規模言語モデル(LLM)は、大量のテキストデータを学習に用いることで、広範な知識の獲得や人間のような応答が可能になります。大規模言語モデルは、一般的にその入力と出力はテキストに限定されるため、画像など視覚情報を用いたタスクには直接適用できないという課題があります。
例えば、「洗面台に横たわる猫」の写真に対し、「この画像の面白い点は何ですか?」という質問に答えるためには、画像と言語の双方を入力情報として扱えなければなりません。このように、入力の形態(モーダル)が複数あることを「マルチモーダル」と呼びます。
[画像2: https://prtimes.jp/i/98132/34/resize/d98132-34-02f7024e06d3800e2479-0.png ]
今回公開したマルチモーダルモデルは、画像認識用に事前学習された「画像エンコーダ」部分と「大規模言語モデル」部分、およびその間をつなぐ「アダプタ」部分から構成されます。橋渡しするアダプタ部分を学習した後、画像エンコーダおよび大規模言語モデルも追加学習することで、全体として画像に何が写っているかを正確に把握しつつ、豊富な言語モデルの知識を利用して回答することが可能になります。
マルチモーダル学習ライブラリ「Heron」について
チューリングが開発したマルチモーダル学習ライブラリ「Heron」(読み: ヘロン、アオサギの英名)は、画像認識モデルと大規模言語モデルを接続し、各モジュールを追加学習するための学習コード、日本語を含むデータセット、および学習済みのモデル群から構成されます。
Heronのモデル学習の最大の特長は、対話を含むデータセットを用いることにより、自然かつ適切な対話が可能となっている点です。これまでのマルチモーダルモデルでは単純な回答しかできなかった複合的な画像-言語タスクにおいて、より詳細で自然な文章生成が可能となり、前の質問を含む文脈を理解して応答することができます。
[画像3: https://prtimes.jp/i/98132/34/resize/d98132-34-346ed8b40b9dfed5e8e4-0.png ]
学習用ライブラリは、学習する大規模言語モデルを自由に変換可能であり、既存の言語モデルの性能を活かしつつ、今後開発・公開される新たな大規模言語モデルに対しても容易に対応できる柔軟性を有しています。本格的にマルチモーダルモデルを学習するために系統的に学習できるように工夫されており、ソースコード部分については研究・商用利用が可能なApache License 2.0で公開しました。
今回公開した学習済みのマルチモーダルモデル群は、Llama 2-chat、ELYZA-Llama 2、 Japanese StableLMなどをベースにHeronで追加学習を行い、マルチモーダル化させたものです。
こちらの学習したモデルをWebブラウザ上で試すことができるデモページもあわせて公開しました。
https://huggingface.co/spaces/turing-motors/heron_chat_blip
さらに、注釈テキストやQ&Aからなる約15万枚の画像/テキストの英文データセットに対し、独自に日本語に翻訳した大規模な日本語の画像/テキスト情報のデータセットを作成・公開しました。このような対話形式のマルチモーダル学習向けの大規模な日本語データセットの公開は、世界で初めてとなります。
【学習用ライブラリの公開URL】
https://github.com/turingmotors/heron
【マルチモーダルモデル群の公開URL】
https://huggingface.co/turing-motors
【学習用データセットの公開URL】
https://huggingface.co/datasets/turing-motors/LLaVA-Instruct-150K-JA
LLMと完全自動運転の関係性
近年、AI技術の進化に伴い、大規模言語モデル(LLM)が注目を集めています。LLMは、大量のテキストデータから学習し、人間のような自然な文章を生成したり、質問に答えたりすることができるAIモデルです。チューリングは、完全自動運転の実現には人間と同等以上にこの世界を理解した自動運転AIが必要であると考え、言語を通じて極めて高いレベルでこの世界を認知・理解している、LLMを含むマルチモーダルモデルの開発を進めています。
<参考リリース>
https://prtimes.jp/main/html/rd/p/000000024.000098132.html
https://prtimes.jp/main/html/rd/p/000000032.000098132.html
チューリングについて
チューリングは、「We Overtake Tesla」をミッションにかかげ、完全自動運転EVの量産を目指すスタートアップです。世界で初めて名人を倒した将棋AI「Ponanza」の開発者である山本一成と、カーネギーメロン大学で自動運転を研究し、Ph.D.を取得した⻘木俊介によって2021年に共同創業され、AI深層学習技術を用いた限定領域に留まらない「完全自動運転」の実現を目指しています。
[画像4: https://prtimes.jp/i/98132/34/resize/d98132-34-e50210906802034632a2-4.png ]
社名:Turing株式会社(読み:チューリング、英語表記:Turing Inc.)
代表者:代表取締役 山本一成
設立:2021年8月
資本金:3,000万円(2022年9月末現在)
事業:完全自動運転EVの開発・製造
本社:千葉県柏市若柴226番地44中央141街区1
URL:https://www.turing-motors.com
採用情報
完全自動運転システム・EV車両を一緒につくる仲間を積極的に募集しています。
採用ページ:https://www.turing-motors.com/jobs
報道機関からのお問い合わせ先
広報担当(田中・山崎):pr@turing-motors.com
企業プレスリリース詳細へ
PR TIMESトップへ
この記事に関連するニュース
-
Axcxept社、画像認識AIを高速開発で進化させた「EZO-VLM」を発表
PR TIMES / 2024年8月5日 10時0分
-
車両に視覚や聴覚に似た“感覚機能”を付与|Nullmaxの新たなAI自動運転技術とは
Techable / 2024年8月2日 18時0分
-
Llama 3の日本語継続事前学習モデル「Llama 3 Youko」シリーズを公開
PR TIMES / 2024年7月26日 16時40分
-
「あはは」も再現? 味気ないAIとのおしゃべりを豊かにする音声対話技術
ASCII.jp / 2024年7月19日 10時0分
-
ソフトバンク、ANAHD子会社に出資‐マルチモーダルAIの開発を支援
マイナビニュース / 2024年7月18日 11時58分
ランキング
-
1最高の1万9210円アップ=賃上げ率5.58%は33年ぶり水準―24年春闘
時事通信 / 2024年8月5日 18時40分
-
2ホンダ、コンパクトカー「フィット」リニューアル 「本当にデザインが良いよなぁ」SNS期待の声
J-CASTニュース / 2024年8月5日 7時10分
-
3株価急落「冷静な判断が重要」=鈴木金融相
時事通信 / 2024年8月5日 19時15分
-
4ティックトック、「ポイ活」機能を恒久的に停止…「未成年者が依存」EU懸念に対応
読売新聞 / 2024年8月5日 19時0分
-
5アマゾンの翌日配送、北海道も加え47都道府県カバー…全日空と連携しサービス拡大
読売新聞 / 2024年8月5日 20時0分
記事ミッション中・・・
記事にリアクションする
記事ミッション中・・・
記事にリアクションする
エラーが発生しました
ページを再読み込みして
ください