SkypeがInsider版で広告を排除／ChatGPTに高度な音声モードを追加

ITmedia PC USER / 2024年8月4日 6時5分

●サイバーエージェントが「Llama 3.1」ベースの日本語追加学習LLMを公開

　サイバーエージェントは7月26日、Metaが開発したオープン大規模言語モデル（LLM）「Llama 3.1 70B」をベースに、日本語データで追加学習を行ったLLM「Llama-3.1-70B-Japanese-Instruct-2407」を公開した。

　「Llama 3.1」シリーズは、Metaが7月23日（現地時間）に公開した最新LLMだ。15兆トークンを超えるデータでトレーニングしたとしており、複数のベンチマークで米OpenAIのGPT-4oや米AnthropicのClaude 3.5 Sonnetより優れたパフォーマンスを発揮するという。

　ただし、Llma 3.1は、日本語をサポートしておらず、実際に利用したユーザーからは日本語性能に対して不満の声も挙がっていた。

　サイバーエージェントが公開したLlama-3.1-70B-Japanese-Instruct-2407は、Llma 3.1 70Bをベースに日本語で追加学習を行ったもの。ベースモデルの公開から約2日という驚異的なスピードでの公開となった。同社は「今後もモデル公開や産学連携を通じて国内の自然言語処理技術の発展に貢献してまいります」としている。

　なお、Llama-3.1-70B-Japanese-Instruct-2407はHugging Face上で公開されている。ライセンスはMetaの「Llama 3.1 Community License」に基づいており、商用利用可能だが利用規約などへの同意が必要となる。