楽天、7000億パラメータの日本語LLM「Rakuten AI 3.0」 – Impress Watch

記事の概要

楽天グループは、日本語に特化した大規模言語モデル「Rakuten AI 3.0」を発表しました。
このモデルは約7,000億のパラメータを持ち、日本語のニュアンスや文化を理解する能力に優れています。
また、性能と効率のバランスが特徴で、楽天のサービスでは他社の同規模モデルと比較して最大90%のコスト削減を実現しています。
モデルは「Rakuten AIゲートウェイ」のAPI群に追加され、2026年春にはオープンウェイトモデルとして公開予定です。
トークンごとに約400億のパラメータをアクティブ化することで計算効率を向上させ、独自データでファインチューニングを行って精度を高めています。
日本語性能も向上しており、評価では他の日本語LLMや前モデルを上回るスコアを記録しています。
このプロジェクトは、経済産業省などが推進する「GENIACプロジェクト」の一環として進められています。

記事のポイント

詳しい記事の内容はこちらから（引用元）

Impress Watch

楽天、7000億パラメータの日本語LLM「Rakuten AI 3.0」

楽天グループは、Mixture of Experts(MoE)アーキテクチャを採用した日本語特化の大規模言語モデル(LL…