リコー、MoE型LMMを開発　日本語推論と省リソースを両立

リコーは10月15日、日本語の文書や図表を理解するマルチモーダル大規模言語モデル（LMM）を開発したと発表しました。
「リコーLMM_35B-A3B」は、MoE構造により推論時の計算量を抑えながら、日本語の推論性能を高めたモデルです。
11月から「RICOH オンプレLLMスターターキット」に順次搭載し、リコージャパンから提供する予定です。

記事の概要

リコーLMM_35B-A3Bは、アリババクラウドの「Qwen3.6-35B-A3B」をベースにしています。
リコー独自の強化学習とカリキュラム学習技術を活用し、日本語での推論性能を高めました。
総パラメータ数は約350億ですが、推論時には約30億パラメータのみを稼働させます。
MoEは入力に応じて必要な専門家だけを選ぶ構造で、Dense型より計算量を抑えやすい方式です。
最大256Kトークンの長文コンテキストに対応し、画像に加えて動画も入力できます。
独自ベンチマーク「JDocQA-Reasoning Benchmark v2.0」では、ベースモデルの0.816から0.841に向上しました。
日本語AIエージェント評価「j-tau-bench」では、通信事業者のカスタマーサービスシナリオの正答率が62.4％から77.7％に上がりました。
NVIDIA Blackwell世代以降のGPU向けNVFP4版も開発し、「NVIDIA DGX Spark」1台で動作します。

記事のポイント

1. 推論時は約30億パラメータ： 約350億パラメータのうち必要な部分だけを稼働させ、計算量を抑えます。
2. 日本語評価で性能向上： JDocQA-Reasoning Benchmark v2.0で、ベースモデルの0.816から0.841に向上しました。
3. オンプレミス提供を予定： 11月からRICOH オンプレLLMスターターキットに順次搭載する予定です。

このニュースがもたらす影響

• 導入を検討する企業： オンプレミスで文書・図表を扱いたい企業は、クラウド利用が難しい業務でも、GPU資源や同時アクセス数を踏まえて導入効果を見積もりやすくなります。まず自社文書の長さ・画像比率・応答要件を検証する必要があります。
• 同業のモデル提供者： 同業のモデル提供者には、総パラメータ数ではなく、実際に稼働させる規模と日本語業務の正答率をセットで示すことが求められそうです。オンプレ対応やGPU構成まで含めた比較が、選定材料になり得ます。
• AI基盤担当者： AI基盤の設計担当者には、モデル選定を性能だけでなく、推論時の稼働パラメータ、GPU世代、量子化版の応答時間まで含めて行う視点が必要になります。PoCでは実データで負荷を測ることが重要です。

このニュースの背景

図表を含む社内文書を生成AIで活用したいニーズが高まる一方、セキュリティやガバナンスからクラウドAIを使いにくい企業があります。
オンプレミスで利用する場合も、GPUリソースや電力、応答時間が課題となり、大量文書処理や同時アクセスへの対応が必要です。
こうした条件に対し、必要な専門家だけを動かして計算量を抑えるMoE構造と、日本語業務向けの追加学習を組み合わせています。

詳しい記事の内容はこちらから（引用元）

ZDNET Japan

リコー、MoE型マルチモーダルLLMを開発--日本語での推論性能を向上

リコーは、日本語の文書や図表を高精度に理解し、高速・省リソースで動作するマルチモーダル大規模言語モデル（LMM）「リコー…