富士通、新アーキテクチャー「PHOTON」を開発–生成AIのコスト構造に転換点 – ZDNET Japan

富士通が新アーキテクチャー「PHOTON」を開発し、生成AIの推論コストを大幅に削減しました。
従来のTransformerと比較し、効率を475倍向上させ、計算資源の節約と持続可能性向上に寄与します。
これにより、AI技術の普及が促進される可能性があります。

記事の概要

富士通は新たに開発したアーキテクチャー「PHOTON」を発表しました。
この技術は、大規模言語モデル（LLM）の推論コストを削減し、従来のTransformerと比較してGPUあたり最大475倍のマルチクエリー性能を実現しています。
PHOTONは、トークン単位から「意味単位」での階層的処理に移行することで、計算負荷を軽減し、重要な文脈情報を保持します。
また、「マルチクエリー統合技術」により、同一問題に対して複数のクエリーを生成し精度を向上させます。
この技術は、データセンターの電力消費やGPU需要の増加に対する解決策としても期待されており、効率的なAIインフラの構築に貢献します。
富士通はこの成果を国際会議で発表し、商用システムへの適用を進める予定です。

記事のポイント

1. コスト削減の革新： 新アーキテクチャ「PHOTON」は、LLMの推論コストを大幅に削減する可能性を秘めています。
2. 高性能の実現： 従来のTransformerと比較して、最大475倍のマルチクエリー性能を達成しました。
3. 環境への配慮： PHOTONは計算資源を有効活用し、AIインフラの効率化と持続可能性向上に貢献することが期待されています。

詳しい記事の内容はこちらから（引用元）

ZDNET Japan

富士通、新アーキテクチャー「PHOTON」を開発--生成AIのコスト構造に転換点

富士通は、大規模言語モデル（LLM）の推論コストを削減する新アーキテクチャー「Parallel Hierarchical…