NTTが開発した「ポータブルチューニング」は、業務特化型生成AIの再学習コストを削減し、効率的な運用を可能にします。
これにより企業はAI導入の障壁を下げ、業務改善が期待されるため、社会への影響は大きいです。
今後の商用化に注目です。
記事の概要
NTTは2025年7月9日に、業務特化型生成AIの運用コストを削減する「ポータブルチューニング」という新技術を発表しました。
この技術は、基盤モデルの再学習にかかるコストをなくすもので、基盤モデルを直接再学習せずに、別のモデル「報酬モデル」を使用します。
報酬モデルは、データを使って基盤モデルの出力を調整し、目的の出力を得る方法を学習します。
これにより、再学習を行わなくても同等の出力が可能になります。
また、ポータブルチューニングはRAG(検索拡張生成)導入時に特に役立ち、チューニングコストを削減します。
しかし、すべての生成AIに適用できるわけではなく、計算過程にアクセスできるモデルに限られ、トークン語彙の違いも課題となっています。
NTTは今後、研究を進め、商用化の可能性を探る予定です。
記事のポイント
- コスト削減の革新: NTTが開発したポータブルチューニングは、生成AIの運用コストを大幅に削減する可能性があります。
- 効率的なモデル更新: 報酬モデルを利用することで、基盤モデルの再学習なしに出力を調整できるため、業務における効率が向上します。
- 商用化の期待: NTTはポータブルチューニングの有効性を検証し、将来的に商用化を検討する意向を示しています。
詳しい記事の内容はこちらから(引用元)
NTTは2025年7月9日、業務特化型の生成AI(人工知能)の運用コストを削減する技術「ポータブルチューニング」を発表…
https://xtech.nikkei.com/atcl/nxt/news/24/02677/