さくらインターネットは10月8日、企業専用の生成AI基盤を提供開始しました。
企業が保有する独自モデルやファインチューニング済みモデルを、同社のGPU基盤で運用できます。
専有環境や国内データセンター、閉域接続に対応し、機密情報を扱う企業の利用を想定しています。
記事の概要
新サービスは、フルマネージドのAIモデルサービングサービスです。
企業の生成AIモデルを同社のGPU基盤にホスティングし、API経由で利用できます。
独自開発モデルやファインチューニング済みモデル、オープンウェイトモデルに対応します。
推論基盤の構築から運用、監視、障害対応までをさくらインターネットが担います。
入力データやモデル資産を外部に出さない運用ができ、閉域接続にも対応します。
基盤は国内データセンターで運用し、入力データと生成結果はモデル学習に利用しません。
料金はGPU単位の月額定額制で、具体的な金額は個別問い合わせとなります。
記事のポイント
- 専有GPU基盤で運用: 企業独自の生成AIモデルを専有環境で稼働させ、ほかのテナントの利用状況に左右されず推論できます。
- 運用業務を一貫支援: 構築から監視、障害対応までをさくらインターネットが担い、企業はモデル活用に集中できます。
- 月額定額制を採用: GPU単位の月額定額制を採用し、トークン使用量で料金が変動する方式より費用を把握しやすくしています。
このニュースがもたらす影響
- 導入検討企業: 自社モデルを本番業務へ移す際、GPU調達や監視体制を自社で抱える前提が薄れます。専有性、接続方式、月額費用を軸に運用方針を比較することになりそうです。
- AIサービス提供者: モデルを外部提供する企業は、従量課金のAPIだけでなく、利用量が読みやすい専有基盤を選択肢に加える可能性があります。顧客ごとの運用要件への対応力が競争軸になりそうです。
- AI導入責任者: 機密データを扱う社内利用では、モデル性能だけでなく、データの所在や接続経路、学習利用の扱いまで含めて導入判断を整理する必要が生じそうです。
このニュースの背景
企業の生成AI活用が概念実証から本番運用へ移る中、独自モデルや調整済みモデルを安定稼働させるインフラが課題になっています。
生成AIの推論には高性能なGPU基盤が必要で、構築後も監視や障害対応などの運用体制が求められます。
機密情報を扱う企業では、データを外部に出さない仕組みや国内で完結するインフラへのニーズが高まっています。
こうした要件に対し、専有環境や閉域接続に対応し、推論基盤の運用まで一貫して担うサービスが登場しました。
関連するニュース
- KENCOPAは、さくらインターネットのGPUクラウドを使い、LLMとインフラデータ処理基盤の連携システムを開発・検証しました。
- Cuonは、Boxと管理クラウドで構成するローカルLLM向け基盤を11月1日に提供開始します。
- 株式会社KAKEAIは、1on1の会話と実行を支援するAIサービスを提供開始しました。
詳しい記事の内容はこちらから(引用元)
さくらインターネットは、企業が保有する生成AIモデルを専有環境で運用できるフルマネージドのAIモデルサービングサービス「…
https://japan.zdnet.com/article/35253368/