FlashLabsは11月17日、AI推論ゲートウェイ「OrcaRouter」のBYOK機能をアップグレードしました。
.envファイルやAPIキーの貼り付けによる一括インポートと、プロバイダの自動検出に対応しました。
複数キーのルーティングを自動化する「Auto-Optimize(Beta)」も追加し、全アカウントで利用できます。
記事の概要
BYOKは、利用者自身が取得したAPIキーを中継サービスに登録して使う方式です。
今回のアップグレードでは、.envファイルまたはAPIキーを貼り付けるだけで、一括インポートできます。
登録時には、どのプロバイダのキーかを自動で検出します。
Auto-Optimize(Beta)では、最安ルートの選択、レート制限の回避、自社キーのみ利用の3モードを選べます。
最安ルートのモードでは、登録した複数キーからリクエストごとに低コストの経路を選びます。
レート制限の回避では、制限に達しそうなキーを避けて別のキーへ切り替えます。
BYOKキーは保存時にAES-256-GCMで暗号化され、ゲートウェイ上乗せは0%です。
OrcaRouterは、200以上のLLM・生成AIモデルを単一のゲートウェイから利用できるサービスです。
記事のポイント
- キーを一括登録: .envファイルやAPIキーを貼り付けるだけで、複数のキーを一括登録できます。プロバイダも自動検出されます。
- 3モードで経路選択: Auto-Optimize(Beta)は、最安ルート、レート制限の回避、自社キーのみ利用から選べます。
- 暗号化と手数料0%: 登録キーはAES-256-GCMで保存時に暗号化されます。BYOK利用時のゲートウェイ上乗せは0%です。
このニュースがもたらす影響
- AI導入企業: 複数のモデル提供事業者と直接契約している企業は、既存キーや請求関係を保ったまま経路選択を自動化できるため、コスト・制限回避・運用統制のどれを優先するか決める必要がありそうです。
- ゲートウェイ事業者: 一括登録や自動ルーティング、上乗せ0%まで示されたことで、同種サービスは接続先の多さだけでなく、キー管理の安全性と料金設計を含む運用負荷の軽減で比較される可能性があります。
- 開発・情シス: キーを預ける運用を採用する企業では、保存時の暗号化だけでなく、ベータ機能の切り替え条件や自社キー限定運用を含め、社内の権限・監査ルールとの適合を確認することが求められそうです。
このニュースの背景
AIモデルをAPIで利用する際、ゲートウェイ経由ではモデル提供事業者への料金とは別に、中継サービス側の手数料が発生するのが一般的です。
BYOKでは、利用者が取得したAPIキーを中継サービスに登録して使うため、自社契約の単価やコミットメント、モデル提供事業者との請求関係を維持できます。
OrcaRouterは200以上のLLM・生成AIモデルを単一のゲートウェイから利用でき、従来からBYOKを提供していました。今回のアップグレードは、キー登録とルーティング設定の簡素化・自動化を進めるものです。
関連するニュース
- FlashLabsは、OrcaRouterで中継ハブが内容を見ないE2E暗号化推論を提供開始しました。
- FlashLabsは、ローカルGPUのモデルを外部から呼び出せるOrca Connectを提供開始しました。
- FlashLabsはOrcaRouterを強化し、AIリクエストのトレースを外部監視ツールへ直接送信できるようにしました。
詳しい記事の内容はこちらから(引用元)
FlashLabs株式会社のプレスリリース(2026年11月18日 18時50分)OrcaRouter、利用者自身のAP…
https://prtimes.jp/main/html/rd/p/000000137.000138449.html