FlashLabsは、AI推論ゲートウェイ「OrcaRouter」で新機能を提供開始しました。
ローカルGPU上のモデルを共有できる「Orca Connect」に、E2E暗号化推論を追加しました。
中継ハブがプロンプトや応答を見ない設計で、接続先の検証やなりすまし防止にも対応します。
記事の概要
FlashLabsは、米国のAI研究機関Continuum AIが開発するOrcaRouterを日本市場向けに提供しています。
OrcaRouterは、複数のAIモデルへ単一のAPIキーとエンドポイントで接続できる推論ゲートウェイです。
2026年10月27日に提供を開始したOrca Connectでは、Ollama、vLLM、LM Studioなどのローカル推論環境を接続できます。
今回のE2E暗号化推論では、ローカルモデルの利用時にプロンプトと応答をエンドツーエンドで暗号化します。
中継ハブはプロンプトと応答を見ず、接続先マシンを暗号学的ID検証で確認できます。
リクエストとレスポンスには署名付き推論レシートが付与され、改ざんを検知できます。
IDの変更を検知した場合は通信をブロックし、平文のプロンプトログを残さない設計です。
ローカルGPUが処理したレスポンスは無料で、ホスト型モデルが応答した場合だけ課金されます。
記事のポイント
- 中継ハブを暗号化: プロンプトと応答をエンドツーエンドで暗号化し、中継ハブが内容を見ない設計です。
- 接続先を検証: マシンの暗号学的IDを確認し、署名付き推論レシートで通信の改ざんを検知できます。
- ローカル処理は無料: 自前GPUが処理したリクエストは無料で、ホスト型モデルが代替応答した場合だけ課金されます。
このニュースがもたらす影響
- 導入を検討する企業: 機密データを扱う企業は、ローカルGPUとホスト型モデルを同じ接続方式で使い分けながら、経路上の閲覧やなりすましをどこまで許容するか、導入条件として整理する必要がありそうです。
- AI基盤事業者: 中継サービスの価値がモデル接続の集約だけでなく、接続先の暗号学的検証や改ざん検知にも広がるため、プライバシー保護を仕様として示せるかが競争軸になる可能性があります。
- 情シス・監査部門: 署名付き推論レシートと平文ログを残さない設計により、AI利用の検証方法を従来のサーバーログ中心から、通信相手と処理結果の真正性確認へ見直すことが求められそうです。
このニュースの背景
ローカルGPUでAIモデルを動かす場合、データを外部に出したくない需要がある一方、外部と共有する通信経路の扱いが課題になっていました。
Orca Connectは、ローカル推論環境とクラウド上のモデルを同じAPIキー・エンドポイントで扱うために開発されています。
今回の機能は、ローカル推論を外部から利用する際にも、中継ハブによるプロンプトや応答の閲覧を防ぎ、接続先を検証できるようにするものです。
関連するニュース
- FlashLabsは、ローカルGPUのモデルを外部から呼び出せるOrca Connectを提供開始しました。
- FlashLabsは、OrcaCyber Zeroで検証済み脆弱性だけに課金する診断サービスを開始し、重大度別料金を設定しました。
- FlashLabs株式会社は、OrcaRouterでDeepSeek V4.1 Flash無料版を提供し、最大100万トークンと画像入力に対応します。
詳しい記事の内容はこちらから(引用元)
FlashLabs株式会社のプレスリリース(2026年11月3日 19時00分)OrcaRouter、エンドツーエンド暗…
https://prtimes.jp/main/html/rd/p/000000126.000138449.html