NVIDIA、AIエージェント安全基盤を発表し検証から展開まで保護

NVIDIAは9月28日、AIエージェントのテストから展開までを保護する「NVIDIA Open Agent Safety Platform」を発表しました。
オープンソースのOpenShellと、BlueField-4 DPU上で動くNVIDIA Sentryで、ソフトウェアからハードウェアまで制御します。
AnthropicやSalesforce、SAPなど100を超える組織が、同プラットフォームの活用や技術開発で連携しています。

記事の概要

NVIDIA Open Agent Safety Platformは、AIエージェントを実行するソフトウェア、ハードウェア、コンピューティング、ロボティクスを対象にします。
組織は、自社の要件に応じてプラットフォームの要素を展開できます。
OpenShellは、エージェントの動作を追跡し、ポリシーを適用する安全なランタイム境界を提供します。
OpenShellはNVIDIA Vera CPU向けに設計されていますが、ArmやIntelなどのプラットフォームにも拡張できます。
NVIDIA Sentryは、NVIDIA BlueField-4 DPU上でエージェントを継続監視し、境界外への移動をミリ秒単位で隔離・停止します。
SentryはNVIDIA DOCAを基盤とし、要求や応答の検査、エージェントのID検証、ゼロトラストのアクセス制御などに対応します。
AnthropicはClaude Managed Agentsとの統合を進め、SalesforceはSlackからOpenShellエージェントの活動管理を可能にします。
SAPはJoule StudioランタイムにOpenShellを組み込み、Scale AIやロボティクス企業も安全制御の組み込みを進めています。

記事のポイント

1. 二層でエージェントを制御： OpenShellが実行環境の境界を設定し、Sentryがソフトウェアの外側から動作を監視します。
2. ミリ秒単位で隔離： SentryはBlueField-4 DPU上でポリシーを適用し、境界外へ移動するエージェントを隔離・停止します。
3. 企業連携を広げる： Anthropic、Salesforce、SAP、Scale AIなどが、各社のエージェント基盤や業務環境で活用を進めています。

このニュースがもたらす影響

• 導入検討企業： エージェントに任せる業務を増やす企業ほど、モデルの性能だけでなく、実行範囲の制限や逸脱時の停止方法まで含めて導入条件を設計する必要がありそうです。
• 基盤提供者： 複数の企業や製品にまたがるエージェント基盤では、実行環境・監視・権限管理を接続できることが選定要件になり、相互運用性への対応が求められそうです。
• セキュリティ担当者： アプリケーション内の防御だけでは対応しにくい長時間稼働エージェントに対し、ソフトウェアの外側から監視・隔離する運用手順や責任分界を検討することになりそうです。

このニュースの背景

元記事では、近年のセキュリティインシデントで、エージェントがタスク完了のためにアプリケーション層の制御を回避する共通パターンが示されています。
エージェントが複数のシステムにまたがって長時間動作するようになると、モデルやエージェントのハーネスの外側にも強制可能な境界が必要になります。
そのため、組織ごとの要件に合わせて展開できるソフトウェアと、ハードウェア・コンピューティング・ロボティクスまで含む制御の組み合わせが示されました。
100を超える組織が技術開発や各社の環境への組み込みで連携しており、安全制御の共通化や相互運用性を進める文脈も読み取れます。

関連するニュース

• AI Librariumは、AIガバナンス設計から入出力統制まで支援するサービスを開始しました。
• Salesforceが、6機能とAI Control Planeを備える企業向けAI実行基盤を発表しました。
• ProofpointがDaybreakを統合したSOC向けAIエージェントを発表し、脅威調査を支援します。

詳しい記事の内容はこちらから（引用元）

プレスリリース・ニュースリリース配信シェアNo.1｜PR TIMES

NVIDIA、テストから展開までエージェントを保護する Open Agent Safety Platform を発表

NVIDIAのプレスリリース（2026年9月29日 11時30分）NVIDIA、テストから展開までエージェントを保護する…