生成AIに有害な入出力を防ぐファイアウオール製品、米ロバストが日本語LLM対応

AIを利用する際に安心して使用できるファイアウォール製品「AI Firewall」の提供が始まります。
有害な情報をブロックし、機密情報の漏えいや予期せぬ挙動を防止するなど、セキュリティ対策が万全です。

記事の概要

AIベンチャーのロバストインテリジェンスが、AIを搭載したアプリケーションソフトを有害な入出力から保護する「AI Firewall」を提供開始する。
英語と日本語の大規模言語モデル（LLM）に対応し、リアルタイムで監視して有害な情報をブロックする機能を備える。
また、機密情報の漏えいや想定外の挙動を防止し、出力内容を検証して矛盾した回答を抑制できる。
学習データ投入の監視にも対応し、データポイズニングを防ぐ。
ロバストインテリジェンスは日本でも製品提供しており、既存製品はリクルートやセブン銀行などで利用実績がある。

記事のポイント

1. AI Firewallの提供開始： 米Robust IntelligenceがAIを搭載した製品「AI Firewall」の提供を開始しました。
2. 有害な入出力からの保護： AI Firewallは有害な情報をブロックする機能を備えるため、機密情報の漏えいや悪質なプロンプトインジェクションを防止できます。
3. 日本語LLM対応： AI Firewallは英語と日本語の大規模言語モデル（LLM）に対応しており、日本の企業でも利用が可能です。

詳しい記事の内容はこちらから（引用元）

日経クロステック（xTECH）

生成AIに有害な入出力を防ぐファイアウオール製品、米ロバストが日本語LLM対応

　AI（人工知能）ベンチャーの米Robust Intelligence（ロバストインテリジェンス）は2024年5月20日…