ラックが新たなサービスを提供！生成AIシステムのセキュリティを強化するための診断サービスです。
プロンプトインジェクションやクラウドの脆弱性など、様々な項目を評価し改善点をレポートします。
安心してAIを活用できます！
記事の概要
ラックは、生成AIシステムのセキュリティを強化するための新サービス「生成AI活用システム リスク診断」を提供開始しました。
このサービスでは、生成AIを組み込んだシステムが敵対的な攻撃に脆弱であることが明らかになってきているため、その脆弱性の有無を評価し、改善点をレポートします。
また、Webアプリケーションの安全性やクラウド環境の設定ミスや脆弱性も点検することが可能です。
診断項目は随時追加される予定で、具体的な評価項目にはプロンプトインジェクションやジェイルブレイクなどが含まれます。
記事のポイント
- 生成AIシステムのセキュリティ診断サービス： ラックが新たに提供を開始した「生成AI活用システム リスク診断」は、生成AIを組み込んだシステムの脆弱性を評価し、改善点をレポートするサービスです。
- 敵対的な攻撃に対する脆弱性： 生成AIを欺くために設計された敵対的な攻撃（プロンプトインジェクション）への脆弱性が明らかになってきており、このサービスではその他の脆弱性も評価します。
- 継続的な診断： 診断の項目は随時追加されていく予定であり、生成AIシステムのセキュリティを継続的に点検することで、より高いセキュリティレベルを保つことが可能です。
詳しい記事の内容はこちらから（引用元）
ZDNET Japan
ラックは2月20日、生成AIシステムのセキュリティを強化するための新サービス「生成AI活用システム リスク診断」を提供を…
https://japan.zdnet.com/article/35215567/