NTTは11月16日、検査対象のソースコードを外部AIサービスに送信せず、脆弱性を解析するAI技術を発表しました。
独自の解析技術とAIエージェントのワークフローを組み合わせ、解析成功率を48%から63%に高めました。
外部AIへの依存を抑え、組織がAIの選択や運用を主導するソブリン性の確保を目指します。
記事の概要
今回の技術は、複数のオープンウェイトモデルに独自の解析技術を組み合わせています。
脆弱性研究の知見を取り入れ、AIエージェントの解析ワークフローも改良しました。
脆弱性が生じる可能性への着眼点を手引きとして組み込み、モデル性能だけに依存しない解析を目指しました。
性能評価では、AIエージェント向けベンチマーク「CyberGym」からメモリ破壊に関する150件を選定しました。
CyberGymの約1,500件の課題から選んだ150件で、既存の解析ワークフローと改良手法を比較しました。
解析成功率は、従来の48%から63%に向上しました。
規模の異なるオープンウェイトモデルの評価では、中規模モデルの組み合わせによる性能向上の可能性も確認しました。
NTTは今後、脆弱性の発見からリスク判断、対処までを支援する技術の実現を目指します。
記事のポイント
- 外部送信を避ける設計: 検査対象のソースコードを外部AIサービスに送信せず、機密情報の流出や外部サービスへの依存を抑えます。
- 成功率を48%から63%へ: CyberGymから選んだメモリ破壊関連150件で評価し、既存ワークフローより解析成功率を15ポイント高めました。
- 中規模モデルも評価: 複数のオープンウェイトモデルを比較し、中規模モデルの組み合わせで性能を高められる可能性を確認しました。
このニュースがもたらす影響
- 導入を検討する企業: 機密性の高いソースコードを扱う企業では、外部サービスへの送信可否だけでなく、オープンウェイトモデルと独自ワークフローを組み合わせた運用を選択肢として検討しやすくなると考えられます。
- セキュリティ事業者: 解析性能をモデルの規模だけで競うのではなく、脆弱性研究の知見を手引きやエージェントの制御に組み込めるかが、サービスの差別化要因になる可能性があります。
- AI活用を統括する組織: AI導入の評価では、解析成功率に加えて、コードを外部へ出さないことや特定サービスへの依存を抑えることも、選定・運用方針に組み込む必要が生じそうです。
このニュースの背景
AIによるソフトウェア脆弱性の発見能力が向上する一方、外部AIサービスの利用には機密情報の送信や利用コスト、特定サービスへの依存が懸念されています。
NTTは、組織がAIの選択や運用を主導するソブリン性を確保しながら、脆弱性を解析する技術の開発を進めています。
今回の評価では、モデル自体の性能だけでなく、脆弱性研究の知見や解析ワークフローの設計を組み合わせることで、既存手法との差を測定しています。
関連するニュース
- NTTは、ソースコードを外部送信せずに脆弱性を解析するAI技術を開発し、CyberGymで成功率を48%から63%へ高めました。
- 合同会社SecuROIが、無償ツールとAIを組み合わせた脆弱性管理の5工程と判定台帳を公開しました。
- SHIFTが公共システム向けに、AI診断から是正検収まで担う第三者セキュリティサービスを開始しました。
詳しい記事の内容はこちらから(引用元)
NTTは16日、検査対象のソースコードを外部AIサービスに送信せずに、高度な脆弱性解析を行なうAI技術を発表した。独自の…
https://www.watch.impress.co.jp/docs/news/2156674.html