Athena Technologiesは、オムロンの「プログラム検索要約サービス」にAIセキュリティツールを導入します。
導入に先立ち、攻撃者の視点で脆弱性を調べるレッドチーミングを実施しました。
検証では誤検知率1.7%、攻撃プロンプトの見逃し率4.7%を確認しました。
記事の概要
対象サービスは、PLCのラダープログラムを理解・検索・要約する生成AIシステムです。
Athena Technologiesは、AISIのガイドラインを参照してリスクシナリオを設計しました。
システムへの影響度と攻撃の実現可能性を軸に、攻撃シナリオを幅広く洗い出しました。
検証では、不適切出力・内部情報漏洩、入力汚染・使用汚染、大量入力への耐性の課題を確認しました。
このうち2つの脆弱性に対し、Athena Firewallのプロンプトインジェクション評価器を適用しました。
通常利用の誤検知率は1.7%、攻撃プロンプトの見逃し率は4.7%でした。
通常利用時のガードレール評価にかかる処理時間は100ミリ秒以下でした。
PoC検証を踏まえ、オムロンのサービスへのAthena Firewall本番導入を進めます。
記事のポイント
- 3カテゴリの脆弱性： 不適切出力や内部情報漏洩、入力汚染、大量入力への耐性を確認しました。
- 検知性能を数値化： 通常利用の誤検知率1.7%、攻撃プロンプトの見逃し率4.7%を確認しました。
- 処理時間は100ミリ秒以下： 通常利用時の評価処理を100ミリ秒以下に抑え、速度への影響を検証しました。
このニュースがもたらす影響
- 導入を検討する企業： 製造現場の業務AIでは、導入前に脆弱性を洗い出し、誤検知率や見逃し率、処理時間まで測定して業務影響を判断する進め方が求められそうです。
- 製造業のAI事業者： ラダープログラムのような取り込みデータ自体が攻撃経路になり得るため、回答生成だけでなく入力汚染や内部情報漏洩まで防御範囲に含める必要が高まりそうです。
- AI開発・情シス： ガードレール導入後も攻撃プロンプトの見逃しは残るため、レッドチーミングと閾値調整を継続し、検知性能と現場の使いやすさを両立させる運用が必要になりそうです。
このニュースの背景
製造業では、人手不足や技能継承の難しさを背景に、設計・保守業務で生成AIの活用が広がっています。
一方、生成AIを組み込んだ業務システムでは、不正操作や機密情報漏洩など従来型システムとは異なるリスクがあり、具体的な検証方法が分からない企業もあります。
オムロンは、PLCのラダープログラムを理解・検索・要約するサービスの提供に向け、AISIのガイドラインを参照しながら、影響度と攻撃の実現可能性を軸にリスクを検証しました。
関連するニュース
- Athena Technologiesが、機密データを外部送信しないAIエージェントを月額30万円から提供します。
- ハジメバは旭東ホールディングスにM&AソーシングAIを導入し、案件接触数を月2倍に増やしました。
- GVA TECHが伯東の契約レビューにプレイブックと生成AIを導入し、英文NDAを2時間から10分に短縮しました。
詳しい記事の内容はこちらから（引用元）
株式会社Athena Technologiesのプレスリリース（2026年9月4日 13時00分）【AIガードレール導入…
https://prtimes.jp/main/html/rd/p/000000037.000141002.html