ServiceNow、AIエージェントに人間同等の統制を適用

ServiceNowのCTO、Pat Casey氏はAIエージェントを人間と同じルールで統制すべきだと語りました。
本番環境での活用では、モデル性能より権限管理や監査などのガバナンスが重要だと説明しました。
同社では人事向けエージェントに過剰な権限を与え、社外提供を見送った事例もありました。

記事の概要

Casey氏は、企業がAIエージェントの導入判断から安全な継続運用へ関心を移していると説明しました。
従来は初期設定に多くの工数が必要で、FDE(顧客導入を支援する技術者)が展開を支えていました。
現在は、動作を管理・制御するハーネスベースのソリューションにより、本番配備の負担が下がりつつあります。
AIエージェントの成功基準は完璧さではなく、人間と同等の品質を出せることだとしています。
人間と同様に、管理者による監督、ログ監査、誤りの修正、再教育を組み込むべきだと強調しました。
同社の人事向けエージェントでは、対話によって従業員が自身の給与を変更できる状態がテストで判明しました。
権限は職務に必要な最小限に抑え、人間の権限設定をミラーリングすると80%のケースで適切になると助言しました。

記事のポイント

  1. 過剰権限の失敗: ServiceNowは人事向けエージェントに過剰な権限を与え、給与変更が可能になったため社外提供を見送りました。
  2. 判断を任せる条件: 実際に守られている文書化された規程があり、定型判断できる業務はAIエージェントに適すると説明しました。
  3. 暗黙知を標準化: 日本の大手製造業では、AI導入を業務上の暗黙知を見直し、グローバル標準化する契機にしています。

このニュースがもたらす影響

  • 導入検討企業: AIエージェントの導入を検討する企業は、モデルの比較だけでなく、既存の職務権限・監督者・監査ログを棚卸しし、例外時の人間判断まで含む運用設計を先に進める必要がありそうです。
  • 同業サービス提供者: 同業サービス提供者は、導入時の設定支援だけでなく、権限の最小化、ログ監査、誤りの修正や再教育までを継続的に扱える機能を、競争力として示すことが求められそうです。
  • 業務部門と管理者: 業務部門と管理者は、AIに任せる定型判断と人間が担う例外判断を文書化し、暗黙知を標準化することで、導入範囲と責任の所在を見直すことになりそうです。

このニュースの背景

企業が本番環境でAIエージェントを使う際、初期設定の工数と、AIに自律動作を許すことへの心理的抵抗が導入の障壁になっていました。
ハーネスベースのソリューションにより、本番配備の負担が下がりつつあり、企業の関心は導入可否から安全な継続運用へ移っています。
ServiceNowでは、人事向けエージェントに過剰な権限を与えた結果、従業員が自身の給与を変更できる状態がテストで判明し、社外提供を見送りました。
文書化され実際に守られている規程がある定型判断はAIに適し、状況や人間関係に応じた判断は人間に残すという線引きが示されています。

関連するニュース

詳しい記事の内容はこちらから(引用元)

ZDNET Japan

ServiceNowのCTOであるパット・ケイシー氏が強調するのは、AIエージェントを特別扱いすることではなく、「人間と…

「AIには人間と同じルールを適用すべき」–ServiceNowのCTOが語るエージェント運用の現実 – ZDNET Japan
https://japan.zdnet.com/article/35255015/

最新情報をチェックしよう!
>ビジネスを飛躍させるAIキュレーションメディア「BizAIdea」

ビジネスを飛躍させるAIキュレーションメディア「BizAIdea」

国内外の最新AIに関する記事やサービスリリース情報を、どこよりも早くまとめてお届けします。
日々BizAIdeaに目を通すだけでAIの最新情報を手軽にキャッチアップでき、
AIの進化スピードをあなたのビジネスの強みに変えます。

SNSをフォローして頂くと、最新のAI記事を最速でお届けします!
X: https://twitter.com/BizAIdea
Facebook: https://www.facebook.com/people/Bizaidea/61554218505638/

CTR IMG