Y CombinatorとOlam Labsの研究チームは、ゲーム内で50体のAIエージェントを協調動作させる実験を実施しました。
実験では、エージェント群がリーダーシップや役職を作る一方、官僚的な手続きや過度なリスク回避に陥りました。
AIエージェントの連係や意思決定の特徴を、実環境に近い仮想空間で観察した取り組みです。
記事の概要
研究チームは、OpenAIの大規模言語モデル「GPT-6.1 Sol」を搭載したエージェント50体をMinecraftに投入しました。
各エージェントには、エージェント群を一覧できるディレクトリーと共有サンドボックスが提供されました。
エージェント同士がダイレクトメッセージを送信できる通信環境も整備されました。
研究チームは、エージェントを自律型システムへ拡張するためのエージェントハーネスを開発し、オープンソースで公開しました。
エージェントには、3時間で「繁栄する文明を構築せよ」という目標が与えられました。
開始後、エージェントは表示順序だけを基にリーダーシップ体制を作りました。
一方で、4体が小麦畑への骨粉使用者を指名するため、11分間を費やしました。
実験中の死亡事象は34回あり、そのうち22回が初日の夜に集中しました。
記事のポイント
- 役職と手続きが増加： エージェントは釣りシフトや拠点管理者などの役職を作り、作業の許可も求めました。
- 死亡後にリスク回避： 死亡後に復活できる環境でも、エージェントは危険な作業を避け、シェルターに集まりました。
- 業務エージェントとの共通点： 研究チームは、細部や手順に固執する傾向がコーディングエージェントにも見られると指摘しました。
このニュースがもたらす影響
- AI導入企業： 複数の業務エージェントを連係させる企業は、役割や承認手続きを増やすだけでなく、目標達成への寄与を測る仕組みまで設計する必要がありそうです。
- エージェント開発者： エージェントの性能評価では、個体のタスク達成率だけでなく、集団化した際の意思決定の遅延や過度なリスク回避も検証対象にすることが求められそうです。
- 開発・運用部門： コーディングや運用にエージェントを使う組織は、手順への固執や慎重さが安全に寄与する場面と、対応を停滞させる場面を切り分けて監視する必要がありそうです。
このニュースの背景
エージェントが主導するインシデントを通じて、能力向上だけでなくサイバーセキュリティ上のリスクも注目されています。
研究チームは、危険性と生存目標があるMinecraftを、エージェントの群集行動を観察する環境として選びました。
自律型システムとしての挙動を追跡するため、エージェントハーネスを開発し、オープンソースで公開しています。
実験で見られた細部への固執や過度な慎重さは、コーディングエージェントの行動との共通点として指摘されています。
関連するニュース
- Netskope Threat Labsが、AIエージェントの接続増加と権限管理リスクを報告しました。
- Cisco Systemsは、約9万人向けのMyAgentでAIエージェントを一元管理し、業務時間を短縮しています。
- EYがAI意思決定者202人を調査し、26％が無許可のAIエージェントを検知できない実態を示しました。
詳しい記事の内容はこちらから（引用元）
「マインクラフト」で50体のAIエージェントによる協調動作を試す – ZDNET Japanhttps://japan.zdnet.com/article/35254319/