米国の非営利研究機関Model Evaluation and Threat Research(METR)が、AIエージェントの能力を測る指標を公開しています。
人間の専門家が完了するまでの時間を基準に、AIがタスクを完了できる確率を示す指標です。
2026年1月公開の「Time Horizon 1.1」では、GPT-5.4やClaude Opus 4.6のソフトウエア開発能力を比較しています。
記事の概要
Task-Completion Time Horizonは、人間の専門家がタスクを完了する時間を推定し、AIエージェントの遂行能力を測る指標です。
AIが追加の指示なしで稼働し続けられる時間を直接示す指標ではありません。
METRは、AIが50%の確率で完了できるタスクの長さを「50%-time horizon」として示しています。
80%の確率で完了できるタスクの長さは「80%-time horizon」と呼ばれています。
ソフトウエア開発では、50%の値がGPT-3.5で36秒、GPT-5.4で5時間42分でした。
AnthropicのClaude Opus 4.6は、同じ条件で11時間59分でした。
80%の値では、GPT-3.5が15秒、GPT-5.4が54分、Claude Opus 4.6が1時間10分でした。
METRは、AIエージェントが成功したタスクでは人間より数倍速い場合があると説明しています。
記事のポイント
- 成功率で値が変わる: GPT-5.4のソフトウエア開発タスクは、50%条件で5時間42分ですが、80%条件では54分です。
- 実務では80%を参照: 50%の成功率では業務利用に不十分な場合が多く、実務では80%の値が判断材料になります。
- 人間との速度差: METRによると、具体的なモデルやタスク設定によって異なりますが、成功時は人間より数倍速い場合があります。
このニュースがもたらす影響
- 導入を検討する企業: モデルの導入判断では、最長タスクよりも80%条件の完了時間を基準に、どこまで任せるかと人による確認を組み合わせて設計する必要がありそうです。
- AI評価担当: 50%と80%で実行可能なタスクの長さが大きく異なるため、モデルの優劣だけでなく、必要な成功率を先に定めて評価することが求められそうです。
- AI開発企業: 成功時の速度だけを訴求すると実務上の判断を誤らせる可能性があります。今後は、タスク条件やエージェント設定とともに成功率を示すことが重要になりそうです。
このニュースの背景
METRは、人間の専門家が完了する時間を基準に、AIエージェントが一定確率で完了できるタスクの長さを測っています。
50%条件と80%条件では、同じモデルでも完了できるタスクの長さに大きな差があります。
METRは、モデルやタスク、エージェント設定によって異なるものの、成功したタスクではAIエージェントが人間より数倍速い場合があると説明しています。
詳しい記事の内容はこちらから(引用元)
Task-Completion Time Horizon(タスク完了時間ホライズン)とは、あるタスクに人間の専門家が要…
https://xtech.nikkei.com/atcl/nxt/keyword/18/00002/090700327/?ST=nxt_idx_common