Project Pilot: Can AI models fly drones?
AnthropicとAndon Labsは、AIエージェントが室内ドローンで人物を探索・追跡できるかを測るDrone-Benchを公開しました。物理世界でのAI能力の進展と、監視・安全保障を含むデュアルユース上のリスクを測定する研究です。
Drone-Benchは、室内で人物を見つけて追跡する任務を、3D再構成、自己位置推定、経路計画、人物検出、追跡の5サブタスクに分解して評価します。
Anthropicは15モデルを評価し、新しいモデルほど全サブタスクで性能が伸び、最前線モデルは再構成以外の工程で人間とAIのチームによる基準に近づいたと報告しています。
Claude Fable 5は実機で検出・追跡を基準以上に行えた一方、再構成誤差が位置推定・航行に累積し、部屋間を完全自律で移動することには失敗しました。
検索救助、災害対応、適法な公共安全での用途がある一方、過剰監視や悪用の懸念もあるため、能力の進展を早期に把握してガバナンスを整備する必要があるとしています。
製品提供やAPI変更ではなく研究・安全性評価です。ロボティクス、embodied reasoning、空間理解を扱う開発者は、エンドツーエンドの自律化を判断するための公開ベンチマークとして参照できます。