Investing in multi-agent AI safety research
Google DeepMindなどが、大規模なマルチエージェントAIの安全性研究に最大1,000万ドルを提供する国際公募を開始しました。
異なる組織のAIエージェント同士が通信・交渉・取引する際に生じる、集団レベルの予測困難なリスクを研究対象とします。
Google DeepMind、Schmidt Sciences、Cooperative AI Foundation、ARIAが共同し、Google.orgの支援を受けて実施する研究助成です。
重点分野は、再現可能なサンドボックスとテスト環境、エージェントネットワークの科学、ID・評判・コミットメントなどの基盤強化、集団的被害を監視・制御する手法の4領域です。
単体モデルの安全性評価だけでは捉えにくい、複数エージェント間の創発的能力、ネットワーク障害、経済活動の急変、セキュリティ上の問題を対象にします。
世界の大学・独立研究者が応募対象で、締切は2026年8月8日、採択者は2026年秋に発表予定です。日本の研究者も「worldwide」の対象に含まれると読めますが、個別の応募要件は申請ページで確認が必要です。
Gemini、Gemma、Google AI Studio、APIの機能追加や料金変更ではなく、将来のエージェント社会に向けた安全性研究基盤への投資です。破壊的変更や移行期限はありません。