Our position on open-weights models
Anthropicは、オープンウェイトモデルの一律禁止を支持していないと明確化し、危険能力を持たないモデルは公共的価値を持つと述べました。先端チップ流出、大規模蒸留、危険能力モデルの安全性試験を優先すべきだと提言しています。
Anthropicは、中国製を含むオープンウェイトモデルの米国企業による利用を一律に禁止する政策には反対し、正当な企業の利用禁止は安全保障上の懸念を解決しないと説明しました。
一方で、公開済みの重いモデルはガードレール適用、利用監視、脆弱性発見後の安全策更新、配布停止が難しく、サイバー・生物リスクやアラインメント上の危険能力では閉鎖型よりリスクが高くなり得ると指摘しています。
提言は、権威主義政府への先端チップ・製造装置流出と密輸の対策、産業規模のモデル蒸留の抑止、十分に高い能力を持つ公開・非公開モデルのリリース前安全性試験です。
特定のClaude製品・API・料金・提供地域を変更する発表ではありません。オープンモデルの導入方針や調達、AI安全性ポリシーを設計する組織に関係する立場表明です。