概要
- Anthropic とCEOの Dario Amodei は、オープンウェイトモデルの禁止に反対
- 中国製AIモデルの利用禁止議論が米国で進行中
- 本質的な国家安全保障上の懸念は、チップ規制や大規模蒸留対策、安全性テストによって対応すべき
- オープンウェイトモデルは公益性が高いが、リスクには注意が必要
- 包括的な禁止よりも、リスクごとの具体的対策を重視
Anthropic CEO Dario Amodeiによるオープンウェイトモデル規制論への見解
- 米国内 で中国発のオープンウェイトAIモデル禁止案が議論
- 多くのテック企業がオープンウェイトモデル支持の公開書簡に署名
- 一部でAnthropicが自社保護のため禁止を望むとの誤解が拡大
- Anthropic およびAmodei自身は、オープンウェイトモデルの禁止を一度も主張していない立場
- 危険性のないオープンウェイトモデルは、ビジネス・開発者・研究者にとって 公益性 を持つ存在
本質的な国家安全保障上の懸念
- 最大の懸念は 権威主義国家 （特に中国共産党）が米国より強力なAIモデルを開発し、軍事的優位や国内抑圧に悪用するリスク
- この懸念は米政府内でも共通認識
- オープンウェイトか否かは本質的な問題ではなく、秘密裏に軍事・監視用に使われるAIの方が危険
- 二次的な懸念は、 強力なAIモデルの悪用 によるサイバー攻撃や生物兵器利用、アラインメント問題
- オープンウェイトモデルはガードレール適用や利用監視が難しく、リスクが高まる可能性
- ただし、米国内企業の利用禁止では根本的解決にならない
Anthropicが支持する具体的な対策
- 強力なチップやチップ製造装置の中国への販売禁止
- 中国国内の生産能力が限られているため、米国製チップなしでは最先端AIの開発が困難
- チップ密輸や抜け道への厳格な対策も必要
- 産業規模のAI蒸留（distillation）対策
- 蒸留は計算資源を抑えて高性能モデルを得る手法
- 中国のAI能力向上を助けるため、政策的な抑制策が必要
- オープンウェイトモデルの有無より、国家主導の蒸留行為自体が問題
- 十分に高性能なモデルへの義務的安全性テスト
- サイバー・生物・アラインメントリスクを事前に評価
- 国やオープン/クローズド問わず、最も能力の高いモデルに適用
- 実効性のためにはグローバルな協力が不可欠
オープンウェイトモデルに関する公開書簡への意見
- オープンウェイトモデルはAI経済へのアクセス拡大、競争促進、顧客コントロール強化の側面
- 蒸留に関する懸念は法的・商業的枠組みで対応可能
- オープンウェイトモデルが必ずしも防御側に有利とは限らず、攻撃側優位のリスクも存在
- 例として、強力なモデルが生物兵器を迅速に設計する可能性
- こうしたリスク評価は事前テストで実証的に判断すべき
Anthropicの最終的な立場
- オープンウェイトモデルの包括的禁止には 反対
- チップ規制、産業規模蒸留対策、能力の高いモデルへの安全性テストの三本柱を重視
- リスクごとの具体的な政策介入を推奨