概要

• Y Combinator CEO Garry Tan は、中国AIラボの知識抽出技術に対し、規制介入に否定的な立場
• アメリカのAIラボ も同様の技術活用を推奨
• Anthropic は中国ラボの「非合法な蒸留攻撃」を非難
• 知識共有 と オープンアクセス の重要性を強調
• 独占的AI企業による支配を「 最悪のシナリオ」と指摘

Garry TanのAI蒸留技術に対する意見

• Y Combinator CEO Garry Tan は、中国AIラボがフロンティアモデルから知識を抽出する蒸留技術利用に対し、規制当局の介入を望まない姿勢
• Tanは「 アメリカのAIラボも同じ手法を使うべき」と主張
• 小規模なアメリカのオープンウェイトAIラボが、アメリカのフロンティアAIラボに同様のトレーニング技術を適用することで、多様なオープンウェイトAIモデルの選択肢拡大を目指す意図
• 蒸留技術とは、あるAIモデルを大量にプロンプトして、その推論や動作を学習する手法
• この手法は新モデルのトレーニングにおいて、 合法的かつ一般的に利用 されている技術

Anthropicの懸念と業界の対立

• Anthropic は、中国AIラボが「 不正な蒸留攻撃」を行っていると報告
  • 身元を偽装し、許可なく蒸留を行い、不正な認証情報を利用する事例
• Anthropic CEO Dario Amodeiは、 米国規制当局による蒸留規制 を公に要請
• これに対しTanは、アメリカのAIラボも「正規の手段」で蒸留を行うべきと主張し、不正な認証情報の利用は推奨していない

知識共有とオープンアクセスの意義

• Tanは、AIラボがユーザーに対してモデル情報の利用方法を制限するのは 過剰な統制 と指摘
• プロプライエタリAIラボも、モデル学習時に膨大な人間の知識や著作物を 無断で収集 してきた経緯
• API経由で提供される知能へのアクセスは、 公共財としての側面 も重視すべきとの見解
• 政府が介入し、「知識へのアクセスを制限しすぎない」ルール整備の必要性を強調

オープンウェイトAIと独占リスク

• Tanは「 オープンウェイトAIラボとフロンティアラボのバランス」が重要と主張
• フロンティアAIラボは最先端技術を牽引し、持続可能なビジネスモデルの構築を目指すべき
• 一方で、オープンウェイトモデルは 自由とアクセスの拡大 を実現
• 最悪のシナリオは、 単一の巨大AI企業による独占支配
  • 巨大資本と優秀な研究者を独占し、AIの力が一社に集中する危険性
  • これが「AIドゥーマーシナリオ」として最大の懸念

総括

• Garry Tan は、AI技術の発展と知識の民主化を両立させるため、 過度な規制や独占 を避けるべきと強調
• オープンなAI開発環境と多様な選択肢の確保が、 健全なAIエコシステム の鍵