概要

• AMD がAIチップ企業 Taalas を買収、Nvidiaへの対抗策を強化
• Taalas はモデル重みを シリコンに直接埋め込む 独自技術を持つ
• この技術により 推論性能が大幅向上、コストと消費電力も削減
• モデルの固定化 というデメリットがあるが、再設計コストは比較的低い
• 大規模AIモデル開発企業や推論サービス提供者への導入が見込まれる

AMD、Taalas買収でAI推論市場に本格参入

• AMD がカナダ・トロント拠点のAIチップスタートアップ Taalas を買収
• 買収目的は Nvidia のAI推論市場支配への対抗
• 取引条件は非公開だが、 実質的な買収 であることが判明
• Groq や Cerebras など既存のデータフロー型アーキテクチャとは一線を画す技術
• NvidiaのGroqライセンス契約に対抗する文脈での買収

Taalasの技術的特徴

• モデル固有集積回路（MSIC） という新しいアプローチ
• 従来のGPUやHBMメモリを使わず、 モデル重みをシリコンに直接エッチング
• HC1 テストチップ（TSMC 6nmプロセス）でMetaのLlama 3.1 8Bを16,960トークン/秒で処理
• Nvidia GPU比 48倍、Cerebrasアクセラレータ比 8.5倍 の速度
• チップ構造は マスクROMリコールファブリック （重み格納）と SRAMリコールファブリック （KVキャッシュ、微調整用アダプタ格納）の2領域

次世代チップとAMDの戦略

• 次世代 HC2チップ は 200億パラメータ 対応予定（2024年夏リリース）
• 複数チップを パイプライン並列 で組み合わせることで、 1兆パラメータ級モデル にも対応可能
• AMDの InstinctベースHeliosラック とTaalasチップの組み合わせを想定
• 計算負荷の高いプロンプト処理はGPU、 トークン生成はTaalasアクセラレータ で分担
• モデル検証後にTaalasへ移行する「 ティック・トック」型運用も視野

技術のメリット・デメリット

• 推論コスト削減 ・ 出力速度の大幅向上 （10倍～20倍）
• モデルの固定化 が最大の課題
  • モデル変更にはチップ再設計が必要
  • ただし 2層の金属層変更のみ で済み、再設計コストは限定的
• 新モデル頻繁投入の現状では、 モデル選定の慎重さ が求められる
• 主なターゲットは AIモデル開発企業 や 推論サービス事業者

今後の展望と市場への影響

• OpenAI、 Anthropic、 Meta など大手AI企業はAMD Instinctの主要顧客
• Taalas＋Instinct の組み合わせでGPTやClaudeの高速推論基盤構築も現実的
• テストタイムスケーリング （推論時間延長による精度向上）との相性が良い
• コスト削減で 長時間推論 も現実的に
• 規制当局の承認を経て、 2024年第4四半期に取引完了予定