概要
- OpenAIがBroadcomと共同開発した初の独自推論プロセッサ「Jalapeño」を発表
- AIモデルの推論処理向けに特化し、従来製品より高い電力効率を実現
- Nvidia製GPUへの依存軽減を目指し、GoogleやAmazonと同様のカスタムチップ戦略を採用
- 推論コスト削減がAIビジネスの収益性向上に大きく寄与
- インフラの最適化を通じてモデルの高速化・信頼性向上・コスト削減を追求
OpenAI、Broadcomと共同開発した推論専用プロセッサ「Jalapeño」を発表
- OpenAIが Broadcom と協力し、初の独自推論プロセッサ 「Jalapeño」 を開発
- AIモデルの推論処理 に特化した設計
- 開発プロセスには OpenAI自社のAIモデル も活用
- 電力効率 (パフォーマンスパーワット)が既存の最先端チップより大幅に優れる初期結果
- 2023年10月にパートナーシップを公式発表
独自チップ開発の背景と狙い
- Nvidia製GPUへの依存 を軽減するための戦略
- GoogleやAmazonも同様に AIアクセラレータ を開発
- AIワークロードの最適化を目指す取り組み
- OpenAIプレジデント Greg Brockman による独自チップ開発の意義説明
- 特定の未充足ワークロードに着目し、最適な加速手段を模索
Jalapeñoの特徴と役割
- 推論処理 (事前学習済みAIモデルの実行)に特化した設計
- リアルタイムコーディングモデル 動作時の低コスト運用を強調
- 高負荷な事前学習作業は引き続き Nvidiaハードウェア に依存する見通し
- 小規模な推論コスト削減でも 事業収益性の向上 に大きく寄与
AIインフラ最適化の意義
- AI経済性の鍵となる 推論システムの最適化
- OpenAIは Codex などのエージェントプロダクトや、それを支えるデータセンターも自社構築
- チップ設計・カーネル・メモリ・ネットワーク・スケジューリング・デプロイ・プロダクト体験 まで自社で最適化
- 全レイヤーを同じゴール(高速化・信頼性・コスト削減)に最適化
参考リンク・著者情報
- 公式発表: OpenAI Announcement
- その他参考: Decrypt記事, CNN記事
- 著者: Russell Brandom(テック業界専門記者、連絡先: russell.brandom@techcrunch.com, Signal: 412-401-5489)