概要
- ModularはAIの多様なハードウェア対応を見越し、ソフトウェア基盤を再設計
- Mojo 1.0をApache 2.0で完全オープンソース化
- Modular Cloudが本格稼働し、大規模エンタープライズにも導入
- AWS Trainium、Google TPU、Qualcommなど幅広いアクセラレータに対応
- MAXのライセンス緩和とオープンアライアンスでエコシステム拡大
Modularの戦略と最新発表
- Modular は4年半前からAIが特定のシリコンに依存しない未来を見据え、 ソフトウェアスタックの再構築 を推進
- ModCon基調講演で、 Modular Platform が商用レベルで稼働し、毎分数十億トークンを処理
- エコシステムへの開放、新しいハードウェアクラスへの拡張、業界大手との連携強化
- Mojo 1.0のApache 2.0による 完全オープンソース化
- Modular Cloudの一般公開とMiniMaxのような顧客への提供
- AWS Trainium、Google TPU、Qualcomm Cloud AI 100/Dragonflyなど多様なアクセラレータ対応
- Microsoft Windowsチームとの連携による Windowsネイティブサポート の予定
- MAXライセンスからデバイス制限を撤廃し、 ソース公開とオープンアライアンスプログラム 開始
Mojo 1.0のオープンソース化
- Mojo 1.0が 安定性保証付きの生産利用可能な基盤 としてリリース
- Apache 2.0ライセンス でコンパイラやツール一式を公開
- 言語拡張、新プラットフォーム対応、独自アプリケーション開発が可能
- 2024年の標準ライブラリ、2025年のMAXカーネル公開に続く 段階的なオープン化
- 詳細やコントリビュートはmojolang.orgで案内
Windowsサポートの拡充
- これまでmacOS・Linux対応、WindowsはWSL経由での利用が主流
- Windowsネイティブサポート への要望が高く、Microsoft Windowsチームと協力して実現予定
- Windows上でのAIやシステム開発者への 影響力拡大
Modular Cloudの提供開始
- Modularの全スタックを 本番サービスとして統合
- 高性能推論を提供し、複雑なデプロイ・最適化・運用を抽象化
- console.modular.comで一般公開、共有エンドポイントはOpenAI互換で従量課金制
- 専用デプロイメントは隔離インスタンスで自社/Modularの計算資源を選択可能
- OpenRouter経由でのトラフィック処理や、独立ベンチマークでも 高評価
MiniMax事例
- MiniMaxがModular Cloudの旗艦顧客、 M3モデルを専用デプロイで運用
- 1Mトークン文脈、マルチモーダル、MiniMax Sparse Attention(MSA)の 効率的スケーリング
- MAXでのネイティブ実装、MSAカーネルの最適化、実運用トラフィックに合わせた デプロイチューニング
GPU以外への対応拡大
- 既存のNVIDIA・AMD GPUに加え、 AWS Trainium、Google TPU、Qualcomm Cloud AI 100 Ultra/Dragonfly に対応
- 同一API・ワークフロー・言語・抽象化 で異種ハードウェアへ展開可能
- 新規AIハードウェア対応に必要な エンジニアリング工数を10分の1以下に削減
- 今後、これら新ハードウェアをModular Cloudで本格提供予定
MAX:エコシステムと共に築く共通基盤
- AIハードウェアの進化を ソフトウェア基盤の共通化 で最大化
- モデルを一度書けば全てのアクセラレータで動作、 ハードウェア選択の自由度向上
- Qualcommなど多様なベンダーと連携し、 競争力あるプラットフォーム 実現
- MAXのライセンスモデル進化、ソースアクセス拡大、 エコシステム主導の拡張が可能
- ハードウェアベンダー・モデルプロバイダー・クラウド・データセンター事業者を巻き込む アライアンスプログラム 構築中
- HTECによるGoogle TPUサポート事例、 数名・数ヶ月で導入可能
- d-Matrixとのパートナーシップ、 オープンスタンダード推進
すぐに試すには
- Mojo 1.0のオープンソース版 はmojolang.orgで入手可能
- Modular Cloudはconsole.modular.comで利用開始
- ModCon現地参加者向けテックトークも開催
- AIインフラの共通基盤を共に構築する仲間を募集中
- ハードウェア、モデル、インフラ、アプリケーション分野の関係者はalliance@modular.comまで連絡推奨