世界を動かす技術を、日本語で。

サンディアが脳のようなストレージフリーのスーパーコンピュータを稼働開始

概要

Sandia National LabsがSpiNNaker2スーパーコンピュータを導入。 SandiaとSpiNNcloudの協力による世界初の商用製品。 脳型計算(ニューロモルフィック)技術を核抑止任務などで活用。 従来のGPUやストレージを排除し、高速DRAMと分散アーキテクチャを採用。 高効率・省電力で次世代防衛分野にも応用可能。

Sandia National LabsとSpiNNaker2スーパーコンピュータ

  • Sandia National LabsSpiNNaker2スーパーコンピュータ を導入
  • SandiaSpiNNcloud の共同開発による世界初の商用ニューロモルフィックコンピュータ
  • NNSA(米国国家核安全保障局)Advanced Simulation and Computing (ASC)プログラム による資金提供
  • 核抑止任務への ニューロモルフィック計算技術 活用の研究推進
  • SpiNNakerは“ Spiking Neural Network Architecture ”の略称、脳を模倣したリアルタイム大規模モデル構築が可能
  • 脳型ネットワークの大規模シミュレーションで脳理解の深化と計算能力限界の検証に貢献

SpiNNaker2の技術的特徴

  • Sandia が導入したシステムは 24ボード構成、175,000コア 搭載
  • 各サーバーボードには 48枚のSpiNNaker2チップ を搭載
    • 1チップあたり 152コア と専用アクセラレータ内蔵
    • 1チップあたり 20MB SRAM 搭載
    • 1ボードあたり 96GB LPDDR4外部メモリ
  • 90ボード構成で 8,640GB DRAM、1,440ボードなら 138,240TB DRAM を実現
  • 高速チップ間通信 による分散アーキテクチャ
  • 中央集約型ストレージ不要、SRAMとDRAMにデータを保持
  • OSやディスク非搭載、標準のパラレルイーサネットポートでデータ入出力
  • 現行最大構成では 1,050万コア超、生物学的リアルタイム性能を維持

SpiNNaker2の応用分野と今後の展望

  • 従来型GPUシステム に比べて 消費電力効率が高い
  • イベント駆動型計算 や複雑なシミュレーションにも対応
  • 国防・次世代防衛分野 での計算需要に最適
  • SpiNNcloud CEO Hector A. Gonzalez によると、 国家安全保障用途 にも適応可能
  • ニューロモルフィック技術 の社会実装と研究促進の起点

Hackerたちの意見

ストレージなし?マジで!ああ…138240テラバイトのRAMか。なるほど。

まあ、電源切らないように気をつければいいんじゃない?

サンディアの場合、24ボード、175,000コアのシステムを受け取ったそうだ。だから、たった2304GBのRAMってわけか。

読み間違えてるのかな、それとも計算が合わない?138240GBじゃなくて138240TBじゃない?

ニューロモルフィック手法が138240 = 0を示せるなら、火星でブロックチェーンを可能にすることに驚くべきことはないよね? https://cointelegraph.com/news/neuromorphic-computing-breakt...

記事は真実を隠していて、実際には直接接続された耐久性のあるストレージがないんだ。既存のHPCハードウェアにFabric経由で接続されていて、ほぼ確実にデータをSpinnakerにロードして結果を保存しているんだよね。結局、プロセッサはデータをロードして処理し、耐久性のあるデータに戻すか、何らかの目に見える副作用を生成するだけなんだ。

記憶に留めておけるなら、何もメモしなくてもいいよね…

これが何のためのものか、どう動くのかあんまり情報がないね :/

せめて遅いバージョンのコードを実行できるシミュレーターが見たいな。

https://arxiv.org/abs/2401.04491

GPUラックに似たメモリ/ネットワークアーキテクチャに集約したのが面白いね。 - チップあたり152コア、SMあたり約128のCUDAコアに相当 - チップあたりのSRAM(20MB)はSMの高速共有メモリに相当 - ボードあたりのDRAM(48チップで96GB)はGPUのグローバルメモリに相当 - ボード同士はNVLinkに似たものでネットワーク接続されてる。DRAMにHBM使ってるのかな、それともメモリアクセスの統合みたいなことしてるのかな。

ニューロモルフィックコンピューティングについて聞くたびに、この分野で働いていたこの記事の著者のことを思い出すんだ。『熱力学コンピューティング』ってやつね。https://knowm.org/thermodynamic-computing/ これまで読んだ中で、影響力は大きいのにあまり知られてないエッセイだと思う。俺にとっては、この人はDARPAで静かに働く先見の明がある天才で、この記事を読んだとき、未来の科学を垣間見た気がした。これが俺の考え方や進む道に影響を与えてきたのは、もう8年になるよ。

Hacker Newsで議論の続きを見る